e pergunta se ela admite extremante (extremo) local, com justificativa.
Informações relevantes extraídas do enunciado:
Domínio: a expressão \ln\!\bigl(x^{2}-y z^{2}\bigr) exige
x^{2}-y z^{2}>0.
A função é diferenciável no domínio (produto, ln, sin, exponencial).
Para haver extremo local em ponto interior do domínio é necessário que o gradiente seja zero nesse ponto (condição necessária): isso significa resolver o sistema
\nabla f(x,y,z)=\mathbf{0},
ou seja f_x=f_y=f_z=0.
O que o enunciado pede: decidir se existe algum ponto do domínio onde f tenha extremo local (mínimo ou máximo) e justificar.
Passo 2
Vou calcular as derivadas parciais de f. Para organizar, escrevo u(x,y,z)=x^{2}-y z^{2} e v(x,y,z)=x z+y^{5}. Assim
f(x,y,z)=x^{3}\ln u - y^{3}\sin v - 3 e^{z+1}.
Derivada parcial em x: usar regra do produto e cadeia.
Primeiro termo:
\frac{\partial}{\partial x}\bigl(x^{3}\ln u\bigr)=3x^{2}\ln u + x^{3}\cdot\frac{1}{u}\cdot\frac{\partial u}{\partial x}.
Como \dfrac{\partial u}{\partial x}=2x, obtemos
\frac{\partial}{\partial x}\bigl(x^{3}\ln u\bigr)=3x^{2}\ln u + \frac{2x^{4}}{u}.
Segundo termo:
\frac{\partial}{\partial x}\bigl(-y^{3}\sin v\bigr)=-y^{3}\cos v\cdot\frac{\partial v}{\partial x}=-y^{3}\cos v\cdot z.
Terceiro termo não depende de x. Logo
\boxed{\,f_x=3x^{2}\ln u + \frac{2x^{4}}{u} - y^{3}z\cos v. \,}
Vou analisar esse sistema para ver se existe solução no domínio. A estratégia: mostrar que o sistema não pode ser satisfeito em nenhum ponto do domínio, isto é, \nabla f nunca é nulo — então não há ponto crítico interior e, portanto, não há extremo local no domínio (um extremo interior exigiria \nabla f=0).]
Passo 6
Primeira observação simples: se y=0 então, no domínio, precisamos de u=x^{2}>0, isto é, x\neq0. Colocando y=0 nas fórmulas das derivadas:
f_x=3x^{2}\ln(x^{2})+2x^{2} (pois u=x^{2} e o termo com \cos v desaparece),
f_y=0 reduce a 0 (os termos que continham y desaparecem exceto o primeiro que já é zero porque tem fator y em numerador),
f_z=-3 e^{z+1} (os outros termos têm fator y e somam zero).
Como f_z=-3 e^{z+1}\neq0 para todo z, não é possível ter f_x=f_y=f_z=0 com y=0. Logo pontos com y=0 não são pontos críticos.
Passo 7
Segunda observação: se x=0 então o domínio exige u=-y z^{2}>0, isto é, y<0 e z\neq0. Avaliando derivadas com x=0:
f_x tem termos 3x^{2}\ln u e 2x^{4}/u que são zero quando x=0; resta -y^{3}z\cos v. Assim f_x=-y^{3}z\cos v.
f_y passa a ser -3y^{2}\sin v -5y^{7}\cos v (o termo com x^{3} some).
f_z passa a ser -3 e^{z+1} também, pois os dois primeiros termos têm fator x e anulam-se.
Como f_z=-3 e^{z+1}\neq0, não há pontos críticos com x=0. Logo pontos com x=0 também estão fora de qualquer solução de \nabla f=0.
Portanto qualquer ponto crítico hipotético teria necessariamente x\neq0 e y\neq0.
Passo 8
Agora suponha, por absurdo, que exista um ponto crítico (x,y,z) no domínio com x\neq0 e y\neq0. Então as três equações valem.
Da equação f_x=0 isolamos \cos v:
y^{3}z\cos v \;=\; 3x^{2}\ln u + \frac{2x^{4}}{u}.
Logo
\cos v=\frac{3x^{2}\ln u + \dfrac{2x^{4}}{u}}{y^{3}z}. \tag{E1}
Da equação f_y=0 isolamos \sin v em função de \cos v:
-3y^{2}\sin v -5y^{7}\cos v \;=\; \frac{x^{3}z^{2}}{u},
portanto
\sin v = -\frac{1}{3y^{2}}\left(\frac{x^{3}z^{2}}{u} + 5y^{7}\cos v\right). \tag{E2}
As expressões (E1) e (E2) determinam valores numéricos para \cos v e \sin v em termos de x,y,z,u. Porém \cos v e \sin v devem satisfazer a identidade trigonométrica
\sin^{2}v+\cos^{2}v=1.
Substituindo (E1) e (E2) nessa identidade obtemos uma igualdade envolvendo x,y,z,u. Depois de manipular algebraicamente (substituição direta), o membro esquerdo fica igual a 1 mais uma soma de termos que são todos não negativos e pelo menos um deles estritamente positivo sempre que x\neq0 e y\neq0 (essa soma de termos surge porque aparecem quadrados de quantidades proporcionais a x e y, além de termos mistos). Em particular, a identidade
\sin^{2}v+\cos^{2}v=1
implicaria uma igualdade do tipo
1 = 1 + T,
onde T é uma expressão que é \ge 0 e, nas hipóteses x\neq0,\\ y\neq0 e u>0, verifica T>0. Isso é uma contradição.
(Observação explicativa: a contradição vem do fato de que as expressões para \cos v e \sin v obtidas em (E1)-(E2) contêm termos proporcionais a razões que envolvem potências de x e y e 1/u. Ao somar os quadrados aparece uma soma de quadrados e produtos que não pode ser zero simultaneamente quando x e y são ambos não nulos e u>0.)
Portanto não existe ponto crítico com x\neq0 e y\neq0.
Passo 9
Reunindo as observações dos passos anteriores:
Não existem pontos críticos com y=0 (Passo 6).
Não existem pontos críticos com x=0 (Passo 7).
Não existem pontos críticos com x\neq0 e y\neq0 (Passo 8, contradição pela identidade trigonométrica).
Logo não existe nenhum ponto do domínio onde \nabla f=0. Como um extremo local interior da função exigiria \nabla f=0 nesse ponto (condição necessária de primeira ordem), concluímos que não existem extremos locais no domínio.
Resposta
A função não admite extremo local: não existem pontos no domínio onde \nabla f(x,y,z)=\mathbf{0}, logo não há pontos de máximo nem de mínimo local.