Pede duas coisas:
(a) calcular as derivadas parciais \dfrac{\partial f}{\partial x} e \dfrac{\partial f}{\partial y} (isto é, obter fórmulas válidas para (x,y)\neq(0,0) e também os valores em (0,0));
(b) verificar que as derivadas mistas não são iguais, isto é mostrar explicitamente que
As informações relevantes dadas são exatamente a expressão de f para (x,y)\neq(0,0) e o valor f(0,0)=0. A resolução começará a partir destas fórmulas.]
Passo 2
Vamos calcular \dfrac{\partial f}{\partial x} para (x,y)\neq(0,0) usando a regra do quociente. Para simplificar a notação, escrevo o numerador e o denominador:
N(x,y)=x^3y-xy^3,\qquad D(x,y)=x^2+y^2,
de modo que \displaystyle f=\frac{N}{D}. A regra do quociente diz que, derivando em relação a x e mantendo y fixo,
\frac{\partial}{\partial x}\left(\frac{N}{D}\right)=\frac{N_x D - N D_x}{D^2},
onde N_x é a derivada parcial de N em relação a x e D_x a de D.
Agora calculamos \dfrac{\partial f}{\partial y} para (x,y)\neq(0,0), de modo análogo. Usando N=x^3y-xy^3 e D=x^2+y^2, aplicamos a regra do quociente com derivada em y:
Mas f(0,k)=0 para todo k, então o limite também é 0. Assim
\frac{\partial f}{\partial y}(0,0)=0.
Resumo até aqui: as derivadas parciais são dadas por as fórmulas obtidas nos passos 2 e 3 para (x,y)\neq(0,0), e valem 0 em (0,0).
Passo 5
Agora calculamos as derivadas mistas no ponto (0,0). Primeiro \dfrac{\partial^2 f}{\partial x\partial y}(0,0) — isto é, derivar primeiro em y e depois em x. Pela definição de derivada parcial aplicada à função g(x,y)=\dfrac{\partial f}{\partial y}(x,y),
Comentário final (didático): a igualdade das derivadas mistas (teorema de Clairaut) exige hipóteses de continuidade das derivadas parciais de segunda ordem numa vizinhança. Aqui essas hipóteses falham em (0,0), o que permite que as mistas sejam diferentes.