O que nos pedem é: estudar a diferenciabilidade de f em todos os pontos do plano — ou seja, decidir onde f é diferenciável e onde não é, e, se for útil, calcular as derivadas parciais nos pontos relevantes (em particular em (0,0)).
Informações relevantes fornecidas:
A expressão explícita de f para (x,y)\neq(0,0).
O valor definido em (0,0) é f(0,0)=0.]
Passo 2
Primeiro, lembrar o critério prático de diferenciabilidade: f é diferenciável num ponto a=(a_1,a_2) se existe um mapa linear (matriz gradiente) L tal que, para h=(h_1,h_2) pequeno,
f(a+h)=f(a)+L(h)+o(\|h\|),
onde \|h\|=\sqrt{h_1^2+h_2^2} e o(\|h\|) significa que o resto dividido por \|h\| tende a 0 quando \|h\|\to0. Quando f tem derivadas parciais contínuas perto de a, então f é diferenciável em a. Vou usar essa ideia onde for conveniente.
Passo 3
Diferenciabilidade em pontos (x,y)\neq(0,0).
Se (x,y)\neq(0,0), a função é dada por uma razão de funções polinomiais onde o denominador x^{2}+y^{2} é diferente de zero. Polinômios são infinitamente diferenciáveis e a divisão por uma função não-nula preserva diferenciabilidade local. Logo, para todo (x,y)\neq(0,0) a função f é diferenciável (e até C^\infty).
Conclusão parcial: f é diferenciável em todo ponto diferente de (0,0).
Passo 4
Análise no ponto (0,0): continuidade.
Para ver se f é diferenciável em (0,0) precisamos primeiro saber se é contínua ali. É útil reescrever f em coordenadas polares. Seja r=\sqrt{x^{2}+y^{2}} e \theta tal que x=r\cos\theta, y=r\sin\theta. Para (x,y)\neq(0,0),
Mas f(0,h)=\dfrac{0\cdot h^{2}}{0+h^{2}}=0 para h\neq0. Logo
\frac{\partial f}{\partial y}(0,0)=0.
Portanto as derivadas parciais em (0,0) existem e valem 0. O candidato à diferencial linear em (0,0) é então L(h,k)=0 (ou seja, o gradiente \nabla f(0,0)=(0,0)).
Passo 6
Teste de diferenciabilidade em (0,0) usando o resto dividido pela norma.
Se f fosse diferenciável em (0,0) com diferencial L(h,k)=0, precisaríamos ter
quando r>0. Observe que o limite acima, quando (x,y)\to(0,0), deve ser independente de \theta e igual a 0 para que f seja diferenciável com diferencial zero. Mas a expressão \cos\theta\sin^{2}\theta depende de \theta e, em particular, não é sempre 0.
Escolhendo uma direção concreta, por exemplo \theta=\pi/4 (ou seja, a reta y=x com x>0), temos
Isso significa que ao aproximar (0,0) pela reta y=x o quociente \dfrac{f(x,y)}{\sqrt{x^{2}+y^{2}}} tende a \tfrac{1}{2\sqrt{2}} e não a 0. Portanto a condição necessária para diferenciabilidade com diferencial zero falha.
Conclusão: f não é diferenciável em (0,0), apesar de ser contínua lá e ter derivadas parciais (ambas iguais a zero).
Passo 7
Resumo final e interpretação (um jeito de entender rápido na prova).
Para (x,y)\neq(0,0): f é diferenciável porque é razão de funções polinomiais com denominador não-nulo (função suave localmente).
Em (0,0): f é contínua e tem derivadas parciais \dfrac{\partial f}{\partial x}(0,0)=0 e \dfrac{\partial f}{\partial y}(0,0)=0, mas não é diferenciável porque o resto f(x,y)-0 não é o(\sqrt{x^{2}+y^{2}}); na prática, ao dividir por \sqrt{x^{2}+y^{2}} obtém-se \cos\theta\sin^{2}\theta, que depende de \theta e não tende a 0 em todas as direções.
Resposta
f é diferenciável em todo (x,y)\neq(0,0).\nf não é diferenciável em (0,0); \dfrac{\partial f}{\partial x}(0,0)=0 e \dfrac{\partial f}{\partial y}(0,0)=0.