A tarefa é “estudar a diferenciabilidade” da função. Para organizar o que precisamos responder, eu separo as perguntas implícitas:
A função é diferenciável em pontos (x,y)\neq(0,0)?
A função é diferenciável no ponto (0,0)?
Se for diferenciável, qual é o diferencial (ou o gradiente) no ponto (0,0)?
Informações relevantes dadas pelo enunciado:
A fórmula explícita \dfrac{y^{4}}{x^{2}+y^{2}} vale para todo ponto exceto a origem.
Em (0,0) a função vale 0.]
Passo 2
Diferenciabilidade para (x,y)\neq(0,0).
Explicando devagar: uma razão clássica é que polinômios são funções infinitamente diferenciáveis, e a razão (quociente) de duas funções diferenciáveis é diferenciável desde que o denominador não se anule. Aqui, para (x,y)\neq(0,0) o denominador x^{2}+y^{2} é estritamente positivo, então a função
(x,y)\mapsto \dfrac{y^{4}}{x^{2}+y^{2}}
é obtida como quociente de funções polinomiais com denominador diferente de zero. Logo ela é diferenciável (na verdade C^\infty) em todo ponto (x,y) com (x,y)\neq(0,0).
Resumo deste passo: a função é diferenciável em todo ponto fora da origem.
Passo 3
Continuidade em (0,0) — passo necessário antes de falar em diferenciabilidade.
Vou mostrar que \lim_{(x,y)\to(0,0)} f(x,y)=0, isto é, f é contínua na origem. Use coordenadas polares para ver claramente o comportamento quando (x,y)\to(0,0). Ponha
Quando as derivadas parciais existem, o candidato natural é L(h,k)=\dfrac{\partial f}{\partial x}(0,0)\,h+\dfrac{\partial f}{\partial y}(0,0)\,k. Aqui vimos que ambas são zero, então o candidato é L\equiv 0. Assim precisamos verificar que
o que mostra exatamente que f(x,y)=o(\sqrt{x^{2}+y^{2}}). Assim o erro entre f e a aplicação linear L\equiv0 é pequeno o suficiente: f é diferenciável em (0,0) e o diferencial (gradiente) é o vetor nulo.
Comentário alternativo curto: também se vê diretamente que |f(x,y)|\le r^{2}, então |f(x,y)|/r\le r\to0.
Passo 6
Conclusão final e interpretação intuitiva.
Em qualquer ponto (x,y)\neq(0,0) a função é diferenciável porque é razão de polinômios com denominador não nulo.
Em (0,0) a função também é diferenciável: as derivadas parciais existem e valem zero, e a condição f(x,y)=o(\sqrt{x^{2}+y^{2}}) está satisfeita (por exemplo f(x,y)=r^{2}\sin^{4}\theta dá f/r=r\sin^{4}\theta\to0).
Intuição final: apesar do denominador x^{2}+y^{2} parecer perigoso, o numerador y^{4} anula “rápido demais” quando (x,y) aproxima da origem, fazendo a função ir a zero com ordem r^{2}, suficiente para garantir diferenciabilidade com diferencial nulo.
Resposta
A função f é diferenciável em todo \mathbb{R}^{2}.
O gradiente em (0,0) é \nabla f(0,0)=(0,0).