A pergunta é: a função f é diferenciável na origem (0,0) ou não?
Informações relevantes que temos:
A fórmula de f para (x,y)\neq(0,0).
O valor de f na origem: f(0,0)=0.
Precisa-se decidir diferenciabilidade em (0,0).]
Passo 2
O que significa ser diferenciável em (0,0)? Vou explicar devagar e com calma.
Para uma função f:\mathbb{R}^2\to\mathbb{R}, dizer que f é diferenciável em (0,0) significa que existe uma aplicação linear L:\mathbb{R}^2\to\mathbb{R} (no caso uma forma linear L(h,k)=a h + b k) tal que o erro entre f e essa aproximação linear é muito menor do que o tamanho do vetor (h,k) quando (h,k)\to(0,0). Formalmente:
Se esse limite não for 0, então f não é diferenciável na origem.
Passo 3
Calcular as derivadas parciais em (0,0) (pela definição de limite):
Primeiro f_x(0,0). Pela definição:
f_x(0,0)=\lim_{h\to 0}\frac{f(h,0)-f(0,0)}{h}.
Para y=0 e x=h\neq0,
f(h,0)=\frac{4h^{2}\cdot 0}{h^{2}+0}=0.
Então
f_x(0,0)=\lim_{h\to 0}\frac{0-0}{h}=0.
Agora f_y(0,0):
f_y(0,0)=\lim_{h\to 0}\frac{f(0,h)-f(0,0)}{h}.
Para x=0 e y=h\neq0,
f(0,h)=\frac{4\cdot 0^{2}\cdot h}{0+h^{2}}=0.
Logo
f_y(0,0)=\lim_{h\to 0}\frac{0-0}{h}=0.
Portanto as derivadas parciais em (0,0) existem e valem
f_x(0,0)=0,\qquad f_y(0,0)=0.
Passo 4
Com as duas derivadas parciais iguais a zero, a candidata natural para a aproximação linear é L(h,k)=0. Assim a condição de diferenciabilidade reduz-se a verificar se
Conclusão lógica: como o erro normalizado \dfrac{f(x,y)-L(x,y)}{\sqrt{x^{2}+y^{2}}} (com L=0) não tende a 0 quando (x,y)\to(0,0) — por exemplo ele tem valor \pm\sqrt{2} seguindo y=x — a função f não é diferenciável na origem.
Observação didática final: este exemplo mostra que a existência das derivadas parciais em um ponto (aqui ambas nulas) não garante diferenciabilidade. É preciso checar a condição do erro ser o(\sqrt{x^{2}+y^{2}}); um modo prático é testar caminhos (retas, parábolas etc.). No nosso caso o caminho y=x já revela a falha.