e pede duas coisas:
(a) verificar se f é contínua em (0,0);
(b) verificar se f é diferenciável em (0,0).
Informações dadas que vamos usar: a expressão explícita de f(x,y) para (x,y)\neq(0,0) e o valor f(0,0)=0. A ideia será estudar o comportamento de f(x,y) quando (x,y)\to(0,0).]
Passo 2
O que significa continuidade em (0,0)? Significa mostrar que
\lim_{(x,y)\to(0,0)} f(x,y)=f(0,0)=0.
Uma técnica muito útil para limites em \mathbb{R}^2 é passar para coordenadas polares. Faça a substituição
x=r\cos\theta,\qquad y=r\sin\theta,
onde r=\sqrt{x^{2}+y^{2}} e r\ge0. Substituindo na expressão de f (para (x,y)\neq(0,0), isto é r>0) obtemos:
Como r=\sqrt{x^{2}+y^{2}}\to0 quando (x,y)\to(0,0), temos r^{2}\to0. Assim por desigualdade por sanduíche (ou simplesmente pela estimativa acima)
\lim_{(x,y)\to(0,0)} f(x,y)=0=f(0,0).
Conclusão: f é contínua em (0,0).
Observação intuitiva (útil para provas): o fator r^{2} na expressão polar faz o valor tender para zero independentemente do ângulo \theta. Isso é justamente o que garante continuidade.
Passo 4
Agora vamos à diferenciabilidade em (0,0). Primeiro lembrar a definição prática: f é diferenciável em (0,0) se existe uma aplicação linear L:\mathbb{R}^{2}\to\mathbb{R} tal que, quando (h,k)\to(0,0),
f(h,k)-f(0,0)-L(h,k)=o\big(\|(h,k)\|\big),
ou seja, o resto é de ordem menor que a norma \|(h,k)\|. Quando f tem derivadas parciais em (0,0), o candidato natural para L é
L(h,k)=f_{x}(0,0)\,h+f_{y}(0,0)\,k,
onde f_{x} e f_{y} são as derivadas parciais.
Calculemos as derivadas parciais em (0,0) por definição:
f_{x}(0,0)=\lim_{h\to0}\frac{f(h,0)-f(0,0)}{h}.
Como y=0 implica f(h,0)=0 (veja a definição da função), obtemos
Portanto o candidato para L é o mapa linear nulo L(h,k)=0.
Passo 5
Para concluir diferenciabilidade precisamos mostrar que
f(h,k)-0-0=f(h,k)=o\big(\sqrt{h^{2}+k^{2}}\big).
Usamos novamente a expressão em polares obtida antes:
f(r,\theta)=r^{2}\cos\theta\sin^{3}\theta.
Logo, para (h,k) com r=\sqrt{h^{2}+k^{2}},
\frac{|f(h,k)|}{\sqrt{h^{2}+k^{2}}}=\frac{|f(r,\theta)|}{r}=r\,|\cos\theta\sin^{3}\theta|\le r.
Como r\to0 quando (h,k)\to(0,0), o quociente acima tende a 0. Isso mostra precisamente que
f(h,k)=o\big(\|(h,k)\|\big),
ou seja, o resto do desenvolvimento linear (com L nulo) é o da norma, e portanto f é diferenciável em (0,0). A diferencial é o mapa linear nulo; o gradiente em (0,0) é \nabla f(0,0)=(0,0).
Comentário pedagógico: a existência das derivadas parciais (aqui iguais a zero) não garante differentiabilidade por si só, mas a estimativa via coordenadas polares provou que o resto é pequeno o bastante (ordem r^{2}), o que dá diferenciabilidade. Como contraste, se a expressão tivesse dado algo como r\cdot g(\theta) com g dependente do ângulo, não seria diferenciável (ou até nem continuaria).
Passo 6
Resumo prático para a prova (guarde como receita rápida): transformar em polares é ótimo quando numerador e denominador têm potências de r; ver o grau em r: aqui saiu r^{2}, que é o(r), garantindo diferenciabilidade com diferencial nula.
Resposta
(a) Sim, f é contínua em (0,0).
(b) Sim, f é diferenciável em (0,0); a diferencial é o mapa linear nulo, com \nabla f(0,0)=(0,0).