As perguntas relevantes que vamos responder (situação típica para esse enunciado) são:
Qual é o valor do limite \lim_{(x,y)\to(0,0)} f(x,y), se ele existe?
A função f é contínua em (0,0)?
As derivadas parciais \displaystyle \frac{\partial f}{\partial x}(0,0) e \displaystyle \frac{\partial f}{\partial y}(0,0) existem?
A função é diferenciável em (0,0)?
Os dados relevantes são: a expressão analítica de f quando (x,y)\neq(0,0) e o valor declarado f(0,0)=1.]
Passo 2
Vamos estudar o limite \lim_{(x,y)\to(0,0)} f(x,y). Primeiro escrevo a expressão para (x,y)\neq(0,0):
f(x,y)=\frac{x^{2}y^{3}}{2x^{2}+y^{2}}.
Quero estimar o valor absoluto de f por algo que vá a zero quando (x,y)\to(0,0). Calculemos um limite superior simples para |f(x,y)|. Para (x,y)\neq(0,0) temos
|f(x,y)|=\frac{|x|^{2}|y|^{3}}{2x^{2}+y^{2}}.
Note que 2x^{2}+y^{2}\ge y^{2}. Usando isso, obtemos
(Aqui cuidei do caso y=0: se y=0 e x\neq0 então f(x,0)=0 e a desigualdade 0\le |x|^{2}|y| também vale. Assim a estimativa vale para todos (x,y)\neq(0,0).)
Passo 3
Agora use uma medida radial para ver que |x|^{2}|y| tende a zero quando (x,y)\to(0,0). Defina r=\sqrt{x^{2}+y^{2}}. Então |x|\le r e |y|\le r, logo
|x|^{2}|y|\le r^{2}\cdot r=r^{3}.
Assim, para (x,y)\neq(0,0),
|f(x,y)|\le |x|^{2}|y|\le r^{3}.
Como r\to0 quando (x,y)\to(0,0), temos r^{3}\to0. Pelo Teorema do Sanduíche (squeeze theorem) em duas variáveis, segue que
\lim_{(x,y)\to(0,0)} f(x,y)=0.
Passo 4
Comparando o limite com o valor declarado da função no ponto, vemos que f(0,0)=1 (dado do enunciado), enquanto
\lim_{(x,y)\to(0,0)} f(x,y)=0\neq 1.
Pela definição de continuidade (uma função é contínua em um ponto se e somente se o limite da função naquele ponto existe e é igual ao valor da função ali), concluímos que f não é contínua em (0,0).
Não se assuste: isso já garante que f não pode ser diferenciável em (0,0), porque diferenciabilidade implica continuidade. Mas vamos também analisar as derivadas parciais pela definição para deixar tudo bem claro.
Passo 5
Recordando a definição de derivada parcial em (0,0): a derivada parcial de f em relação a x em (0,0) é
\frac{\partial f}{\partial y}(0,0)\text{ não existe.}ã
Passo 6
Resumo e conclusão final: o limite da função ao aproximar-se de (0,0) é 0, mas o valor dado da função em (0,0) é 1; portanto a função é descontínua em (0,0). As derivadas parciais em (0,0) não existem (os quocientes incrementais ao longo dos eixos geram -1/h que não tem limite quando h\to0). Como consequência direta, f não é diferenciável em (0,0) (diferenciabilidade exige continuidade).
Resposta
\displaystyle \lim_{(x,y)\to(0,0)} f(x,y)=0\n f não é contínua em (0,0) (pois f(0,0)=1\neq0)\n \displaystyle \frac{\partial f}{\partial x}(0,0) não existe\n \displaystyle \frac{\partial f}{\partial y}(0,0) não existe\n f não é diferenciável em (0,0)