é diferenciável, e justificar a resposta.
Informações dadas: a expressão racional \dfrac{-xy}{x^{2}+y^{2}} vale para todos os pontos (x,y) exceto a origem, e na origem a função foi definida como 0.]
Passo 2
Análise dos pontos (x,y)\neq(0,0). Ideia: mostrar que em qualquer ponto fora da origem a função é razão de funções polinomiais não nulas no denominador, logo é diferenciável ali. Explicando devagar: considere as funções N(x,y)=-xy e D(x,y)=x^2+y^2. Ambas são polinômios em x e y, portanto são diferenciáveis em todo \mathbb{R}^2. A função f fora da origem é a quociente f=N/D, e esse quociente é bem definido e suave onde D\neq0. Formalizando um pouco: se N e D são diferenciáveis e D(x_0,y_0)\neq0, então N/D é diferenciável em (x_0,y_0) (regra do quociente para funções de várias variáveis). Assim, todo ponto com (x,y)\neq(0,0) é ponto de diferenciabilidade de f.
Para ficar mais concreto (e para você poder usar na prova), podemos calcular as derivadas parciais em um ponto (x,y)\neq(0,0) usando a regra do quociente. Seja D=x^2+y^2. Então
Essas fórmulas mostram explicitamente que as derivadas parciais existem e são funções contínuas em todo ponto com x^2+y^2>0. Pelo critério usual (se as derivadas parciais existem numa vizinhança e são contínuas então a função é diferenciável), concluímos que f é diferenciável em todo (x,y)\neq(0,0).
Passo 3
Análise do ponto (0,0). Primeiro, calcular as derivadas parciais no ponto origem (essas derivadas parciais podem existir mesmo se a função não for diferenciável). Pela definição:
Portanto as derivadas parciais na origem existem e valem 0. Se f fosse diferenciável em (0,0), a melhor aproximação linear seria a função linear nula L(x,y)=0 (porque as derivadas parciais são zero).
Agora verificamos se essa aproximação realmente funciona, ou seja, se
Mas antes de calcular esse limite, note algo mais simples: diferenciabilidade implica continuidade. Se f fosse diferenciável em (0,0) então f seria contínua em (0,0), logo teríamos \lim_{(x,y)\to(0,0)}f(x,y)=f(0,0)=0. Vamos verificar se a função é contínua na origem.
Considere a aproximação pela reta y=x. Para x\neq0 temos
Isso mostra que f não é contínua em (0,0). Como diferenciabilidade implica continuidade, concluímos imediatamente que f não é diferenciável em (0,0).
(Se quiser ver outra evidência: ao usar a condição de diferencial com L=0 obteríamos \dfrac{f(x,x)}{\sqrt{2}|x|}=\dfrac{-1/2}{\sqrt{2}|x|} que não tende a 0 quando x\to0.)
Passo 4
Conclusão final (resumo pedagógico e motivador): a função é diferenciável em todos os pontos onde a expressão \dfrac{-xy}{x^2+y^2} está bem definida e suave, isto é, em todo (x,y) com (x,y)\neq(0,0). Na origem a função falha já na continuidade (e portanto na diferenciabilidade) porque, por exemplo, aproximando-se pela reta y=x obtém-se limite -\tfrac{1}{2}\neq0. Então o conjunto de diferenciabilidade é exatamente todos os pontos exceto a origem.