Justificar a resposta (mostrar diferenciabilidade fora da origem e decidir se é diferenciável em (0,0)).]
Passo 2
Mostrar diferenciabilidade em pontos (x,y)\neq(0,0).
Explicação da ideia: uma função dada por quociente de polinômios é suave (toda derivada existe e é contínua) onde o denominador não é zero. Aqui, para (x,y)\neq(0,0) temos x^{2}+y^{2}\neq0, logo a expressão racional é formada por polinômios com denominador não nulo — portanto é diferenciável (na verdade C^\infty) em todo ponto (x,y)\neq(0,0).
Para ficar concreto, calculemos as derivadas parciais de f em (x,y)\neq(0,0) usando a regra do quociente (mostrar que elas existem e são funções racionais contínuas na região):
Essas expressões são funções racionais com denominador \neq 0 para (x,y)\neq(0,0), portanto são contínuas nessa região. Como as derivadas parciais existem e são contínuas em torno de qualquer ponto (x,y)\neq(0,0), concluímos que f é diferenciável em todo (x,y)\neq(0,0).]
Passo 3
Calcular as derivadas parciais no ponto (0,0) (definição) para obter o candidato a diferencial em (0,0).
Definição usada: a derivada parcial de f em (0,0) na direção de x é
Esse valor depende de m. Para m\neq0 obtemos um número não nulo, por exemplo se m=1 o limite é \tfrac{1}{2}. Mas se f fosse diferenciável com diferencial L\equiv0, então todos esses limites teriam de ser 0. Como encontramos direções em que o limite é diferente de zero, isso contradiz a diferenciabilidade em (0,0).
Uma forma alternativa e direta de ver a falha da definição é calcular
cujo limite quando x\to0 não é 0. Logo f(x,y) não é o(\sqrt{x^{2}+y^{2}}) próximo da origem, portanto a condição de diferenciabilidade (com L=0) falha.
Conclusão: f não é diferenciável em (0,0).
Passo 5
Resumo final e conjunto dos pontos diferenciáveis.
Em qualquer ponto (x,y) com (x,y)\neq(0,0) a função é diferenciável (é uma função racional com denominador não nulo; as derivadas parciais existem e são contínuas ali).
Em (0,0) a função não é diferenciável (as derivadas parciais existem e valem zero, mas a aproximação linear exigida pela diferenciabilidade falha — existem direções em que a derivada direcional é diferente de zero).
Resposta
A função é diferenciável em \mathbb{R}^{2}\setminus\{(0,0)\} e não é diferenciável em (0,0).