A pergunta é: a função f é contínua? Devemos justificar a resposta.
Informações importantes fornecidas:
A expressão racional para (x,y)\neq(0,0) tem numerador y^{4}+3x^{2}y^{2}+2yx^{3} e denominador (x^{2}+y^{2})^{2}.
O valor dado no ponto (0,0) é 0.
Precisamos analisar continuidade em pontos diferentes de (0,0) e no próprio (0,0).]
Passo 2
Lembrança (definição) útil e estratégia: uma função f:\mathbb{R}^2\to\mathbb{R} é contínua em um ponto (a,b) se
\lim_{(x,y)\to(a,b)} f(x,y)=f(a,b).
Estratégia prática para avaliar continuidade aqui:
Para (x,y)\neq(0,0): verificar que a expressão é quociente de polinômios com denominador não nulo, logo já é contínua nesses pontos.
Em (0,0): calcular \lim_{(x,y)\to(0,0)} f(x,y). Se esse limite existir e for igual a 0, então f é contínua em (0,0); se não existir ou for diferente de 0, então não é contínua em (0,0).
Também usaré a ideia prática: se limites ao longo de duas direções (caminhos) diferentes forem diferentes, então o limite total não existe.
Passo 3
Continuidade fora da origem (pontos (x,y)\neq(0,0)):
A expressão
é razão de dois polinômios em x,y. Para qualquer ponto (x,y) com x^{2}+y^{2}\neq0 o denominador é diferente de zero, logo a função é composição de operações contínuas (soma, produto, divisão por número não nulo). Portanto f é contínua em todo ponto (x,y) com (x,y)\neq(0,0).
Passo 4
Definição e ideia aplicada ao ponto (0,0):
Queremos saber se
existe e se é igual a 0. Uma maneira simples e direta é avaliar o limite ao longo de trajetórias especiais (por exemplo, eixos x e y). Se encontrarmos duas trajetórias com limites diferentes, já concluímos que o limite não existe e, portanto, f não é contínua em (0,0).
Passo 5
Limite ao longo do eixo x (trajetória y=0, x\to0):
Substituindo y=0 na expressão para (x,y)\neq(0,0),
Conclusão sobre o limite em (0,0):
Obtivemos dois limites ao aproximar (0,0): pela trajetória y=0 o limite vale 0; pela trajetória x=0 o limite vale 1. Como esses dois valores são diferentes, o limite \lim_{(x,y)\to(0,0)} f(x,y) não existe. Pelo critério citado no Passo 2, se o limite não existe então não pode ser igual ao valor f(0,0)=0. Logo f não é contínua em (0,0).
Resposta
A função f não é contínua em (0,0). Ela é contínua em todos os pontos (x,y) com (x,y)\neq(0,0) e descontínua em (0,0).