A missão é identificar todos os pontos (x,y) em que f não é contínua e justificar por que são ou não contínuos.]
Passo 2
Definição e critério que usaremos (aula rápida): uma função g:\mathbb{R}^2\to\mathbb{R} é contínua em um ponto (a,b) se e somente se
\lim_{(x,y)\to(a,b)} g(x,y)
existe (é finito) e é igual a g(a,b). Para funções que são quociente de polinômios, vale o seguinte fato padrão: se o denominador não se anula em (a,b), então a função é contínua em (a,b) (pois polinômios são contínuos e operações aritméticas preservam continuidade).
Passo 3
Verificação de continuidade em pontos (x_0,y_0)\neq(0,0).
Como para qualquer (x_0,y_0)\neq(0,0) temos x_0^2+y_0^2>0, o denominador não é zero. Portanto a função
(x,y)\mapsto \frac{x-3y}{x^2+y^2}
é uma razão de polinômios com denominador não nulo em um entorno de (x_0,y_0). Pelo fato mencionado no passo anterior, essa expressão é contínua em (x_0,y_0). Conclusão: todos os pontos (x,y)\neq(0,0) são pontos de continuidade.
Passo 4
Análise da continuidade em (0,0). Precisamos estudar
\lim_{(x,y)\to(0,0)} \frac{x-3y}{x^2+y^2}
e comparar com f(0,0)=1. Se esse limite não existir ou não for igual a 1, então f é descontínua em (0,0).
Passo 5
Estudo do limite por caminhos lineares: considere caminhos da forma (x,y)=(t,mt) com m\in\mathbb{R} e t\to 0. Substituindo na expressão temos, para t\neq 0,
Se 1-3m\neq 0 (ou seja, m\neq \tfrac{1}{3}), o numerador é uma constante não nula e o denominador t(1+m^2)\to 0. Assim f(t,mt) tende para +\infty quando t\to 0^+ ou para -\infty quando t\to 0^- (o sinal depende de t), ou em qualquer caso não tende a um número finito. Logo o limite ao longo desse caminho é infinito (ou não existe como número real).
Se m=\tfrac{1}{3}, então 1-3m=0 e, para todo t\neq 0,
f\bigl(t,\tfrac{1}{3}t\bigr)=0.
Logo ao longo da reta y=\tfrac{1}{3}x (exceto na origem) a função vale identicamente 0 e o limite quando t\to 0 é 0.
Passo 6
Conclusão sobre existência do limite em (0,0): pelos dois caminhos do passo anterior obtemos resultados diferentes — ao longo y=\tfrac{1}{3}x o limite é 0, enquanto ao longo qualquer reta y=mx com m\neq\tfrac{1}{3} a expressão não tende a um número finito (tende a infinito ou diverge). Como limites ao longo de diferentes caminhos não coincidem (um dá 0, outro não dá número finito), o limite
\lim_{(x,y)\to(0,0)} \frac{x-3y}{x^2+y^2}
não existe como número real. Em particular não é igual a f(0,0)=1. Portanto f é descontínua em (0,0).
Passo 7
Juntando os resultados: f é contínua em todo ponto (x,y)\neq(0,0) e é descontínua em (0,0). Portanto o conjunto das descontinuidades é exatamente \{(0,0)\}.