Determine o conjunto dos pontos em que a função dada é contínua. f(x)=\left\{\begin{aligned} x, & \text { se } x \in \mathbb{Q} \\\\ -x, & \text { se } x \notin \mathbb{Q}\end{aligned}\right.
e pede: determinar o conjunto dos pontos em que f é contínua.
Informações relevantes fornecidas:
Para todo número racional x vale f(x)=x.
Para todo número irracional x vale f(x)=-x.
Não há outras restrições: domínio é todo \mathbb{R}.
O que o enunciado pede:
Encontrar todos os pontos a\in\mathbb{R} tais que f é contínua em a.]
Passo 2
Recordando o conceito que vamos usar (passo de teoria bem mastigado): dizer que f é contínua em um ponto a significa que
\lim_{x\to a} f(x)=f(a).
Uma maneira útil de testar existência de limite para funções com comportamento diferente em racionais e irracionais é usar sequências: se x_n\to a e os f(x_n) tiverem limites diferentes para duas sequências que convergem a a, então \lim_{x\to a}f(x) não existe. Outro fato importante (que vou usar): os conjuntos \mathbb{Q} (rationais) e \mathbb{R}\setminus\mathbb{Q} (irracionais) são densos em \mathbb{R}. Isso significa que, para qualquer a\in\mathbb{R}, existem sequências de racionais que convergem para a e também sequências de irracionais que convergem para a.
Vou aplicar esses conceitos para analisar dois casos: a=0 e a\neq 0.
Passo 3
Caso a\neq 0: mostro que a função não é contínua em a.
Pelo fato da densidade, existe uma sequência (q_n) de números racionais com q_n\to a. Para esses termos racionais temos f(q_n)=q_n. Logo
\lim_{n\to\infty} f(q_n)=\lim_{n\to\infty} q_n = a.
Também existe uma sequência (r_n) de números irracionais com r_n\to a. Para esses termos irracionais temos f(r_n)=-r_n. Logo
Como a\neq 0, tem-se a\neq -a. Portanto as duas sequências que se aproximam de a dão dois limites diferentes para f(x) quando x\to a. Isso implica que \lim_{x\to a} f(x) não existe, e em particular não pode ser igual a f(a). Conclusão: para todo a\neq 0 a função f é descontínua em a.
Observação intuitiva: chegando por racionais a a vemos valores próximos de a; chegando por irracionais vemos valores próximos de -a. Se a\neq 0 esses dois alvos não coincidem, então não há limite único.
Passo 4
Caso a=0: mostro que f é contínua em 0 com argumento \varepsilon-\delta (o padrão formal que cai bem na prova).
Queremos provar que \lim_{x\to 0} f(x)=f(0). Primeiro f(0)=0 porque 0\in\mathbb{Q} e então f(0)=0.
Seja \varepsilon>0 qualquer. Escolho \delta=\varepsilon. Agora, para todo x com |x-0|<\delta (ou seja |x|<\delta), temos f(x) sendo x ou -x, então
Isso mostra que, para qualquer \varepsilon>0, existe \delta=\varepsilon tal que |x-0|<\delta implica |f(x)-f(0)|<\varepsilon. Portanto \lim_{x\to 0} f(x)=f(0) e f é contínua em 0.
Intuição: tanto para racionais quanto para irracionais, f(x) tem valor cuja magnitude é |x|. Ao ir para 0 ambos os ramos vão para 0, então não há problema de discrepância.
Passo 5
Juntando os resultados:
Para a\neq 0: \lim_{x\to a} f(x) não existe, logo f é descontínua em a.
Para a=0: f é contínua.
Portanto o conjunto de pontos de continuidade de f é apenas o conjunto \{0\}.