f(x)= \begin{cases}0 & \text { se } x \text { é racional } \\\\ 1 & \text { se } x \text { é irracional }\end{cases}
Passo 1
O enunciado define a função f:\mathbb{R}\to\{0,1\}\) por
\[f(x)= \begin{cases}0 & \text{se } x \text{ é racional},\\[4pt] 1 & \text{se } x \text{ é irracional}.\end{cases}
A pergunta implícita e clássica para esse enunciado (e que vamos resolver) é: determinar os pontos em que f\] é contínua — isto é, encontrar todos os \(x_0\in\mathbb{R} tais que f seja contínua em x_0.
Informações relevantes dadas:
Para cada x\in\mathbb{R} sabe-se se x é racional ou irracional e, por isso, qual é f(x).
Não há outra informação numérica; a solução dependerá de propriedades dos racionais e irracionais (especialmente sua densidade na reta).]
Passo 2
Relembrando a definição de continuidade (gentil e prática):
Dizemos que f é contínua em x_0 se, e somente se, para todo \varepsilon>0 existe \delta>0 tal que sempre que |x-x_0|<\delta então |f(x)-f(x_0)|<\varepsilon.
Vou explicar o que cada símbolo significa:
\varepsilon>0 é a tolerância desejada no valor de f(x);
\delta>0 é o tamanho da janela em torno de x_0 dentro da qual os x devem ficar;
A condição |f(x)-f(x_0)|<\varepsilon significa que os valores de f em pontos próximos estão perto do valor em x_0.
Também uso a forma sequencial (muito prática): f é contínua em x_0 se, e somente se, para toda sequência (x_n) com x_n\to x_0 vale f(x_n)\to f(x_0). Essa versão é muitas vezes mais simples para construir contraexemplos: basta encontrar duas sequências que convergem a x_0 mas cujas imagens por f convergem a limites diferentes.
Passo 3
Uma propriedade chave que vou usar: os racionais e os irracionais são densos em \mathbb{R}. Explicando de forma simples e construtiva:
Densidade dos racionais: entre quaisquer dois reais existe um racional. Consequência prática: para qualquer x_0 existe uma sequência de racionais (r_n) tal que r_n\to x_0. Um modo explícito de construir (r_n) é pegar as aproximações decimais truncadas de x_0 (cada truncação é racional) — isso sempre tende a x_0.
Densidade dos irracionais: entre quaisquer dois reais existe um irracional. Consequência prática: para qualquer x_0 existe uma sequência de irracionais (s_n) tal que s_n\to x_0. Dá para construir de forma explícita dependendo de x_0:
Se x_0 é racional, escolha s_n = x_0 + \dfrac{\sqrt{2}}{n}. Cada s_n é irracional (soma de racional com irracional) e s_n\to x_0.
Se x_0 é irracional, escolha s_n = x_0 + \dfrac{1}{n}. Aqui \dfrac{1}{n} é racional, e irracional + racional é irracional, logo cada s_n é irracional e s_n\to x_0.
Portanto, para qualquer x_0\in\mathbb{R} conseguimos simultaneamente:
uma sequência de racionais r_n\to x_0;
uma sequência de irracionais s_n\to x_0.
Passo 4
Agora aplico a função f a essas sequências. Como f vale 0 em racionais e 1 em irracionais, temos, para todo n,
Logo as imagens por f de duas sequências convergentes a x_0 têm limites diferentes (0 e 1). Pela forma sequencial da continuidade, isto impede que f seja contínua em x_0: se f fosse contínua em x_0, todas sequências convergentes a x_0 teriam imagens convergentes ao mesmo valor f(x_0).
Passo 5
Dou uma versão alternativa, direta com \varepsilon-\delta (útil para prova em prova curta): suponha, por absurdo, que f fosse contínua em algum x_0. Tome \varepsilon=\tfrac{1}{2}. Então, pela continuidade, existe \delta>0 tal que sempre que |x-x_0|<\delta vale |f(x)-f(x_0)|<\tfrac{1}{2}. Mas em qualquer intervalo (x_0-\delta,x_0+\delta) há um racional r e um irracional s. Para esse r tem-se f(r)=0 e para esse s tem-se f(s)=1. Pelo menos um desses pontos viola |f(x)-f(x_0)|<\tfrac{1}{2}, porque seja f(x_0)=0 então s tem |f(s)-f(x_0)|=1\ge\tfrac{1}{2}; se f(x_0)=1 então r tem |f(r)-f(x_0)|=1\ge\tfrac{1}{2}. Contradição. Portanto f não pode ser contínua em x_0.
Passo 6
Como x_0 foi um ponto arbitrário de \mathbb{R}, os argumentos anteriores mostram que não existe nenhum x_0 em que f seja contínua. Conclusão: f é descontínua em todo ponto da reta real.
Pequeno reforço intuitivo: em qualquer vizinhança de qualquer ponto há pontos onde f vale 0 e pontos onde f vale 1, então é impossível fazer f(x) ficar próximo de um único valor ao aproximar-se do ponto.
Resposta
f é descontínua em todo ponto de \mathbb{R} (não existe x_0 em que f seja contínua).