Para cada um dos seguintes subconjuntos A \subset \mathbb{R} ache \operatorname{int}(A), \bar{A}, \operatorname{int}(\bar{A}) e \overline{\operatorname{int}(A)} :
b) A=\mathbb{Q} \cap[0,1]
Passo 1
Enunciado: temos o conjunto A=\mathbb{Q}\cap[0,1]. O que a questão pede é achar, para esse A, os quatro objetos:
Informações dadas explicitamente: A é o conjunto dos números racionais que pertencem ao intervalo [0,1]. Nada mais foi dado (nem figura). Vou usar só propriedades básicas dos racionais e dos reais que são necessárias para resolver isto.
Passo 2
Definições fundamentais (vou explicar com calma):
A definição de interior: \operatorname{int}(A) é o maior conjunto aberto contido em A. Em termos práticos: um ponto x pertence a \operatorname{int}(A) se existe um \varepsilon>0 tal que o intervalo aberto (x-\varepsilon,x+\varepsilon) está inteiro contido em A.
A definição de fecho (closure): \overline{A} é o menor conjunto fechado que contém A. Equivalentemente, x\in\overline{A} se e somente se todo intervalo aberto centrado em x contém algum ponto de A (isto é, x é ponto de aderência de A).
Essas duas definições são o instrumento que vamos usar para provar cada item.
Passo 3
Vou mostrar que \operatorname{int}(A)=\varnothing (conjunto vazio).
Tomemos um ponto qualquer x\in A. Assim x\in[0,1] e x\in\mathbb{Q}. Para x ser interior de A seria necessário existir \varepsilon>0 tal que (x-\varepsilon,x+\varepsilon)\subset A. Mas isso exigiria que todo ponto do intervalo (x-\varepsilon,x+\varepsilon) fosse racional. Sabemos (fato clássico) que entre quaisquer dois números reais existem números irracionais; em outras palavras, os irracionais são densos em \mathbb{R}. Logo, qualquer intervalo aberto não trivial contém irracionais. Portanto qualquer vizinhança (x-\varepsilon,x+\varepsilon) de x contém um número irracional, que não pertence a A. Assim não existe \varepsilon>0 com (x-\varepsilon,x+\varepsilon)\subset A. Como x foi um ponto arbitrário de A, nenhum ponto de A é interior. Concluímos que
\operatorname{int}(A)=\varnothing.
Passo 4
Explico um pouco a justificativa usada acima sobre densidade dos irracionais (pra você ter uma ideia construtiva): dado um intervalo (a,b), podemos achar um racional nele aproximando a por frações com denominador grande (ex.: escolher inteiro n tal que 1/n<b-a e um k com a<k/n<b). Para achar um irracional, uma construção prática é pegar esse racional r e somar um número irracional pequeno, por exemplo \sqrt{2}/m com m grande; escolhendo m suficiente, r+\sqrt{2}/m cai dentro de (a,b) e é irracional. Assim tanto racionais quanto irracionais aparecem em qualquer intervalo aberto.
Passo 5
Agora vamos achar \overline{A} (o fecho de A). Observação imediata: A\subset[0,1], logo \overline{A}\subset\overline{[0,1]}=[0,1]. Vou mostrar que, na verdade, todo ponto x\in[0,1] é ponto de aderência de A, o que implica \overline{A}=[0,1].
Seja x\in[0,1] e tome \varepsilon>0. Queremos mostrar que (x-\varepsilon,x+\varepsilon) contém algum elemento de A, isto é, algum racional em [0,1]. Como x\in[0,1], o intervalo (x-\varepsilon,x+\varepsilon) intersecta [0,1] em algum subintervalo aberto não vazio (mesmo se x for 0 ou 1, a interseção dará um intervalo aberto em [0,1] deslocado). Agora aplicamos a densidade dos racionais: em qualquer intervalo aberto existe um número racional. Mais concretamente, existe inteiro n com 1/n<\varepsilon; então existe inteiro k tal que
x-\varepsilon < \frac{k}{n} < x+\varepsilon.
Como \frac{k}{n} é racional e está dentro de [0,1] (pois a interseção foi dentro de [0,1]), temos \frac{k}{n}\in A\cap (x-\varepsilon,x+\varepsilon). Isso prova que todo intervalo ao redor de x contém ponto de A, logo x\in\overline{A}. Como x foi arbitrário em [0,1], temos [0,1]\subset\overline{A}. Juntando com a inclusão anterior, concluímos:
\overline{A}=[0,1].
Passo 6
Agora calculamos \operatorname{int}(\overline{A}). Já vimos que \overline{A}=[0,1]. Qual é a interior de um intervalo fechado [0,1] no espaço \mathbb{R} com a topologia usual? Um ponto x de [0,1] pertence à interior se existe \varepsilon>0 tal que (x-\varepsilon,x+\varepsilon)\subset[0,1]. Se x\in(0,1) então podemos escolher \varepsilon=\min\{x,1-x\}>0 e esse intervalo ficará contido em [0,1]. Mas se x=0 qualquer \varepsilon>0 faz (0-\varepsilon,0+\varepsilon) conter pontos negativos, portanto não fica contido em [0,1]; análogo para x=1. Assim os pontos interiores de [0,1] são exatamente aqueles estritamente entre 0 e 1. Concluímos:
\operatorname{int}(\overline{A})=(0,1).
Passo 7
Finalmente, \overline{\operatorname{int}(A)} é o fecho da interior de A. No Passo 3 vimos que \operatorname{int}(A)=\varnothing. O fecho do conjunto vazio é o conjunto vazio (não há pontos de aderência de um conjunto vazio). Portanto