Questão 2 - Contraexemplo: falha do Teorema de Fubini
Considere a função:
Pode-se mostrar que a função f não é contínua em nenhum ponto de seu domínio.
Passo 1
O enunciado define uma função em duas variáveis que vale 1 se ambos os argumentos são racionais em [0,1] e 0 caso contrário. O tema é a integrabilidade de Riemann em retângulos e o Teorema de Fubini, que só garante a troca de integrais se a função já for integrável no domínio inteiro.
Passo 2
Para mostrar que f não é contínua em nenhum ponto (isto já foi indicado): dado um ponto (x₀,y₀), podemos aproximá-lo por pares racionais (fazendo f=1) e por pares em que pelo menos um é irracional (fazendo f=0). Como 0 e 1 são valores diferentes, f oscila arbitrariamente perto de qualquer ponto, logo não há continuidade.
Passo 3
Fixe um x₀ irracional. Então para todo y, x₀∉ℚ implica f(x₀,y)=0. Isso é a função constante zero em y, que é contínua em todo [0,1] e, portanto, Riemann-integrável. Seu integral é 0.
Passo 4
Agora fixe um x₀ racional. Então f(x₀,y)=1 se y∈ℚ, e 0 se y∉ℚ. Essa é a clássica função de Dirichlet em uma variável, que é descontínua em todo y∈[0,1] e, por isso, não é Riemann-integrável no intervalo.
Passo 5
Concluímos que a integral
∫₀¹f(x₀,y)dy existe (e vale 0) apenas quando x₀ é irracional, mas não existe quando x₀ é racional. Portanto a integral iterada ∫₀¹(∫₀¹f(x,y)dy)dx não está bem definida para todo x em [0,1]. Da mesma forma, trocando ordem, também não existe integral iterada ∫₀¹(∫₀¹f(x,y)dx)dy. Isso mostra que, embora as fatias de f sejam integráveis para muitos valores de x ou y, f não satisfaz as hipóteses de Fubini para Riemann nem é integrável em [0,1]² (seu conjunto de descontinuidades tem medida positiva).
Passo 6
Esse é o contraexemplo clássico que ilustra que, sem a hipótese de integrabilidade no retângulo, simplesmente ter fatias integráveis não basta para aplicar o Teorema de Fubini.
Resposta
A função f não é Riemann-integrável em [0,1]² e as integrais iteradas ∫₀¹(∫₀¹f(x,y)dy)dx e ∫₀¹(∫₀¹f(x,y)dx)dy falham porque, embora as fatias f(x,·) sejam integráveis (e igual zero) para x irracional, para x racional cada fatia é a função de Dirichlet e não é integrável; o mesmo vale trocando a ordem. Isso mostra a falha de Fubini sem a hipótese geral de integrabilidade.