Duas abordagens úteis (e complementares) para decidir convergência: (i) comparar o comportamento do integrando próximo de 0 com uma função conhecida cuja integral é convergente/divergente; (ii) tentar calcular a integral indefinida (ou a integral definida com limite) por substituição apropriada. Vou fazer as duas: primeiro a substituição que permite calcular exatamente, e depois comento a comparação clássica para entender o porquê da convergência.
Passo 3
Avaliação exata por substituição (escolha da substituição e cálculo passo a passo):
Agora os limites: quando x=0 temos \tan^{2}\theta=0\Rightarrow \theta=0. Quando x=1 temos \tan^{2}\theta=1\Rightarrow \tan\theta=1\Rightarrow \theta=\dfrac{\pi}{4} (escolhemos o ângulo no primeiro quadrante).
Portanto a integral definida (para \varepsilon pequeno corresponde a \theta pequeno) transforma-se em
Cálculo da integral de \operatorname{sec}\theta e avaliação dos limites:
Uma antiderivada conhecida é
\int \operatorname{sec}\theta\,d\theta = \ln\bigl|\operatorname{sec}\theta+\tan\theta\bigr| + C.
(Segundo uma demonstração rápida: multiplica-se por \dfrac{\operatorname{sec}\theta+\tan\theta}{\operatorname{sec}\theta+\tan\theta} e observa-se que a derivada do denominador aparece no numerador.)
Como obtivemos um valor finito e bem definido, isso demonstra que o limite que define a integral imprópria existe e é finito, logo a integral é convergente, com valor 2\ln\bigl(\sqrt{2}+1\bigr).
Passo 5
Comentário adicional (teste por comparação, útil na prova quando não for possível integrar exatamente):
Próximo de x=0 tem-se x+x^{2}=x(1+x)\approx x (pois 1+x\to 1 quando x\to 0). Então
\frac{1}{\sqrt{x+x^{2}}}\sim \frac{1}{\sqrt{x}}.
O teste-p para integrais na vizinhança de zero diz que
\int_{0}^{1} x^{-p}\,dx
converge se, e somente se, p<1. Aqui x^{-1/2} corresponde a p=\tfrac{1}{2}<1, logo \int_{0}^{1} x^{-1/2}\,dx converge; por comparação (ou comportamento assintótico) a nossa integral também é convergente. Isso é um atestado alternativo rápido de convergência sem calcular o valor exato.