Informações relevantes dadas ou óbvias do enunciado:
A expressão envolve \cos\left(\frac{1}{x^{2}}\right), cuja natureza oscilante é importante: sabe-se que -1\le \cos(t)\le 1 para todo t.
A função \sqrt{x+1} está bem definida e positiva para x próximo de 0 (por exemplo para x>-1).
A tarefa é aplicar o Teorema do Confronto (Teorema do Sanduíche) para concluir que o limite vale zero.
Passo 2
Lembrete didático do Teorema do Confronto (forma útil aqui).
Se f(x), g(x), h(x) são funções tais que, numa vizinhança de a (exceto talvez em a),
f(x)\le g(x)\le h(x)
e
\lim_{x\to a} f(x)=\lim_{x\to a} h(x)=L,
então \lim_{x\to a} g(x)=L.
Uma forma prática muito usada é a versão com valor absoluto: se |g(x)|\le \varphi(x) para x próximo de a e \lim_{x\to a}\varphi(x)=0, então \lim_{x\to a} g(x)=0.
Vou usar essa ideia: encontrar uma função não negativa que domine (em valor absoluto) a expressão e cujo limite seja 0.
Passo 3
Usar a desigualdade básica para o cosseno. Como sempre vale
-1\le \cos\left(\frac{1}{x^{2}}\right)\le 1,
somando 2 a cada termo obtemos
1 \le 2+\cos\left(\frac{1}{x^{2}}\right)\le 3.
Como a função t\mapsto t^{3} é crescente para t\ge 0, elevando ao cubo (os termos são não-negativos) resulta
Observar que, para x próximo de 0, temos x^{2}\ge 0 e \sqrt{x+1}>0. Multiplicando a desigualdade do Passo 3 por \dfrac{x^{2}}{\sqrt{x+1}} (quantidade não negativa), as desigualdades preservam o sentido:
Isso mostra que a expressão procurada está “confinada” entre \dfrac{x^{2}}{\sqrt{x+1}} e 27\cdot\dfrac{x^{2}}{\sqrt{x+1}}. Em particular, pelo fato de \left(2+\cos(\cdot)\right)^{3} ser positivo, podemos afirmar também a desigualdade em valor absoluto
Aplicar o Teorema do Confronto: a expressão cujo limite queremos tem valor absoluto menor ou igual a uma função que tende a 0. Logo pela forma prática do Teorema do Confronto,
Dica de prova na prova: sempre que aparecer uma oscilação tipo \cos(1/x^{2}) ou \sin(1/x), tente encaixá-la entre constantes usando -1\le\cos\le 1 e depois multiplique por termos não-negativos para aplicar o “sanduíche”.