A expressão envolve \cos\!\left(\frac{1}{x}\right), que está definida para todo x\neq 0. O limite é tomado quando x tende a 0 (ponto onde a função \cos(1/x) oscila muito).
Sabemos que a função \cos é limitada entre -1 e 1: para todo t,
-1 \le \cos(t) \le 1.
A partir disso vamos trabalhar para encontrar o valor do limite pedido.
Passo 2
Usar a propriedade de que \cos é limitada. Substituindo t=\dfrac{1}{x} (válido para x\neq 0) obtemos
-1 \le \cos\!\left(\frac{1}{x}\right) \le 1.
Agora multiplicamos essa desigualdade por x^{2}. Observação importante: x^{2}\ge 0 para todo x, então a ordem das desigualdades não se inverte ao multiplicar por x^{2}. Assim:
Logo, por definição de limite, \lim_{x\to 0} x^{2}\cos\!\left(\frac{1}{x}\right)=0.
Passo 7
Exemplos rápidos para fixar a ideia:
\lim_{x\to 0} x\cos\!\left(\dfrac{1}{x}\right)=0, pois |x\cos(1/x)|\le |x| e \lim_{x\to 0}|x|=0.
Se em vez de x^{2} tivéssemos uma função que não tende a 0 (por exemplo constante), o limite não existiria necessariamente por causa da oscilação de \cos(1/x). A chave aqui é que o fator x^{2} faz a amplitude das oscilações ir a 0.