A variável de interesse é x e queremos \lim_{x\to 0} x^{3}\operatorname{sen}\!\left(\frac{1}{x^{2}}\right).
A função \operatorname{sen} é a função seno (oscila entre -1 e 1).
Note que a expressão está bem definida para todo x\neq0; no ponto x=0 a parte \operatorname{sen}\!\left(\frac{1}{x^{2}}\right) não é avaliada, mas isso não impede estudar o limite quando x\to0.
Passo 2
Fato básico que vamos usar (é verdade para todo número real t):
-1 \le \operatorname{sen}(t) \le 1.
Aqui podemos tomar t=\dfrac{1}{x^{2}} (para x\neq0), então para todo x\neq0 vale
A partir da desigualdade acima, passemos para a expressão que interessa. Use a propriedade do valor absoluto: para todo a real tem -|a|\le a\le |a|. Em particular, multiplicando a desigualdade por |x^{3}| (que é não negativa) obtemos, para todo x\neq0,
Enunciado do Teorema do Confronto (Squeeze theorem), em palavras simples:
se para todo x próximo de a vale f(x)\le g(x)\le h(x) e \lim_{x\to a} f(x)=\lim_{x\to a} h(x)=L, então \lim_{x\to a} g(x)=L.
Aplicando ao nosso caso:
tome f(x)=-|x^{3}|, g(x)=x^{3}\operatorname{sen}\!\left(\frac{1}{x^{2}}\right) e h(x)=|x^{3}|;
verificamos em Passo 3 que f(x)\le g(x)\le h(x) para x\neq0;
em Passo 4 vimos que \lim_{x\to0} f(x)=\lim_{x\to0} h(x)=0.
Dica prática para a prova (resumindo a ideia que acabou de ser usada): quando tiver um fator oscilante e limitado (como \operatorname{sen} ou \cos) multiplicando algo que tende a 0 (como x^n), normalmente dá para usar o valor absoluto e o Teorema do Confronto para mostrar que o produto tende a 0. Exemplos rápidos: \lim_{x\to0} x\operatorname{sen}(1/x)=0, \lim_{x\to0} x^{2}\cos(1/x)=0.