A pergunta é: f é contínua em 0? Preciso justificar.
Informações relevantes:
O valor da função em 0 é f(0)=0 (pegado do enunciado).
Para mostrar continuidade em 0 preciso verificar se \lim_{x\to0}f(x) existe e é igual a f(0)=0. Como a função é definida por partes, devo verificar os limites laterais \lim_{x\to0^-}f(x) e \lim_{x\to0^+}f(x) e confirmar que ambos são iguais a 0.]
Passo 2
Lembrando a definição prática que vou usar: uma função f é contínua em 0 se, e somente se,
\lim_{x\to0^-}f(x)=\lim_{x\to0^+}f(x)=f(0).
Aqui f(0)=0. Vou calcular os dois limites laterais e comparar com 0.
Passo 3
Cálculo do limite pela direita \lim_{x\to0^+}f(x).
Para 0<x<2 temos f(x)=x^{2}\cos\!\bigl(\tfrac{1}{x}\bigr). Como \bigl|\cos\!\bigl(\tfrac{1}{x}\bigr)\bigr|\le 1 para todo x\neq0, vale a desigualdade
Como r(x)=O(x), o fator dentro do parêntese tende a 1 quando x\to0. Portanto, para x próximo de 0 (positivamente ou negativamente), o radicando é positivo e podemos escrever
e f(0)=0. Logo \lim_{x\to0}f(x)=0=f(0), isto é, f é contínua em 0.
Força aí — deu trabalho, mas a ideia central foi: pela direita é trivial (squeeze), pela esquerda fatorar potência de x e usar a aproximação \csc x\approx 1/x para ver que o numerador é essencialmente x^{2}, então o quociente tende a 0.