O que precisamos mostrar (explicitamente): para todo a\in(-\infty,\infty) temos que f é contínua em a. Em prática, isto se reduz a:
mostrar continuidade em todos os pontos a\neq 3 (onde a definição de f usa apenas uma das fórmulas); e
verificar continuidade em a=3 (ponto onde a definição muda de ramo).]
Passo 2
Conceito básico que vamos usar (explicado de forma simples): uma função g é contínua em um ponto a se e somente se
\lim_{x\to a} g(x)=g(a).
Para pontos onde g é dada por soma/produto/composição de funções que já conhecemos como contínuas (polinômios, \operatorname{sen}, etc.), a continuidade é automática — recorda que polinômios e \operatorname{sen} são contínuos em todo \mathbb{R}; produtos e composições de funções contínuas são contínuas onde todas as expressões envolvidas estão definidas.
Aplicando isso ao nosso f: para qualquer ponto a>3 usamos a fórmula (x-3)^{2}\operatorname{sen}(1/(x-3)). Nesta expressão:
x\mapsto (x-3)^{2} é polinomial, logo contínua em todo lugar;
x\mapsto 1/(x-3) é contínua para x\neq 3;
t\mapsto \operatorname{sen} t é contínua para todo t.
Portanto a composição x\mapsto \operatorname{sen}(1/(x-3)) é contínua para x\neq 3, e o produto com (x-3)^{2} é contínuo para x>3. Conclusão: f é contínua em todo ponto a>3.
Passo 3
Analogamente para pontos a<3: a fórmula usada é \bigl(x^{2}+x-12\bigr)\operatorname{sen}(x-3). Aqui:
x\mapsto x^{2}+x-12 é polinomial (contínua em todo lugar);
x\mapsto \operatorname{sen}(x-3) é composição de \operatorname{sen} com uma tradução, logo contínua para todo x.
Portanto o produto é contínuo para todo x<3. Conclusão: f é contínua em todo ponto a<3.
Até aqui cobrimos todos os pontos exceto x=3. Agora é onde precisamos trabalhar com limites laterais e usar alguns resultados limites clássicos.
Passo 4
Vamos calcular o valor de f em x=3. Como x=3 pertence à parte x\le 3, usamos essa fórmula:
Quando x\to 3^{+} temos (x-3)^{2}\to 0. Pelo Teorema do Confronto (ou “squeeze theorem”), se uma função h(x) satisfaz - (x-3)^{2}\le h(x)\le (x-3)^{2} e (x-3)^{2}\to 0, então h(x)\to 0. Aplicando isso com h(x)=(x-3)^{2}\operatorname{sen}(1/(x-3)) obtemos
\lim_{x\to 3^{+}} f(x)=0.
Explicando rápido o Teorema do Confronto (para você entender): se uma sequência ou função fica presa entre duas que tendem ao mesmo limite L, então ela também tende a L. Aqui as duas fronteiras são \pm (x-3)^{2}, ambas tendendo a 0.
Passo 6
Cálculo do limite pela esquerda, \lim_{x\to 3^{-}} f(x).
Reescrevemos de uma forma conveniente para usar o limite clássico \lim_{t\to 0}\dfrac{\operatorname{sen} t}{t}=1. Faça a substituição t=x-3. Então quando x\to 3 temos t\to 0 e
\dfrac{\operatorname{sen}(x-3)}{x-3}\to 1 (este é o limite clássico da função seno).
Multiplicando limites (fatores tendendo a limites finitos), obtemos
\lim_{x\to 3^{-}} f(x)=7\cdot 0\cdot 1 = 0.
Logo o limite pela esquerda também é 0.
Se você não lembra bem por que \lim_{t\to0}\dfrac{\operatorname{sen} t}{t}=1: é um resultado padrão de cálculo que pode ser provado geometricamente ou pelo Teorema do Confronto; intuitivamente \operatorname{sen} t se comporta como t quando t é pequeno.
Como as duas limites laterais existem, são iguais entre si e igualam o valor da função em 3, segue que
\lim_{x\to 3} f(x)=f(3),
ou seja, f é contínua em x=3.
Passo 8
Juntando tudo:
mostramos que f é contínua em todos os pontos x>3;
mostramos que f é contínua em todos os pontos x<3;
mostramos que f é contínua em x=3.
Portanto f é contínua em todo (-\infty,\infty).
Força aí — deu trabalho, mas o importante é que a chave foi verificar o ponto de mudança x=3 usando desigualdade/squeeze e o limite \operatorname{sen} t/t\to1.