f(x)= \begin{cases}\frac{x^{2}+a x-4}{x+1}, & \text { se } x<-1 \\\\ 12, & \text { se } x=-1 \\\\ 3 x^{2}+b x+1, & \text { se } x>-1\end{cases}
Passo 1
O enunciado dá uma função definida por partes f:\mathbb{R}\to\mathbb{R}\):
\[f(x)= \begin{cases}\dfrac{x^{2}+a x-4}{x+1}, & \text{se } x<-1, \\[4pt] 12, & \text{se } x=-1, \\[4pt] 3x^{2}+b x+1, & \text{se } x>-1. \end{cases}
Como o enunciado não especificou diretamente a pergunta, o objetivo implícito e mais comum para esse tipo de questão é: determinar os valores de a\] e \(b que tornam f contínua em x=-1 (ou concluir que não existem tais valores). Vou trabalhar com isso: encontrar a e b que garantam continuidade de f em x=-1.]
Passo 2
Lembrete didático sobre continuidade num ponto: para que f seja contínua em x=-1 é necessário e suficiente que as três quantidades sejam iguais:
o limite pela esquerda \displaystyle\lim_{x\to -1^-} f(x),
o valor no ponto f(-1),
o limite pela direita \displaystyle\lim_{x\to -1^+} f(x).
Aqui f(-1)=12 é dado. Então vamos calcular as duas limitações laterais e ver se é possível igualá-las a 12 escolhendo a e b.
Passo 3
Calcular o limite pela esquerda \displaystyle\lim_{x\to -1^-}\dfrac{x^{2}+a x-4}{x+1}.
Primeiro, observe que se o numerador não se anula em x=-1 então, quando x\to-1, o denominador (x+1)\to 0 e o quociente tende para \pm\infty (não é um limite finito). Portanto, para que haja uma chance de obter um limite finito precisamos que o numerador também se anule em x=-1.
Avaliar o numerador em x=-1:
(-1)^{2}+a(-1)-4 = 1 - a - 4 = -a - 3.
Para anular o numerador em x=-1 impõe-se
-a-3 = 0 \quad\Longrightarrow\quad a = -3.
Passo 4
Com a=-3 o numerador se fatoriza e o quociente simplifica. Vamos fazer a fatoração explicitamente:
Resumo até aqui: se quisermos limite finito pela esquerda devemos ter a=-3 e então esse limite vale -5. Se a\neq -3 o limite pela esquerda não é finito.
Passo 5
Calcular o limite pela direita \displaystyle\lim_{x\to -1^+} 3x^{2}+b x+1.
Como a expressão do ramo direito é um polinômio, ela é contínua onde está definida, e portanto o limite pela direita é o valor do polinômio avaliado em x=-1. Logo
\lim_{x\to -1^+} (3x^{2}+b x+1) = 3(-1)^{2} + b(-1) + 1 = 3 - b + 1 = 4 - b.
Para que a continuidade em x=-1 valha, precisamos que esse limite seja igual a f(-1)=12 e também igual ao limite pela esquerda (que vimos ser -5 quando a=-3). Assim a condição pela direita seria
4 - b = 12 \quad\Longrightarrow\quad b = -8,
se quiséssemos forçar o ramo direito a concordar com o valor dado 12.
Passo 6
Agora confrontar as três quantidades:
Se a\neq -3, então \lim_{x\to -1^-} f(x) não é finito, logo não pode ser igual a 12: impossível ter continuidade.
Se a=-3, então \lim_{x\to -1^-} f(x) = -5.
O valor no ponto é f(-1)=12.
Para a direita, se escolhermos b=-8 então \lim_{x\to -1^+} f(x)=12.
Portanto, mesmo escolhendo a=-3 (para ter limite finito à esquerda) e b=-8 (para fazer o limite pela direita igual a 12), obtemos
ou seja, a esquerda e o valor no ponto não coincidem. Não existe escolha de a que torne \lim_{x\to -1^-} f(x) igual a 12, porque, como vimos, quando o limite pela esquerda é finito ele vale -5 (caso a=-3), e para qualquer outro a esse limite é infinito. Assim não há nenhuma combinação de a e b que faça simultaneamente as três quantidades serem iguais.
Passo 7
Comentário útil e encorajador: se fosse permitido alterar o valor f(-1) dado, então seria possível tornar a função contínua. Especificamente:
para obter continuidade é preciso a=-3 (para que o ramo esquerdo tenha limite finito) e então o limite comum das duas laterais seria -5 à esquerda; para que o ramo direito tenha também -5 precisa-se de 4-b=-5, ou seja b=9. Assim, com a=-3, b=9 e redefinindo f(-1)=-5, a função ficaria contínua em x=-1.
Mas, como o problema fixou f(-1)=12, essa possibilidade não se aplica aqui.
Resposta
Não existem a,b\in\mathbb{R} tais que f seja contínua em x=-1.