As opções são: (A) -8, (B) -7, (C) -6, (D) -5, (E) -4, (F) -3, (G) -2, (H) -1.
O que precisamos: encontrar o(s) valor(es) de k que tornam o sistema compatível (isto é, que não gerem uma contradição do tipo 0= \text{não-zero}ã).
Passo 2
Estratégia: usar eliminação de Gauss (operações elementares por linhas) para reduzir a matriz e verificar se surge alguma linha impossível. Lembrete rápido sobre operações por linhas: podemos somar múltiplos de uma linha a outra sem alterar o conjunto de soluções. Vou eliminar abaixo da primeira coluna (usar R_i para designar linhas).
Agora uso o pivô em R_3 (valor -4 na terceira coluna) para zerar a entrada correspondente em R_4. Faço:
R_4 \leftarrow R_4 + \tfrac{3}{2}R_3
ou, de modo mais simples e sem frações, note que 6 + (-4) = 2\cdot (3) + (-4) — mas prefiro uma operação inteira direta: primeiro posso fazer R_4 \leftarrow R_4 + R_3 se eu quiser zero? Vamos calcular diretamente R_4 + R_3:
terceira entrada: 6 + (-4) = 2. Isso não zera; para zerar exatamente, a operação correta é R_4 \leftarrow R_4 + \tfrac{3}{2}R_3. Porém há caminho mais simples: observe que podemos escolher R_4 \leftarrow R_4 + R_3 e depois combinar; mas para consistência basta obter a forma de linha que indique contradição ou não. Vou realizar a operação
Mas é preferível eliminar completamente a terceira coluna em R_4. Para isso basta agora multiplicar R_4 por 2 e somar com R_3 multiplicada por 1? Uma forma direta e limpa: usar R_4 \leftarrow R_4 + \tfrac{1}{2}R_3 para zerar a terceira entrada. Aplicando R_4 \leftarrow R_4 + \tfrac{1}{2}R_3:
terceira: 2 + \tfrac{1}{2}(-4)=2 -2 =0.
augmentada: (k+4) + \tfrac{1}{2}(-2)=k+4 -1 = k+3.
No entanto, se preferir operações inteiras, podemos ter obtido diretamente, desde a matriz do Passo 3, a operação R_4 \leftarrow R_4 + R_3 seguida de R_4 \leftarrow R_4 + \tfrac{1}{2}R_3; o importante é o resultado final correto. Vou seguir com a forma mais direta matematicamente exata: aplicar
R_4 \leftarrow R_4 + \tfrac{1}{2}R_3,
partindo da matriz do Passo 3. Assim obtemos finalmente
(Observação didática curta: usar frações em operações por linhas é perfeitamente permitido; escolhi uma operação que zera exatamente a entrada para ficar com uma linha completamente nula no bloco de coeficientes quando apropriado.)
Passo 5
Interpretação da última linha: após eliminação temos uma linha que corresponde à equação
0x_1 + 0x_2 + 0x_3 = k+4,
ou seja \,0 = k+4.
Para que não haja contradição (para que o sistema seja compatível) precisamos que essa igualdade seja verdadeira, logo
k+4 = 0 \quad\Longrightarrow\quad k = -4.
Se k \neq -4 a linha final seria 0 = número não-nulo, uma contradição, tornando o sistema incompatível.
Passo 6
Conclusão sobre existência e unicidade: para k = -4 a última linha vira 0=0, o posto da matriz de coeficientes é igual ao posto da matriz aumentada (ambos 3), e como há 3 incógnitas o sistema terá solução única. Para qualquer outro k o sistema é incompatível.