Estratégia básica e por quê (breve): primeiro verifico se \det(A)\neq0. Se \det(A)\neq0 então o sistema tem solução única. Se \det(A)=0 então não há solução única: pode ser que haja infinitas soluções (sistema compatível indeterminado) ou que não haja solução (sistema incompatível). Neste último caso preciso comparar as posturas (rangos) da matriz dos coeficientes e da matriz aumentada [A\mid b], o que faço via eliminação de Gauss.
Breve explicação das ferramentas que vou usar:
O determinante de A (quando A é quadrada) indica se A é invertível. Se A é invertível (\det(A)\neq0) então existe solução única dada por x=A^{-1}b.
Eliminação de Gauss: aplico operações elementares de linha (somar múltiplos de uma linha em outra, trocar linhas, multiplicar linha por escalar não nulo) para triangularizar a matriz aumentada; aí leio se aparece uma equação impossível (como 0= \text{constante não nula}ã) indicando inconsistência, ou se sobra grau de liberdade indicando infinitas soluções.
Passo 3
Calculo do determinante de A. Vou expandir pela primeira linha:
Conclusão deste passo: \det(A)=0, logo A não é invertível e o sistema não tem solução única. Preciso então usar eliminação de Gauss para decidir entre incompatível ou compatível com infinitas soluções.]
Vou aplicar operações elementares sobre as linhas para triangularizar.
Lembrete rápido sobre operações permitidas (só para relembrar): podemos (i) trocar duas linhas, (ii) multiplicar uma linha por um escalar não nulo, (iii) somar a uma linha um múltiplo de outra linha. Essas operações não mudam o conjunto de soluções.]
Passo 5
Eliminação: primeiro zerei as entradas abaixo de a_{11}=1 usando R_2\leftarrow R_2-3R_1 e R_3\leftarrow R_3-5R_1.
Observação: as duas primeiras colunas das linhas 2 e 3 parecem proporcionais: (-12,-6)=3\cdot(-4,-2). Isso significa que as linhas 2 e 3 têm a mesma combinação linear nas colunas dos coeficientes. Para verificar consistência, subtraio 3 vezes a linha 2 da linha 3: R_3\leftarrow R_3-3R_2.
Calculemos R_3-3R_2:
Primeira coluna: 0-3\cdot0=0.
Segunda coluna: -12-3\cdot(-4)=-12+12=0.
Terceira coluna: -6-3\cdot(-2)=-6+6=0.
Termo independente: -20-3\cdot(-2)=-20+6=-14.
Portanto a linha 3 fica [0\;0\;0\mid -14].
Passo 7
Interpretação do resultado da eliminação: a linha final [0\;0\;0\mid -14] corresponde à equação
0\cdot x+0\cdot y+0\cdot z=-14,
ou seja
0=-14,
que é uma contradição impossível. Isso significa que o sistema é inconsistente: não existe tripla (x,y,z) que satisfaça todas as equações ao mesmo tempo.
Em termos de teoria de matrizes: o posto (rank) da matriz dos coeficientes A é 2 (há duas linhas linearmente independentes), enquanto o posto da matriz aumentada [A\mid b] é 3 (porque a linha [0\;0\;0\mid -14] mostra que a coluna de termos independentes não está no espaço gerado pelas colunas de A). Como os postos são diferentes, o sistema é incompatível (teorema de Rouché–Capelli).
Passo 8
Conclusão e palavras de incentivo: chegamos a que o sistema não tem solução. Pode ser frustrante quando aparece uma contradição, mas é um resultado perfeitamente válido — indica que as três equações são incompatíveis entre si. Bom trabalho em seguir a eliminação até o fim!
Resposta
Classificação: sistema incompatível (inconsistente).
Solução: não existe solução (o sistema não tem solução).