Reescrevendo cada equação isolando os termos com x,y,z à esquerda e o termo independente à direita, temos as quatro equações seguintes (informação extraída diretamente do enunciado):
O que a questão pede é a classificação do sistema (se é possível e determinado, possível e indeterminado, ou impossível/incompatível). A partir daqui vamos resolver passo a passo para decidir qual é o caso.
Passo 2
Vou transformar o sistema em matriz aumentada e aplicar eliminação de Gauss. Primeiro escrevo a matriz aumentada [A\mid b] (coeficientes e termos independentes), colocando as linhas na mesma ordem das equações reescritas:
Agora o próximo pivô natural é o elemento 4 em R_2, coluna 2. Vou usar R_2 para eliminar as entradas na coluna 2 das linhas 3 e 4. Para evitar frações faço combinações lineares inteiras:
Para zerar a posição em R_3 (que é -6), posso formar 2R_3 + 3R_2. Calculo:
Agora examinei as últimas duas linhas, que contêm apenas a variável z:
A linha 3 diz 21 z = 18, ou seja
z = \frac{18}{21} = \frac{6}{7}.
A linha 4 diz -1\cdot z = 2, ou seja
z = -2.
Essas duas equações dão valores diferentes para z (\frac{6}{7} e -2), o que é uma contradição. Isso significa que não existe nenhuma tupla (x,y,z) que satisfaça simultaneamente todas as equações do sistema.
Passo 6
Vou explicar didaticamente por que essa contradição indica que o sistema é impossível (incompatível), de forma que você saiba interpretar rapidamente isso numa prova:
Conceito de posto (rank): o posto da matriz dos coeficientes A é o número máximo de linhas (ou colunas) linearmente independentes de A. O posto da matriz aumentada [A\mid b] é definido de forma análoga, olhando para as linhas (ou colunas) da matriz que inclui a coluna dos termos independentes.
Teorema básico (Rouché–Capelli, versão prática): o sistema linear é compatível (tem solução) se, e somente se, o posto de A for igual ao posto de [A\mid b]. Se esses postos são diferentes, o sistema é incompatível (sem solução).
No nosso processo de eliminação obtemos duas linhas que, apenas olhando para as colunas de coeficientes, são múltiplos entre si (por exemplo, [0,0,21] e [0,0,-1] são múltiplos). Isso mostra que na matriz de coeficientes o posto é, no máximo, 3 (não mais do que o número de incógnitas). Mas nas correspondentes linhas aumentadas os termos independentes [18] e [2] não satisfazem essa proporcionalidade (ou seja, [0,0,21\mid 18] não é múltiplo de [0,0,-1\mid 2]). Isso faz com que o posto da matriz aumentada seja maior que o posto da matriz de coeficientes — então \operatorname{rank}(A) < \operatorname{rank}([A\mid b]).
Conclusão imediata pelo teorema: quando \operatorname{rank}(A) < \operatorname{rank}([A\mid b]) o sistema não tem solução — é incompatível (impossível).
Passo 7
Resumo didático final (como você pode usar na prova):
Faça eliminação de Gauss até obter linhas que envolvem apenas uma variável; se alguma dessas linhas for do tipo [0\;0\;0\mid c] com c\neq 0, aí está a contradição direta (sistema impossível).
Alternativamente, compare postos: se o posto da matriz de coeficientes for menor que o posto da aumentada, o sistema é impossível.
No nosso caso encontramos duas equações que exigiriam dois valores diferentes para z. Portanto não há solução.