O que se pede: estabelecer a condição que a e b devem satisfazer para que o sistema seja compatível (ou seja, tenha pelo menos uma solução).]
Passo 2
Conceito importante (explicação didática): para um sistema linear como esse, formam-se a matriz dos coeficientes A e o vetor de termos independentes (vetor coluna) \mathbf{b}_{\text{vet}}:
Regra de compatibilidade (conceito): o sistema é compatível se, e somente se, o posto (rank) da matriz de coeficientes A for igual ao posto da matriz aumentada (A\,|\,\mathbf{b}_{\text{vet}}). Se \det(A)\neq0 então A tem posto 3 e o sistema é compatível para quaisquer a,b (tem solução única). Se \det(A)=0 então o posto de A é menor que 3 e é preciso verificar se \mathbf{b}_{\text{vet}} satisfaz as mesmas relações lineares entre as linhas (ou colunas) de A.]
Passo 3
Vamos calcular o determinante de A para saber se é singular ou não. Calculando \det(A):
Como \det(A)=0, a matriz A é singular e tem posto menor que 3. Então precisamos comparar relações lineares entre as linhas de A com as componentes do vetor de termos independentes.]
Passo 4
Procure uma relação linear entre as linhas (explicação didática sobre o que isso significa): se houver coeficientes \lambda_1,\lambda_2,\lambda_3 não todos zero tais que
deve resultar em 0=0 para que o vetor \mathbf{b}_{\text{vet}} esteja no mesmo subespaço gerado pelas linhas de A. Aplicando aos termos independentes:
a - b - 2\cdot 2 = 0.
Isto dá a condição
a - b - 4 = 0,
ou seja
a = b + 4.
Passo 6
Interpretação final (didática e prática): se \,a=b+4 então o vetor de termos independentes satisfaz a mesma dependência linear que as linhas de A, logo o posto da matriz aumentada é igual ao posto de A (ambos iguais a 2) e o sistema é compatível — neste caso o sistema tem infinitas soluções (uma família de soluções com um parâmetro livre). Se \,a\neq b+4 então ao aplicar a combinação acima nos termos independentes obtém-se um número diferente de zero, o que significa posto da matriz aumentada é 3 enquanto o posto de A é 2, então o sistema é incompatível (sem solução).
Passo 7
(Complemento prático — como resolver quando a condição é satisfeita) — supondo a=b+4, podemos reduzir o sistema a duas equações independentes (por exemplo as duas primeiras) e expressar as soluções em função de um parâmetro. Usando as equações (1) e (2):
x-2y-z=2, \qquad 2x+y+3z=b.
Da primeira, x=2+2y+z. Substituindo na segunda:
2(2+2y+z)+y+3z=b \quad\Rightarrow\quad 4+5y+5z=b,
ou
y+z=\frac{b-4}{5}.
Tomando z=t parâmetro livre, obtemos
y=\frac{b-4}{5}-t,\qquad x=\frac{2+2b}{5}-t,
com t\in\mathbb{R}. Essas são todas as soluções quando a=b+4.