\begin{cases} x - y + z = a,\\\ x + y + 3z = 2,\\\ x + y + b z = a, \end{cases}
queremos valores de a e b que façam o sistema ter infinitas soluções. O critério é que a matriz dos coeficientes tenha posto menor que 3 (para haver dependência) e que o posto da matriz aumentada seja igual ao posto da matriz dos coeficientes (para ser consistentes).
Passo 2
Escrevemos a matriz dos coeficientes e calculamos seu determinante:
A = \begin{pmatrix} 1 & -1 & 1\\\\ 1 & 1 & 3\\\\ 1 & 1 & b \end{pmatrix}.
O determinante de A é
\det(A) =1\cdot\bigl(1\cdot b - 3\cdot1\bigr) -(-1)\cdot\bigl(1\cdot b - 3\cdot1\bigr) +1\cdot\bigl(1\cdot1 - 1\cdot1\bigr) =2(b-3).
Para posto menor que 3, precisamos de \det(A)=0, ou seja
b-3=0 \quad\Longrightarrow\quad b=3.
Passo 3
Com b=3, as duas últimas equações do sistema ficam
x + y + 3z=2 \quad\text{e}\quad x + y + 3z=a.
Para o sistema continuar consistente, essas duas devem ser a mesma equação, exigindo