Considere agora o sistema de equações lineares em 3 variáveis cuja matriz ampliada é A.
b) Para que valores de a e b o sistema admite solução?
c) Resolva o sistema com a=3 e b=-1.
Se a\neq2, então a-2\neq0 e há pivô na coluna 3 (linha 4 original). Depois, se também b\neq-1, teremos pivô em coluna 4 (linha 3 original), dando posto 4; se b=-1, a linha 3 é zero e o posto fica 3.
Se a=2, a linha 4 reduzida é (0,0,0,-1), pivô na coluna 4, e linha 3 só tem b+1 mas fica na mesma coluna 4, não gera pivô novo; então o posto é sempre 3 (não importa b).
Resumindo,
Vimos que \operatorname{rank}(A)=4 se e só se a\neq2 e b\neq-1, o que daria \rank(M)=3 mas \rank(A)=4, não cabível.
Portanto o único caso com \rank(A)=\rank(M) é
a\neq2\quad\text{e}\quad b=-1,
onde ambos valem 3.
Passo 6
Resolvendo o sistema para a=3\), \(b=-1\). As equações são
\[\begin{cases} x+y-z=1,\\\\ 2x+3y+z=2,\\\\ -\,x-y+z=-1,\\\ x+2y+3z=0. \end{cases}
Note que a terceira é o negativo da primeira, então basta usar as três independentes. De x+y-z=1\] vem \(x=1-y+z. Substituindo em 2x+3y+z=2 dá
a) \displaystyle\rank(A)=4 se e só se a\neq2 e b\neq-1; caso contrário \rank(A)=3.
b) O sistema tem solução exata quando a\neq2 e b=-1.
c) Para a=3, b=-1, a solução é