Obtenha o valor de M, para que o sistema \left\{\begin{array}{ll}x+M y-(M+1) z & =1 \\\ M x+4 y+(M-1) z & =3\end{array}\right., nas incógnitas x, y, z, seja compatível.
Passo 1
O enunciado pede para achar os valores de M\) que tornam o sistema
\[\begin{cases} x + M y - (M+1)z = 1,\\\ M x + 4y + (M-1)z = 3 \end{cases}
compatível (isto é, que exista pelo menos uma solução). O conteúdo principal aqui é teoria de sistemas lineares: um sistema é compatível se, e somente se,
\mathrm{rank}(A) \;=\;\mathrm{rank}([A\mid b]),
onde A\] é a matriz dos coeficientes e \([A\mid b] é a matriz aumentada.
Passo 2
Vamos escrever a matriz dos coeficientes e a matriz aumentada:
A = \begin{pmatrix} 1 & M & -(M+1)\\\ M & 4 & M-1 \end{pmatrix}, \qquad [A\mid b] = \begin{pmatrix} 1 & M & -(M+1) & 1\\\ M & 4 & M-1 & 3 \end{pmatrix}.
Para o sistema ser compatível precisamos de
\mathrm{rank}(A) \;=\;\mathrm{rank}([A\mid b]).
Passo 3
Como A é 2\times3, o posto máximo é 2. Se alguma das menores 2\times2 de A for não nula, então \mathrm{rank}(A)=2. Vamos checar três menores principais:
Colunas x,y:
\det\begin{pmatrix}1 & M\\\ M & 4\end{pmatrix} =4 - M^2.