A pergunta é: para quais valores de m o sistema tem infinitas soluções?]
Passo 2
Explicando a ideia que vamos usar (de um jeito bem tranquilo): um sistema linear tem infinitas soluções quando é consistente (sem contradição) e o número de equações independentes (o posto da matriz dos coeficientes) é menor que o número de incógnitas. Formalmente, escrevendo A a matriz dos coeficientes e (A|b) a matriz aumentada, o sistema tem infinitas soluções quando
porque aqui há 4 incógnitas. Vou aplicar eliminação de Gauss na matriz aumentada para achar o posto e ver quando há contradição ou liberdade de variáveis.
Não apareceu nenhuma linha do tipo [0\;0\;0\;0\mid c] com c\neq0. Logo o sistema é sempre consistente (não há contradição independente de m).
As linhas não nulas indicam pivôs. Há pelo menos as duas primeiras linhas não nulas (pivôs nas colunas de x_1 e x_2). A quarta linha dá um pivô adicional na coluna de x_4 se, e somente se, m\neq0. Se m=0 a quarta linha também vira linha nula.
Portanto:
Se m\neq0 então as linhas não nulas são 3 (linha 1, linha 2 e linha 4), logo \operatorname{rank}(A)=\operatorname{rank}(A|b)=3. Como 3<4, há variáveis livres e o sistema tem infinitas soluções (grau de liberdade =4-3=1).
Se m=0 então as linhas não nulas são 2 (linha 1 e linha 2), logo \operatorname{rank}(A)=\operatorname{rank}(A|b)=2. Como 2<4, também há infinitas soluções (grau de liberdade =4-2=2).
Concluímos que para qualquer valor de m o sistema é consistente e tem posto menor que 4, logo sempre tem infinitas soluções.
Passo 6
(Para fixar bem o entendimento, mostro as soluções em forma parametrizada nos dois casos.)
Caso m\neq0\): da última linha \(m x_{4}=0\) segue \(x_{4}=0\). Seja \(s\) um parâmetro para \(x_{3}\): \(x_{3}=s\). Da segunda linha \(x_{2}+4x_{3}-3x_{4}=1\) vem \(x_{2}=1-4s\). Da primeira linha \(x_{1}+2x_{2}-x_{3}+x_{4}=3\) vem
\[x_{1}=3-2x_{2}+x_{3}-x_{4}=3-2(1-4s)+s=1+9s.
Caso m=0\]: a quarta linha é nula, então \(x_{3} e x_{4} são parâmetros livres. Chamando s=x_{3} e t=x_{4}, da segunda linha obtemos x_{2}=1-4s+3t. Da primeira linha obtemos