As perguntas são:
(a) determinar condições sobre m e n para que o sistema possua uma única solução;
(b) determinar condições para que possua infinitas soluções;
(c) determinar condições para que não possua solução.]
Passo 2
Estratégia (explicação didática): para um sistema linear quadrado A\mathbf{x}=\mathbf{b} com 3 incógnitas, um teste rápido para ter solução única é verificar se a matriz dos coeficientes A é invertível. Um critério simples de invertibilidade é o determinante: se \det(A)\neq0 então A é invertível e o sistema tem exatamente uma solução (para qualquer \mathbf{b}). Se \det(A)=0 então a matriz não é invertível e teremos ou infinitas soluções ou nenhuma; nesse caso devemos checar a consistência do sistema (ou seja, se a combinação linear das equações homogêneas corresponde também à mesma combinação nos termos independentes).
Se \det(A)\neq0 então o sistema tem solução única. Como \det(A)=24(5-n), temos \det(A)\neq0 quando 5-n\neq0, ou seja, quando n\neq5. Nessa situação não há nenhuma restrição sobre m: para qualquer m o sistema terá exatamente uma solução.
Se \det(A)=0 então necessariamente n=5 e precisamos analisar a consistência do sistema (infinitas soluções ou nenhuma).
Passo 5
Caso n=5\): escrevemos o sistema específico
\[\left\{\begin{array}{l} 2x+4y+3z=9,\\[4pt] 6x+7z=13,\\[4pt] 4x+2y+5z=m. \end{array}\right.
Para decidir entre infinitas soluções ou nenhuma, verificamos se a terceira equação é combinação linear das duas primeiras (isto é, se existem escalares a,b tais que a\cdot(\text{eq}_1)+b\cdot(\text{eq}_2)=\text{eq}_3 na parte dos coeficientes).
Escrevendo a igualdade de coeficientes:
\begin{cases} 2a+6b=4 &\text{(coeficiente de }x\text{)},\\[4pt] 4a+0\cdot b=2 &\text{(coeficiente de }y\text{)},\\[4pt] 3a+7b=5 &\text{(coeficiente de }z\text{)}. \end{cases}
Da segunda equação obtemos 4a=2\Rightarrow a=\tfrac{1}{2}\]. Substituindo na primeira:
\[2\cdot\tfrac{1}{2}+6b=4 \quad\Rightarrow\quad 1+6b=4 \quad\Rightarrow\quad b=\tfrac{1}{2}.\]
Verificação no coeficiente de \(z:
que coincide com o coeficiente de z da terceira equação. Portanto a terceira equação é, na parte dos coeficientes, a combinação \tfrac{1}{2}\times(\text{eq}_1)+\tfrac{1}{2}\times(\text{eq}_2).]
Passo 6
Consistência do sistema com n=5: para que o sistema seja consistente essa mesma combinação precisa valer também para os termos independentes. Aplicando \tfrac{1}{2} em cada lado das primeiras duas equações no membro direito obtemos o termo direito combinado
Logo, se m=11 então a terceira equação é exatamente \tfrac{1}{2} da primeira mais \tfrac{1}{2} da segunda e o sistema é consistente com dependência entre equações. Nesse caso o posto da matriz dos coeficientes é 2 (menor que o número de incógnitas 3), então há infinitas soluções (um grau de liberdade). Para ver explicitamente a forma das soluções, escolhe-se um parâmetro t para z e resolve-se:
da segunda equação 6x+7z=13 vem
x=\frac{13-7z}{6}.
Substituindo em \,2x+4y+3z=9 e isolando y obtém-se (com z=t)
que mostra a família infinita de soluções quando n=5 e m=11.
Passo 7
Se n=5 mas m\neq11, então apesar da terceira equação ter os mesmos coeficientes lineares que a combinação \tfrac{1}{2}\,\text{eq}_1+\tfrac{1}{2}\,\text{eq}_2, os termos independentes não coincidem (à esquerda a combinação dá 11, à direita temos m\neq11), portanto há uma contradição e o sistema não é consistente — ou seja, não possui solução.
Resposta
(a) Única solução: n\neq5 (qualquer m).
(b) Infinitas soluções: n=5 e m=11.
(c) Nenhuma solução: n=5 e m\neq11.