O enunciado dá o sistema linear com parâmetro m\):
\[\begin{cases} (m-1)x + 2y = 0,\\[4pt] 4x + (m+1)y = 0. \end{cases}
O que se pede é discutir (classificar) o sistema em função de (m]: quando ele tem única solução, quando tem infinitas soluções, e qual é essa(s) solução(ões).]
Passo 2
Estratégia (sem formalizar teoria pesada ainda): para um sistema linear 2\times2\) homogêneo da forma
\[\begin{cases} a x + b y = 0,\\[4pt] c x + d y = 0, \end{cases}
uma maneira simples é calcular o determinante da matriz dos coeficientes
\Delta = ad-bc.
Vou usar esse critério porque é direto e é a forma mais prática para um (2\times2]. Vou explicar o porquê do critério no passo seguinte.]
Passo 3
Explicando o critério (com calma, passo a passo):
O sistema é homogêneo (termos independentes são zero), logo a solução x=0,\;y=0 (solução trivial) sempre existe.
Se \Delta \neq 0, a matriz de coeficientes é invertível; isso implica que a única solução do sistema homogêneo é a trivial (0,0). Uma justificativa rápida: pela Regra de Cramer para sistemas lineares, as soluções seriam x=\Delta_x/\Delta e y=\Delta_y/\Delta; mas como os termos independentes são zeros, \Delta_x=\Delta_y=0, então x=y=0.
Se \Delta = 0, a matriz não é invertível; então as equações são linearmente dependentes e, porque o sistema é homogêneo e consistente, existem infinitas soluções (um espaço de soluções de dimensão \ge 1). Em palavras simples: as duas equações são múltiplas entre si, então só impõem uma relação entre x e y, gerando uma família de soluções com um parâmetro livre.
Passo 4
Calculemos o determinante da matriz dos coeficientes do sistema dado. A matriz é
Logo \Delta=0 exatamente quando m=3 ou m=-3; para todo outro m temos \Delta\neq 0.]
Passo 5
Usando o critério do passo 3 e o cálculo do passo 4:
Se m\neq \pm 3 então \Delta\neq 0 e o sistema tem única solução (a trivial) (x,y)=(0,0). Chamamos isso de sistema possível e determinado (SPD).
Se m=3 ou m=-3 então \Delta=0 e teremos infinitas soluções (sistema possível e indeterminado — SPI). Agora vamos encontrar explicitamente as famílias de soluções nesses dois casos.
Passo 6
Caso m=3. Substituindo em cada equação:
(m-1)x+2y=(3-1)x+2y=2x+2y=0,
4x+(m+1)y=4x+(3+1)y=4x+4y=0.
Note que a segunda equação é exatamente o dobro da primeira, então há somente uma relação efetiva: 2x+2y=0, ou dividindo por 2,
x+y=0.
Parametrizando: seja t\in\mathbb{R} um parâmetro livre; tomando y=t obtemos x=-t. Assim o conjunto de soluções é
\{(-t,\;t)\mid t\in\mathbb{R}\}.
Passo 7
Caso m=-3. Substituindo:
(m-1)x+2y=(-3-1)x+2y=-4x+2y=0,
4x+(m+1)y=4x+(-3+1)y=4x-2y=0.
Ambas as equações são equivalentes (a segunda é -1 vezes a primeira), então há uma única relação efetiva. Da primeira obtemos
Parametrizando: seja t\in\mathbb{R}; tomando x=t obtemos y=2t. Assim o conjunto de soluções é
\{(t,\;2t)\mid t\in\mathbb{R}\}.
Passo 8
Resumo final e observações didáticas rápidas (para você decorar bem para a prova):
Para sistemas homogêneos 2\times2 calcule sempre \Delta = ad-bc. Se \Delta\neq 0 a única solução é a trivial. Se \Delta=0 procure ver qual equação é múltipla da outra e escreva a relação entre x e y, então parametrize com um parâmetro t.
Aqui funcionou muito direto porque \Delta=m^2-9 factorizou claramente em (m-3)(m+3).
Resposta
Para m\neq \pm 3: SPD, única solução (0,0).
Para m=3: SPI, conjunto de soluções \{(-t,\;t)\mid t\in\mathbb{R}\}.
Para m=-3: SPI, conjunto de soluções \{(t,\;2t)\mid t\in\mathbb{R}\}.