O enunciado dá um sistema linear homogêneo com parâmetro k\) e pede: determinar os valores de \(k\) para os quais o sistema admite soluções não triviais (ou seja, para os quais \(\det(A)=0\)). O sistema é
\[\begin{cases} (k-1)x + 2y = 0,\\[4pt] 3x + ky = 0. \end{cases}
A pergunta é: para quais valores de k esse sistema homogêneo tem soluções não triviais?]
Passo 2
Lembrete teórico (passo-a-passo didático): um sistema linear homogêneo A\mathbf{v}=\mathbf{0} (aqui \mathbf{v}=(x,y)^T) sempre tem a solução trivial \mathbf{v}=\mathbf{0}. Para existir alguma solução não trivial é necessário e suficiente que a matriz de coeficientes seja singular, isto é, que sua determinante seja zero.
Para uma matriz 2\times2
\begin{pmatrix}a & b \\[4pt] c & d\end{pmatrix},
a determinante é dada pela fórmula
\det = ad - bc.
Aqui podemos identificar a=k-1, b=2, c=3 e d=k. Vou aplicar a fórmula do determinante a esses coeficientes.]
Passo 3
Calcular \det(A) com os coeficientes identificados:
\det(A) = (k-1)\cdot k - 2\cdot 3.
Desenvolvendo,
\det(A) = k(k-1) - 6 = k^2 - k - 6.
Para que haja solução não trivial precisamos de \det(A)=0. Assim devemos resolver a equação quadrática
k^2 - k - 6 = 0.
Fatorando o polinômio:
k^2 - k - 6 = (k-3)(k+2).
Portanto as raízes são as soluções de (k-3)(k+2)=0, ou seja
k=3 \quad\text{ou}\quad k=-2.
Passo 4
Verificação e forma das soluções não triviais (para ver concretamente que realmente existem soluções além da trivial):
Para k=3\) o sistema fica
\[\begin{cases} (3-1)x + 2y = 0 \Rightarrow 2x + 2y = 0,\\[4pt] 3x + 3y = 0. \end{cases}
As duas equações são equivalentes e reduzem a x + y = 0\]. Logo as soluções são da forma \[(x,y) = (t,-t) com parâmetro t\in\mathbb{R} (há infinitas soluções não triviais).
Novamente as duas equações coincidem; de -3x + 2y = 0\] segue \(y = \tfrac{3}{2}x. As soluções são da forma (x,y) = (t,\tfrac{3}{2}t) com parâmetro t\in\mathbb{R} (novamente infinitas soluções não triviais).
Se k for diferente de 3 e de -2, a determinante é diferente de zero e a única solução é a trivial (0,0).]