Anotei explicitamente cada linha da matriz a partir das equações do enunciado.]
Passo 3
Breve aula sobre a Regra de Cramer aplicada aqui (com tom prático): para um sistema linear homogêneo \,A\mathbf{x}=0,
se \det(A)\neq0, então a única solução é a trivial \mathbf{x}=0 (sistema determinado e solução única);
se \det(A)=0, então existem soluções não-triviais e, por ser homogêneo, isso implica infinitas soluções (sistema indeterminado).
Portanto, para que o sistema seja indeterminado basta achar k tal que \det(A)=0. Vou calcular \det(A) passo a passo.
Passo 4
Calculamos o determinante de A por expansão pela primeira linha (uso a fórmula com cofatores). Sejam os elementos da primeira linha a_{11}=1, a_{12}=-1, a_{13}=-1. Os menores correspondentes são:
uma solução não-trivial é, por exemplo, (x,y,z)=(0,1,-1) (verifique substituindo nas equações). Isso mostra que para k=2 há soluções não-triviais, logo infinitas soluções.]