O enunciado dá um sistema homogêneo de três equações e três incógnitas:
\begin{cases} x - y - z = 0,\\\ x - 2y - 2z = 0,\\\\ 2x + k\,y + z = 0. \end{cases}
Queremos que ele admita soluções próprias (isto é, além da trivial x=y=z=0, tenha soluções não-triviais). Para sistemas homogêneos, isso ocorre se e somente se a matriz de coeficientes for singular.
Passo 2
Escrevemos a matriz dos coeficientes
A = \begin{pmatrix} 1 & -1 & -1\\\\ 1 & -2 & -2\\\\ 2 & k & 1 \end{pmatrix}
e impomos a condição de singularidade:
\det(A)=0.
Passo 3
Calculamos o determinante por cofactores ao longo da primeira linha: