O vetor coluna é \displaystyle \left[\begin{array}{c}k \\[2pt] -1 \\[2pt] -1\end{array}\right].
A pergunta é: quais valores de \,k\in\mathbb{R}\, tornam a expressão igual a [0] (ou seja, o escalar zero)?]
Passo 2
Estratégia e revisão rápida de conceito (matemática usada).
Produto matriz vezes vetor: se A é 3\times3 e v é vetor coluna em \mathbb{R}^3, então A v é vetor coluna em \mathbb{R}^3 cujas componentes são os produtos escalares das linhas de A com v.
Produto vetor linha r por vetor coluna w é o produto escalar (dot product) r\cdot w=\sum r_i w_i, que dá um escalar.
Vou calcular primeiro A multiplicado pelo vetor coluna \displaystyle v=\left[\begin{array}{c}k\\\ -1\\\ -1\end{array}\right], obtendo um vetor em \mathbb{R}^3. Em seguida faço o produto da linha \left[\begin{array}{lll}k & 0 & 1\end{array}\right] por esse vetor resultante, obtendo um polinômio em k. Finalmente resolvo a equação polinomial igual a zero.
Passo 3
Calcular A v, com A=\left[\begin{array}{lll}1 & 1 & 0 \\[2pt]1 & 0 & 2 \\[2pt]0 & 2 & 0\end{array}\right] e v=\left[\begin{array}{c}k\\[2pt]-1\\[2pt]-1\end{array}\right].
As componentes de A v são:
\begin{aligned} (A v)_1 &= 1\cdot k + 1\cdot(-1) + 0\cdot(-1) = k-1,\\[4pt] (A v)_2 &= 1\cdot k + 0\cdot(-1) + 2\cdot(-1) = k-2,\\[4pt] (A v)_3 &= 0\cdot k + 2\cdot(-1) + 0\cdot(-1) = -2. \end{aligned}
Portanto
A v = \left[\begin{array}{c}k-1\\[2pt]k-2\\[2pt]-2\end{array}\right].]
Passo 4
Agora faço o produto da linha r=\left[\begin{array}{lll}k & 0 & 1\end{array}\right] pelo vetor A v. Esse produto é o somatório k\cdot (k-1) + 0\cdot (k-2) + 1\cdot(-2). Calculando term a term:
A condição do enunciado exige que esse escalar seja zero.
Passo 5
Montar e resolver a equação polinomial:
k^2 - k - 2 = 0.
Isto é uma equação quadrática. Para resolver uso a fórmula quadrática ou fatoração. Tentar fatorar: procurar dois números cujo produto seja -2 e soma seja -1. Esses números são -2 e 1. Assim
k^2 - k - 2 = (k-2)(k+1).
Portanto os zeros são dados por k-2=0 ou k+1=0, ou seja k=2 ou k=-1.
Passo 6
Checagem rápida (substituição para confirmar):
Para k=2: k^2-k-2 = 4-2-2=0.
Para k=-1: k^2-k-2 = 1-(-1)-2 = 1+1-2=0.
Ambos satisfazem a equação, logo são válidos.