O enunciado pergunta qual das alternativas fornece a matriz que representa a reflexão através do plano \,4x+6y+4z=0\, em \mathbb{R}^3.
Foi dada uma matriz que aparece em todas as alternativas:
O que precisamos decidir é qual expressão corresponde de fato à reflexão no plano dado.]
Passo 2
Conceito chave (aula rápida e prática): uma reflexão em \mathbb{R}^3 em relação a um plano tem estas propriedades lineares:
Todo vetor que pertence ao plano é deixado inalterado pela reflexão (ou seja, é autovetor com autovalor +1).
O vetor normal ao plano é enviado para o seu negativo (ou seja, é autovetor com autovalor -1).
Se conseguirmos uma base de \mathbb{R}^3 formada por dois vetores do plano e o vetor normal, a matriz da reflexão nessa base é diagonal com entradas (1,1,-1). Se S é a matriz cujas colunas são esses vetores da base escritos nas coordenadas padrão, então a matriz da reflexão na base canônica é
\text{(reflexão)} = S \; \begin{pmatrix}1&0&0\\[4pt]0&1&0\\[4pt]0&0&-1\end{pmatrix} S^{-1}.ã
Esse é o fato fundamental: conjugação por S converte a forma diagonal (na base própria) para a base canônica.]
Passo 3
Vamos identificar o vetor normal do plano \,4x+6y+4z=0. O vetor normal é
n=(4,6,4).
Agora observe as colunas da matriz S. Escrevendo-as:
Como os produtos escalares são zero, v_1 e v_2 estão no plano 4x+6y+4z=0. Portanto as três colunas de S formam uma base onde as duas primeiras são vetores do plano e a terceira é o normal.
Passo 5
Pelo Passo 2, nessa base a matriz da reflexão é diagonal com autovalores +1 para os vetores do plano e -1 para o normal. Assim a matriz diagonal apropriada é
é a alternativa (E). As outras alternativas trocam a ordem (como S^{-1}DS) ou usam diagonais distintas, portanto não coincidem com a matriz da reflexão que acabamos de deduzir.]
Passo 7
Recapitulando de forma leve: identificamos o vetor normal, vimos que ele é a terceira coluna de S, verificamos que as outras duas colunas ficam no plano, então a matriz diagonal dos autovalores é \operatorname{diag}(1,1,-1) e a conjugação por S nos dá a matriz da reflexão na base canônica — que é exatamente a alternativa (E).