O enunciado pede: identificar qual das alternativas (A) a (E) apresenta a matriz que representa a projeção ortogonal sobre o plano -5x + 2y + 5z = 0 em \mathbb{R}^3. Informações relevantes fornecidas:
A equação do plano é -5x + 2y + 5z = 0.
O vetor normal ao plano (retirado da equação) é \mathbf{n} = (-5,\,2,\,5)^{T}.
As alternativas apresentam expressões do tipo A D A^{-1} ou A^{-1} D A com matrizes A dadas e matrizes diagonais D sendo ou \operatorname{diag}(-1,1,1) ou \operatorname{diag}(0,1,1).
A pergunta é: qual dessas expressões calcula a matriz da projeção ortogonal no plano dado?
Passo 2
Primeiro, vamos lembrar o que significa “projeção ortogonal sobre um plano” e uma fórmula útil. Se W é um subespaço de dimensão 2 em \mathbb{R}^3 e \mathbf{n} é um vetor normal a W (ou seja, \mathbf{n} é ortogonal a todo vetor de W), então a projeção ortogonal P de \mathbb{R}^3 em W é dada pela fórmula
P = I - \frac{\mathbf{n}\mathbf{n}^{T}}{\mathbf{n}^{T}\mathbf{n}}.
Aqui:
I é a matriz identidade 3\times3.
\mathbf{n}\mathbf{n}^{T} é o produto externo (matriz 3\times3) cujo elemento (i,j) é n_i n_j.
\mathbf{n}^{T}\mathbf{n} é o produto interno de \mathbf{n} por si mesmo (um número), isto é, a soma dos quadrados das componentes de \mathbf{n}.
Essa fórmula produz a projeção ortogonal porque subtrai do vetor sua componente na direção de \mathbf{n}, deixando apenas a componente no plano W.
Passo 3
Aplique a fórmula ao nosso caso: o vetor normal é \mathbf{n}=(-5,\,2,\,5)^{T}. Calcule o denominador:
Isso caracteriza unicamente a projeção ortogonal. Podemos usar essa expressão para reconhecer qualquer expressão alternativa que implemente a mesma transformação linear.
Passo 4
Uma forma conceitual e prática de construir a matriz da projeção é usar uma base conveniente. Seja A a matriz cujas colunas são:
a primeira coluna igual ao vetor normal \mathbf{n},
as colunas segunda e terceira quaisquer vetores que pertençam ao plano (i.e., vetores ortogonais a \mathbf{n}) e que sejam linearmente independentes entre si.
Na base cujas coordenadas são dadas por A, a transformação “projetar ortogonalmente sobre o plano” tem a representação diagonal
D = \begin{pmatrix}0&0&0\\[2pt]0&1&0\\[2pt]0&0&1\end{pmatrix},
porque em coordenadas relativas a A a componente na direção de \mathbf{n} deve ser anulada (multiplicada por 0) e as componentes no plano devem ser preservadas (multiplicadas por 1). Voltando à base canônica, a matriz da projeção é
P = A\,D\,A^{-1}.
Observação conceitual importante (para não confundir): isso funciona precisamente porque a primeira coluna de A é \mathbf{n} (direção de projeção) e as outras duas colunas geram o plano ortogonal a \mathbf{n}. Como a decomposição v=\alpha\mathbf{n}+w com w no plano é única e essa decomposição é a decomposição ortogonal, zerar a primeira coordenada na base A corresponde exatamente à projeção ortogonal.]
Passo 5
Agora observamos as alternativas e identificamos uma que está na forma A\,D\,A^{-1} com D=\operatorname{diag}(0,1,1) e cuja primeira coluna de A seja \mathbf{n}=(-5,2,5)^{T}. A alternativa (B) é
Verifiquemos que as colunas 2 e 3 de A realmente pertencem ao plano -5x+2y+5z=0, ou seja, que são ortogonais a \mathbf{n}.
Segunda coluna de A: \mathbf{u}_2=(5,0,5)^{T}. Calcule \mathbf{n}\cdot\mathbf{u}_2 = (-5)\cdot 5 + 2\cdot 0 + 5\cdot 5 = -25 + 0 + 25 = 0. Logo \mathbf{u}_2 está no plano.
Terceira coluna de A: \mathbf{u}_3=(0,-5,2)^{T}. Calcule \mathbf{n}\cdot\mathbf{u}_3 = (-5)\cdot 0 + 2\cdot(-5) + 5\cdot 2 = 0 -10 +10 = 0. Logo \mathbf{u}_3 também está no plano.
As colunas 2 e 3 não são múltiplos uma da outra (por inspecção), então geram o plano. Assim A tem primeira coluna \mathbf{n} e colunas 2 e 3 que formam uma base do plano. Portanto A D A^{-1} é exatamente a projeção que zera a componente na direção de \mathbf{n} e preserva as componentes no plano — isto é, a projeção ortogonal no plano.]
Passo 6
Compare isso com as outras alternativas:
(A) e (C) usam a diagonal \operatorname{diag}(-1,1,1), que corresponde a uma reflexão (não a uma projeção).
(D) tem a ordem A^{-1} D A, que representa outra transformação (mudança de base na ordem incorreta) e não corresponde à projeção desejada.
Logo a única alternativa que corresponde à construção A\,\operatorname{diag}(0,1,1)\,A^{-1} com A cuja primeira coluna é o vetor normal é a alternativa (B).