Prove o seguinte:
Sejam
e
matrizes
uma matriz
e
uma matriz
. Se
, onde
é uma matriz
de zeros, então
implica que
.
Sejam
Passo 1
O enunciado trata da regressão linear em forma matricial: temos um vetor de observações
, um vetor de parâmetros
, uma matriz de regressores
e um vetor de erros
. Sabemos que
e que os resíduos estão ortogonais às colunas de
, isto é,
O objetivo é mostrar que, sob a condição de
invertível, o vetor de parâmetros satisfaz
Passo 2
Multiplicamos a equação de regressão pela matriz transposta de
. Partindo de
temos
Pelo distributivo de matrizes, isto dá
Passo 3
Aplicamos a hipótese de ortogonalidade dos resíduos, que diz
Substituindo em
obtemos as chamadas equações normais:
Passo 4
Para isolar
precisamos que
seja invertível (o que ocorre quando as colunas de
são linearmente independentes). Assumindo essa invertibilidade, multiplicamos a equação normal pela inversa de
à esquerda:
Passo 5
Como
, o lado direito simplifica para
. Logo chegamos à solução desejada: