1. (2,0 pontos) Sejam \boldsymbol{\beta} e \boldsymbol{b} dois vetores no \mathbb{R}^{k}. Sejam \boldsymbol{y} e \boldsymbol{\varepsilon} dois vetores no \mathbb{R}^{n}. Finalmente, seja X uma matriz n \times k. Sendo \boldsymbol{b}=\left(X^{T} X\right)^{-1} X^{T} \boldsymbol{y} e \boldsymbol{y}=X \boldsymbol{\beta}+\boldsymbol{\varepsilon}, mostre que \boldsymbol{b}-\boldsymbol{\beta}=\left(X^{T} X\right)^{-1} X^{T} \boldsymbol{\varepsilon}.

Passo 1

O enunciado está no contexto de regressão linear em forma matricial. Temos os vetores \boldsymbol{\beta}, \boldsymbol{b}\in\mathbb{R}^k e \boldsymbol{y}, \boldsymbol{\varepsilon}\in\mathbb{R}^n, e a matriz X de dimensão n\times k. Sabemos que
\boldsymbol{b} = \bigl(X^{T}X\bigr)^{-1}X^{T}\boldsymbol{y},
que é a solução de mínimos quadrados, e que
\boldsymbol{y} = X\boldsymbol{\beta} + \boldsymbol{\varepsilon}.
O objetivo é mostrar que
\boldsymbol{b} - \boldsymbol{\beta} = \bigl(X^{T}X\bigr)^{-1}X^{T}\boldsymbol{\varepsilon}.
Para isso usaremos álgebra matricial: substituição e propriedades de inversão e distributividade.

Passo 2

Substituímos \boldsymbol{y} = X\boldsymbol{\beta} + \boldsymbol{\varepsilon} na expressão de \boldsymbol{b}. Assim,
\boldsymbol{b} = \bigl(X^{T}X\bigr)^{-1}X^{T}\bigl(X\boldsymbol{\beta} + \boldsymbol{\varepsilon}\bigr).

Passo 3

Aplicando a distributividade de X^{T} sobre a soma dentro do parêntese, obtemos
\boldsymbol{b} = \bigl(X^{T}X\bigr)^{-1}\bigl(X^{T}X\,\boldsymbol{\beta} + X^{T}\boldsymbol{\varepsilon}\bigr).

Passo 4

Usamos agora a propriedade de inversão de matrizes: \bigl(X^{T}X\bigr)^{-1}(X^{T}X)=I_k. Então
\boldsymbol{b} = I_k\,\boldsymbol{\beta} \;+\;\bigl(X^{T}X\bigr)^{-1}X^{T}\boldsymbol{\varepsilon} = \boldsymbol{\beta} \;+\;\bigl(X^{T}X\bigr)^{-1}X^{T}\boldsymbol{\varepsilon}.

Passo 5

Para chegar ao formato desejado, basta isolar \boldsymbol{b}-\boldsymbol{\beta}. Subtraindo \boldsymbol{\beta} de ambos os lados:
\boldsymbol{b} - \boldsymbol{\beta} = \bigl(X^{T}X\bigr)^{-1}X^{T}\boldsymbol{\varepsilon}.

Resposta

\boldsymbol{b} - \boldsymbol{\beta} = \bigl(X^{T}X\bigr)^{-1}X^{T}\boldsymbol{\varepsilon}.

Exercícios relacionados