Verifique, explicando, de forma minuciosa, se as seguintes afirmações são verdadeiras, falsas ou duvidosas.
Em um modelo de regressão que contém o intercepto, a soma dos resíduos é sempre igual a zero.

Passo 1

O que o enunciado pede: verificar se a afirmação abaixo é verdadeira, falsa ou duvidosa, e explicar minuciosamente.
A afirmação: “Em um modelo de regressão que contém o intercepto, a soma dos resíduos é sempre igual a zero.”
Informações dadas (explícitas ou implícitas):
  • Trata-se de um modelo de regressão linear com intercepto.
  • Interpreta-se que o ajuste é feito por mínimos quadrados ordinários (OLS), a forma mais comum.
  • Precisa-se decidir se a soma dos resíduos \sum_{i} e_i é sempre zero e justificar.

Passo 2

Definições e notação (explicando cada símbolo).
  • n é o número de observações.
  • y é o vetor de respostas de dimensão n\times 1.
  • X é a matriz de regressores de dimensão n\times p. Como o modelo contém intercepto, uma das colunas de X é o vetor de uns \mathbf{1}.
  • \beta é o vetor de parâmetros de dimensão p\times 1.
  • e é o vetor de resíduos definido por e = y - \hat{y}, onde \hat{y} são os valores ajustados.
  • Na formulação linear, assume-se o modelo
y = X\beta + \varepsilon
onde \varepsilon é o vetor de erros verdadeiros (desconhecidos).

Passo 3

O objetivo do OLS e a definição dos resíduos em termos de \hat\beta.
  • O ajuste por mínimos quadrados escolhe \hat\beta que minimiza a soma dos quadrados dos resíduos. Escrevendo a função objetivo:
S(\beta)=e'e=(y-X\beta)'(y-X\beta).
  • Os resíduos após ajuste são
e=y-X\hat\beta.

Passo 4

Derivação das equações normais (passo a passo, sem pular etapas).
  • Para encontrar o mínimo de S(\beta) calcula-se a derivada (gradiente) de S em relação a \beta e iguala-se a zero.
  • Expandindo S(\beta) e aplicando derivação matricial (ou fazendo componente a componente) obtém-se a condição
\frac{\partial S}{\partial \beta} = -2X'(y-X\beta) = 0.
  • Igualando a zero vem a equação normal
X'(y-X\hat\beta)=0.
Explicando: cada componente dessa equação corresponde a derivar S em relação a um coeficiente \beta_j e impõe que a soma ponderada dos resíduos por x_{ij} seja zero.

Passo 5

Consequência imediata: ortogonalidade regressors–resíduos.
  • Da equação normal temos, reescrevendo,
X'e = 0,
ou seja, o vetor de resíduos e é ortogonal (produto interno zero) a cada coluna de X.
  • Isso significa que para cada regressor j,
\sum_{i=1}^n x_{ij}\, e_i = 0.
Explicando: a soma dos resíduos multiplicada por cada coluna de X é zero.

Passo 6

Como isso dá \sum_i e_i = 0 quando há intercepto.
  • Se a primeira coluna de X é o vetor de uns \mathbf{1} (que representa o intercepto), então a equação correspondente à primeira componente de X'e=0 é
\mathbf{1}' e = 0.
  • Mas \mathbf{1}' e = \sum_{i=1}^n e_i. Portanto
\sum_{i=1}^n e_i = 0.
  • Conclusão: sempre que o ajuste for por OLS e a matriz X contiver explicitamente uma coluna de uns (intercepto), a soma dos resíduos será exatamente zero (assumindo operações exatas).

Passo 7

Interpretação intuitiva e relação com as médias.
  • A condição \sum_i e_i=0 significa que a média dos resíduos é zero:
\bar{e}=\frac{1}{n}\sum_{i=1}^n e_i = 0.
  • Outra maneira de ver: a média dos valores ajustados \overline{\hat{y}} coincide com a média observada \bar{y}. De fato,
\bar{\hat{y}}=\frac{1}{n}\mathbf{1}'\hat{y}=\frac{1}{n}\mathbf{1}'(y-e)=\bar{y}-\bar{e}=\bar{y}.
Isso é consequência direta da ortogonalidade com \mathbf{1}.

Passo 8

Condições e exceções: quando a afirmação NÃO vale.
  • A propriedade vale sob as condições:
    • O ajuste é feito por mínimos quadrados ordinários (OLS) sem penalização.
    • A matriz X realmente contém a coluna de uns (intercepto).
    • A solução OLS existe (por exemplo, X tem posto completo; caso contrário há degenerescência).
  • Casos em que a soma dos resíduos pode não ser zero:
    • Se o intercepto foi omitido (ou seja, não há coluna de uns em X), então \sum_i e_i não precisa ser zero.
    • Em regressão ponderada (WLS) a relação é \mathbf{1}'W e = 0 e não \mathbf{1}' e=0 em geral; assim a soma simples dos resíduos pode ser diferente de zero.
    • Em estimadores penalizados (por ex., ridge, lasso) as equações normais mudam e \sum_i e_i pode não ser zero.
    • Em métodos robustos (M-estimators) ou em ajustes por mínimos absolutos, a propriedade também pode falhar.
    • Em cálculo numérico com precisão finita, pode aparecer um resíduo somando um valor muito próximo de zero, porém não exatamente zero por erros de arredondamento.

Passo 9

Exemplo numérico curto para fixar (passo a passo).
  • Considere n=2 observações com y=(1,3)' e x=(1,2)'. Monta-se X com intercepto:
X=\begin{pmatrix}1 & 1 \\[4pt] 1 & 2\end{pmatrix}, \qquad y=\begin{pmatrix}1 \\[4pt] 3\end{pmatrix}.
  • Calculando \hat\beta=(X'X)^{-1}X'y obtém-se (fazer as contas rapidamente)
X'X=\begin{pmatrix}2 & 3 \\[4pt] 3 & 5\end{pmatrix}, \quad X'y=\begin{pmatrix}4 \\[4pt] 7\end{pmatrix}.
  • Resolva (X'X)\hat\beta = X'y. A solução é \hat\beta=( -1,\,2)' (chegando nisso por álgebra simples).
  • Os valores ajustados são
\hat{y}=X\hat\beta=\begin{pmatrix}1 \\[4pt] 3\end{pmatrix}.
  • Aqui os resíduos e=y-\hat{y} são (0,0)' e claramente \sum e_i = 0. Mesmo em exemplos genéricos não degenerados a soma será zero, como demonstrado teoricamente acima.]

Passo 10

Resumo final da verificação (resumindo e encorajando).
  • A propriedade é uma consequência direta das equações normais do OLS e da presença da coluna de uns no X.
  • É uma propriedade muito útil (por exemplo, para checar se a implementação numérica está correta): ao ajustar por OLS com intercepto, espere soma dos resíduos aproximadamente zero (exata na álgebra exata).

Resposta

Verdadeira

Exercícios relacionados