Considere os modelos:
\begin{gathered} \text { Modelo I: } Y_{i}=\beta_{1}+\beta_{2} X_{i}+u_{i} \\\ \text { Modelo II: } Y_{i}^{*}=\alpha_{1}+\alpha_{2} X_{i}^{*}+u_{i} \end{gathered}
Em que, Y^{*} e X^{*} são variáveis padronizadas. Mostre que \hat{\alpha}_{2}=\hat{\beta}\left(\frac{s_{x}}{s_{y}}\right) e, portanto, estabeleça que, embora os coeficientes angulares da regressão sejam independentes da mudança da origem, não são independentes da mudança de escala.

Passo 1

O enunciado nos dá dois modelos de regressão linear simples:
\text{Modelo I: } Y_{i}=\beta_{1}+\beta_{2} X_{i}+u_{i}
\text{Modelo II: } Y_{i}^{*}=\alpha_{1}+\alpha_{2} X_{i}^{*}+u_{i}
em que X_{i}^{*} e Y_{i}^{*} são as versões padronizadas de X_{i} e Y_{i}.
As perguntas que preciso responder são:
  • Mostrar a relação entre os coeficientes angulares estimados \hat{\alpha}_{2} e \hat{\beta}_{2}, ou seja provar que \hat{\alpha}_{2}=\hat{\beta}_{2}\left(\dfrac{s_{x}}{s_{y}}\right).
  • A partir disso, concluir que o coeficiente angular é independente da mudança da origem (adicionar constantes) mas depende da mudança de escala (multiplicar por constantes).
Informações dadas que vou usar (definições de padronização):
X_{i}^{*}=\dfrac{X_{i}-\bar{X}}{s_{x}},\qquad Y_{i}^{*}=\dfrac{Y_{i}-\bar{Y}}{s_{y}},
onde s_{x} e s_{y} são constantes de escala positivas (tipicamente as desvios-padrão amostrais) e \bar X,\bar Y são as médias amostrais.

Passo 2

Relembrando a fórmula do estimador de mínimos quadrados da inclinação em regressão linear simples. Para o Modelo I, o estimador da inclinação \hat{\beta}_{2} é dado por:
\hat{\beta}_{2}=\dfrac{\sum_{i=1}^{n}\bigl(X_{i}-\bar{X}\bigr)\bigl(Y_{i}-\bar{Y}\bigr)}{\sum_{i=1}^{n}\bigl(X_{i}-\bar{X}\bigr)^{2}}.
Explicando essa fórmula de forma didática: o numerador é a soma dos produtos das “diferenças em relação às médias” de X e Y (essa soma é proporcional à covariância amostral), e o denominador é a soma dos quadrados das diferenças de X em relação à sua média (proporcional à variância amostral de X). Intuitivamente, a inclinação é “quanto em média Y varia quando X varia”, e a razão cov/var captura essa ideia.
Todas as variáveis matemáticas nesta fórmula:
  • X_{i} e Y_{i} são observações;
  • \bar X=\dfrac{1}{n}\sum_{i}X_{i} e \bar Y=\dfrac{1}{n}\sum_{i}Y_{i} são as médias amostrais;
  • as somas são sobre i=1,\dots,n.

Passo 3

Propriedades das variáveis padronizadas que facilitam a conta. Pelo modo como definimos a padronização:
\bar{X^{*}}=\dfrac{1}{n}\sum_{i=1}^{n}X_{i}^{*}=\dfrac{1}{n}\sum_{i=1}^{n}\dfrac{X_{i}-\bar{X}}{s_{x}}=0, \qquad \bar{Y^{*}}=0.
Ou seja, as variáveis padronizadas têm média zero. Isso simplifica a fórmula do estimador para o Modelo II, porque nas fórmulas de mínimos quadrados aparecem sempre as diferenças em relação à média; aqui essas diferenças são simplesmente os próprios X_i^*,Y_i^*.

Passo 4

Escrever a fórmula da inclinação para o Modelo II usando as padronizações e simplificar. Pela fórmula de mínimos quadrados aplicada a X^{*},Y^{*}:
\hat{\alpha}_{2}=\dfrac{\sum_{i=1}^{n}\bigl(X_{i}^{*}-\bar{X^{*}}\bigr)\bigl(Y_{i}^{*}-\bar{Y^{*}}\bigr)}{\sum_{i=1}^{n}\bigl(X_{i}^{*}-\bar{X^{*}}\bigr)^{2}}.
Como \bar{X^{*}}=\bar{Y^{*}}=0, isso vira
\hat{\alpha}_{2}=\dfrac{\sum_{i=1}^{n}X_{i}^{*}Y_{i}^{*}}{\sum_{i=1}^{n}(X_{i}^{*})^{2}}.
Agora substituo as definições X_{i}^{*}=\dfrac{X_{i}-\bar{X}}{s_{x}} e Y_{i}^{*}=\dfrac{Y_{i}-\bar{Y}}{s_{y}} nas somas:
\sum_{i=1}^{n}X_{i}^{*}Y_{i}^{*} =\sum_{i=1}^{n}\dfrac{(X_{i}-\bar{X})(Y_{i}-\bar{Y})}{s_{x}s_{y}} =\dfrac{1}{s_{x}s_{y}}\sum_{i=1}^{n}(X_{i}-\bar{X})(Y_{i}-\bar{Y})
e
\sum_{i=1}^{n}(X_{i}^{*})^{2} =\sum_{i=1}^{n}\dfrac{(X_{i}-\bar{X})^{2}}{s_{x}^{2}} =\dfrac{1}{s_{x}^{2}}\sum_{i=1}^{n}(X_{i}-\bar{X})^{2}.
Agora a razão dá:
\hat{\alpha}_{2} =\dfrac{\dfrac{1}{s_{x}s_{y}}\sum_{i}(X_{i}-\bar{X})(Y_{i}-\bar{Y})} {\dfrac{1}{s_{x}^{2}}\sum_{i}(X_{i}-\bar{X})^{2}} =\dfrac{s_{x}}{s_{y}}\cdot \dfrac{\sum_{i}(X_{i}-\bar{X})(Y_{i}-\bar{Y})}{\sum_{i}(X_{i}-\bar{X})^{2}}.
Pelo passo 2, a fração final é exatamente \hat{\beta}_{2}. Portanto chegamos a
\hat{\alpha}_{2}=\hat{\beta}_{2}\left(\dfrac{s_{x}}{s_{y}}\right).

Passo 5

Interpretação e conclusão sobre mudança de origem versus mudança de escala.
  • Mudança da origem (adicionar constantes): se substituirmos X_{i} por X_{i}+c ou Y_{i} por Y_{i}+d, as diferenças X_{i}-\bar{X} e Y_{i}-\bar{Y} não mudam (porque \bar X e \bar Y mudam na mesma quantidade), logo a fórmula de \hat{\beta}_{2} permanece inalterada. Assim o coeficiente angular é independente da mudança da origem.
  • Mudança de escala (multiplicar por constantes): se multiplicarmos X por uma constante a>0 e Y por uma constante b>0, a inclinação transforma-se por um fator \dfrac{b}{a} (ver observação rápida: covariação escala com ab, variância de X escala com a^{2}, daí \hat\beta'=(ab)/(a^{2})\hat\beta=(b/a)\hat\beta). No caso de padronização nós multiplicamos X-\bar X por 1/s_{x} e Y-\bar Y por 1/s_{y}, portanto a inclinação é multiplicada por \dfrac{1/s_{y}}{1/s_{x}}=\dfrac{s_{x}}{s_{y}}. Isso mostra explicitamente que o coeficiente angular depende da mudança de escala.
Um exemplo numérico rápido para fixar a intuição: se s_{x}=2 e s_{y}=1, então \hat{\alpha}_{2}=2\hat{\beta}_{2}. Ou seja, ao dividir X por 2 (diminuir a escala de X) e manter Y igual, a inclinação medida em unidades padronizadas dobra.

Resposta

\hat{\alpha}_{2}=\hat{\beta}_{2}\left(\dfrac{s_{x}}{s_{y}}\right)

Exercícios relacionados