Suponha que X seja uma variável aleatória com distribuição normal de média \mu e variância \sigma 2=1. Para uma amostra de tamanho n, x 1, \ldots, x n, determine o estimador de máxima verossimilhança (EMV) para \mu e mostre que o mesmo é um estimador consistente.
No caso da distribuição normal, temos que os EMV para \mu e \sigma^{2} são
\hat{\mu}=\bar{X} \text { e } \hat{\sigma}^{2}=\sum_{i=1}^{n} \frac{\left(X_{i}-\bar{X}\right)^{2}}{n} .
Para obter o EMV da função h\left(\mu, \sigma^{2}\right)=\sqrt{\sigma^{2}}=\sigma, temos:
\hat{\sigma}=\sqrt{\hat{\sigma}^{2}}=\sqrt{\sum_{i=1}^{n} \frac{\left(X_{i}-\bar{X}\right)^{2}}{n}}

Passo 1

O enunciado dá uma amostra x_{1},\ldots,x_{n} retirada de uma variável aleatória X com distribuição normal de média \mu e variância conhecida \sigma^{2}=1. As perguntas são:
  1. Determinar o estimador de máxima verossimilhança (EMV) para \mu.
  2. Mostrar que esse estimador é consistente.
Informações relevantes dadas:
  • Observações independentes X_{1},\ldots,X_{n} (cada uma com a mesma distribuição de X).
  • Densidade de cada observação, por ser normal com variância 1, é \displaystyle f(x_i;\mu)=\frac{1}{\sqrt{2\pi}}e^{-(x_i-\mu)^{2}/2}.
  • Queremos a estimativa de \mu que maximize a verossimilhança e provar que converge para \mu quando n\to\infty.

Passo 2

Escrevemos a função verossimilhança como produto das densidades (assumindo independência):
L(\mu)=\prod_{i=1}^{n} f(x_i;\mu) =\prod_{i=1}^{n}\frac{1}{\sqrt{2\pi}}e^{-(x_i-\mu)^{2}/2}.
Como a constante (2\pi)^{-n/2} não depende de \mu, podemos focar na parte exponencial. Simplificando obtemos
L(\mu)=(2\pi)^{-n/2}\exp\!\Big(-\frac{1}{2}\sum_{i=1}^{n}(x_i-\mu)^{2}\Big).

Passo 3

É mais prático maximizar o log-verossimilhança. Tomando logaritmo:
\ell(\mu)=\log L(\mu)=-\frac{n}{2}\log(2\pi)-\frac{1}{2}\sum_{i=1}^{n}(x_i-\mu)^{2}.
Como o primeiro termo não depende de \mu, a parte relevante é -\tfrac{1}{2}\sum_{i=1}^{n}(x_i-\mu)^{2}. Para encontrar o máximo, derivamos \ell(\mu) em relação a \mu e igualamos a zero. Calculando a derivada:
\frac{d}{d\mu}\ell(\mu)=-\frac{1}{2}\sum_{i=1}^{n}\frac{d}{d\mu}(x_i-\mu)^{2} =-\frac{1}{2}\sum_{i=1}^{n}\big(-2(x_i-\mu)\big) =\sum_{i=1}^{n}(x_i-\mu).
Igualando a zero:
\sum_{i=1}^{n}(x_i-\mu)=0 \quad\Rightarrow\quad n\mu=\sum_{i=1}^{n}x_i.
Logo o candidato a máximo é
\hat{\mu}=\frac{1}{n}\sum_{i=1}^{n}x_i,
ou, em notação de variável aleatória, \hat{\mu}=\bar{X}=\dfrac{1}{n}\sum_{i=1}^{n}X_i.

Passo 4

Para confirmar que é máximo, verificamos a segunda derivada:
\frac{d^2}{d\mu^2}\ell(\mu)=\frac{d}{d\mu}\sum_{i=1}^{n}(x_i-\mu)=\sum_{i=1}^{n}(-1)=-n<0.
Segunda derivada negativa indica que o ponto crítico é um máximo. Portanto \hat{\mu}=\bar{X} é de fato o EMV.

Passo 5

Agora mostramos que \hat{\mu}=\bar{X} é consistente. Primeiro calculamos esperança e variância de \bar{X}. Como cada X_i tem E[X_i]=\mu e \operatorname{Var}(X_i)=1, pela linearidade da esperança:
E[\bar{X}] = \frac{1}{n}\sum_{i=1}^{n}E[X_i]=\frac{1}{n}\cdot n\mu=\mu.
E pela independência e propriedades da variância:
\operatorname{Var}(\bar{X})=\frac{1}{n^{2}}\sum_{i=1}^{n}\operatorname{Var}(X_i)=\frac{1}{n^{2}}\cdot n\cdot 1=\frac{1}{n}.
Então \bar{X} é um estimador não-viciado (esperança igual a \mu) e sua variância tende a zero quando n\to\infty.

Passo 6

Consistência em probabilidade significa que, para todo \varepsilon>0,
\Pr\big(|\bar{X}-\mu|>\varepsilon\big)\to 0\quad\text{quando }n\to\infty.
Aplicamos a desigualdade de Chebyshev:
\Pr\big(|\bar{X}-\mu|>\varepsilon\big)\le\frac{\operatorname{Var}(\bar{X})}{\varepsilon^{2}}=\frac{1}{n\varepsilon^{2}}.
Como o lado direito \dfrac{1}{n\varepsilon^{2}}\to 0 quando n\to\infty, segue que \bar{X}\xrightarrow{P}\mu. Portanto \hat{\mu}=\bar{X} é consistente. (Alternativamente, isto também decorre diretamente da Lei Fraca dos Grandes Números, que afirma que a média amostral converge em probabilidade para a esperança quando as observações são iid e têm esperança finita.)

Resposta

\displaystyle \hat{\mu}=\bar{X}=\frac{1}{n}\sum_{i=1}^{n}X_i\n \displaystyle \hat{\mu}=\bar{X}\text{ é consistente: }\bar{X}\xrightarrow{P}\mu\\ (\text{pois }\operatorname{Var}(\bar{X})=1/n\to0)é

Exercícios relacionados