Sejam X_{1}, \ldots, X_{n} uma amostra aleatória extraída de uma polução X. Encontre estimador de \theta usado o método de máxima verossimilhança quando X tem distribuição: N(\theta, 1).
Passo 1
O enunciado pede: encontrar o estimador de \theta pelo método da máxima verossimilhança, quando temos uma amostra aleatória X_{1},\ldots,X_{n} extraída de uma população cuja distribuição é N(\theta,1).
Informações dadas e importantes:
X_1,\ldots,X_n\\ \text{são i.i.d. (independentes e identicamente distribuídas)}
\text{cada }X_i\text{ tem densidade }f(x_i;\theta)=\frac{1}{\sqrt{2\pi}}\exp\!\Big(-\frac{(x_i-\theta)^2}{2}\Big)
\text{o parâmetro desconhecido é }\theta\in\mathbb{R}\text{ e a variância é conhecida igual a }1.
O que devemos entregar: o estimador de \theta obtido pelo método da máxima verossimilhança (MLE).
Passo 2
Construir a função verossimilhança: como as observações são independentes, multiplicamos as densidades individuais. Isso nos dá a função verossimilhança L(\theta):
Explicação didática: a verossimilhança é a função que, vista como função de \theta com os dados fixos, mede “quão provável” é observar os dados para cada valor de \theta.
Passo 3
Tomar o logaritmo da verossimilhança (log-verossimilhança) para simplificar os cálculos: o log transforma produto em soma e preserva o máximo porque o log é uma função monótona crescente.
Comentário didático: a primeira parcela -\dfrac{n}{2}\log(2\pi) não depende de \theta, então, para maximizar em \theta, só precisamos preocupar com a segunda parcela.
Passo 4
Derivar a log-verossimilhança em relação a \theta (essa derivada é chamada de score) e igualar a zero para encontrar candidatos a máximo:
Observação didática: \dfrac{1}{n}\sum_{i=1}^n X_i é a média amostral, que denotamos por \overline{X}. Portanto o cálculo mostrou que o candidato a MLE é \overline{X}.
Passo 5
Verificar que é máximo: calcular a segunda derivada da log-verossimilhança em relação a \theta:
\frac{d^2\ell}{d\theta^2} = -n,
que é negativo para todo n>0. Como a segunda derivada é negativa, a solução encontrada é um máximo global da log-verossimilhança (função concava em \theta).
Passo 6
Interpretação e propriedades úteis para a prova (explicação passo a passo do porquê isso funciona na prática):
Unbiasedness (não enviesamento): como E(X_i)=\theta, temos
Limite de Cramér–Rao para variância de um estimador não enviesado: \operatorname{Var}(\hat\theta)\ge 1/I_n(\theta)=1/n. Como a média amostral tem \operatorname{Var}(\overline{X})=1/n, ela atinge o limite de Cramér–Rao e, portanto, é eficiente (tem a menor variância possível entre estimadores não enviesados).
Explicação didática rápida: a informação de Fisher mede a “quantidade de informação” sobre \theta contida na amostra; quando o estimador atinge o limite, é ótimo — nada consegue ser, em média, melhor (em variância).
Passo 8
Distribuição do estimador (útil tanto no exame quanto para construir intervalos): para amostras de uma normal com variância conhecida, a média amostral é normalmente distribuída:
\overline{X}\sim N\!\Big(\theta,\frac{1}{n}\Big).
Isso é exato (não só assintótico), porque soma de normais é normal. Consequência prática: podemos construir intervalos de confiança ou testes facilmente.