Sejam X_{1}, \ldots, X_{n} uma amostra aleatória extraída de uma polução X. Encontre estimador de \theta usado o método de máxima verossimilhança quando X tem distribuição:
\operatorname{Bin}(n, \theta).

Passo 1

O enunciado dá uma amostra aleatória X_{1},\ldots,X_{n} com observações independentes vindas da mesma distribuição binomial. O enunciado original escreveu \operatorname{Bin}(n,\theta), mas aí houve uma ambiguidade porque já usamos n para o tamanho da amostra. Para evitar confusão, vou renomear o número de ensaios da binomial para m (número conhecido de tentativas por observação) e manter n como tamanho da amostra. Assim temos:
  • Cada X_i é uma v.a. discreta com distribuição \operatorname{Bin}(m,\theta) (ou seja, número de sucessos em m ensaios, probabilidade de sucesso \theta).
  • Observações X_1,\ldots,X_n são independentes e identicamente distribuídas (i.i.d.).
  • O que se pede: encontrar o estimador de \theta pelo método da máxima verossimilhança (MLE).

Passo 2

Escrevendo a função de massa de probabilidade (pmf) de cada X_i: P(X_i=x_i)=\binom{m}{x_i}\theta^{x_i}(1-\theta)^{m-x_i},
onde \binom{m}{x_i} é o coeficiente binomial (número de maneiras de escolher x_i sucessos em m ensaios), \theta^{x_i} representa a contribuição das probabilidades dos sucessos e (1-\theta)^{m-x_i} a dos fracassos. Como as observações são independentes, a verossimilhança (função que dá a probabilidade conjunta das observações como função de \theta) é o produto das pmf’s individuais:
L(\theta)=\prod_{i=1}^{n}\binom{m}{x_i}\theta^{x_i}(1-\theta)^{m-x_i}.
Agora vamos simplificar esse produto. Note que os coeficientes binomiais não dependem de \theta, então podem ser agrupados numa constante. Somando os expoentes de \theta e de (1-\theta) obtemos:
L(\theta)=\left(\prod_{i=1}^{n}\binom{m}{x_i}\right)\theta^{\sum_{i=1}^n x_i}(1-\theta)^{nm-\sum_{i=1}^n x_i}.
Defina S=\sum_{i=1}^n X_i. Então L(\theta)=C\;\theta^{S}(1-\theta)^{nm-S},
onde C=\prod_{i=1}^{n}\binom{m}{x_i} é constante em \theta.

Passo 3

Para maximizar a verossimilhança é mais simples trabalhar com o log-verossimilhança (o log transforma o produto em soma e preserva o local do máximo). Definimos \ell(\theta)=\log L(\theta). Como C é constante em \theta,
\ell(\theta)=\log C + S\log\theta + (nm-S)\log(1-\theta).
A derivada da log-verossimilhança em relação a \theta (usando regras básicas: derivada de \log\theta é 1/\theta, e de \log(1-\theta) é -1/(1-\theta)) é
\ell'(\theta)=\frac{S}{\theta}-\frac{nm-S}{1-\theta}.
Explico: a parte S\log\theta produz S/\theta e a parte (nm-S)\log(1-\theta) produz (nm-S)\cdot\frac{-1}{1-\theta}.

Passo 4

O estimador de máxima verossimilhança \hat\theta é encontrado resolvendo \ell'(\theta)=0 (pontos críticos) e verificando que é máximo. Igualando a zero:
\frac{S}{\theta}-\frac{nm-S}{1-\theta}=0.
Multiplicando ambos os lados por \theta(1-\theta) para eliminar denominadores:
S(1-\theta)-(nm-S)\theta=0.
Desenvolvendo:
S - S\theta - nm\theta + S\theta = 0 \quad\Longrightarrow\quad S - nm\theta = 0.
Logo
\hat\theta = \frac{S}{nm}.
Em termos da média amostral \bar X=\dfrac{1}{n}\sum_{i=1}^n X_i=\dfrac{S}{n}, podemos escrever também
\hat\theta=\frac{\bar X}{m}.
Interpretação intuitiva: \hat\theta é a proporção total de sucessos observados dividida pelo número total de ensaios ( nm), ou a média de sucessos por ensaio (\bar X) dividida por m.

Passo 5

Precisamos verificar que esse ponto crítico realmente é um máximo da log-verossimilhança (e não um mínimo). Calcule a segunda derivada:
\ell''(\theta)=-\frac{S}{\theta^{2}}-\frac{nm-S}{(1-\theta)^{2}}.
Como ambos os termos à direita são negativos (somas de termos positivos com sinal negativo), \ell''(\theta)<0 para 0<\theta<1. Portanto \hat\theta é de fato um ponto de máximo (log-verossimilhança côncava), logo é o MLE.

Passo 6

Algumas observações úteis para a prova (resumo das propriedades que costumam pedir):
  • Consistência/expectation: como \mathbb{E}[X_i]=m\theta, temos \mathbb{E}[S]=nm\theta, então \mathbb{E}[\hat\theta]=\dfrac{\mathbb{E}[S]}{nm}=\theta. Ou seja, \hat\theta é não-viesado.
  • Variância: \operatorname{Var}(X_i)=m\theta(1-\theta), então \operatorname{Var}(S)=nm\theta(1-\theta) e
\operatorname{Var}(\hat\theta)=\frac{\operatorname{Var}(S)}{(nm)^2}=\frac{\theta(1-\theta)}{nm}.
Essas fórmulas dizem que o estimador se concentra em torno de \theta quando n cresce.

Resposta

\displaystyle \hat\theta=\frac{\sum_{i=1}^{n}X_i}{nm}=\frac{\bar X}{m}

Exercícios relacionados