Determine o estimador de máxima verossimilhança dos parâmetros nos seguintes casos:
Sejam X_{1}, \ldots, X_{n} uma aa proveniente de uma população com função de probabilidade dada por
f(x)= \begin{cases}p^{x}(1-p)^{1-x} & \text { se } x=0 \text { ou } 1 \\\\ 0 & \text { se } c c\end{cases}
Passo 1
O enunciado dá uma amostra X_{1},\dots,X_{n}\) iid com função de probabilidade
\[f(x)=\begin{cases}p^{x}(1-p)^{1-x} & \text{se } x=0 \text{ ou } 1,\\[4pt] 0 & \text{caso contrário.}\end{cases}
As informações relevantes são: \;X_{i}\in\{0,1\}\] para todo \(i.
\;p é o único parâmetro desconhecido, com 0\le p\le1.
A pergunta é: determinar o estimador de máxima verossimilhança (MLE) para o(s) parâmetro(s) do modelo — aqui, para p.]
Passo 2
Vamos escrever a função verossimilhança. Por independência,
Comentário didático: a verossimilhança L(p) é a função que diz, para cada valor de p, quão provável é observar a amostra que obtivemos. O MLE é o valor de p que maximiza L(p).
Passo 3
É mais prático trabalhar com o log-verossimilhança (log-likelihood), porque o log transforma produtos em somas e preserva a ordem (maximizar L é o mesmo que maximizar \log L). Então
\ell(p)=\log L(p)=S\log p+(n-S)\log(1-p).
Agora vamos derivar \ell(p) em relação a p e encontrar o ponto crítico. Derivando (regra da derivada do log),
\frac{d\ell}{dp}=\frac{S}{p}-\frac{n-S}{1-p}.
Explicação: a derivada de \log p é 1/p; a de \log(1-p) é -1/(1-p) pela regra da cadeia.
Para 0<p<1 esse valor é estritamente negativo (soma de termos negativos), logo \ell(p) é concava para baixo e o ponto crítico é um máximo. Comentário sobre casos limite: se S=0 (todas as observações são 0) então \hat p_{\text{MLE}}=0; se S=n (todas são 1) então \hat p_{\text{MLE}}=1. Esses são máximos que ocorrem na fronteira do espaço de parâmetros e são aceitáveis como MLE.
Passo 6
Resumo didático e intuição: o MLE para p é a proporção de uns na amostra. Faz sentido intuitivo: se em n experiências Bernoulli você observou S sucessos (valor 1), a melhor estimativa de p é a frequência relativa S/n. Exemplo rápido: se n=10 e você observou S=3 uns, então \hat p_{\text{MLE}}=0{,}3.