Seja
uma amostra i.i.d. de uma Bernoulli
.
Obtenha o limite inferior de Cramér-Rao no que toca à estimação de
.
Obtenha o limite inferior de Cramér-Rao no que toca à estimação de
Passo 1
Beleza, então o que a questão pede é: temos uma amostra independente e identicamente distribuída (i.i.d.)
de uma Bernoulli de parâmetro
(ou seja, cada
vale 1 com probabilidade
e 0 com probabilidade
), e precisamos achar o limite inferior de Cramér–Rao para estimar
.
Conteúdo: teoria de estimação, informação de Fisher e limite de Cramér–Rao.
O que vamos usar:
• Definição da função de massa de probabilidade de uma Bernoulli.
• Log-verossimilhança, score e segunda derivada.
• Fórmula da informação de Fisher e a forma do CRLB:
Conteúdo: teoria de estimação, informação de Fisher e limite de Cramér–Rao.
O que vamos usar:
• Definição da função de massa de probabilidade de uma Bernoulli.
• Log-verossimilhança, score e segunda derivada.
• Fórmula da informação de Fisher e a forma do CRLB:
Passo 2
Primeiro escrevemos a verossimilhança conjunta dos dados. Para cada
temos
Como são i.i.d., a verossimilhança é
Agora pegamos o logaritmo para facilitar derivadas:
Passo 3
Calculamos o score, que é a derivada da log-verossimilhança em relação a
:
Depois calculamos a segunda derivada:
Passo 4
A informação de Fisher de toda a amostra é
Como
tem valor esperado
, substituímos na expressão de
e tomamos o sinal negativo:
Passo 5
O limite inferior de Cramér–Rao diz que, para qualquer estimador não-viesado
de
,
Resposta
O limite inferior de Cramér–Rao para estimar
a partir de
observações Bernoulli
é