Os estimadores devem possuir certas propriedades para que possam ser considerados eficazes e confiáveis na realização de inferências estatísticas sobre os parâmetros de uma população com base em dados de uma amostra. Explique o que significa um estimador ser:
Eficiente
Eficiente
Passo 1
O enunciado pede que eu explique, de forma didática e passo a passo, o que significa um estimador ser eficiente. Não há dados numéricos adicionais nem figura: a tarefa é conceitual e ilustrativa.
Passo 2
Primeiro precisamos lembrar o que é um estimador e algumas medidas de qualidade:
- Um estimador é uma regra que, a partir dos dados da amostra, fornece um valor para estimar um parâmetro desconhecido
da população. Chamamos o estimador de . - O viés (\emph{bias}) de
é a diferença entre a média do estimador e o verdadeiro parâmetro:
- A variância do estimador mede a dispersão das estimativas em torno da sua média:
- O erro quadrático médio (MSE) combina viés e variância:
Essas definições são importantes porque eficiência está ligada principalmente à variância (e também à comparação entre variâncias).
Passo 3
Agora a definição conceitual de eficiência:
- Informalmente: dizer que um estimador é eficiente significa que ele “usa os dados tão bem quanto possível” para estimar
, produzindo estimativas com a menor variância possível entre os estimadores concorrentes (usualmente entre os estimadores sem viés). - Formalmente, dentro da classe dos estimadores não viesados (ou sob condições de regularidade), existe um limite inferior para a variância que qualquer estimador não viesado pode alcançar. Esse limite é dado pela desigualdade de Cramér–Rao. Se um estimador não viesado
atinge esse limite, dizemos que ele é (Cramér–Rao) eficiente.
Passo 4
Apresentando a desigualdade de Cramér–Rao (CRLB) de forma simples:
- Seja
uma amostra de uma distribuição com função densidade (ou massa) que satisfaz condições regulares. Definimos a informação de Fisher por observação como
onde a esperança é em relação a
com parâmetro
.
- Para
observações independentes, a informação total é
- A desigualdade de Cramér–Rao afirma que, para qualquer estimador não viesado
,
- O valor
é o menor limite possível (sob as hipóteses da desigualdade) para a variância de um estimador não viesado. Se um estimador não viesado satisfaz
então
é eficiente (no sentido de Cramér–Rao).
Passo 5
Explicando a intuição do que isso significa na prática:
- Variância menor = estimativas mais concentradas ao redor do valor verdadeiro
= intervalos de confiança mais curtos e testes mais potentes. - Quando dizemos que um estimador é eficiente estamos dizendo que, dentre os estimadores honestos (não viesados) que respeitam as condições, ele atinge a menor incerteza possível imposta pela própria distribuição dos dados.
- Importante: eficiência é uma comparação de variâncias (ou cumprimento do limite de Cramér–Rao). Não é suficiente apenas ter pequena variância sem considerar a classe de estimadores ou o limite teórico.
Passo 6
Exemplo concreto e simples (muito útil para entender na prova):
- Suponha
i.i.d. com conhecido. O estimador usual para é a média amostral
- Verificamos que
é não viesado: . - A variância de
é
- Calculamos a informação de Fisher por observação (aqui eu mostro o passo):
- A função densidade de uma observação é
- O log-verossimilhança para uma observação é (ignorando constantes)
- A derivada em relação a
é
- A informação por observação é a esperança do quadrado dessa derivada:
- Assim,
e o CRLB é
- Conclusão do exemplo: como
coincide com o CRLB, é eficiente para estimar neste modelo. Esse exemplo é típico de prova: mostrar que a variância do estimador iguala .
Passo 7
Outros conceitos relacionados e cuidados que valem na prova:
- Eficiência relativa: para dois estimadores não viesados
e , defini-se a eficiência relativa de em relação a como
Se
, então
é mais eficiente (menor variância) que
.
- Eficiência assintótica: às vezes nenhum estimador atinge exatamente o CRLB para tamanho fixo
, mas conforme a variância de tende ao limite mínimo. Dizemos então que o estimador é assintoticamente eficiente. - Bias vs. eficiência: um estimador viesado pode ter MSE menor do que qualquer estimador não viesado; portanto eficiência (no sentido de CRLB) é uma propriedade útil, mas não é o único critério — MSE pode ser mais relevante em alguns contextos.
Passo 8
Como proceder num exercício de prova para mostrar que um estimador é eficiente (passo a passo prático):
- Verifique que o estimador é não viesado: calcule
e mostre que é . - Calcule
. - Calcule a informação de Fisher
(ou e multiplique por ). - Compare
com . Se forem iguais, o estimador é eficiente. - Se não for exatamente igual, verifique se a igualdade ocorre apenas no limite
(então é assintoticamente eficiente).
Passo 9
Resumo final e incentivo: eficiência significa atingir a menor variância possível (dentro da classe relevante) — em provas normalmente você vai mostrar isso verificando que a variância do estimador atinge o limite de Cramér–Rao. Dá trabalho no começo, mas seguindo os passos do Passo 8 você resolve a maioria dos exercícios. Força aí — você consegue!
Resposta
Um estimador é eficiente se, dentre os estimadores não viesados (sob as condições regulares), ele apresenta a menor variância possível, isto é, se sua variância atinge o limite inferior dado pela desigualdade de Cramér–Rao
(ou, em sentido assintótico, sua variância assintótica coincide com
).