Os estimadores devem possuir certas propriedades para que possam ser considerados eficazes e confiáveis na realização de inferências estatísticas sobre os parâmetros de uma população com base em dados de uma amostra. Explique o que significa um estimador ser:
Eficiente

Passo 1

O enunciado pede que eu explique, de forma didática e passo a passo, o que significa um estimador ser eficiente. Não há dados numéricos adicionais nem figura: a tarefa é conceitual e ilustrativa.

Passo 2

Primeiro precisamos lembrar o que é um estimador e algumas medidas de qualidade:
  • Um estimador é uma regra que, a partir dos dados da amostra, fornece um valor para estimar um parâmetro desconhecido \theta da população. Chamamos o estimador de \hat{\theta}.
  • O viés (\emph{bias}) de \hat{\theta} é a diferença entre a média do estimador e o verdadeiro parâmetro:
\text{Bias}(\hat{\theta}) = \mathbb{E}[\hat{\theta}] - \theta.
  • A variância do estimador mede a dispersão das estimativas em torno da sua média:
\operatorname{Var}(\hat{\theta}) = \mathbb{E}\big[(\hat{\theta}-\mathbb{E}[\hat{\theta}])^2\big].
  • O erro quadrático médio (MSE) combina viés e variância:
\operatorname{MSE}(\hat{\theta}) = \mathbb{E}\big[(\hat{\theta}-\theta)^2\big] = \operatorname{Var}(\hat{\theta}) + \text{Bias}(\hat{\theta})^2.
Essas definições são importantes porque eficiência está ligada principalmente à variância (e também à comparação entre variâncias).

Passo 3

Agora a definição conceitual de eficiência:
  • Informalmente: dizer que um estimador é eficiente significa que ele “usa os dados tão bem quanto possível” para estimar \theta, produzindo estimativas com a menor variância possível entre os estimadores concorrentes (usualmente entre os estimadores sem viés).
  • Formalmente, dentro da classe dos estimadores não viesados (ou sob condições de regularidade), existe um limite inferior para a variância que qualquer estimador não viesado pode alcançar. Esse limite é dado pela desigualdade de Cramér–Rao. Se um estimador não viesado \hat{\theta} atinge esse limite, dizemos que ele é (Cramér–Rao) eficiente.

Passo 4

Apresentando a desigualdade de Cramér–Rao (CRLB) de forma simples:
  • Seja X_1,\dots,X_n uma amostra de uma distribuição com função densidade (ou massa) f(x;\theta) que satisfaz condições regulares. Definimos a informação de Fisher por observação como
I_1(\theta)=\mathbb{E}\left[\left(\frac{\partial}{\partial\theta}\ln f(X;\theta)\right)^2\right],
onde a esperança é em relação a X com parâmetro \theta.
  • Para n observações independentes, a informação total é
I(\theta)=n\,I_1(\theta).
  • A desigualdade de Cramér–Rao afirma que, para qualquer estimador não viesado \hat{\theta},
\operatorname{Var}(\hat{\theta}) \ge \frac{1}{I(\theta)}.
  • O valor 1/I(\theta) é o menor limite possível (sob as hipóteses da desigualdade) para a variância de um estimador não viesado. Se um estimador não viesado satisfaz
\operatorname{Var}(\hat{\theta}) = \frac{1}{I(\theta)},
então \hat{\theta} é eficiente (no sentido de Cramér–Rao).

Passo 5

Explicando a intuição do que isso significa na prática:
  • Variância menor = estimativas mais concentradas ao redor do valor verdadeiro \theta = intervalos de confiança mais curtos e testes mais potentes.
  • Quando dizemos que um estimador é eficiente estamos dizendo que, dentre os estimadores honestos (não viesados) que respeitam as condições, ele atinge a menor incerteza possível imposta pela própria distribuição dos dados.
  • Importante: eficiência é uma comparação de variâncias (ou cumprimento do limite de Cramér–Rao). Não é suficiente apenas ter pequena variância sem considerar a classe de estimadores ou o limite teórico.

Passo 6

Exemplo concreto e simples (muito útil para entender na prova):
  • Suponha X_1,\dots,X_n i.i.d. \mathcal{N}(\mu,\sigma^2) com \sigma^2 conhecido. O estimador usual para \mu é a média amostral
\bar{X}=\frac{1}{n}\sum_{i=1}^n X_i.
  • Verificamos que \bar{X} é não viesado: \mathbb{E}[\bar{X}]=\mu.
  • A variância de \bar{X} é
\operatorname{Var}(\bar{X})=\frac{\sigma^2}{n}.
  • Calculamos a informação de Fisher por observação (aqui eu mostro o passo):
    • A função densidade de uma observação é
    f(x;\mu)=\frac{1}{\sqrt{2\pi}\sigma}\exp\!\bigg(-\frac{(x-\mu)^2}{2\sigma^2}\bigg).
    • O log-verossimilhança para uma observação é (ignorando constantes)
    \ln f(x;\mu) = -\frac{(x-\mu)^2}{2\sigma^2} + \text{const}.
    • A derivada em relação a \mu é
    \frac{\partial}{\partial\mu}\ln f(x;\mu)=\frac{x-\mu}{\sigma^2}.
    • A informação por observação é a esperança do quadrado dessa derivada:
    I_1(\mu)=\mathbb{E}\left[\left(\frac{X-\mu}{\sigma^2}\right)^2\right]=\frac{1}{\sigma^4}\mathbb{E}[(X-\mu)^2]=\frac{1}{\sigma^2}.
    • Assim, I(\mu)=n/\sigma^2 e o CRLB é
    \frac{1}{I(\mu)}=\frac{\sigma^2}{n}.
  • Conclusão do exemplo: como \operatorname{Var}(\bar{X})=\sigma^2/n coincide com o CRLB, \bar{X} é eficiente para estimar \mu neste modelo. Esse exemplo é típico de prova: mostrar que a variância do estimador iguala 1/I(\theta).

Passo 7

Outros conceitos relacionados e cuidados que valem na prova:
  • Eficiência relativa: para dois estimadores não viesados \hat{\theta}_A e \hat{\theta}_B, defini-se a eficiência relativa de A em relação a B como
\text{eff}_{A,B}=\frac{\operatorname{Var}(\hat{\theta}_B)}{\operatorname{Var}(\hat{\theta}_A)}.
Se \text{eff}_{A,B}>1, então A é mais eficiente (menor variância) que B.
  • Eficiência assintótica: às vezes nenhum estimador atinge exatamente o CRLB para tamanho fixo n, mas conforme n\to\infty a variância de \hat{\theta} tende ao limite mínimo. Dizemos então que o estimador é assintoticamente eficiente.
  • Bias vs. eficiência: um estimador viesado pode ter MSE menor do que qualquer estimador não viesado; portanto eficiência (no sentido de CRLB) é uma propriedade útil, mas não é o único critério — MSE pode ser mais relevante em alguns contextos.

Passo 8

Como proceder num exercício de prova para mostrar que um estimador é eficiente (passo a passo prático):
  1. Verifique que o estimador é não viesado: calcule \mathbb{E}[\hat{\theta}] e mostre que é \theta.
  2. Calcule \operatorname{Var}(\hat{\theta}).
  3. Calcule a informação de Fisher I(\theta) (ou I_1(\theta) e multiplique por n).
  4. Compare \operatorname{Var}(\hat{\theta}) com 1/I(\theta). Se forem iguais, o estimador é eficiente.
  5. Se não for exatamente igual, verifique se a igualdade ocorre apenas no limite n\to\infty (então é assintoticamente eficiente).

Passo 9

Resumo final e incentivo: eficiência significa atingir a menor variância possível (dentro da classe relevante) — em provas normalmente você vai mostrar isso verificando que a variância do estimador atinge o limite de Cramér–Rao. Dá trabalho no começo, mas seguindo os passos do Passo 8 você resolve a maioria dos exercícios. Força aí — você consegue!

Resposta

Um estimador é eficiente se, dentre os estimadores não viesados (sob as condições regulares), ele apresenta a menor variância possível, isto é, se sua variância atinge o limite inferior dado pela desigualdade de Cramér–Rao \displaystyle \operatorname{Var}(\hat{\theta})=\frac{1}{I(\theta)} (ou, em sentido assintótico, sua variância assintótica coincide com 1/I(\theta)).

Exercícios relacionados