Exercícios Resolvidos de Estimador De Máxima Verossimilhança

Ver Teoria

Enunciado

Qual o estimador de máxima verossimilhança para o parâmetro p de uma variável aleatória de Bernoulli escalada por uma constante c conhecida? Ou seja, de um modelo cuja variável aleatória assuma o valor igual a c (valor conhecido) com probabilidade p e 0 com probabilidade 1 - p . Mostre todos os passos do desenvolvimento da solução.

Passo 1

Antes de pensar no problema, você deve lembrar sobre a distribuição de Bernoulli, em uma variável aleatória X pode assumir o valor 1 com probabilidade de p e o valor 0 com probabilidade 1 - p . Neste problema, vamos trabalhar com uma distribuição bem parecida, só que ao invés da variável assumir o valor 1 , ela vai assumir o valor c .

O exercício quer que achemos o estimador de máxima verossimilhança para o parâmetro p da distribuição. Para isso, vamos ter que lembrar o que é a função de verossimilhança...

Consideremos uma amostra de n variáveis X i que seguem, supostamente, uma distribuição de Bernoulli como a desse problema, isto é,

X 1 ,   X 2 ,   … ,   X n

Cada uma dessas variáveis pode assumir os valores c com probabilidade p e 0 com probabilidade 1 - p . Com isso, a função distribuição de probabilidade para cada uma dessas variáveis é

f i x = p x c   1 - p 1 - x c

Aqui vale uma observação importante: no caso da distribuição de Bernoulli tradicional, a distribuição seria p x 1 - p 1 - x , de modo que para x = 1 teríamos p e para x = 0 teríamos 1 - p . Agora, para x = c , devemos ter f i c = p , enquanto para x = 0 , devemos ter f i 0 = 1 - p . Essa expressão que eu escrevi acima dá conta do recado!

Eu sei que você deve estar imaginando: “Como eu vou ter essa ideia? Eu vou chutar isso?” A resposta é: NÃO! Não fui um chute...

Olhe bem para expressão para o caso de Bernoulli:

p x ⋅ 1 - p 1 - x

Para x = 1 , o primeiro termo sobrevive e o segundo termo desaparece, aí o resultado é p . Já para x = 0 , o primeiro termo some e o segundo sobrevive, e o resultado é 1 - p . Na situação desse problema, o resultado deve ser p para x = c e 1 - p para x = 0 . Por isso eu tive que fazer essas pequenas alterações na função distribuição. A ideia é ir fazendo isso por tentativa e erro, até achar uma situação em que tudo bate! Note que no final, basicamente trocamos x por x / c ...

Passo 2

Agora que já entendemos bem a função distribuição de probabilidade para cada uma das variáveis X i de nossa amostra, vamos escrever a função de máxima verossimilhança. Ela nada mais é do que o produto das funções de distribuição de cada uma das variáveis:

L p ,   x 1 ,   … ,   x n = f 1 p ,   x 1 ⋅ f 2 p ,   x 2 ⋅ … ⋅ f n p ,   x n

Você deve estar se perguntando por que eu escrevi f i p ,   x i ao invés de f i x i , né? A ideia aqui é a seguinte: nós vamos usar a amostra para estimar o valor de p , que à priori é desconhecido. Portanto, a função de verossimilhança vai depender do valor de p . E aqui está o pulo do gato: para achar o estimador de p (que é o que o exercício pede), vamos maximizar a função L (daí o nome máxima verossimilhança)!

Como é mais fácil trabalhar com somas do que com produtos, vamos tomar o logaritmo de L :

ln ⁡ L = ln ⁡ f 1   f 2 … f n = ln ⁡ f 1 + ln ⁡ f 2 + … + ln ⁡ f n

Além disso, temos que

ln ⁡ f 1 = ln ⁡ p x 1 c   1 - p 1 - x 1 c = ln ⁡ p x 1 c + ln ⁡ 1 - p 1 - x 1 c = x 1 c ln ⁡ p + 1 - x 1 c ln ⁡ 1 - p

Fazendo o mesmo para ln ⁡ f 2 , ln ⁡ f 3 , ..., achamos

ln ⁡ L = x 1 c ln ⁡ p + 1 - x 1 c ln ⁡ 1 - p + … + x n c ln ⁡ p + 1 - x n c ln ⁡ 1 - p

Colocando ln ⁡ p e ln ⁡ 1 - p em evidência:

ln ⁡ L = x 1 c + … + x n c ln ⁡ p + 1 - x 1 c + … + 1 - x n c ln ⁡ 1 - p

Passo 3

Antes de prosseguir, vamos dar uma simplificada nos termos em parêntesis. PS: estou tentando ao máximo evitar a notação de somatório, mas se você se dá bem com ela aconselho você a empregá-la aqui!

x 1 c + … + x n c = 1 c x 1 + … + x n

1 - x 1 c + … + 1 - x n c = n - 1 c x 1 + … + x n

Na última expressão, o termo n apareceu pois somamos o valor um n vezes. Depois de tudo isso, achamos:

ln ⁡ L = 1 c x 1 + … + x n ln ⁡ p + n ln ⁡ 1 - p - 1 c x 1 + … + x n ln ⁡ 1 - p

Eu sei que é muito conta, mas já estamos quase acabando...

Passo 4

O passo final é achar o valor de p que maximiza essa expressão. Para isso, derivamos ln ⁡ L com relação a p :

∂ ln ⁡ L ∂ p = 1 c x 1 + … + x n ⋅ 1 p + n ⋅ 1 1 - p ⋅ - 1 - 1 c x 1 + … + x n ⋅ 1 1 - p ⋅ - 1

Portanto,

∂ ln ⁡ L ∂ p = 1 c x 1 + … + x n ⋅ 1 p + 1 c x 1 + … + x n ⋅ 1 1 - p - n ⋅ 1 1 - p

Por uma questão de economia, vamos escrever S = x 1 + … + x n :

∂ ln ⁡ L ∂ p = S c p + S c 1 - p - n 1 - p

Fazendo o mmc,

∂ ln ⁡ L ∂ p = S 1 - p + S p - n p c c p 1 - p

∂ ln ⁡ L ∂ p = S - n p c c p 1 - p

Para que ln ⁡ L seja máximo, igualamos a derivada a zero:

S - n p c c p 1 - p = 0

Daí, tiramos

S - n p c = 0

Portanto,

p = S n c

Ou ainda,

p = 1 c ⋅ x 1 + … + x n n

Esse é o estimador de p que obtemos aplicando o método da máxima verossimilhança 😊.

Resposta

p = 1 c ⋅ x 1 + … + x n n

Exercícios de Livros Relacionados

Na função de verossimilhança L(p) da binomial, suponha que n = 5 e x = 3. Construa o gráfico da função para os possíveis valores de p = 1/5, 2/5, 3/5, 4/5, e verifique que o máximo ocorre realmente pa
Considere Y uma v.a. com distribuição de Poisson, com parâmetro λ0. Obtenha a EMV de λ, baseado numa amostra de tamanho n.
Observa-se uma seqüência de ensaios de Bernoulli, independentes, com parâmetro p, até a ocorrência do primeiro sucesso. Se X indicar o número de ensaios necessários, usando uma moeda, repetiu-se esse
Suponha que X seja uma v.a. com distribuição normal, com média μ e variância 1.Obtenha o EMV de μ, para uma amostra de tamanho n, (x1, ..., xn).
Considere o modelo de efeitos aleatórios para o planejamento completamente aleatorizado com um único fator. Mostre que um intervalo de confiança de 100 1 - α % para a razão dos componentes de variânci