Exercício 3. Apresente 5 exemplos de classes de distribuições fechadas por amostragem.
Atenção: Não vale usar as classes Beta, Gama, Normal, Normal-Gama.
Atenção: Não vale usar as classes Beta, Gama, Normal, Normal-Gama.
Passo 1
O enunciado pede cinco exemplos de famílias de distribuições que sejam fechadas por amostragem, isto é, que funcionem como prior conjugadas para certas distribuições de verossimilhança e garantam que a posterior permaneça na mesma família. Não podemos usar as classes Beta, Gama, Normal ou Normal–Gama. Vou apresentar cinco outras famílias conjugadas, cada uma associada a um modelo de verossimilhança distinto.
Passo 2
Exemplo
: distribuição Dirichlet como prior conjugada para verossimilhança multinomial.
A verossimilhança para contagens em
categorias é
A verossimilhança para contagens
com
. A prior Dirichlet de parâmetros
tem densidade
Após observar
, a posterior é Dirichlet
, isto é, fecha na mesma classe.
Passo 3
Exemplo
: distribuição Pareto como prior conjugada para verossimilhança Uniforme
.
Se , a verossimilhança é
Se
Escolhendo como prior
que é uma Pareto
, obtém-se posterior também Pareto
.
Passo 4
Exemplo
: distribuição Wishart como prior conjugada para a matriz de precisão de uma Normal multivariada.
Se , a verossimilhança em função da matriz de precisão
é
Se
onde
é a soma de quadrados centrada. A prior Wishart
tem densidade
A posterior é Wishart
, fechando na mesma classe.
Passo 5
Exemplo
: distribuição Inverse–Wishart como prior conjugada para a matriz de covariância de uma Normal multivariada.
Com a mesma verossimilhança de cada , se escolhermos como prior
Com a mesma verossimilhança de cada
ou seja, uma Inverse–Wishart
, então a posterior em
também é Inverse–Wishart
.
Passo 6
Exemplo
: distribuição Inverse–Gamma como prior conjugada para a variância de uma Normal univariada com média conhecida.
Se com
conhecido, a verossimilhança em
é
Se
Escolhendo prior Inverse–Gamma
, com densidade
a posterior é Inverse–Gamma
.