Exercício 3. Apresente 5 exemplos de classes de distribuições fechadas por amostragem.
Atenção: Não vale usar as classes Beta, Gama, Normal, Normal-Gama.

Passo 1

O enunciado pede cinco exemplos de famílias de distribuições que sejam fechadas por amostragem, isto é, que funcionem como prior conjugadas para certas distribuições de verossimilhança e garantam que a posterior permaneça na mesma família. Não podemos usar as classes Beta, Gama, Normal ou Normal–Gama. Vou apresentar cinco outras famílias conjugadas, cada uma associada a um modelo de verossimilhança distinto.

Passo 2

Exemplo 1: distribuição Dirichlet como prior conjugada para verossimilhança multinomial.
A verossimilhança para contagens \mathbf{x}=(x_1,\dots,x_K) em K categorias é
P(\mathbf{x}\mid \mathbf{p}) = \frac{n!}{x_1!\cdots x_K!}\,\prod_{i=1}^K p_i^{x_i},
com \sum_i x_i=n. A prior Dirichlet de parâmetros \boldsymbol\alpha=(\alpha_1,\dots,\alpha_K) tem densidade
\pi(\mathbf{p}) \propto \prod_{i=1}^K p_i^{\alpha_i-1},\quad \sum_i p_i=1.
Após observar \mathbf{x}, a posterior é Dirichlet (\alpha_i + x_i), isto é, fecha na mesma classe.

Passo 3

Exemplo 2: distribuição Pareto como prior conjugada para verossimilhança Uniforme (0,\theta).
Se X_i\overset{\text{iid}}{\sim}\mathrm{Uniform}(0,\theta), a verossimilhança é
L(\theta\mid x_{1:n}) = \theta^{-n}\,\mathbf{1}_{\{\theta\ge \max_i x_i\}}.
Escolhendo como prior
\pi(\theta)\propto \theta^{-(\alpha+1)}\mathbf{1}_{\{\theta\ge \theta_0\}},
que é uma Pareto (\alpha,\theta_0), obtém-se posterior também Pareto \bigl(\alpha+n,\max(\theta_0,\max_i x_i)\bigr).

Passo 4

Exemplo 3: distribuição Wishart como prior conjugada para a matriz de precisão de uma Normal multivariada.
Se \mathbf{X}_i\overset{\text{iid}}{\sim}N_p(\boldsymbol\mu,\Sigma), a verossimilhança em função da matriz de precisão \Lambda=\Sigma^{-1} é
L(\Lambda)\propto |\Lambda|^{n/2}\exp\Bigl(-\tfrac12\mathrm{tr}(\Lambda S)\Bigr),
onde S é a soma de quadrados centrada. A prior Wishart \mathcal W_p(V,\nu) tem densidade
\pi(\Lambda)\propto |\Lambda|^{(\nu-p-1)/2}\exp\Bigl(-\tfrac12\mathrm{tr}(V^{-1}\Lambda)\Bigr).
A posterior é Wishart \bigl(V+S,\nu+n\bigr), fechando na mesma classe.

Passo 5

Exemplo 4: distribuição Inverse–Wishart como prior conjugada para a matriz de covariância de uma Normal multivariada.
Com a mesma verossimilhança de cada \mathbf{X}_i\sim N_p(\boldsymbol\mu,\Sigma), se escolhermos como prior
\pi(\Sigma)\propto |\Sigma|^{-(\nu+p+1)/2}\exp\bigl(-\tfrac12\,\mathrm{tr}(\Psi\,\Sigma^{-1})\bigr),
ou seja, uma Inverse–Wishart (\Psi,\nu), então a posterior em \Sigma também é Inverse–Wishart (\Psi + S,\nu+n).

Passo 6

Exemplo 5: distribuição Inverse–Gamma como prior conjugada para a variância de uma Normal univariada com média conhecida.
Se X_i\overset{\text{iid}}{\sim}N(\mu,\sigma^2) com \mu conhecido, a verossimilhança em \sigma^2 é
L(\sigma^2)\propto (\sigma^2)^{-n/2}\exp\Bigl(-\tfrac1{2\sigma^2}\sum (x_i-\mu)^2\Bigr).
Escolhendo prior Inverse–Gamma (\alpha,\beta), com densidade
\pi(\sigma^2)\propto (\sigma^2)^{-\alpha-1}\exp\Bigl(-\tfrac\beta{\sigma^2}\Bigr),
a posterior é Inverse–Gamma \bigl(\alpha + \tfrac n2,\beta + \tfrac12\sum(x_i-\mu)^2\bigr).

Resposta

1. Distribuição Dirichlet (conjugada à multinomial)
2. Distribuição Pareto (conjugada à Uniforme (0,\theta) )
3. Distribuição Wishart (conjugada à precisão de Normal multivariada)
4. Distribuição Inverse–Wishart (conjugada à covariância de Normal multivariada)
5. Distribuição Inverse–Gamma (conjugada à variância de Normal univariada)

Exercícios relacionados