Seja Y=2^X, onde X é uma variável aleatória que assume um número finito de valores. Qual ou quais das seguintes afirmações são verdadeiras?
(e) H(Y)=H(X)

Passo 1

Beleza, vamos lá! O enunciado diz que temos uma variável aleatória discreta finita e definimos outra variável . A pergunta é: será que a entropia de é igual à entropia de ?
Conteúdo: entropia de variáveis aleatórias discretas e como ela se comporta sob transformações.
O que vamos precisar:
• Definição de entropia .
• Como obter a função massa de probabilidade de em função da de .
• O fato de ser uma bijeção quando assume valores distintos.

Passo 2

Primeiro, lembra a definição de entropia de uma variável discreta H(X) ;=; -sumx pX(x),log pX(x) :
Aqui . A entropia mede a “incerteza” ou “surpresa média” de .

Passo 3

Agora vamos achar a distribuição de pY(y) ;=; Pr[Y = y] ;=; Pr[2^X = y] ;=; sumx:,2^x=y Pr[X=x] . Para cada valor pY(2^x) ;=; pX(x) possível de ,
Mas como a função é injetora (cada gera um único), temos só um termo na soma. Se ,

Passo 4

Vamos escrever H(Y) = -sumy pY(y),log pY(y) = -sumx pY(2^x),log pY(2^x) usando essa distribuição:
H(Y) = -sumx pX(x),log pX(x) = H(X)
Substituindo ,
Ou seja, a entropia não muda quando você faz uma bijeção nos valores da variável.

Resposta

A afirmação “ ” é verdadeira.

Exercícios relacionados