Seja Y=2^X, onde X é uma variável aleatória que assume um número finito de valores. Qual ou quais das seguintes afirmações são verdadeiras?
(d) H(Y)

Passo 1

Beleza, o enunciado diz que temos uma variável aleatória que assume um número finito de valores, e definimos . A questão quer saber se a afirmação
(d)
é verdadeira ou falsa.
Conteúdo: entropia de variáveis discretas e como ela se comporta quando aplicamos transformações nas variáveis.
O que vamos precisar:
  • A definição de entropia discreta .
  • A propriedade de que uma função injetora não muda a entropia.

Passo 2

Primeiro, lembra da definição de entropia discreta:
H(X) = - sumx pX(x),log pX(x)
Aqui é a probabilidade de assumir o valor . A entropia mede “quantos bits de incerteza” há em .

Passo 3

Agora, olha só: H(Y) = H(X) não é uma variável independente de , e sim . A gente pode ver que isso é uma função injetora (um-para-um). Ou seja, cada valor de corresponde a um único valor de , e vice-versa.
Em teoria da informação existe um fato importante:
se e é injetora, então
Não dá pra perder ou ganhar incerteza quando a gente transforma a variável de forma reversível.

Passo 4

Como H(Y) = H(X) é perfeitamente reversível (basta tomar para voltar a ), temos
Daí, a afirmação não faz sentido — elas são exatamente iguais, nem menor nem maior.

Resposta

A afirmação (d) é falsa.

Exercícios relacionados