Seja
, onde
é uma variável aleatória que assume um número finito de valores. Qual ou quais das seguintes afirmações são verdadeiras?
(d)
(d)
Passo 1
Beleza, o enunciado diz que temos uma variável aleatória
que assume um número finito de valores, e definimos
. A questão quer saber se a afirmação
(d)
é verdadeira ou falsa.
Conteúdo: entropia de variáveis discretas e como ela se comporta quando aplicamos transformações nas variáveis.
O que vamos precisar:
(d)
é verdadeira ou falsa.
Conteúdo: entropia de variáveis discretas e como ela se comporta quando aplicamos transformações nas variáveis.
O que vamos precisar:
- A definição de entropia discreta
. - A propriedade de que uma função injetora não muda a entropia.
Passo 2
Primeiro, lembra da definição de entropia discreta:
Aqui
é a probabilidade de
assumir o valor
. A entropia mede “quantos bits de incerteza” há em
.
Passo 3
Agora, olha só:
não é uma variável independente de
, e sim
. A gente pode ver que isso é uma função injetora (um-para-um). Ou seja, cada valor de
corresponde a um único valor de
, e vice-versa.
Em teoria da informação existe um fato importante:
se e
é injetora, então
Em teoria da informação existe um fato importante:
se
Não dá pra perder ou ganhar incerteza quando a gente transforma a variável de forma reversível.
Passo 4
Como
é perfeitamente reversível (basta tomar
para voltar a
), temos
Daí, a afirmação
não faz sentido — elas são exatamente iguais, nem menor nem maior.
Resposta
A afirmação (d)
é falsa.