Seja
, onde
é uma variável aleatória que assume um número finito de valores. Qual ou quais das seguintes afirmações são verdadeiras?
©
©
Passo 1
Beleza, o enunciado diz que temos uma variável aleatória X (com um número finito de valores) e definimos Y = 2^X. A pergunta © é: “Será que H(Y) > H(X)?” Aqui o conteúdo é entropia de Shannon, e para resolver a gente vai precisar saber que entropia mede a incerteza de uma variável e entender como ela se comporta quando a gente aplica uma função bijetora (invertível) na variável.
Passo 2
Primeiro, bora relembrar o que é entropia. Para uma variável discreta Z com suporte {z₁, z₂, …, z_n} e probabilidade P(Z = z_i) = p_i, a entropia é
Isso mede quantos “bits” em média você precisa para descrever o resultado de Z. Quanto mais espalhada for a distribuição (mais incerta), maior H(Z).
Passo 3
Agora, quando você define Y = 2^X, note que existe uma correspondência um-para-um entre os valores de X e os de Y. Se X assume x₁, x₂, …, x_n com probabilidades p₁, p₂, …, p_n, então Y assume y_i = 2^{x_i} com exatamente a mesma probabilidade p_i. Isso é o que chamamos de transformação bijetora: cada valor de X vira um valor único de Y.
Passo 4
Como as probabilidades ficam iguais (p_i em X vira p_i em Y) e a soma da definição de entropia só depende desses p_i, a entropia não muda. Em linguagem matemática:
Logo, não vale dizer que H(Y) é maior que H(X); na real elas são iguais.
Resposta
A afirmação © é falsa, pois H(Y) = H(X), não H(Y) > H(X).