\frac{d}{dy}(g^{-1}(y)) é a derivada da inversa em relação a y;
o módulo aparece porque precisamos da taxa de variação absoluta entre as escalas de x e y.
Se preferir, pode-se raciocinar via CDF: F_Y(y)=P(Y\le y)=P(g(X)\le y), expressar em termos de X e derivar F_Y para obter f_Y. Vou usar essa ideia também para reforçar.
Passo 3
Aplicando ao nosso caso: g(x)=x^{2} com domínio x>0. Em x>0, g é estritamente crescente, logo tem inversa
Para reforçar (e mostrar passo a passo como fazer na prova sem esquecer nada), faço pelo método da CDF — é ótimo para entender por que a fórmula funciona.
Para y<0 temos F_Y(y)=0 porque Y\ge 0. Para y\ge 0: