A variável externa (de integração) é y com intervalo [0,12].
A variável interna é x com limites x=\sqrt{3}\,y (limite inferior) e x=\sqrt{1-y^{2}} (limite superior).
O integrando é x\,y^{2}.
Observação sobre os limites: a expressão \sqrt{1-y^{2}} está bem definida em números reais somente quando |y|\le 1. Como o enunciado coloca y indo até 12, há uma incompatibilidade nos limites tal como escritos (para y>1 a raiz deixa de ser real). Nesta etapa apenas listei essa informação — a resolução começa no próximo passo.
Passo 2
Decisão para poder continuar (não posso perguntar ao autor do enunciado): vou assumir que houve um erro de digitação no limite superior do y e que o correto seria o intervalo [0,1] para y (essa é a correção natural porque \sqrt{1-y^{2}} exige |y|\le 1). Com essa suposição, a integral considerada será
Seguirei calculando essa integral (se a intenção do enunciado fosse outra, a integral original com 0\le y\le 12 não está bem definida em reais).
Passo 3
Escolha do método: como a integral já vem escrita com dx por dentro, é natural calcular primeiro a integral interna em x e depois integrar em y. Regra usada: a integral indefinida de x em relação a x é
\int x\,dx = \frac{x^{2}}{2}.
No nosso caso o integrando interno é x\,y^{2}. Aqui y^{2} é tratado como constante quando integramos em x. Logo
Interpretação e comentário didático: o valor é negativo porque, para y>\tfrac{1}{2}, acontece que \sqrt{3}\,y>\sqrt{1-y^{2}}, ou seja, o limite inferior da integração em x passa a ser maior que o limite superior; isso faz com que a integral interna em x seja negativa nessas fatias de y. A igualdade entre os limites ocorre quando
(no intervalo considerado com y\ge 0). Então para 0\le y\le \tfrac{1}{2} a integral interna é positiva e para \tfrac{1}{2}<y\le 1 ela é negativa; o resultado total é a soma dessas contribuições, dando -\tfrac{7}{30}.