Informações importantes dadas pelo enunciado (listando explicitamente):
A primeira condição z \geq \sqrt{3(x^{2}+y^{2})} define uma região acima de um cone com vértice na origem.
A segunda condição x^{2}+y^{2}+(z-1)^{2} \geq 1 diz que estamos fora (ou sobre) a esfera de centro (0,0,1) e raio 1.
A terceira condição x^{2}+y^{2}+(z-3)^{2} \leq 9 diz que estamos dentro (ou sobre) a esfera de centro (0,0,3) e raio 3.
A função a integrar depende apenas da distância ao origem: \dfrac{1}{\sqrt{x^{2}+y^{2}+z^{2}}}.
Passo 2
Escolher coordenadas e interpretar as fronteiras geometricamente (aqui explico as coordenadas que vou usar).
Por simetria (a função depende só de r=\sqrt{x^{2}+y^{2}+z^{2}}) e pelas superfícies (cone e esferas centradas no eixo z), é natural usar coordenadas esféricas (\rho,\varphi,\theta) definidas por
onde \rho\ge 0 é a distância ao origem, \varphi\in[0,\pi] é o ângulo com o eixo z (colatitude) e \theta\in[0,2\pi) é o ângulo azimutal. O elemento de volume é
dV=\rho^{2}\sin\varphi\,d\rho\,d\varphi\,d\theta.
Explico por que cada fronteira fica simples nessas coordenadas:
A condição do cone z=\sqrt{3}\sqrt{x^{2}+y^{2}} em esféricas é
Isso dá \tan\varphi=1/\sqrt{3}, portanto \varphi=\pi/6. Como a região exige z\ge\sqrt{3}\sqrt{x^{2}+y^{2}}, isso corresponde a \varphi\in[0,\pi/6] (ou seja, direções próximas ao eixo +z).
Para a esfera centrada em (0,0,1) com raio 1: escrever x^{2}+y^{2}+(z-1)^{2}=\rho^{2}-2\rho\cos\varphi+1. Igualando a 1 obtemos
logo a superfície é dada por \rho=2\cos\varphi (a outra solução \rho=0 é o ponto trivial). A desigualdade x^{2}+y^{2}+(z-1)^{2}\ge 1 significa que estamos para fora (ou sobre) dessa esfera, portanto \rho\ge 2\cos\varphi.
Para a esfera centrada em (0,0,3) com raio 3: de modo análogo,
igualando a 9 obtemos \rho(\rho-6\cos\varphi)=0, então a superfície é \rho=6\cos\varphi. A desigualdade x^{2}+y^{2}+(z-3)^{2}\le 9 implica \rho\le 6\cos\varphi.
Observação: como \varphi\in[0,\pi/6], temos \cos\varphi>0 e as expressões \rho=2\cos\varphi e \rho=6\cos\varphi são positivas e ordenadas ( 2\cos\varphi \le 6\cos\varphi ), então fazem sentido como limites radiais.
Passo 3
Montar a integral em coordenadas esféricas.
A integranda \dfrac{1}{\sqrt{x^{2}+y^{2}+z^{2}}} em esféricas é simplesmente \dfrac{1}{\rho} porque \rho=\sqrt{x^{2}+y^{2}+z^{2}}.