e a superfície S é a fronteira fechada da região V limitada pelos planos coordenados x=0, y=0, z=0 e pelo plano x+y+z=1.
O que o enunciado pede: calcular o fluxo de F através de S, isto é
\iint_{S} F\cdot \vec{n}\,dS,
onde \vec{n} é a normal exterior à região V.
Passo 2
Apresentação e explicação do Teorema do Divergente (Teorema de Gauss). O teorema diz que, para uma região volumétrica V com fronteira lisa S orientada pela normal exterior, vale
onde F_1,F_2,F_3 são as componentes nas direções \vec{i},\vec{j},\vec{k}. Explicando as derivadas parciais de forma prática: ao calcular \partial/\partial x de uma expressão, trata-se y e z como constantes; ao calcular \partial/\partial y trata-se x e z como constantes; e assim por diante.
Passo 3
Calcular a divergência de F. As componentes são F_1=y^{3}e^{z}, F_2=y, F_3=-x\operatorname{arctg}(y). Então
\dfrac{\partial}{\partial x}\big(y^{3}e^{z}\big)=0 porque y^{3}e^{z} não depende de x (tratamos y,z como constantes).
\dfrac{\partial}{\partial y}\big(y\big)=1.
\dfrac{\partial}{\partial z}\big(-x\operatorname{arctg}(y)\big)=0 porque -x\operatorname{arctg}(y) não depende de z (tratamos x,y como constantes).
Portanto
\operatorname{div}F=0+1+0=1.
Passo 4
Aplicar o Teorema do Divergente: o fluxo pedido é igual ao integral triplo de 1 sobre a região V:
\iint_{S} F\cdot \vec{n}\,dS=\iiint_{V} 1\,dV.
Isto significa que o fluxo é simplesmente o volume de V. A região V é o tetraedro com vértices (0,0,0), (1,0,0), (0,1,0), (0,0,1). Para montar o integral em coordenadas cartesianas, escolhemos a ordem dz\,dy\,dx. Para um x fixo, y varia de 0 até 1-x; para x varia de 0 até 1; e para cada (x,y), z varia de 0 até 1-x-y. Assim
Conclusão: pelo Teorema do Divergente o fluxo através de S é o volume de V, que calculamos ser \dfrac{1}{6}. Pequeno lembrete encorajador: deu pra ver que, quando a divergência é uma constante simples, a conta vira só volume — ótimo para ganhar tempo na prova!