Introduza a notação de vetor coluna e escreva
X=\left(\begin{array}{l} A \\\ B \\\ C \end{array}\right), Y=\left(\begin{array}{l} P \\\ Q \\\ R \end{array}\right)
Assim a notação D X(Y) significa a multiplicação de uma matriz D X 3 \times 3 por um vetor coluna Y 3 \times 1. Portanto D X(Y) é um vetor coluna 3 \times 1.
Mostre as seguintes identidades.
\operatorname{div}(\mathrm{X} \wedge \mathrm{Y}) =X \cdot \operatorname{rot}(\mathrm{Y})+Y \cdot \operatorname{rot}(\mathrm{X})

Passo 1

O enunciado dá os vetores-coluna (peguei exatamente a notação que você pediu):
X=\begin{pmatrix}A\\[4pt]B\\[4pt]C\end{pmatrix},\qquad Y=\begin{pmatrix}P\\[4pt]Q\\[4pt]R\end{pmatrix}.
Pede-se mostrar a identidade envolvendo divergente, produto vetorial e rotacional:
\operatorname{div}(X\wedge Y)=X\cdot\operatorname{rot}(Y)+Y\cdot\operatorname{rot}(X).
Vou trabalhar em coordenadas (componentes) e mostrar passo a passo a identidade correta usando notação indicial (soma de Einstein), explicando tudo devagarinho.]

Passo 2

Definições em componentes (o que cada coisa significa):
  • A componente i-ésima de X é X_i. No nosso caso X_1=A,\;X_2=B,\;X_3=C. Analogamente Y_1=P,\;Y_2=Q,\;Y_3=R.
  • A divergente de um campo vetorial Z é a soma das derivadas parciais das componentes:
\operatorname{div}Z=\partial_i Z_i,
onde \partial_i significa \dfrac{\partial}{\partial x_i}. (Uso soma sobre índices repetidos.)
  • O rotacional (curl) tem componentes dadas por
(\operatorname{rot}Z)_m=\varepsilon_{mab}\,\partial_a Z_b,
onde \varepsilon_{mab} é o símbolo de Levi-Civita (explico em seguida).
  • Produto escalar em componentes: X\cdot\operatorname{rot}Y=X_m(\operatorname{rot}Y)_m.

Passo 3

Símbolo de Levi-Civita e produto vetorial em componentes:
  • \varepsilon_{ijk} vale +1 para permutações cíclicas (1,2,3)\to(2,3,1) etc., vale -1 para permutações não-cíclicas (troca de dois índices) e 0 se dois índices iguais.
  • Produto vetorial em componentes:
(X\wedge Y)_i=\varepsilon_{ijk}\,X_j\,Y_k.
Isto é: a componente i de X\times Y é \varepsilon_{ijk}X_jY_k. (Estou usando \wedge para o produto vetorial, conforme seu enunciado.)

Passo 4

Calcular a divergente do produto vetorial em componente única:
\operatorname{div}(X\wedge Y)=\partial_i\bigl((X\wedge Y)_i\bigr) =\partial_i\bigl(\varepsilon_{ijk}X_jY_k\bigr).
Aplicando a regra do produto (derivada de produto):
\partial_i\bigl(\varepsilon_{ijk}X_jY_k\bigr) =\varepsilon_{ijk}\,(\partial_i X_j)\,Y_k +\varepsilon_{ijk}\,X_j\,(\partial_i Y_k).
Chame o primeiro termo de T_1 e o segundo de T_2:
T_1=\varepsilon_{ijk}(\partial_i X_j)Y_k,\qquad T_2=\varepsilon_{ijk}X_j(\partial_i Y_k).

Passo 5

Mostrar que T_1=Y\cdot\operatorname{rot}X.
Escreva explicitamente Y\cdot\operatorname{rot}X em componentes:
Y\cdot\operatorname{rot}X=Y_m(\operatorname{rot}X)_m =Y_m\varepsilon_{mab}\partial_a X_b.
Agora compare com T_1. Faça a renomeação de índices em T_1: tome m:=k,\;a:=i,\;b:=j. Como uma renomeação de índices somados não altera o valor, obtemos
T_1=\varepsilon_{ijk}(\partial_i X_j)Y_k =Y_m\varepsilon_{mab}\partial_a X_b =Y\cdot\operatorname{rot}X.
Aqui usei que \varepsilon_{ijk}=\varepsilon_{k i j} (uma permutação cíclica não muda o sinal), o que permite a identificação direta.

Passo 6

Mostrar que T_2=-\,X\cdot\operatorname{rot}Y.
Escreva X\cdot\operatorname{rot}Y em componentes:
X\cdot\operatorname{rot}Y=X_m(\operatorname{rot}Y)_m =X_m\varepsilon_{mab}\partial_a Y_b.
Agora renomeie índices em T_2: tome m:=j,\;a:=i,\;b:=k. Assim
T_2=\varepsilon_{ijk}X_j(\partial_i Y_k) =\varepsilon_{a m b}X_m\partial_a Y_b.
Mas \varepsilon_{a m b}=-\varepsilon_{m a b} (trocar os dois primeiros índices muda o sinal). Portanto
T_2=\varepsilon_{a m b}X_m\partial_a Y_b =-\varepsilon_{m a b}X_m\partial_a Y_b =-X_m\varepsilon_{m a b}\partial_a Y_b =-X\cdot\operatorname{rot}Y.

Passo 7

Juntando T_1 e T_2 obtemos a divergente do produto vetorial:
\operatorname{div}(X\wedge Y)=T_1+T_2 =Y\cdot\operatorname{rot}X - X\cdot\operatorname{rot}Y.
Ou seja, a identidade correta (em notação habitual) é
\boxed{\displaystyle \operatorname{div}(X\wedge Y)=Y\cdot\operatorname{rot}X - X\cdot\operatorname{rot}Y.}
Observação importante (pra não ficar dúvida): o sinal entre os dois termos é negativo. Se alguém escreveu a identidade com sinal + (como no enunciado que você transcreveu), essa versão está trocada de sinal; a demonstração componente a componente mostra claramente que aparece um menos no segundo termo.

Resposta

\displaystyle \operatorname{div}(X\wedge Y)=Y\cdot\operatorname{rot}X - X\cdot\operatorname{rot}Y

Exercícios relacionados