Sejam \vec{a}=\left(a_{1}, a_{2}, a_{3}\right), \vec{b}=\left(b_{1}, b_{2}, b_{3}\right) e \vec{c}=\left(c_{1}, c_{2}, c_{3}\right) três vetores. O determinante de \vec{a}, \vec{b} e \vec{c} é o número real
(a) Mostre que \operatorname{det}(\vec{a}, \vec{b}, \vec{c})=(\vec{a} \times \vec{b}) \cdot \vec{c}. Observação: o número real (\vec{a} \times \vec{b}) \cdot \vec{c} é chamado produto misto dos vetores \vec{a}, \vec{b} e \vec{c}, e é denotado por [\vec{a}, \vec{b}, \vec{c}]. Assim, \operatorname{det}(\vec{a}, \vec{b}, \vec{c})=[\vec{a}, \vec{b}, \vec{c}].
(b) Deduza que \vec{a}, \vec{b} e \vec{c} são coplanares se e somente se \operatorname{det}(\vec{a}, \vec{b}, \vec{c})=0.
Passo 1
O enunciado dá três vetores \vec{a}=\left(a_{1},a_{2},a_{3}\right), \vec{b}=\left(b_{1},b_{2},b_{3}\right) e \vec{c}=\left(c_{1},c_{2},c_{3}\right). Pede duas coisas:
Mostrar que \operatorname{det}(\vec{a},\vec{b},\vec{c})=(\vec{a}\times\vec{b})\cdot\vec{c}.
Deduzir que \vec{a},\vec{b},\vec{c} são coplanares se, e somente se, \operatorname{det}(\vec{a},\vec{b},\vec{c})=0.
Informações relevantes fornecidas no enunciado:
A definição explícita do determinante \operatorname{det}(\vec{a},\vec{b},\vec{c}) como
Os vetores \vec{a},\vec{b},\vec{c} no espaço \mathbb{R}^{3}.
Passo 2
Definição e cálculo do produto vetorial \vec{a}\times\vec{b}.
O produto vetorial \vec{a}\times\vec{b} é um vetor em \mathbb{R}^{3} definido componente a componente por menores de 2\times2. A sua expressão componente a componente é
Aqui cada componente é obtida pegando o determinante do menor 2\times2 formado pelas componentes restantes, com o segundo componente trocando de sinal (isso vem da regra de Sarrus/menores algebricos). Não precisa decorar: observar que o padrão é exatamente o mesmo dos cofactores de uma matriz 3\times3.
Passo 3
Calcular (\vec{a}\times\vec{b})\cdot\vec{c} (produto escalar do vetor do passo anterior com \vec{c}) e expandir.
Usando a expressão do passo anterior, o produto escalar é
Agora vamos reorganizar essa soma para compará-la com a fórmula dada para \operatorname{det}(\vec{a},\vec{b},\vec{c}). Ordenando os termos por a_{1},a_{2},a_{3}, obtemos
Note que, em cada parêntese, trocando a ordem dos fatores em um determinante 2\times2 aparece sinal conforme esperado: por exemplo c_{3}b_{2}-c_{2}b_{3}=-(b_{2}c_{3}-b_{3}c_{2}). Aplicando essa troca de ordem para deixar os termos na mesma forma da definição do determinante, obtemos
Interpretação geométrica rápida (útil para prova): o valor (\vec{a}\times\vec{b})\cdot\vec{c} é o volume orientado do paralelepípedo construído sobre \vec{a},\vec{b},\vec{c}. Essa interpretação explica por que o determinante muda de sinal quando trocamos vetores etc., mas a demonstração algebraica acima é suficiente e direta.
Passo 5
Provar o item (b): se \vec{a},\vec{b},\vec{c} são coplanares então \operatorname{det}(\vec{a},\vec{b},\vec{c})=0.
Definição prática: dizer que \vec{a},\vec{b},\vec{c} são coplanares significa que existe um plano que passa pela origem que contém os três vetores; isso é equivalente a dizer que \vec{c} é combinação linear de \vec{a} e \vec{b}, ou seja existem escalares s,t tais que
Assim \operatorname{det}(\vec{a},\vec{b},\vec{c})=0. (Se quiser ver a verificação direta de (\vec{a}\times\vec{b})\cdot\vec{a}=0, basta expandir componentes e observar o cancelamento termo a termo.)
Passo 6
Provar o item (b) na outra direção: se \operatorname{det}(\vec{a},\vec{b},\vec{c})=0 então \vec{a},\vec{b},\vec{c} são coplanares.
Se \operatorname{det}(\vec{a},\vec{b},\vec{c})=0 então, pela parte (a),
(\vec{a}\times\vec{b})\cdot\vec{c}=0.
Há dois casos a considerar:
\vec{a}\times\vec{b}\neq\vec{0}. Neste caso \vec{a}\times\vec{b} é um vetor não nulo perpendicular ao plano gerado por \vec{a} e \vec{b}. A igualdade (\vec{a}\times\vec{b})\cdot\vec{c}=0 diz que \vec{c} é perpendicular a \vec{a}\times\vec{b}. Mas os vetores perpendiculares a \vec{a}\times\vec{b} formam exatamente o plano gerado por \vec{a} e \vec{b}. Logo \vec{c} pertence a esse plano, isto é, \vec{c} é combinação linear de \vec{a} e \vec{b} e, portanto, os três vetores são coplanares.
\vec{a}\times\vec{b}=\vec{0}. Nesse caso \vec{a} e \vec{b} são colineares (um é múltiplo do outro). Mas então \vec{a} e \vec{b} estão sobre a mesma reta que passa pela origem; existe sempre um plano que contém essa reta e o vetor \vec{c} (por exemplo o plano gerado por \vec{a} e \vec{c}). Portanto \vec{a},\vec{b},\vec{c} são coplanares.
Assim, em ambos os casos, \operatorname{det}(\vec{a},\vec{b},\vec{c})=0 implica que os três vetores são coplanares. Combinando com o passo anterior obtemos a equivalência desejada.
Resposta
\operatorname{det}(\vec{a},\vec{b},\vec{c})=(\vec{a}\times\vec{b})\cdot\vec{c} \vec{a},\vec{b},\vec{c} são coplanares se, e somente se, \operatorname{det}(\vec{a},\vec{b},\vec{c})=0