O enunciado nos dá claramente duas coisas que vou anotar (pego essas informações do enunciado):
A reta r está dada por um ponto e um vetor diretor:
ponto P_0=(1,0,-1) (extraído da forma r^{\prime}=(1,0,-1)+t(2,1,3));
vetor diretor \mathbf{v}=(2,1,3) (extraído da mesma forma).
O plano dado tem equação 2x-y+z-4=0. Deste plano extraio o vetor normal \mathbf{n}_1=(2,-1,1).
O que o problema pede:
Encontrar a equação do plano que (1) contém a reta r e (2) é perpendicular ao plano 2x-y+z-4=0.
Passo 2
Entendendo o que significa cada condição (aqui explico as ideias usadas passo a passo, sem pular etapas).
Se um plano contém a reta r, então o vetor diretor \mathbf{v} da reta está contido no plano. O vetor normal \mathbf{n} do plano é, por definição, ortogonal a todo vetor que esteja no plano. Logo, \mathbf{n} deve ser ortogonal a \mathbf{v}. Em linguagem de produto escalar isso é\mathbf{n}\cdot\mathbf{v}=0.Explicando o produto escalar: para dois vetores \mathbf{a}=(a_1,a_2,a_3) e \mathbf{b}=(b_1,b_2,b_3) temos\mathbf{a}\cdot\mathbf{b}=a_1b_1+a_2b_2+a_3b_3.Dois vetores são perpendiculares quando o produto escalar entre eles é zero.
Se o plano procurado é perpendicular ao plano 2x-y+z-4=0, então seus vetores normais são perpendiculares entre si. Ou seja, se \mathbf{n} é o normal do plano procurado e \mathbf{n}_1=(2,-1,1) é o normal do plano dado, então\mathbf{n}\cdot\mathbf{n}_1=0.
Resumindo: o vetor normal \mathbf{n} do plano procurado deve ser ortogonal a \mathbf{v}=(2,1,3) e a \mathbf{n}_1=(2,-1,1). Um vetor que é ortogonal a dois vetores é, até escala, o produto vetorial (cross product) desses dois vetores:\mathbf{n}\\ \propto\\ \mathbf{v}\times\mathbf{n}_1.Vou então calcular \mathbf{v}\times\mathbf{n}_1.
Passo 3
Cálculo do produto vetorial \mathbf{v}\times\mathbf{n}_1. Lembrando a regra com determinante:
Podemos simplificar dividindo por 4 (qualquer múltiplo não muda a direção do normal), obtendo um normal mais simples
\mathbf{n}=(1,1,-1).
Passo 4
Agora uso a forma ponto-normal da equação do plano. Se \mathbf{n}=(a,b,c) é o normal e P_0=(x_0,y_0,z_0) é um ponto do plano, a equação é
\mathbf{n}\cdot\bigl((x,y,z)-P_0\bigr)=0,
ou seja
a(x-x_0)+b(y-y_0)+c(z-z_0)=0.
Aqui \mathbf{n}=(1,1,-1) e P_0=(1,0,-1). Substituindo:
1\cdot(x-1)+1\cdot(y-0)+(-1)\cdot(z+1)=0.
Simplificando:
x-1+y -z -1 = 0.
Logo
x+y-z-2=0.
Passo 5
É sempre bom checar rapidamente:
Verificar que o vetor diretor da reta é ortogonal ao normal:\mathbf{n}\cdot\mathbf{v} = (1,1,-1)\cdot(2,1,3)=2+1-3=0,ok — a reta está no plano.
Verificar que o plano é perpendicular ao plano dado (normais ortogonais):\mathbf{n}\cdot\mathbf{n}_1=(1,1,-1)\cdot(2,-1,1)=2-1-1=0,ok — os planos são perpendiculares.