O enunciado apresenta seis alternativas (A) a (F), cada uma com dois sistemas lineares em (x,y,z). Queremos a opção cujo conjunto-solução de cada um dos dois sistemas seja uma reta em \mathbb{R}^3. Em geral, para um sistema linear com n=3 incógnitas e posto r de sua matriz de coeficientes, se ele for consistente então sua dimensão é
\dim = 3 - r.
Logo, para obter reta precisamos de r=2 e consistência em ambos os sistemas.
Passo 2
Nos dois casos de cada alternativa contamos o número de equações e calculamos o posto dos vetores normais (linhas da matriz de coeficientes).
Se dois planos têm vetores normais independentes r=2, eles se intersectam numa reta.
Se um conjunto de 3 equações em \mathbb{R}^3 tem posto 2 e é consistente, sobra uma variável livre, também reta.
Os vetores normais (12,24,6)\) e \((-5,0,-25)\) não são múltiplos, logo \(r=2\); duas faces não paralelas formam reta.
Sistema 2:
\[\begin{cases} -24x-6y-21z=-12,\\\\ 40x+10y+35z=20. \end{cases}
Aqui (40,10,35)=(-5/3)\cdot(-24,-6,-21)\] e \((20)=(-5/3)\cdot(-12), ou seja, as equações coincidem e r=1, dando um plano \dim=2.
As duas primeiras são múltiplas entre si, restam duas equações independentes (p. ex. (4,8,2)\) e \((0,5,3)\)), \(r=2\). Substituindo mostra-se consistente, logo reta \(\dim=1\).
Sistema 2:
\[\begin{cases} -20x-40y-10z=-35,\\\\ 3x+15z=18. \end{cases}
Os planos têm normais (-20,-40,-10)\] e \((3,0,15) independentes, r=2, e não são paralelos, logo também reta.
Portanto em (B) ambos os sistemas têm posto 2 e são consistentes ⇒ retas.
Passo 5
Nas alternativas (C), (D), (E) e (F) sempre um dos dois sistemas não atinge r=2:
Em (C) o primeiro sistema tem r=1.
Em (D) o segundo sistema tem r=1.
Em (E) o primeiro sistema tem r=3 (solução única).
Em (F) o segundo sistema tem r=3.
Logo nenhuma dessas alternativas produz duas retas ao mesmo tempo.