O que o enunciado pede: discutir o sistema em função de p, ou seja, determinar para cada p se o sistema é compatível e, quando for, descrever o conjunto de soluções (única solução, infinitas soluções, etc.).
Passo 2
Conceito que vamos usar (explicado devagar e como se estivéssemos na prova).
O sistema é homogêneo (todas as constantes do lado direito são zero). Isso sempre garante pelo menos a solução trivial (x,y,z)=(0,0,0).
Para sistemas lineares homogêneos A\mathbf{v}=0 em \mathbb{R}^3 há duas situações principais:
Se \det(A)\neq 0, a matriz A é invertível e a única solução é a trivial \mathbf{v}=0.
Se \det(A)=0, a matriz não é invertível e pode haver soluções não triviais (um espaço de soluções de dimensão \ge 1).
Portanto, testar \det(A) é um método direto e prático para decidir se existem soluções não triviais. Vou então calcular \det(A).
Passo 3
Escrever a matriz dos coeficientes A e calcular o determinante passo a passo:
Calculemos \det(A) usando a fórmula de Laplace ou operações elementares. Primeiro, subtraio a terceira linha da segunda linha (operação que não altera o determinante):
Observação: esse cálculo mostra que \det(A)=-9 e, muito importante, esse valor é independente de p (o termo com p cancela no cálculo).]
Passo 4
Interpretação do resultado do determinante.
Encontramos \det(A)=-9. Em particular \det(A)\neq 0.
Como \det(A)\neq 0, a matriz A é invertível para todo p\in\mathbb{R}.
Para o sistema homogêneo isso implica que a única solução é a solução trivial (x,y,z)=(0,0,0), para qualquer valor de p.
Passo 5
Uma resolução por eliminação para ver explicitamente como surge a solução trivial (útil para a prova — mostramos as contas que você pode fazer sem calcular determinante, caso prefira eliminação direta).
Volto ao sistema original e faço a operação linha: \text{R}_2 \leftarrow \text{R}_2-\text{R}_3. Das duas últimas equações obtemos
Agora resolvemos esse par de equações. Da primeira vem y=-2x. Substituindo na segunda:
x+5(-2x)=x-10x=-9x=0 \quad\Rightarrow\quad x=0.
Logo y=-2x=0. Assim
x=0,\quad y=0,\quad z=0.
Isso confirma explicitamente a solução trivial, sem depender de p.
Passo 6
Conclusão final e comentário motivacional.
Para todo p\in\mathbb{R} a matriz dos coeficientes tem determinante -9\neq 0, logo o sistema homogêneo tem apenas a solução trivial.
Dica para a prova: quando o sistema é homogêneo, primeiro cheque se a matriz é invertível (determinante diferente de zero). Se for, você já garante que a única solução é a trivial — é rápido e seguro. Se o determinante for zero, aí vale investigar o posto da matriz e procurar a família de soluções (parâmetros livres).