O sistema homogêneo A\mathbf{x}=\mathbf{0} tem sempre a solução trivial \mathbf{x}=\mathbf{0}. A questão importante é se existem soluções não triviais (ou seja, \mathbf{x}\neq\mathbf{0}).
Passo 3
Usar a relação fornecida para construir explicitamente uma solução não trivial. Pela hipótese,
Como o vetor \begin{pmatrix}2\\[4pt]1\\[4pt]-4\end{pmatrix} é não nulo, \mathbf{x}=\begin{pmatrix}2\\\ 1\\\ -4\end{pmatrix} é uma solução não trivial do sistema homogêneo.]
Passo 4
Consequência: existência de solução não trivial implica infinitas soluções.
Se \mathbf{v} é uma solução não nula de A\mathbf{x}=\mathbf{0}, então, para qualquer escalar t\in\mathbb{R},
logo todos os múltiplos escalares t\mathbf{v} também são soluções. Como há infinitos escalares t, existem infinitas soluções do sistema homogêneo (na verdade as soluções formam um subespaço linear não trivial).
Passo 5
Relação com posto (rank) e singularidade. Definições e consequências:
O posto de A, \operatorname{rank}(A), é o número de colunas linearmente independentes.
A existência da relação linear dada mostra que as colunas \mathbf{a}_1,\mathbf{a}_2,\mathbf{a}_3 são linearmente dependentes, portanto
\operatorname{rank}(A)\le 2<3.
Pelo teorema do posto-nulidade (rank-nullity) em \mathbb{R}^3,
ou seja, o espaço de soluções tem dimensão pelo menos 1, compatível com infinitas soluções.
Uma matriz A é não singular (invertível) exatamente quando \operatorname{rank}(A)=3. Como \operatorname{rank}(A)<3, A não é invertível; em outras palavras, A é singular. Equivalentemente, \det(A)=0.
Passo 6
Observação adicional (útil na prova): não se pode afirmar mais do que isso sem informação extra. Pode ocorrer \operatorname{rank}(A)=2 (então o espaço nulo tem dimensão 1, soluções formam uma reta), ou \operatorname{rank}(A)=1 (espaço nulo de dimensão 2, soluções formam um plano), ou no caso extremo \operatorname{rank}(A)=0 (todas as colunas nulas, espaço nulo de dimensão 3). Em todo caso, há sempre mais de uma solução.
Resposta
O sistema A\mathbf{x}=\mathbf{0} tem infinitas soluções.
Não; A é singular (não é invertível).