Queremos saber se existe solução não-trivial para A x=0 e, em seguida, se A é invertível. Para isso, usamos o fato de que um sistema homogêneo tem solução não-trivial exatamente quando det(A)=0, e que A é invertível exatamente quando det(A)neq0.
Passo 2
Como A é triangular superior, o determinante é o produto dos elementos da diagonal principal. Logo,
det(A) = 2 times 5 times 1 times 3 = 30
Passo 3
Visto que det(A)=30neq0, temos rm rank(A)=4 (igual ao número de incógnitas). Portanto o sistema homogêneo A x=0 admite apenas a solução trivial x=(0,0,0,0).
Passo 4
Como det(A)neq0, concluímos que A é invertível.
Resposta
O sistema homogêneo não tem solução não-trivial (só a trivial) e a matriz Aé invertível (pois det(A)=30neq0).
Álgebra Linear e Geometria Analítica - Anton Rorres - Álgebra Linear - 8ª Edição - Capítulo 1.1.6 - Ex. 22.a