O objetivo é achar os valores de a para os quais o sistema é incompatível (sem solução). Para isso, vamos usar eliminação de Gauss e a condição de linha nula com termo independente não zero.
Passo 2
Aplicamos a operação de linha
L3 L3 - L1
para zerar o primeiro elemento da terceira linha. Isso transforma a terceira linha em
L3: ;(1-1,;0-0,;3-3,;a^2-1-0;|;(a+2)-2) =(0,0,0,a^2-1mid a)
Passo 3
Após a eliminação, temos a terceira linha como
(0,;0,;0,;a^2-1mid a)
As duas primeiras linhas continuam com pivôs não nulos (salvo o caso a+2=0, que não gera incompatibilidade).
Passo 4
Para que o sistema seja incompatível, é preciso surgir uma linha do tipo
(0,0,0,0mid c) com cneq0
Isto exige ao mesmo tempo
a^2-1=0 e aneq0
Resolvendo a^2-1=0 dá a=pm1, e em ambos os casos aneq0 garante c=aneq0.
Resposta
Os valores de a que tornam o sistema sem solução são