O enunciado nos dá um sistema linear de três equações com três incógnitas x\), \(y\) e \(z\):
\[\begin{cases} a x + y + z = 1,\\\ x + a y + z = 1,\\\ x + y + a z = 1. \end{cases}
Precisamos determinar para quais valores de (a] o sistema não admite solução. Vamos usar determinante da matriz de coeficientes, posto da matriz e condição de consistência.
Passo 2
Denotando por A a matriz de coeficientes, temos
A = \begin{pmatrix} a & 1 & 1\\\\ 1 & a & 1\\\\ 1 & 1 & a \end{pmatrix}
e
\det(A) = \begin{vmatrix} a & 1 & 1\\\\ 1 & a & 1\\\\ 1 & 1 & a \end{vmatrix} = a^3-3a+2 = (a-1)^2\,(a+2).
Logo, \det(A)=0 se, e somente se, a=1 ou a=-2.
Passo 3
Para o sistema não ter solução, a matriz deve ser singular (já vimos a=1 ou a=-2) e o vetor de termos independentes não pode pertencer ao espaço gerado pelas colunas de A, isto é, o posto da matriz ampliada deve ser maior que o posto de A.