O que se pede: mostrar que este sistema possui solução não-trivial (isto é, uma solução diferente de x=y=z=0) se, e somente se, \alpha=\beta.]
Passo 2
Lembrete teórico (muito importante e simples): para um sistema homogêneo escrito na forma matricial
A\mathbf{v}= \mathbf{0},
onde A é a matriz dos coeficientes e \mathbf{v} o vetor incógnita, vale o seguinte fato-chave:
Há solução não-trivial se, e somente se, \det(A)=0.
Intuição curta: \det(A)=0 significa que as colunas (ou linhas) de A são linearmente dependentes, logo existe um vetor não-nulo \mathbf{v} tal que A\mathbf{v}=\mathbf{0}. Se \det(A)\neq0, então A é invertível e só a solução é a trivial \mathbf{v}=\mathbf{0}.
Passo 3
Escrevemos a matriz dos coeficientes A do sistema:
Vamos calcular \det(A). Faço a operação elementar na matriz: substituir a segunda linha pela segunda linha menos a primeira linha. Essa operação deixa o determinante inalterado. Assim consideramos a matriz equivalente
Calculo agora o determinante expandindo pela segunda linha (que tem muitos zeros). A única entrada não-nula da segunda linha é \beta-\alpha na coluna 3. O cofactor correspondente tem sinal (-1)^{2+3}=-1 e a submatriz 2\times2 obtida ao eliminar a linha 2 e a coluna 3 é
Da expressão \det(A)=-(\alpha-\beta)^2 segue que \det(A)=0 exatamente quando \alpha-\beta=0, ou seja, exatamente quando
\alpha=\beta.
Pelo fato teórico do Passo 2, isso é a condição necessária e suficiente para existir solução não-trivial do sistema.
Passo 7
Para ilustrar concretamente: se \alpha=\beta então as duas primeiras equações são idênticas e qualquer vetor do tipo (1,-1,0) satisfaz x+y=0 e também a terceira equação, logo é uma solução não-trivial. Se \alpha\neq\beta então \det(A)\neq0 e a única solução é a trivial x=y=z=0.