O conteúdo envolve sistemas lineares: para o sistema ser impossível, precisamos de 1\det(A)=0 (matriz singular) e 2\rank(A\mid\mathbf b)>\rank(A) (vetor do lado direito não está no espaço coluna de A).]
Com \alpha=4, o sistema fica singular. Para verificar incompatibilidade, achamos uma combinação linear das equações que anule os coeficientes de x,y,z. Observa-se que
-1\cdot(\text{eq1})\;-\;1\cdot(\text{eq2})\;+\;1\cdot(\text{eq3})=0\cdot x+0\cdot y+0\cdot z.
Aplicando a mesma combinação aos termos independentes \beta,3,4, obtemos
-1\cdot\beta\;-\;1\cdot3\;+\;1\cdot4=1-\beta.
Para o sistema ser compatível, seria necessário 1-\beta=0, isto é \beta=1.
Passo 5
Logo, quando \alpha=4 mas \beta\neq1, a matriz de coeficientes é singular e o vetor do lado direito não satisfaz a condição de compatibilidade, tornando o sistema impossível.
Resposta
\alpha=4 e \beta\neq1.
Cálculo - Marcelo Rufino de Oliveira - Elementos da matemática - Vol 3 - 3ª Edição - Capítulo 12.Exercícios - Ex. 55