Escolhi usar eliminação de Gauss (redução por linhas) porque é um método direto para verificar consistência de um sistema: fazemos operações elementares nas linhas que não alteram o conjunto de soluções e obtemos uma forma triangular onde é fácil ver se aparece uma equação impossível do tipo 0= c com c\neq0. Vou explicar brevemente as operações que uso:
Somar múltiplos de uma linha a outra: \text{R}_i \leftarrow \text{R}_i + \lambda \text{R}_j.
Essas operações preservam o conjunto de soluções do sistema.
Passo 3
Começo usando a primeira linha como pivô e elimino as entradas abaixo dela na coluna 1. Faço as seguintes operações:
Interpretação da última linha: ela corresponde à equação 0x_1+0x_2+0x_3 = k+5, ou seja 0 = k+5. Para que o sistema seja consistente (tenha solução), essa equação precisa ser verdadeira, logo devemos ter
k+5 = 0 \quad\Rightarrow\quad k = -5.
Se k\neq -5 apareceria a equação impossível 0 = número não nulo e o sistema não teria solução.
Adicional: quando k=-5 as três primeiras linhas dão pivôs nas três colunas de variáveis, logo o sistema terá exatamente uma solução única nesse caso.