O que se pede: indicar o valor de k (entre as opções 0,1,2,3,4,5,6,7) de forma que o sistema tenha solução.
Passo 2
Primeiro conceito importante (didático, passo a passo): quando um sistema linear é representado por uma matriz aumentada \big[\,A\mid b\,\big], o sistema tem solução se e somente se a classificação (posto) da matriz dos coeficientes A for igual ao posto da matriz aumentada \big[\,A\mid b\,\big]. Na prática, ao fazer eliminação por linhas (eliminação de Gauss), uma situação sinal de inconsistência aparece quando, após eliminar, aparece uma linha do tipo
\big[\,0\\\ 0\\\ 0\\ \mid\\ c\,\big]
com c\neq 0. Isso corresponde a uma equação 0= c impossível. Portanto, ao fazer operações por linha, devemos olhar se surge uma linha nula nas colunas de coeficientes enquanto o termo independente não for zero; nesse caso o sistema é impossível. Vou aplicar eliminação por linhas e verificar a condição em função de k.
Passo 3
Começo a eliminação usando operações elementares nas linhas (vou chamar as linhas originais de r_1,r_2,r_3,r_4).
Portanto a quarta linha torna-se [0\\\ 0\\\ 0\mid k-1].
Passo 6
Agora vem a conclusão lógica sobre consistência: a quarta linha representa a equação
0 = k-1.
Para o sistema ser consistente (ter solução) é necessário que essa equação seja verdadeira, ou seja que k-1=0. Se k-1\neq 0 então aparece a linha impossível 0 = não zero e o sistema não tem solução.
Logo a condição de existência de solução é
k-1=0 \quad\Longrightarrow\quad k=1.
Passo 7
Para reforçar e te deixar mais tranquilo: quando k=1 o sistema é consistente. Posso ainda mostrar rapidamente a solução única que surge (apenas para treinar back-substitution):
Com k=1 a matriz reduzida é (após as operações já feitas):
Portanto, para k=1 o sistema tem solução e esta é (x_1,x_2,x_3)=\big(-1,\tfrac{1}{4},\tfrac{1}{2}\big). Para qualquer outro valor de k o sistema é impossível.