e pede o valor de k para que o sistema seja indeterminado (ou seja, tenha infinitas soluções).
Conteúdo necessário: condição de indeterminação em sistemas 3times3, que exige det(A)=0 e que o sistema permaneça compatível (rank da matriz dos coeficientes igual ao rank da matriz aumentada).
Passo 2
Formamos a matriz dos coeficientes
A = 1 & -2 & 3 5 & -6 & 7 6 & -8 & k
e calculamos seu determinante por expansão na primeira linha:
det(A) = 1cdot-6 & 7-8 & k -(-2)cdot5 & 76 & k +3cdot5 & -66 & -8
ou seja, a terceira equação é exatamente a soma das duas primeiras. Isso garante que o rank da matriz dos coeficientes e da matriz aumentada sejam iguais a 2, tornando o sistema compatível indeterminado.