quais condições devem ser satisfeitas por a e b para que o sistema seja
Possível e indeterminado?
Passo 1
O enunciado dá um sistema linear de três equações e três incógnitas
x + y + 4z = 2, x + 2y + 7z = 3, 3x + y + a z = b,
e pede as condições em a e b para que ele seja possível e indeterminado (isto é, tenha infinitas soluções).
Para isso usamos a teoria de sistemas lineares: um sistema 3times3 tem infinitas soluções se, e somente se, o posto da matriz de coeficientes A for menor que 3 (logo det(A)=0) e o posto da matriz ampliada for igual ao posto de A.