Vou chamar as incógnitas de \,x_1,x_2,x_3. O que o problema pede: encontrar a solução geral do sistema linear associado a essa matriz aumentada (ou seja, todos os vetores (x_1,x_2,x_3) que satisfazem o sistema). Informações importantes dadas:
É um sistema homogêneo (termo independente igual a 0 em todas as equações).
A matriz tem 3 equações e 3 incógnitas.
Passo 2
Vou usar eliminação de Gauss (redução por linhas) para achar a solução. Rápida revisão do método (pra gente se entender bem):
Objetivo: transformar a matriz aumentada por operações elementares de linha (trocar duas linhas, multiplicar uma linha por escalar não nulo, somar a múltipla de uma linha a outra) até obter uma forma triangular ou reduzida, de onde dá para ler as incógnitas.
Em um sistema homogêneo sempre existe a solução trivial (0,0,0). Se o posto da matriz de coeficientes for menor que o número de incógnitas, teremos infinitas soluções e devemos introduzir parâmetros livres.
Cada linha não nula na forma reduzida corresponde a uma equação linear independente; as variáveis pivô são aquelas determinadas em função das livres.
Agora aplico passo a passo as operações às linhas, explicando cada conta.