(Nota: o enunciado escreveu a letra y na entrada (1,4). Vou chamar esse número de \varepsilon quando for útil, mas logo veremos que o valor dessa entrada não altera a solução do sistema homogêneo.)
As colunas correspondem (pela ordem usual) às incógnitas que chamarei de x_1,x_2,x_3,x_4. A coluna aumentada é zero, portanto o sistema é homogêneo.
O enunciado pede: identificar o subespaço que é o conjunto- solução desse sistema (ou seja, o espaço das soluções), e escolher a opção correta entre as dadas. As opções estão no formato \operatorname{span}\{\cdots\} com um terceiro componente indicado por * (que significa “algum número”), e vários vetores têm a quarta componente igual a 0 ou a outro valor.
Passo 2
Vou escrever explicitamente as equações lineares que correspondem às linhas da matriz (cada linha da forma coeficientes | termo independente).
A primeira linha dá
x_1 + 6x_2 + 3x_3 + \varepsilon x_4 = 0,
onde usei \varepsilon para a entrada que o enunciado escreveu como y.
A segunda linha dá
x_2 - 7x_3 = 0.
A terceira linha dá
x_4 = 0.
Essas três equações formam o sistema linear homogêneo que vamos resolver.
Passo 3
Identificar variáveis básicas (com pivôs) e variáveis livres.
Da terceira equação temos \,x_4=0. Logo x_4 é uma variável básica fixada em 0.
Da segunda equação temos \,x_2 -7x_3=0, ou seja \,x_2=7x_3. Aqui x_2 é variável básica expressa em função de x_3.
A primeira equação é \,x_1 +6x_2 +3x_3 +\varepsilon x_4=0. Substituindo x_4=0 (da linha 3) reduzimos a primeira equação a
x_1 + 6x_2 + 3x_3 = 0.
Portanto a única variável que resta como livre é x_3. Vou parametrizá-la.
Passo 4
Expressar todas as incógnitas em função do parâmetro livre.
Escolha o parâmetro t para representar x_3, isto é
Portanto o conjunto- solução é o subespaço gerado por
\operatorname{span}\{(-45,\,7,\,1,\,0)\}.
Observe que o valor de \varepsilon (a entrada y da matriz) não aparece na solução final porque x_4=0 anula esse termo na primeira equação; assim qualquer valor de \varepsilon leva ao mesmo conjunto de soluções.
Passo 6
Comparação com as alternativas (explicação rápida).
A solução exige vetores com quarta componente 0 (pois x_4=0), então alternativas com quarta componente diferente de 0 estão imediatamente eliminadas.
Nosso gerador tem a razão entre as primeiras duas coordenadas \dfrac{x_1}{x_2}=\dfrac{-45}{7}. Nenhuma das alternativas cujo primeiro e segundo componentes são escritos de forma fixa (por exemplo (4,7,*,0), (-4,7,*,0), (-7,4,*,0), (7,4,*,0)) tem essa mesma razão; portanto nenhuma das alternativas exatamente coincide com \operatorname{span}\{(-45,7,1,0)\}.
Conclusão: o conjunto-solução é \operatorname{span}\{(-45,7,1,0)\}.