A pergunta específica é: qual é o valor de x_{1}, a primeira entrada da solução \vec{x} que minimiza \|A\vec{x}-\vec{b}\|^{2}?]
Passo 2
Conceito básico (didático e direto): quando o sistema A\vec{x}=\vec{b} é sobredeterminado (mais equações que incógnitas), procuramos \vec{x} que minimiza o erro quadrático \|A\vec{x}-\vec{b}\|^{2}. O procedimento padrão é formar as equações normais:
A^{T}A\vec{x}=A^{T}\vec{b}.
Breve justificativa: a função que queremos minimizar é f(\vec{x})=\|A\vec{x}-\vec{b}\|^{2}=(A\vec{x}-\vec{b})^{T}(A\vec{x}-\vec{b}). Derivando em relação a \vec{x} (gradiente) e igualando a zero obtém-se 2A^{T}A\vec{x}-2A^{T}\vec{b}=0, que leva a A^{T}A\vec{x}=A^{T}\vec{b}. Não precisa decorar: pensar em projetar \vec{b} na coluna-espaço de A também dá a mesma equação.
Passo 3
Vamos calcular A^{T}A. Para facilitar, escrevo as colunas de A: