A pergunta: encontrar a solução no sentido dos mínimos quadrados e, em particular, indicar o valor da segunda componente \,x_2, da solução \vec{x}. Não vamos supor que o sistema seja consistente; queremos a solução que minimiza o erro quadrático \|A\vec{x}-\vec{b}\|^2.]
Passo 2
Ideia dos mínimos quadrados (explicação didática): queremos o vetor \vec{x}\in\mathbb{R}^3 que torna o resíduo \vec{r}=A\vec{x}-\vec{b} o menor possível em norma Euclidiana. Isso é equivalente a minimizar a função escalar
Para encontrar o mínimo, derivamos f em relação a \vec{x} (gradiente) e igualamos a zero. O resultado padrão é a equação normal:
A^\top A\,\vec{x}=A^\top\vec{b}.
Aqui A^\top é a transposta de A. Essa equação é um sistema 3\times3 (porque A tem 3 colunas) que podemos resolver por eliminação. Essa \vec{x} resolve o problema dos mínimos quadrados (assumindo A^\top A invertível ou solucionável).
Passo 3
Vamos calcular A^\top A. Primeiro escrevo as colunas de A:
Agora calculo A^\top\vec{b}. Uso as mesmas colunas e o vetor \vec{b}=\begin{pmatrix}-18\\[4pt]0\\[4pt]-1\\[4pt]3\end{pmatrix}. Cada componente é o produto interno da coluna correspondente com \vec{b}:
Vou resolver esse sistema 3\times3 por eliminação gaussiana. Primeiro, simplifico a primeira linha dividindo por 4 (isso facilita as contas sem mudar a solução):