O que significa “solução no sentido dos mínimos quadrados”? Vou explicar devagarinho e intuitivamente. Para um sistema com mais equações que incógnitas (aqui 4 equações e 3 incógnitas), pode não existir \vec{x} tal que A\vec{x}=\vec{b}. A ideia dos mínimos quadrados é escolher \vec{x} que minimize o erro total quadrado, isto é o quadrado da norma do resíduo
\|A\vec{x}-\vec{b}\|^{2}.
Matematicamente, essa minimização leva às chamadas equações normais:
A^{T}A\vec{x}=A^{T}\vec{b}.
Explicando os símbolos:
A^{T} é a transposta de A (troca linhas por colunas).
A^{T}A é uma matriz quadrada 3\times 3.
A^{T}\vec{b} é um vetor 3\times1.
Resolver A^{T}A\vec{x}=A^{T}\vec{b} nos dá a solução de mínimos quadrados. Agora vamos calcular A^{T}A e A^{T}\vec{b} explicitamente.
Para simplificar os cálculos, notamos que todos os coeficientes da matriz e do vetor do lado direito são múltiplos de 7. Dividindo toda a equação por 7 obtemos o sistema equivalente
Resumo e chefinho de motivação: chegamos à solução por mínimos quadrados resolvendo as equações normais A^{T}A\vec{x}=A^{T}\vec{b}. Os cálculos foram feitos passo a passo, e a terceira componente ficou positiva e inteira \;x_{3}=4. Você consegue checar rapidamente substituindo A\vec{x} e vendo que o resíduo existe (porque o sistema é sobredeterminado), mas que \vec{x} minimiza a soma dos quadrados dos resíduos.