Q17: Encontre a solução, no sentido dos mínimos quadrados, do sistema linear A \vec{x}=\vec{b}, representado abaixo por sua matriz aumentada:
\left[\begin{array}{rrr|r} -1 & 2 & 1 & -12 \\ -1 & 2 & -1 & -8 \\ 1 & 0 & 3 & 0 \\ -1 & 0 & -1 & 0 \end{array}\right]

Passo 1

O enunciado pede: encontrar a solução, no sentido dos mínimos quadrados, do sistema linear representado pela matriz aumentada fornecida. Ou seja, dado o sistema A\vec{x}=\vec{b} com a matriz aumentada
\left[\begin{array}{rrr|r} -1 & 2 & 1 & -12 \\\\ -1 & 2 & -1 & -8 \\\\ 1 & 0 & 3 & 0 \\\\ -1 & 0 & -1 & 0 \end{array}\right],
devo encontrar o vetor \vec{x}\in\mathbb{R}^3 que minimiza a soma dos quadrados dos resíduos \|A\vec{x}-\vec{b}\|^2.
Informações dadas (retiradas da matriz aumentada):
  • A matriz A tem as linhas (cada linha é uma equação):
    • linha 1: (-1,\;2,\;1)
    • linha 2: (-1,\;2,\;-1)
    • linha 3: (1,\;0,\;3)
    • linha 4: (-1,\;0,\;-1)
  • O vetor \vec{b} é (-12,\,-8,\,0,\,0)^T.
  • Número de equações m=4 e número de incógnitas n=3.

Passo 2

O que significa “solução no sentido dos mínimos quadrados” e qual método usar?
  • Quando m>n (mais equações que incógnitas) normalmente não existe \vec{x} que resolva exatamente A\vec{x}=\vec{b}. A solução de mínimos quadrados é o vetor \vec{x} que minimiza a função f(\vec{x})=\|A\vec{x}-\vec{b}\|^2=\sum_{i=1}^m (a_i^T\vec{x}-b_i)^2,onde a_i^T é a i-ésima linha de A.
  • Uma maneira padrão e prática é resolver as equações normais A^T A \vec{x} = A^T \vec{b}.Explicação rápida do porquê: f(\vec{x}) é uma função quadrática em \vec{x}. Derivando e igualando a zero (ou exigindo que o resíduo r=A\vec{x}-\vec{b} seja ortogonal ao espaço gerado pelas colunas de A) obtém-se A^T(A\vec{x}-\vec{b})=0, isto é A^T A\vec{x}=A^T\vec{b}.
  • Aqui A é 4\times3, A^T A será 3\times3 e A^T\vec{b} será 3\times1. Vou calcular A^T A e A^T\vec{b} explicitamente e resolver o sistema linear resultante.

Passo 3

Escrever A e \vec{b} explicitamente (peguei estes valores da matriz aumentada):
A=\begin{pmatrix} -1 & 2 & 1\\[4pt] -1 & 2 & -1\\[4pt] 1 & 0 & 3\\[4pt] -1 & 0 & -1 \end{pmatrix},\qquad \vec{b}=\begin{pmatrix}-12\\[4pt]-8\\[4pt]0\\[4pt]0\end{pmatrix}.
Para calcular A^T A é útil pensar em colunas de A:
\text{col}_1=\begin{pmatrix}-1\\\ -1\\\ 1\\\ -1\end{pmatrix},\quad \text{col}_2=\begin{pmatrix}2\\\ 2\\\ 0\\\ 0\end{pmatrix},\quad \text{col}_3=\begin{pmatrix}1\\\ -1\\\ 3\\\ -1\end{pmatrix}.]

Passo 4

Calcular A^T A usando produtos escalares coluna a coluna (cada entrada (i,j) é \text{col}_i^T\text{col}_j):
  • (1,1)=\text{col}_1\cdot\text{col}_1 = (-1)^2+(-1)^2+1^2+(-1)^2=1+1+1+1=4.
  • (1,2)=\text{col}_1\cdot\text{col}_2 = (-1)\cdot2+(-1)\cdot2+1\cdot0+(-1)\cdot0=-2-2+0+0=-4.
  • (1,3)=\text{col}_1\cdot\text{col}_3 = (-1)\cdot1+(-1)\cdot(-1)+1\cdot3+(-1)\cdot(-1)=-1+1+3+1=4.
  • (2,2)=\text{col}_2\cdot\text{col}_2 = 2^2+2^2+0+0=4+4=8.
  • (2,3)=\text{col}_2\cdot\text{col}_3 = 2\cdot1+2\cdot(-1)+0\cdot3+0\cdot(-1)=2-2+0+0=0.
  • (3,3)=\text{col}_3\cdot\text{col}_3 = 1^2+(-1)^2+3^2+(-1)^2=1+1+9+1=12.
Como A^T A é simétrica, os termos fora da diagonal se repetem. Portanto
A^T A = \begin{pmatrix} 4 & -4 & 4\\[4pt] -4 & 8 & 0\\[4pt] 4 & 0 & 12 \end{pmatrix}.]

Passo 5

Calcular A^T\vec{b} (cada entrada é a produto escalar da coluna correspondente com \vec{b}, e usei \vec{b} vindo da matriz aumentada):
  • primeira componente: \text{col}_1\cdot\vec{b}=(-1)(-12)+(-1)(-8)+1\cdot0+(-1)\cdot0=12+8+0+0=20.
  • segunda componente: \text{col}_2\cdot\vec{b}=2(-12)+2(-8)+0+0=-24-16=-40.
  • terceira componente: \text{col}_3\cdot\vec{b}=1(-12)+(-1)(-8)+3\cdot0+(-1)\cdot0=-12+8+0+0=-4.
Logo
A^T\vec{b}=\begin{pmatrix}20\\[4pt]-40\\[4pt]-4\end{pmatrix}.]

Passo 6

Montar e resolver as equações normais
\begin{pmatrix} 4 & -4 & 4\\[4pt] -4 & 8 & 0\\[4pt] 4 & 0 & 12 \end{pmatrix} \begin{pmatrix}x_1\\[4pt]x_2\\[4pt]x_3\end{pmatrix} = \begin{pmatrix}20\\[4pt]-40\\[4pt]-4\end{pmatrix}.
Vou resolver por eliminação de Gauss, mostrando as operações.
Sistema ampliado inicial:
\left[\begin{array}{rrr|r} 4 & -4 & 4 & 20\\[4pt] -4 & 8 & 0 & -40\\[4pt] 4 & 0 & 12 & -4 \end{array}\right].
Operações (para eliminar a primeira coluna nas linhas 2 e 3):
  • R_2 \leftarrow R_2 + R_1: R_2: (-4+4,\;8+(-4),\;0+4,\;-40+20) = (0,\;4,\;4,\;-20).
  • R_3 \leftarrow R_3 - R_1: R_3: (4-4,\;0-(-4),\;12-4,\;-4-20) = (0,\;4,\;8,\;-24).
Agora a matriz é
\left[\begin{array}{rrr|r} 4 & -4 & 4 & 20\\[4pt] 0 & 4 & 4 & -20\\[4pt] 0 & 4 & 8 & -24 \end{array}\right].
Eliminar a segunda coluna na linha 3:
  • R_3 \leftarrow R_3 - R_2: R_3: (0,\;0,\;4,\;-4).
Ficamos com
\left[\begin{array}{rrr|r} 4 & -4 & 4 & 20\\[4pt] 0 & 4 & 4 & -20\\[4pt] 0 & 0 & 4 & -4 \end{array}\right].
Agora resolver por substituição regressiva:
  • Da terceira equação: 4x_3=-4 então x_3=-1.
  • Da segunda: 4x_2+4x_3=-20. Substituindo x_3=-1: 4x_2+4(-1)=-20 \implies 4x_2-4=-20 \implies 4x_2=-16 \implies x_2=-4.
  • Da primeira: 4x_1-4x_2+4x_3=20. Substituindo x_2=-4 e x_3=-1: 4x_1-4(-4)+4(-1)=20 \implies 4x_1+16-4=20 \implies 4x_1+12=20 \implies 4x_1=8 \implies x_1=2.
Portanto a solução dos normais é
\vec{x}=\begin{pmatrix}2\\[4pt]-4\\[4pt]-1\end{pmatrix}.]

Passo 7

Verificação (boa prática): para solução de mínimos quadrados o resíduo r=A\vec{x}-\vec{b} deve ser ortogonal às colunas de A, isto é A^T r=0. Vou checar A^T(A\vec{x}-\vec{b}) rapidamente:
  • Já sabemos A^T A\vec{x}=A^T\vec{b} foi usado para obter \vec{x}, então A^T(A\vec{x}-\vec{b})=0 por construção. Se desejar verificar numericamente, pode-se computar A\vec{x} e r e confirmar que A^T r é (próximo de) zero. Aqui, como resolvemos exatamente as normais com aritmética exata, a condição de ortogonalidade está satisfeita.
Parabéns — encontrámos o vetor que minimiza \|A\vec{x}-\vec{b}\|^2.

Resposta

\displaystyle \begin{pmatrix}2\\[4pt]-4\\[4pt]-1\end{pmatrix}]

Exercícios relacionados