Problema 2 (Mínimos quadrados). Suponha que queremos aproximar uma certa função f(t) por uma função g(t) da forma g(x, y)=a t+b. Sabendo que f(-4)=5, f(0)=-4, f(2)=-5, encontre os valores de a e b que minimizam a soma dos erros quadráticos:
Estratégia para minimizar E(a,b) (explicação didática): E é uma função quadrática em a e b. Para encontrar seu mínimo diferenciável, calculamos as derivadas parciais \partial E/\partial a e \partial E/\partial b e igualamos a zero — isso gera um sistema linear nas variáveis a e b. Esse sistema é conhecido como equações normais da aproximação por mínimos quadrados. Como E é uma forma quadrática convexa (verificaremos a convexidade depois), as soluções das equações normais dão o mínimo global.
Passo 4
Para escrever as equações normais de modo compacto, é útil interpretar E como soma \sum_{i}(a t_i + b - f_i)^2. Definimos os somatórios sobre os três pontos: