Determine os pontos críticos das funções abaixo e classifique-os como pontos de máximo local, pontos de mínimo local ou pontos de sela.
9. (Método dos Mínimos Quadrados) Considere
pontos
, onde
se
. Suponha que esses pontos representem os resultados de alguma observação ou experimento e queiramos encontrar uma função afim
cujo gráfico contém os pontos
. Nem sempre existe uma tal função; em geral, o sistema linear nas variáveis
e
é impossível se
. O objetivo deste exercício é mostrar que é possível encontrar uma função afim
que minimiza a soma dos quadrados
Para fazer isso, mostre que a função
tem um único ponto crítico, que é ponto de mínimo global de
, e encontre-o. (Sugestão: use o Critério da Hessiana para classificar o ponto crítico encontrado. Para mostrar que se trata de um ponto de mínimo global, use o exercício anterior.)
9. (Método dos Mínimos Quadrados) Considere
Passo 1
O enunciado pede que mostremos que a função
tem exatamente um ponto crítico e que esse ponto é um mínimo global. Também pede que encontremos as coordenadas desse ponto crítico. Dados relevantes fornecidos:
- Temos
pontos com sempre que . - A variável a determinar é o par
. - A função
é a soma dos quadrados dos resíduos .
A partir daqui vamos calcular derivadas parciais, resolver as equações normais (sistema linear parae ), verificar unicidade e usar a Hessiana para classificar o ponto crítico, e finalmente provar que é mínimo global.
Passo 2
Calcular as derivadas parciais de
. Vou usar a regra da cadeia e a linearidade da soma. Para cada
a contribuição é
. Diferenciando em relação a
e
obtemos:
Explicando: cada termo
ao derivar por
dá
; por
dá
. O fator
aparece em ambas.
Passo 3
Encontrar os pontos críticos: anulamos as derivadas parciais. Dividindo por
Expandindo as somas coloco em forma matricial simples. Defino as somas auxiliares
Então o sistema fica
Este é um sistema
.]
Passo 4
Resolver o sistema linear e mostrar unicidade. O determinante do sistema é
Quero mostrar que
. Observe que
é exatamente a desigualdade de Cauchy–Schwarz estrita aplicada aos vetores
e
: a desigualdade de Cauchy–Schwarz diz
, e a desigualdade é estrita porque os vetores não são proporcionais: se fossem proporcionais teríamos todos os
iguais, o que contradiz
para
. Logo
. Conclusão: há solução única
.
Agora resolvo explicitamente usando fórmula de Cramer. Obtenho
É comum reescrever essas fórmulas em termos das médias
e
. Fazendo as manipulações (subtraindo
e
das somas) chega-se à forma bem conhecida
Explicando a interpretação:
é a inclinação da reta que minimiza a soma dos quadrados e
é o intercepto correspondente.
Passo 5
Classificar o ponto crítico usando a Hessiana. Calculo as segundas derivadas (são constantes porque
é quadrática):
A matriz Hessiana é
Para classificar um ponto crítico em
verificamos os menores principais. O primeiro menor principal é
(não pode ser zero porque, com
e
diferentes, pelo menos um
e assim
). O determinante de
é
(conforme já mostramos
). Como o primeiro menor é positivo e o determinante é positivo,
é definida positiva. Conclusão: o ponto crítico é estritamente um ponto de mínimo local (na verdade, por definição de Hessiana definida positiva, é um mínimo estrito).]
Passo 6
Mostrar que o mínimo local é global. Para funções quadráticas de duas variáveis com Hessiana definida positiva (constante), a função é estritamente convexa; em funções estritamente convexas todo mínimo local é único e global. Dou também uma demonstração direta, muito útil na prova: seja
a solução das equações normais. Para quaisquer
escrevo
. Usando que as equações normais implicam
fazendo a conta direta obtenho
Como a soma do lado direito é zero apenas se
(porque
garante que não existe
que torne todos os termos
simultaneamente zero), segue que
para todo
e a igualdade só ocorre em
. Portanto o mínimo é global e único.
Resposta
O ponto crítico é único e é um ponto de mínimo global de