Sobre o critério de mínimos quadrados na análise de regressão linear, podemos afirmar que o mesmo:
Alternativas
A. minimiza o valor máximo dos resíduos.
B. estima os parâmetros do modelo maximizando a soma dos resíduos.
C. estima os parâmetros do modelo minimizando a soma dos quadrados dos resíduos.
B. estima os parâmetros do modelo maximizando a soma dos resíduos.
C. estima os parâmetros do modelo minimizando a soma dos quadrados dos resíduos.
Passo 1
O enunciado pergunta qual das três alternativas sobre o critério de mínimos quadrados é correta. As alternativas são:
A. minimiza o valor máximo dos resíduos.
B. estima os parâmetros do modelo maximizando a soma dos resíduos.
C. estima os parâmetros do modelo minimizando a soma dos quadrados dos resíduos.
A. minimiza o valor máximo dos resíduos.
B. estima os parâmetros do modelo maximizando a soma dos resíduos.
C. estima os parâmetros do modelo minimizando a soma dos quadrados dos resíduos.
Informações dadas pelo enunciado: temos três afirmações sobre o comportamento do método de mínimos quadrados (cada uma descreve um tipo de objetivo de ajuste). A tarefa é identificar qual afirmação é verdadeira.
Passo 2
Primeiro precisamos entender o que são modelo, predição e resíduos. Vou explicar devagarinho.
Considere um modelo de regressão linear simples (o raciocínio vale para modelos com mais variáveis também). Para cada observação
temos:
onde:
-
é o valor observado da variável resposta na observação ; -
é o valor da variável explicativa na observação ; -
e são parâmetros reais do modelo (intercepto e coeficiente angular) que queremos estimar; -
é o erro (ruído) da observação .
Quando estimamos os parâmetros obtemos a predição
O resíduo (ou erro de ajuste) da i-ésima observação é a diferença entre observado e previsto:
Resumindo: resíduo é o “quanto erramos” na predição para cada ponto.
Passo 3
Agora explico o que o critério de mínimos quadrados (OLS — Ordinary Least Squares) faz. OLS escolhe os valores
e
que tornam a soma dos quadrados dos resíduos a menor possível. Formalmente definimos a função objetivo
O método de mínimos quadrados procura
Comentários didáticos:
- Por que quadrados? Porque elevar ao quadrado transforma resíduos negativos em positivos e penaliza mais fortemente resíduos grandes; isso torna a função
diferenciável e convexa, o que facilita encontrar um mínimo único. - Isso é diferente de somar resíduos sem elevar ao quadrado (essa soma costuma dar zero quando há intercepto), e diferente de minimizar o máximo absoluto do resíduo (que seria outro critério).
Passo 4
Para aprofundar e conectar com as alternativas: mostro que a primeira condição de ótimo (derivadas parciais nulas) dá uma propriedade importante. Diferenciando
em relação a
e
e igualando a zero obtemos as equações normais.
Calcule a derivada parcial em relação a
:
Igualando a zero:
Essa equação é exatamente
ou seja, a soma dos resíduos em um ajuste com intercepto é zero. Isso já permite responder à alternativa B: maximizar a soma dos resíduos faz pouco sentido porque, na prática, a soma dos resíduos no ajuste por mínimos quadrados é forçada a ser zero — não é um critério que OLS maximize. Portanto B está errada.
Passo 5
Mostro agora porque a alternativa A está errada. A diz que OLS “minimiza o valor máximo dos resíduos” — isto corresponde a minimizar
, que é um problema de minimax (norma
). Esse é um critério totalmente diferente do
(média dos quadrados) que OLS usa. Existem métodos que minimizam o máximo absoluto do erro (por exemplo ajustes de Chebyshev / minimax), ou que minimizam a soma dos valores absolutos (norma
, regressão por mínimos valores absolutos), mas OLS NÃO faz isso. OLS minimiza a soma dos quadrados dos resíduos, não o máximo. Logo A está errada.
Passo 6
Reforço pedagógico final: a definição básica do critério de mínimos quadrados é exatamente procurar os parâmetros que deixam pequena a soma dos quadrados dos erros. Essa é a maneira padrão em regressão linear porque gera estimadores com boas propriedades (por exemplo, quando erros são independentes e normalmente distribuídos, os estimadores OLS coincidem com os de máxima verossimilhança e são eficientes entre estimadores lineares).
Portanto, comparando diretamente com as alternativas:
- A (minimizar o máximo dos resíduos) — incorreto, é outro critério (minimax).
- B (maximizar a soma dos resíduos) — incorreto; para OLS a soma dos resíduos é zero (com intercepto), e OLS não maximiza essa soma.
- C (minimizar a soma dos quadrados dos resíduos) — correto, é a definição do método.
Resposta
C.