Regressão Linear

Teoria Completa

Introdução à Regressão Linear

Fala Aíí!!! Digamos que a gente tem o seguinte cenário: Temos uma variável x   que representa o número de gols que um time marcou em uma partida e a variável y o número de tentativas que foram feitas. Observe a tabela com os dados obtidos até o final do campeonato:

Podemos colocar os valores da tabela num gráfico que chamaremos de gráfico de dispersão. Teremos algo desse tipo:

Se alguém te pedisse para encontrar a equação que melhor representa essa situação, você saberia como fazer isso?

Olhando para o gráfico, os pontos dispersos estão quase formando uma linha reta certo? Não seria exagero pensar que a equação que melhor representa essa situação será o de uma reta:

O que a gente faz em regressão linear é exatamente encontrar uma reta dessas! Beleza?!

O que a gente tem que ter na cabeça antes de ir às contas é o seguinte:

  • Cada ponto ( x , y ) dessa figura é composto de duas variáveis, que são nossos dados.
  • O que a gente tá fazendo ao encontrar essa reta é tentando relacionar uma variável à outra, através de uma equação. A fórmula é a seguinte:
  • Y = α X + β + e

  • Onde:

α : c o e f i c i e n t e   d e p e n d e n t e

β : c o e f i c i e n t e   i n d e p e n d e n t e  

e : e r r o

Não precisa encrencar com esse erro não! É bom representar ele nas nossas respostas finais só pra ficar matematicamente correto, mas não precisamos calcular nada sobre ele.

Beleza, mas na prática como encontramos a equação dessas retas?

Encontrando a equação da reta

Exemplo

Em uma pesquisa deseja-se encontrar a taxa de mortalidade infantil com a taxa de analfabetismo do país. Qual a reta de regressão que descreve melhor a taxa de mortalidade infantil em função do analfabetismo?

Para resolver esse problema, faz sentido estabelecermos duas variáveis:

  • Taxa de Analfabetismo
  • Taxa de Mortalidade Infantil

Concorda?!

Tem-se os seguintes dados:

Beleza, mas antes de começar precisamos responder uma pergunta que nos ajudará a encontrar a reta: qual é nossa variável dependente e qual nossa variável independente?

Lembra que a fórmula da reta seria algo desse tipo:

Y = α X + β + e

Note que o valor de Y está dependendo do valor de X! Por isso chamamos Y de variável dependente e x de variável independente. Show de bola?!

No nosso caso queremos relacionar a taxa de mortalidade com a taxa de analfabetismo, ou seja, como a taxa de analfabetismo interfere na taxa de mortalidade.

Podemos dizer então que a taxa de mortalidade será nossa variável dependente (porque vai sofrer alterações com os números de analfabetos) e a taxa de analfabetismo será nossa variável independente.

X :   T a x a   d e   A n a l f a b e t i s m o

Y :   T a x a   d e   M o r t a l i d a d e   I n f a n t i l

Podemos montar outra tabela agora dessa forma:

Agora vamos encontrar os coeficientes da equação da reta seguindo o passo a passo!

Lembrando que a equação deve ter uma carinha como essa:

Y = α X + β + e

Passo 1)

Para montarmos a função temos que descobrir o valor dos parâmetros α e β .

Infelizmente teremos mais fórmulas:

α = n   .   ∑ x i y i - ∑ x i . ∑ y i n . ∑ x i 2 - ∑ x i 2

β = y _ - α x _

Masôqueee? Relaxa! Vamos ver direitinho o que cada termo aí dentro significa.

O n é o número de elementos da nossa amostra. Como nosso quadro nos dá informações sobre 5 regiões do país, n = 5 . Os x i e y i são os dados individuais de cada variável. E x _   e y _ são as médias amostrais desses dados.

Vamos começar com o α :

α = n   .   ∑ x i y i - ∑ x i . ∑ y i n . ∑ x i 2 - ∑ x i 2

Vamos calcular todos esses valores com a ajuda da tabela.

∑ x i y i → É   o   s o m a t ó r i o   d e   t o d o s   o s   v a l o r e s   d e   x i y i

Precisamos multiplicar os valores de x e y em cada linha da tabela e depois somar tudo!

∑ x i y i = 2892,87

Beleza? Vamos para o próximo!

∑ x i . ∑ y i → É   o   v a l o r   d o   s o m a t ó r i o   d o s   x ' s   c o m   o s   y ' s

Já temos esses valores na tabela!

∑ x i = 166,7       e       ∑ y i = 71,4

Tudo bem até aqui?

∑ x i 2 → É   o   s o m a t ó r i o   d e   t o d o s   o s   v a l o r e s   d e   x   a o   q u a d r a d o

Também podemos montar uma coluna da nossa tabela calculando o valor de x ² e depois somar os valores que encontramos:

∑ x i 2 = 6485,50

Falta só o últimos termo:

∑ x i 2 → É   o   s o m a t ó r i o   d e   t o d o s   o s   x ' s   a o   q u a d r a d o

Reparem que é diferente do que calculamos anteriormente! Nesse caso vamos pegar o valor de ∑ x i e elevar ao quadrado. Já encontramos esse valor então:

∑ x i 2 = ( 166,7 ) ²

Pronto! Temos tudo que precisamos para encontrar o coeficiente α :

α = n   .   ∑ x i y i - ∑ x i . ∑ y i n . ∑ x i 2 - ∑ x i 2

α = 5 . 2892,87 - 166,7 . 71,4 5 . 6485,50 - 166,7 2 = 0,55

Passo 2)

Para o cálculo do β , precisamos das médias amostrais, que vão ser dadas por:

x _ = ∑ x i n = 166,7 5 = 33,34

y _ = ∑ y i n = 71,4 5 = 14,28

Então:

β = y _ - α x _

β = 14,28 - 0,55 ( 33,24 )

β = - 4,1

Passo 3)

Agora podemos juntar tudo na fórmula da reta:

Y = α X + β + e

Y = 0,55 X - 4,1

Essa aí é nossa melhor reta aproximada!

Expandir

Exercício Resolvido #1

Elaboração própria

Foram observados 4 lotes aleatórios de sucos concentrados, cada um com a sua respectiva quantidade (em mg) por pacote e a quantidade de água necessária (em ml).

Estime os parâmetros da reta de regressão Y = a + b X . Onde X é a quantidade em mg.

MOSTRAR SOLUÇÃO COMPLETA

Passo 1

Bom, pra fazer isso a gente só vai precisar aplicar fórmulas.

b = s x y s x 2

Sendo que...

s x y = ∑ i = 1 n x i . y i - ∑ i = 1 n x i ∑ i = 1 n y i n n - 1

s x 2 = ∑ x i 2 - n . x ¯ 2 n - 1 = ∑ ( x i - x - ) ² n - 1

Lembrando que temos essas duas formas de escrever a variância, uma simplificada e outra não. Você pode escolher qual usar, elas dão o mesmo resultado, afinal, são a mesma coisa!

Fazendo as contas vamos ter:

s x y = 119000 - 1200 × 340 4 4 - 1 = 5666,67

s x 2 = 460000 - 4 300 2 4 - 1 = 33 333,33

Lembrando que o X é a quantidade em mg e que sua média x - vale 300.

Com isso...

b = 0,17

Passo 2

Pra calcular o a ...

a = ∑ i = 1 n y i - b . ∑ i = 1 n x i n

Substituindo os valores na fórmula..

a = 340 - 0,17 × 1200 4

a = 34

Resposta

Y = 34 + 0,17 X

Exercício Resolvido #2

João Ismael D. Pinheiro, Probabilidade e Estatística: Quantificando a incerteza, Rio de Janeiro: Elsevier Editora Ltda, 2012, pp. 286.

Em seu livro Uncertainties analysis, loads and safety in Structural Engineering (Prentice Hall, 1982) – em português, Análise de incertezas, cargas e segurança em Engenharia de Estruturas -, Gary C. Hart apresenta o conjunto de dados a seguir, que nos permite investigar a relação de dependência entre duas propriedades mecânicas do concreto: X = módulo secante (em 10 6 psi) e Y = força de compressão (em 10 3 psi).

  1. Obtenha um diagrama de dispersão relativo a esses dados;
  2. Calcule o coeficiente de correlação entre X e Y ;
  3. Ajuste os dados a reta de regressão Y = a + b x .
MOSTRAR SOLUÇÃO COMPLETA

Passo 1

(a)

Diagrama de dispersão é colocar os pontos ( X , Y ) num gráfico;

Passo 2

(b)

Coeficiente de correlação é a fórmula:

r x y = s x y s x . s y

Então vamos calcular cada parte separadamente.

s x 2 = ∑ x i 2 - n . x ¯ 2 n - 1

x ¯ = ∑ i = 1 n x i n = 3,5155

∑ i = 1 20 x i 2 = 247,6033

s x 2 = 0,022

s x = 0,15

Passo 3

s y 2 = ∑ y i 2 - n . y ¯ 2 n - 1

y ¯ = ∑ i = 1 n y i n = 7,295

∑ i = 1 20 y i 2 = 1102,11

s y 2 = 1,99

s y = 1,41

Passo 4

Agora s x y .

s x y = ∑ i = 1 n x i . y i - ∑ i = 1 n x i ∑ i = 1 n y i n n - 1

∑ i = 1 n x i . y i = 516,322

s x y = 0,1 795

Passo 5

Agora sim:

r x y = s x y s x . s y

r x y = 0,1 795 0,15 × 1,41 = 0 , 8486

Relaxe, dependendo dos seus arredondamento seu resultado pode ter dado um pouco diferente.

Passo 6

(c)

Vamos ajustar a reta, pra isso temos que calcular os coeficientes a e b :

b = s x y s x 2

b = 0,1795 0,15 2 = 7,97

a = ∑ i = 1 n y i - b . ∑ i = 1 n x i n

a = - 20,72

Nossa reta de regressão seria então:

Y = - 20,72 + 7,97 X + e r r o

Resposta

b   0,8486

c   Y = - 20,72 + 7,97 X + e r r o

Exercício Resolvido #3

Pedro A. Morettin e Wilton de O. Bussab, Estatística Básica, 5ª ed. São Paulo: Saraiva, 2006, 2

A tabela abaixo indica o valor y do aluguel e a idade x de cinco casas.

a) Encontre a reta de MQ, supondo a relação E y x = α x + β .

b) Faça o gráfico dos pontos e da reta ajustada. Você acha que o modelo adotado é razoável?

c) Qual o significado do coeficiente angular nesse caso?

d) E do coeficiente linear?

MOSTRAR SOLUÇÃO COMPLETA

Passo 1

Esse é um exercício clássico de regressão linear, em que são você tem os dados da amostra e precisa achar a reta de mínimos quadrados, ou seja precisa estimar α e o β, por aquelas fórmulinhas da teoria

α = n   .   ∑ c o l u n a x y - ∑ x . ∑ y n . ∑ x 2 - ∑ x 2

β = y - - α x -

Onde nesse caso n = 5, x = {10, 13, 5, 7, 20} e y = {4, 3, 6, 5, 2}. E lembrando que a variável com a barra em cima significa a média amostral dela.

Passo 2

Aqui é a parte chata em que você faz um monte de contas, sugiro que pegue uma calculadora

α = 5   .   184   - 55   .   20 5   .   743 -   3025

α = - 0,26

β = 4 - ( - 0,26 )   .   11

β = 6,87

y i ^ = 6,87 - 0,26 x i

Pronto ai está a sua reta ajustada pelos MQ

Passo 3

Para fazer o gráfico de pontos basta você delimitar um espaço, marcar os pares de pontos e depois traçar a reta que foi achada no passo 2, ela deve ter mais ou menos essa cara.

Não fique triste senão ficar igual, eu (roubei) fiz no computador.

Ah, e se é razoável?! Bom, olhando para o gráfico podemos verificar que os pontos estão próximos à reta, logo, parece ser razoável.

Passo 4

Já na letra (c) ele pede pra explicar o significado do coeficiente angular, que é o α.

Como ele é o termo que está próximo de x, e x é a idade das casas, α significa que o valor médio do aluguel diminui em 0,26 vezes a cada ano que passa.

Passo 5

A letra (d) é bem parecida com a letra (c), só que precisamos explicar o coeficiente linear, β.

É o termo que está “sozinho”, e como ele é igual a y quando x=0, ele diz que o valor médio do aluguel das casas, no tempo 0 é de 6,87.

Resposta

Exercício Resolvido #4

Pedro A. Morettin e Wilton de O. Bussab, Estatística Básica, 5ª ed. São Paulo: Saraiva, 2006, 3

Um laboratório está interessado em medir o efeito da temperatura sobre a potência de um antibiótico. Dez amostras de 50 gramas cada foram guardadas a diferentes temperaturas, e após 15 dias mediu-se a potência. Os resultados estão no quadro abaixo.

a) Faça a representação gráfica dos dados.

b) Ajuste a reta de MQ, da potência como função da temperatura.

c) O que você acha desse modelo?

d) A que temperatura a potência média seria nula?

MOSTRAR SOLUÇÃO COMPLETA

Passo 1

Sabemos que y = {38, 43, 32, 26, 33, 19, 27, 23, 14, 21} e x = {30, 30, 50, 50, 50, 70, 70, 70, 90, 90}, basta marcar os pares de pontos no gráfico e traçar uma reta que fique razoavelmente bem distribuída entre os pontos. Exemplo:

Passo 2

Para resolvermos a letra (b), basta lembrar das fórmulas que a gente viu na teoria:

α = n   .   ∑ c o l u n a x y - ∑ x . ∑ y n . ∑ x 2 - ∑ x 2

β = y - - α x -

Achando todos os valores necessários, (recomendo que use uma calculadora ou até um programa de computador) teremos

α = 10   .   14960 - 60 0   .   276   10   .   40200 - 36000 0 =   - 0,38095

β = 27,6 - - 0 , 38095   .   60 = 50,457

y ^ = 50 , 457 - 0 , 38095 x

Passo 3

A pergunta da (c) é, o modelo parece adequado?? Sim, com os dados que temos o modelo parece seguir uma linearidade em que y depende de x. (os valores observados não estão muito longe da reta)

Passo 4

Para respondermos a (d) basta acharmos o valor de x (temperatura), o y ^ (potência média) será 0.

y ^ = 0 → 50,457 - 0,38095 x = 0 → x = 132,43 o

Resposta

Exercício Resolvido #5

Pedro A. Morettin e Wilton de O. Bussab, Estatística Básica, 5ª ed. São Paulo: Saraiva, 2006, 18

Os dados abaixo referem-se a meses de experiência de dez digitadores e o número de erros cometidos na digitação de determinado texto.

Dados:

∑ x i = 55 ,   ∑ x i 2 = 385 ,   ∑ y i = 170 ,   ∑ x i y i = 706

a) Represente graficamente esse conjunto de dados.

b) Assumindo que um modelo de regressão linear é adequado, determine os coeficientes da equação pelo método dos mínimos quadrados.

c) Represente a reta de regressão no gráfico feito anteriormente

d) Qual a posição do ponto ( x - , y - ) , em relação à reta de regressão?

e) Qual o número esperado de erros para um digitador com 5 meses de experiência?

MOSTRAR SOLUÇÃO COMPLETA

Passo 1

Neste exercício temos uma amostra com n=10, e não confie nesses dados que ele dá no problema, eles estão errados, tirando o somatório de y refaça todos.

Passo 2

Para montarmos o gráfico basta pegarmos os pares (xi , yi) e ordenar no gráfico, assim:

Passo 3

Para resolvermos a letra c, isto é, acharmos a reta da regressão, precisamos achar os valores de α e β, basta lembrarmos das fórmulas nos valores que calculamos na calculadora, (de novo não confia no exercício, ele fura fila no bandejão).

α = n   .   ∑ c o l u n a x y - ∑ x . ∑ y n . ∑ x 2 - ∑ x 2

β = y - - α x -

Aplicando os dados:

α = 10   .   706 - 55.170 10   .   385 - 3025 = - 2,776

β = 17 - - 2,776 . 5,5 = 32,267

Logo a sua reta terá a cara:

y ^ = 32,267 - 2,776 x

Passo 4

Agora para traçar a reta pegue uns dois pontos de y na equação encontrada acima e veja que x é seu par, e trace uma reta, ficará mais ou menos assim

Passo 5

Para a nossa sorte já calculamos as médias amostrais, quando achamos β, logo é só achar onde fica o par (5,5,17). Uma dica o par das médias amostrais de x e y vai sempre estar sobre a reta, para provar basta aplicar o x na equação da reta e verá que o resultado será y.

y ^ = 32,267 - 2,776.5,5 = 17

Passo 6

Para resolver a letra (e), é basicamente repetir o passo que fizemos na d, mas trocando o x=5,5 para x=5.

y ^ = 32,267 - 2,776.5 = 18,4

Resposta

Exercício Resolvido #6

Pedro A. Morettin e Wilton de O. Bussab, Estatística Básica, 5ª ed. São Paulo: Saraiva, 2006, 18

Sejam Y = despesa com viagem, X = duração da viagem (em dias). Para uma amostra com n = 102 obteve-se

∑ x i = 510 ;   ∑ x i 2 = 4 15 0 ,   ∑ y i = 7 14 0 ,   ∑ x i y i = 54900 ; ,   ∑ y i 2 = 740200 ; x - = 5 ;

y - = 70

a) Obter a reta y ^ = α ^ + β ^ x i

b) Qual o significado prático de α ^   e   β ^ ?

MOSTRAR SOLUÇÃO COMPLETA

Passo 1

Neste exercício temos uma amostra com n=102, e não se assuste que dessa vez não tem tabela, você tem todos os dados que precisa na questão e até uns que nem precisa. Preste atenção também que nesse caso alfa e beta estão trocados.

Passo 2

Para resolvermos a letra a, isto é, acharmos a reta da regressão, precisamos achar os valores de α e β, aplicando nas fórmulas que já foram vistas antes

β = n   .   ∑ c o l u n a x y - ∑ x . ∑ y n . ∑ x 2 - ∑ x 2

α = y - - β x -

Aplicando os dados:

β = 10 2   .   54900 - 5 10   .   7140 10 2   .   4150 - 260100 = 12

α = 70 - 12   .   5 = 10

Logo a sua reta terá a cara:

y ^ = 10 + 12 x

Passo 3

Para entender o significa prático das constantes vamos reler o problema e perceber que, o α ^ diz que com zero dias de viagem, ou melhor, o custo inicial da viagem é de 10. Já o β ^ diz que a cada dia que a passa a viagem fica 12x mais cara.

Resposta

Exercício Resolvido #7

Pedro A. Morettin e Wilton de O. Bussab, Estatística Básica, 5ª ed. São Paulo: Saraiva, 2006, 2

Um administrador de uma grande sorveteria anotou por um longo período de tempo a temperatura média diária, em ºC (X), e o volume de vendas diária de sorvete, em kg (Y). Com os dados, estabeleceu uma equação de regressão, resultando em:

y = 0,5 + 1,8 x ,   c o m   R 2 = 0,80

a) Qual o consumo esperado de sorvete num dia de 27ºC?

b) Qual o incremento esperado nas vendas de sorvete a cada 1ºC de aumento da temperatura?

MOSTRAR SOLUÇÃO COMPLETA

Passo 1

Esse é um exercício ótimo para entender o significado das constantes, você já tem a reta montada pelo enunciado, daí jogar o valor das constantes no lugar certo.

Passo 2

Na letra A, você apenas precisa sacar que o como a temperatura média diária (x) é 27ºC, logo apenas precisamos substituir o x na reta por 27.

y = 0,5 + 1,8 x → y = 0,5 + 1,8   .   27

y = 49,1 k g

Então o consumo esperado de sorverte em um dia é de 49,1kg

Passo 3

A letra B, é similar a letra A, a única diferença é que você não vai exatamente substituir na reta, e sim entender o sentido. Pois é possível perceber que a cada vez que x aumenta em 1ºC, a equação é acrescida de 1,8kg, que é o valor da constante ligada a x.

Então o incremento esperado é uma adição de 1,8kg.

Resposta

Exercício Resolvido #8

Pedro A. Morettin e Wilton de O. Bussab, Estatística Básica, 5ª ed. São Paulo: Saraiva, 2006, 2

Para cada uma das situaçãos abaixo, grafe os valores em um diagrama e se uma equação linear parecer apropriada para explicar os dados, determine os seus parâmetros

(i)

(ii)

MOSTRAR SOLUÇÃO COMPLETA

Passo 1

O que o exercício está pedindo é, para cada amostra, montar um gráfico com os pares (x,y) e olhar para esse gráfico e ver se ele tem “cara” de linear, caso tenha montar a equação por mínimos quadrados pelas fórmulinhas que a gente viu na teoria. Vamos lá!!

Passo 2

Pegamos o primeiro conjunto de dados, e colocamos em um gráfico:

Agora olha para essa distribuição de pontos. Parece uma reta?? Não né, então nem precisa montar a reta. uhul!! Aí que você fica triste por não poder aplicar seu vasto conhecimento, mas fé que no próximo vai parecer uma reta.

Passo 3

Agora pegamos o segundo conjunto de dados, e botamos no gráfico.

Parece uma reta?? Parece!!! (se você disse que não ta com a mente muito fechada, se esforça!!). Vamos calcular as constantes agora.

Passo 4

Para acharmos os valores é naquele esquema, formuletas que vimos na teoria

α = n   .   ∑ c o l u n a x y - ∑ x . ∑ y n . ∑ x 2 - ∑ x 2

β = y - - α x -

Agora temos que fazer toda essas somas, muita atenção!! É muito fácil errar aqui, use uma calculadora

α = 13   .   141502 - 5896   .   291 13   .   3159126 - 34762816 = 0,0196

β = 22,3846 - 0,0196   .   453,5385 = 13,4812

Então a reta que queremos é:

y = 13,4812 + 0,0196 x

Resposta