1.10 Repita o Problema 1.9 para um modelo de neurónio baseado na funçào logistica
varphi(v)=11+exp (-v)

Passo 1

Beleza, vamos repetir o que rolou no Problema 1.9, só que agora o neurônio não é mais linear, e sim aquele baseado na função logística
varphi(v) = 11 + e^-v
Conteúdo: regra de aprendizado por gradiente (LMS) e aplicação da derivada da função de ativação. Pra resolver, a gente vai precisar do conceito de erro quadrático, da regra da cadeia e de como derivar a logística.

Passo 2

Definindo as coisas básicas:
  • Entrada ao neurônio: vetor y = varphi(v) = 11 + e^-v
  • Pesos atuais: E = tfrac12,(d - y)^2
  • Sinal total:
  • Saída do neurônio:
  • Desejado (target): .
  • Erro instantâneo (quadático):

Passo 3

Pra atualizar cada peso De pela regra do gradiente, a gente faz:
onde é a taxa de aprendizado. Agora usamos a regra da cadeia pra quebrar .

Passo 4

Aplicando a regra da cadeia:
partial Epartial wj = partial Epartial y ;partial ypartial v ;partial vpartial wj
  1. varphi'(v) = ddvgl(11 + e^-vgr) = e^-v(1 + e^-v)^2 = varphi(v)l(1 - varphi(v)r) = y,(1 - y)

  2. E a parte legal da logística:

Passo 5

Juntando tudo:
partial Epartial wj = -(d - y);l[y(1-y)r];xj
Então a atualização vira
De

Resposta

A regra de aprendizado para o neurônio logístico é
boxed De
onde e .

Exercícios relacionados