1.10 Repita o Problema 1.9 para um modelo de neurónio baseado na funçào logistica
Passo 1
Beleza, vamos repetir o que rolou no Problema 1.9, só que agora o neurônio não é mais linear, e sim aquele baseado na função logística
Conteúdo: regra de aprendizado por gradiente (LMS) e aplicação da derivada da função de ativação. Pra resolver, a gente vai precisar do conceito de erro quadrático, da regra da cadeia e de como derivar a logística.
Passo 2
Definindo as coisas básicas:
- Entrada ao neurônio: vetor
- Pesos atuais:
- Sinal total:
- Saída do neurônio:
- Desejado (target):
. - Erro instantâneo (quadático):
Passo 3
Pra atualizar cada peso
pela regra do gradiente, a gente faz:
onde
é a taxa de aprendizado. Agora usamos a regra da cadeia pra quebrar
.
Passo 4
Aplicando a regra da cadeia:
-
-
E a parte legal da logística: -
Passo 5
Juntando tudo:
Então a atualização vira
Resposta
A regra de aprendizado para o neurônio logístico é
onde
e
.