Download - Redes Neurais
![Page 1: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/1.jpg)
Redes Neurais
Prof. Alex F. V. Machado
![Page 2: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/2.jpg)
Redes Neurais Artificiais (RNA)
![Page 3: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/3.jpg)
Redes Neurais Artificiais (RNA)
São sistemas inspirados nos neurônios biológicos e na estrutura maciçamente paralela
do cérebro, com capacidade de adquirir, armazenar e utilizar conhecimento
experimental.
![Page 4: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/4.jpg)
Redes Neurais Artificiais (RNA)
• São sistemas computacionais estruturados numa aproximação à computação baseada em ligações. Nós simples (ou neurônios, processadores ou unidades) são interligados para formar uma rede de nós - daí o termo rede neural.
• A inspiração original para essa técnica advém do exame das estruturas do cérebro, em particular do exame de neurônios.
![Page 5: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/5.jpg)
Redes Neurais Artificiais (RNA)• As primeiras informações sobre neurocomputação
surgiram em 1943, em artigos do psiquiatra Warren McCulloch, do Instituto Tecnológico de Massachusetts, e do matemático Walter Pitts, da Universidade de Illinois.
• Os autores fizeram uma analogia entre células nervosas vivas e o processo eletrônico, em um trabalho publicado sobre "neurônios formais"; simulando o comportamento do neurônio natural, no qual o neurônio possuía apenas uma saída, que era uma função da soma de valor de suas diversas entradas.
![Page 6: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/6.jpg)
![Page 7: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/7.jpg)
Aplicações de RNA• Classificação
– Reconhecimento de caracteres– Reconhecimento de imagens– Diagnóstico médico– Análise de crédito– Detecção de fraudes
• Categorização– Agrupamento de sequências de DNA– Mineração de dados– Agrupamento de clientes
• Previsão– Previsão do tempo– Previsão financeira (câmbio, bolsa...)
![Page 8: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/8.jpg)
Organização em Camadas
![Page 9: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/9.jpg)
![Page 10: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/10.jpg)
Organização em camadas
![Page 11: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/11.jpg)
Perceptron com uma Camada
• Objetivo:– Atuar como classificador e como gerador de
funções lógicas binárias• Características– Aprendizado supervisionado– Representação binária– Apenas uma camada de pesos ajustáveis
![Page 12: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/12.jpg)
Limitações do Perceptron
• Não admite mais de uma camada de pesos ajustáveis• Aprendizado nem sempre ocorre• As duas classes C1 e C2 devem ser linearmente
separáveis
![Page 13: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/13.jpg)
![Page 14: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/14.jpg)
![Page 15: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/15.jpg)
![Page 16: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/16.jpg)
![Page 17: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/17.jpg)
![Page 18: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/18.jpg)
Função de Ativação
![Page 19: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/19.jpg)
Função de Ativação
![Page 20: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/20.jpg)
![Page 21: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/21.jpg)
![Page 22: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/22.jpg)
![Page 23: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/23.jpg)
Rede de Perceptron Simples
![Page 24: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/24.jpg)
![Page 25: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/25.jpg)
![Page 26: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/26.jpg)
![Page 27: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/27.jpg)
![Page 28: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/28.jpg)
![Page 29: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/29.jpg)
Organização em camadas
• Usualmente as camadas são classificadas em três grupos: – Camada de Entrada: onde os padrões são apresentados à
rede; – Camadas Intermediárias ou Escondidas: onde é feita a
maior parte do processamento, através das conexões ponderadas; podem ser consideradas como extratoras de características;
– Camada de Saída: onde o resultado final é concluído e apresentado.
![Page 30: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/30.jpg)
Processos de Aprendizado
• A propriedade mais importante das redes neurais é a habilidade de aprender de seu ambiente e com isso melhorar seu desempenho.
• Isso é feito através de um processo iterativo de ajustes aplicado a seus pesos, o treinamento.
• O aprendizado ocorre quando a rede neural atinge uma solução generalizada para uma classe de problemas.
![Page 31: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/31.jpg)
Algoritmo de Aprendizado
• algoritmo de aprendizado é um conjunto de regras bem definidas para a solução de um problema de aprendizado.
• Existem muitos tipos de algoritmos de aprendizado específicos para determinados modelos de redes neurais,
• estes algoritmos diferem entre si principalmente pelo modo como os pesos são modificados.
![Page 32: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/32.jpg)
• Aprendizado Supervisionado, quando é utilizado um agente externo que indica à rede a resposta desejada para o padrão de entrada;
• Aprendizado Não Supervisionado (auto-organização), quando não existe uma agente externo indicando a resposta desejada para os padrões de entrada;
• Reforço, quando um crítico externo avalia a resposta fornecida pela rede.
![Page 33: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/33.jpg)
![Page 34: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/34.jpg)
![Page 35: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/35.jpg)
![Page 36: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/36.jpg)
![Page 37: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/37.jpg)
![Page 38: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/38.jpg)
![Page 39: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/39.jpg)
Parâmetros• Taxa de Aprendizado - Taxa para correção do Erro.• Inércia - Proporcionalidade da taxa de aprendizado.• Época - Treinamento de todas as amostras do
conjunto.
![Page 40: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/40.jpg)
Treinamento Supervisionado • O treinamento de rede Perceptron, consiste em
ajustar os pesos e os thresholds (bias) de suas unidades para que a classificação desejada seja obtida.
• Quando um padrão é inicialmente apresentado à rede, ela produz uma saída.
• Após medir a distância entre a resposta atual e a desejada, são realizados os ajustes apropriados nos pesos de modo a reduzir esta distância.
• Este procedimento é conhecido como Regra Delta
![Page 41: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/41.jpg)
Backpropagation
• Durante o treinamento com o algoritmo backpropagation, a rede opera em uma sequência de dois passos. – Primeiro, um padrão é apresentado à camada de entrada da
rede. A atividade resultante flui através da rede, camada por camada, até que a resposta seja produzida pela camada de saída.
– segundo passo, a saída obtida é comparada à saída desejada para esse padrão particular. Se esta não estiver correta, o erro é calculado. O erro é propagado a partir da camada de saída até a camada de entrada, e os pesos das conexões das unidades das camadas internas vão sendo modificados conforme o erro é retropropagado.
![Page 42: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/42.jpg)
• As redes que utilizam backpropagation trabalham com uma variação da regra delta, apropriada para redes multi-camadas: a regra delta generalizada.
• A regra delta padrão essencialmente implementa um gradiente descendente no quadrado da soma do erro para funções de ativação lineares.
• Entretanto, a superfície do erro pode não ser tão simples, as redes ficam sujeitas aos problemas de de mínimos locais.
![Page 43: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/43.jpg)
![Page 44: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/44.jpg)
![Page 45: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/45.jpg)
![Page 46: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/46.jpg)
![Page 47: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/47.jpg)
![Page 48: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/48.jpg)
![Page 49: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/49.jpg)
![Page 50: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/50.jpg)
![Page 51: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/51.jpg)
![Page 52: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/52.jpg)
![Page 53: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/53.jpg)
![Page 54: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/54.jpg)
![Page 55: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/55.jpg)
![Page 56: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/56.jpg)
![Page 57: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/57.jpg)
![Page 58: Redes Neurais](https://reader036.vdocuments.pub/reader036/viewer/2022070508/577c82b81a28abe054b1f88c/html5/thumbnails/58.jpg)