![Page 1: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/1.jpg)
Neurocomputação Baseada em Conhecimento
Prof. Júlio Cesar NievolaPPGIAPUCPR
![Page 2: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/2.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 2
NeurocomputaçãoÊnfase no uso e representação de conhecimento específico do problema dentro do paradigma de neurocomputação“Conhecimento é poder” aplica-seA modelagem explícita do conhecimento representado por um sistema neurcomputacional continua sendo um tema de pesquisa
![Page 3: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/3.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 3
Neurocomputação
Neurocomputação baseada em conhecimento diz respeito a métodos que trabalham com a representação e processamento explícito de conhecimento onde um sistema de neurocomputação está envolvidoInspirado historicamente na IA simbólica e nas redes neurais artificiais
![Page 4: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/4.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 4
Arquitetura
Abordagem HíbridaMódulos neural e simbólicos são distintos componentes, partilhando ou transferindo conhecimento
Abordagem UnificadaConhecimento modelado usando conexões locais/distribuídas entre neurônios
Abordagem TranslacionalMeio termo entre as abordagens
![Page 5: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/5.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 5
Sistema Especialista
Tem como objetivo a representação e uso de grandes quantidades de conhecimento, assegurando a sua integridade, consistência e exploração efetivaRealiza uma tarefa de tomada de decisão complexa dentro de um domínio de problema bem específico
![Page 6: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/6.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 6
Arquitetura Modular de Sistemas Especialistas
Base de Conhecimentos
Base de Fatos
Máquina (ou Motor) de Inferência
Mecanismo de Explanação
Interface com o Usuário
![Page 7: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/7.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 7
Propriedades Funcionais dos Sistemas Especialistas
O usuário descreve o problema de maneira interativaDeve inferir uma solução mesmo com informação incompleta ou imprecisaDeve fornecer ao usuário alguma explicação de suas conclusões para justificar suas inferências (normalmente chamadas COMO? e POR QUÊ?)
![Page 8: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/8.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 8
Sistemas Baseados em Regras xSistemas Neurais
Tamanho da Tarefa
Aquisição e Edição do Conhecimento
Matching Parcial
Informação Incompleta
Capacidade de Explanação
![Page 9: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/9.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 9
Algoritmo VL1ANN para Representação de Regras
1. Codificar variáveis de entrada como valores reais (numéricos)
2. FOR cada regra DO1. FOR cada átomo da regra DO
1. Codificar o átomo como nova unidade relacional na camada 1 conectada à entrada na camada 0
2. Conectar todas as unidades relacionais da regra a uma nova unidade AND na camada 2
3. Conectar todas as unidades AND representando regras com a mesma conclusão a uma nova unidade OR na camada 3
4. FOR cada variável de saída Attr que não esteja ortogonalmente codificada DO
1. Mapear todas as unidades OR de Attr na camada 3 à uma única nova unidade de saída na camada 4
![Page 10: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/10.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 10
Estratégias de Integração
Sistemas HíbridosDividir-e-conquistarRNA embutidaImplementação neural de conhecimento explícitoIncorporação de regras em RNAsExtração de regras de RNAsFinalização de regras fuzzy em RNAs
![Page 11: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/11.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 11
Estratégias de Integração
Sistemas Neurais EspecialistasTentativa de diminuir as desvantagens da representação implícita do conhecimento, introduzindo heurísticasRNA “enriquecida” com outras funcionalidades para ter as características de sistemas especialistasExemplos: MACIE, EXPSYS
![Page 12: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/12.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 12
MACIE (“Matrix-Controlled Inference Engine”)
Pésinchados
Ouvidosvermelhos
Perda decabelos
Vertigem Alergia aPlacibin
Aretasensitiva
SupercilioseNamastose
BiramibioPlacibin
Posiboost
![Page 13: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/13.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 13
Arquitetura SCANDALDATA PROBLEM PRIOR KNOWLEDGE
Task specificationTraining & test sets
Meta: NN knowledgeBase: Domain knowledge
Metalevel
Base Level
Supervisor
Data Pre-Processor
Hint-B.Config.
Search-B.Config.
Hint-B.Training
RN-to-NNCompiler
…
KnowledgeExtractors
DataCleaners
AritifDataGenerators
SimulatorN
Simulator3
Simulator2
Simulator1
…
Configured and trained networks
Symbolic-Connectionist Architecture for Neural Network Design and Learning
![Page 14: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/14.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 14
Seqüência de Passos nas Arquiteturas Translacionais
Obter conhecimento simbólico, ou seja, em forma estruturada do problemaTraduzir o conhecimento em uma RNATreinar a RNA para revisar e/ou refinar o conhecimento embutido na mesmaExtrair conhecimento simbólico da RNARefinar o conhecimento simbólico
![Page 15: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/15.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 15
Características dos Métodos Translacionais
Tipo de representação do conhecimento prévio e final
Forma de regras => RNA em avançoAutômatos => RNA recorrenteGrafos direcionados => neurônios recursivosÁrvores de decisão => representam o conhecimento prévio e/ou final extraído
![Page 16: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/16.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 16
Características dos Métodos Translacionais
Restrições baseadas na arquiteturaArquitetura para mapear representação estruturada desejadaNúmero de camadas => nível requerido para mapear regras à topologia da RNATipos de função de ativação => sigmóide ou baseada em fatores de certezaPesos: {-1,0,1} ou [-1,1]Entradas: {0,1} ou {-1,1}
![Page 17: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/17.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 17
Características dos Métodos Translacionais
Método de treinamentoRestrições nos parâmetros durante treinamento: pesos fixos / faixa de valoresModificações na topologia: adicionar ou apagar unidadesModificação da função objetivo normal: termos de regularização que criam penalidade para obter pesos no conjunto desejado {-1,0,1}
![Page 18: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/18.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 18
Características dos Métodos Translacionais
Os métodos de extração do conhecimento pode ser baseados em requisitos de treinamento especializado e uma arquitetura de RNA restrita, ou dirigidos a uma RNA genérica, sem restrições com relação ao tipo de treinamento a ser efetuado sobre o conhecimento simbólico embutido
![Page 19: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/19.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 19
Extração de Regras
É a tarefa de converter modelos de redes neurais treinadas em representações mais facilmente compreensíveisSurgiu em função de
Data Mining boomInteresse em métodos como boosting, bagging e error-correcting output codes
![Page 20: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/20.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 20
Técnicas de Extração de Conhecimento de RNAs
DecomposicionalExtração a nível de associações escondidas e de saída (dando origem às redes conexionistas baseadas em regras, RBCN)
PedagógicaRNA vista como “caixa preta” e a extração ocorre sobre arquiteturas sem restrições
Eclética
![Page 21: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/21.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 21
Características dos Métodos de Extração de Regras
CompreensibilidadeQuanto são humanamente compreensíveis
FidelidadeQuanto modela a RNA da qual foi extraída
PrecisãoPrevisão precisa sobre exemplos não vistos
EscalabilidadeGrandes espaços de entrada, unidades e conexões
GeneralidadeTreinamento especial e/ou restrições
![Page 22: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/22.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 22
Extração de RegrasBaseadas em Busca
![Page 23: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/23.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 23
Algoritmo SUBSET
Extrai regras dos neurônios das camadas intermediárias e de saídaBusca subconjuntos de pesos para cada neurônio cuja soma supera o limiarGrande número de possibilidade => processamento excessivoRegras com grande número de antecedentes
![Page 24: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/24.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 24
Algoritmo SUBSET
FOR cada neurônio da camada escondida e intermediária DO
Formar Sp subconjuntos, combinando somente pesos positivos cujo somatório supera o limiarFOR cada elemento P dos subconjuntos Sp DO
• Formar Sn subconjuntos de N elementos, considerando as combinações mínimas de pesos negativos, tal que a soma absoluta destes pesos seja maior que a soma de P menos o valor do limiar
• Formar a regra: IF P AND NOT N THEN neurônio
![Page 25: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/25.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 25
Rede e regras extraídas usandoo Algoritmo SUBSET
![Page 26: Neurocomputação Baseada em Conhecimento Prof. Júlio Cesar Nievola PPGIA PUCPR](https://reader036.vdocuments.pub/reader036/viewer/2022062223/552fc105497959413d8c03cb/html5/thumbnails/26.jpg)
PPGIA - PUCPR Prof. Júlio Cesar Nievola 26
Algoritmo TREPAN (“TREes Parroting Networks”)
Independe da topologia da redeFornece uma árvore de decisãoUsa o método best-firstA classe de cada exemplo é definida por um oráculo (a própria RNA)Usa exemplos complementares para garantir mínimo de exemplos