04/20/23 RN - Prof. Paulemir Campos 1

UPE – Caruaru – Sistemas de InformaçãoDisciplina: Redes NeuraisProf.: Paulemir G. Campos

Introdução a Redes Neurais

(Parte 1)

04/20/23 RN - Prof. Paulemir Campos 2

Roteiro da Aula

O que são Redes Neurais; História das Redes Neurais; Inspiração Biológica.

Referências.

04/20/23 RN - Prof. Paulemir Campos 3

O que são Redes Neurais

04/20/23 RN - Prof. Paulemir Campos 4

Definições Redes Neurais, ou melhor, Redes

Neurais Artificiais (RNAs) são modelos de computação com propriedades particulares:

Capacidade de se adaptar ou aprender; Generalizar; Agrupar ou organizar dados.

04/20/23 RN - Prof. Paulemir Campos 5

Definições RNAs:

estruturas distribuídas formadas por grande número de unidades de processamento conectadas entre si;

Multi-disciplinaridade: Ciência da Computação, Matemática,

Física, Engenharias, Psicologia, Biologia, Lingüística, Filosofia, etc.

04/20/23 RN - Prof. Paulemir Campos 6

Definições Modelos inspirados no cérebro

humano: Compostas por várias unidades de

processamento (“neurônios” ou nodos) interligadas por um grande número de conexões (“sinapses” ou pesos).

Eficientes onde métodos tradicionais têm se mostrado inadequados.

04/20/23 RN - Prof. Paulemir Campos 7

Exemplo de RNA

04/20/23 RN - Prof. Paulemir Campos 8

Principais Características

Aprendem através de exemplos; Adaptabilidade; Capacidade de generalização; Tolerância a falhas; Implementação rápida.

História das Redes Neurais

04/20/23 RN - Prof. Paulemir Campos 9

04/20/23 RN - Prof. Paulemir Campos 10

Introdução Inter-relação entre

Investigação do comportamento e estrutura do sistema nervoso através de experimentação e modelagem biológica;

Desenvolvimento de modelos matemáticos e suas aplicações para a solução de vários problemas práticos.

Simulação e implementação destes modelos.

04/20/23 RN - Prof. Paulemir Campos 11

A Origem (384-322 a. C.) Aristóteles escreveu:

“De todos os animais, o homem, proporcionalmente, tem o maior cérebro.”

(1700) Descartes acreditava que mente e cérebro eram entidades separadas;

(1911) Ramon e Cajal introduzem a idéia de neurônios como estruturas básicas do cérebro.

04/20/23 RN - Prof. Paulemir Campos 12

A Década de 1940: O Começo (1943) McCulloch & Pitts:

Provam, teoricamente, que qualquer função lógica pode ser implementada utilizando unidades de soma ponderada e threshold (limiar);

(1949) Hebb desenvolve algoritmo para treinar RNA (aprendizado Hebbiano): Se dois neurônios estão simultaneamente

ativos, a conexão entre eles deve ser reforçada.

04/20/23 RN - Prof. Paulemir Campos 13

1950-1960: Anos de Euforia (1958) Von Neumann mostra

interesse em modelagem do cérebro (RNA): “The Computer and the Brain”, Yale

University Press (1959) Rosenblatt implementa

primeira RNA, a rede Perceptron: Ajuste iterativo de pesos; Prova teorema da convergência.

04/20/23 RN - Prof. Paulemir Campos 14

Década de 1970: Pouca Atividade

(1969) Minsky & Papert analisam Perceptron e mostram suas limitações:

Não poderiam aprender a resolver problemas simples como o OU-exclusivo;

Causou grande repercussão.

04/20/23 RN - Prof. Paulemir Campos 15

Década de 1970: Pouca Atividade

(1971) Aleksander propõe Redes Booleanas;

(1972) Kohonen e Anderson trabalham com RNA Associativas;

(1975) Grossberg desenvolve a Teoria da Ressonância Adaptiva (redes ART).

04/20/23 RN - Prof. Paulemir Campos 16

Década de 1980: A Segunda Onda

(1982) Hopfield mostra que Redes Neurais podem ser tratadas como sistemas dinâmicos;

(1986) Hinton, Rumelhart e Williams, propõem algoritmo de aprendizagem para redes multi-camadas: Parallel Distribuited Processing Paul Werbos (1974)

04/20/23 RN - Prof. Paulemir Campos 17

Inspiração Biológica

04/20/23 RN - Prof. Paulemir Campos 18

Introdução O cérebro humano contém cerca

de 1011 neurônios;

Cada neurônio processa e se comunica com milhares de outros neurônios continuamente e em paralelo.

04/20/23 RN - Prof. Paulemir Campos 19

Introdução O cérebro humano é responsável

por: Emoção; Pensamento; Percepção; Cognição; Execução de funções sensoriomotoras

e autônomas.

04/20/23 RN - Prof. Paulemir Campos 20

Introdução Por sua vez, a rede de neurônios

do cérebro é capaz de: Reconhecer padrões e relacioná-los; Usar e armazenar conhecimento por

experiência; E, interpretar observações.

04/20/23 RN - Prof. Paulemir Campos 21

Introdução Contudo, o funcionamento das

redes biológicas ainda não foi totalmente desvendado pelo homem;

Ou seja, não se sabe ao certo a forma como as funções cerebrais são realizadas.

04/20/23 RN - Prof. Paulemir Campos 22

Introdução Por outro lado, a estrutura básica

das redes de neurônios naturais é conhecida;

As RNAs baseiam-se justamente nesta estrutura fisiológica.

04/20/23 RN - Prof. Paulemir Campos 23

Neurônios Biológicos Célula fundamental do cérebro

humano;

Dividem-se em três seções: Corpo Celular; Dendritos; Axônio.

04/20/23 RN - Prof. Paulemir Campos 24

Neurônios Biológicos Corpo Celular

Mede apenas alguns milésimos de milímetros;

Local onde a informação é processada e onde novos impulsos são gerados.

04/20/23 RN - Prof. Paulemir Campos 25

Neurônios Biológicos Dendritos

Possuem poucos milímetros de comprimento;

Recebem as informações (ou impulsos nervosos) oriundas de outros neurônios e as conduz até o corpo celular.

04/20/23 RN - Prof. Paulemir Campos 26

Neurônios Biológicos Axônio

É mais longo que os dendritos e, em geral, tem calibre uniforme;

Transmite os impulsos nervosos a outros neurônios.

O ponto de contato entre a terminação axônica de um neurônio com o dendrito de outro é chamado de sinapse.

04/20/23 RN - Prof. Paulemir Campos 27

Neurônios Biológicos Os neurônios se unem

funcionalmente pelas sinapses, formando redes neurais.

As sinapses: Funcionam como válvulas; Controlam a transmissão de impulsos,

ou seja, o fluxo de informação entre os nodos da rede neural.

04/20/23 RN - Prof. Paulemir Campos 28

Neurônio Biológico

Fonte: Adaptado de http://gballone.sites.uol.com.br/atlas/neuron.htm

Estrutura Microscópica

04/20/23 RN - Prof. Paulemir Campos 29

Neurônio Biológico

Fonte: Adaptado de http://gballone.sites.uol.com.br/atlas/neuron.htm

Ligações Sinápticas

Neurônios Artificiais Modelo MCP

Proposto por McCulloch e Pitts (1943); É uma simplificação do neurônio

biológico; Possui n terminais de entrada X1, X2,

..., Xn (representando os dendritos); Apenas um terminal de saída Y

(representando o axônio);

04/20/23 RN - Prof. Paulemir Campos 30

Neurônios Artificiais Modelo MCP (Continuação)

E, os terminais de entrada do neurônio têm pesos acoplados W1, W2, ..., Wn emulando o comportamento das sinapses, cujos valores podem ser positivos ou negativo.

04/20/23 RN - Prof. Paulemir Campos 31

Neurônios Artificiais Um nodo MCP tem sua saída ativa

(Y=1) quando:

onde: n – número de entrada; Wi – peso associado

à entrada Xi; θ – é o limiar (threshold) do neurônio; Σ XiWi – soma ponderada das entradas do neurônio.

04/20/23 RN - Prof. Paulemir Campos 32

n

i

iiwx1

Neurônio Artificial

04/20/23 RN - Prof. Paulemir Campos 33

Fonte: BRAGA et. al., 2000, pág. 9

Modelo de McCulloch e Pitts

04/20/23 RN - Prof. Paulemir Campos 34

Referências Braga, A. P.; Ludermir, T. B. e

Carvalho, A. C. P. L. F. Redes Neurais Artificiais: Teoria e Aplicações. Editora LTC, 2000.

Notas de aulas da Profa. Teresa B. Ludermir e do Prof. Aluízio Araújo, ambos do CIn/UFPE.