Redes neurais - O neurônio biológico e sua modelagem matemática

[Música] Olá bem-vindos a segunda aula do curso de redes neurais nessa aula nós vamos descobrir o modelo do neurônio biológico revisitar o que que é o cérebro e sua modelagem matemática então esses são os tópicos que a gente vai cobrir nós vimos na aula passada que o cérebro a nossa fonte de inspiração ou seja nós queremos criar modelos que de alguma forma se assemelham de uma forma realiza o comportamento que a gente observa no nosso sistema nervoso então do cérebro nós temos os neurônios ou seja nada mais é do que uma grande rede de neurônios

acoplados analisando os neurônios nós queremos criar modelos artificiais e a partir desses modelos artificiais tentar simular aquilo que acontece dentro do nosso sistema nervoso então na aula de hoje como eu já comentei nós vamos revisitar o que que é o cérebro que a nossa inspiração alguns conceitos que a gente já tem lá no ensino médio revisitar o que que é um neurônio biológico entender Quais são as partes componentes esse neurônio e por fim apresentar um neurônio matemático utilizado como base das redes neurais artificiais bom se a gente pensar numa perspectiva de engenharia a gente pode

imaginar o cérebro como sendo uma função que está mapeando um estímulo no mandado a resposta esse estímulo é conectado por um conjunto de receptores que alimentam uma rede neural essa região oral pensando na rede biológica ainda é que vai alimentar os atuadores que é responsável por emitir a resposta ao meio então é importante destacar o seguinte nós temos os estímulos alimentando a rede a partir dos setores e de alguma forma esses estímulo junto com as suas respostas eles podem fazer com que essa rede modifique o seu comportamento ou aprenda a partir dessa interação com o

meio e o que que é o cérebro então o cérebro é uma grande rede composta por muitos neurônios aproximadamente 100 milhões neurônios novas conexões podem ser criadas modificadas ou eliminadas ao longo do processo de aprendizagem isso é definido como sendo a plasticidade neural ou seja o cérebro é plástico diversas regiões especializadas como córtex visual córtex auditivo córtex motor dentre outras e alta eficiência energética quando comparado com circuitos digitais ou seja o consumo energético do cérebro para realizar operações ele é bastante inferior várias ordens de grandeza inferior ao circuitos digitais e ele é capaz de resolver

diversos problemas complexos Então dessa capacidade que nós nos inspiramos para tentar criar modelos artificiais então segundo Eric candel que é um grande neurocientista vencedor do prêmio Nobel em no ano 2000 as principais semelhanças entre as redes neurais artificiais e as redes observadas no cérebro são as seguintes primeiro nós temos um extenso processamento paralelo Em ambos tanto no modelo biológico quanto no modelo artificial e a operação nos dois circuitos elas não dependem apenas de um neurônio apenas de algumas unidades e sim de todo o coletivo de toda a rede então como eu já comentei na aula

anterior também ou nós falamos que o conhecimento ele não é associado a um único neurônio Sim ele é merge da rede o que que são os neurônios são células assim como diversas outras células que nós temos no corpo ou seja eles possuem membrana citoplasma e o núcleo Só que os neurônios eles possuem algumas características particulares os dendritos utilizando linguajar computacional que vai representar pra gente a nossa entrada do neurônio o soma que representaria a junção de todas as entradas e o axônico Vai representar a saída do neurônio os neurônios se comunicam através da fenda sináptica

pelos neurotransmissores que são moléculas que saem de um neurônio e se acopla um outro modificando o potencial excitando o inibindo neurônio pós sináptico e o neurônio é uma célula excitável Ou seja a gente consegue alterar a diferença de potencial existente entre o lado interno e o lado externo desse neurônio Então como já comentei né os dendritos utilizando esse linguajar mais computacional que pode falar que eles recebem a informação proveniente de outras células ou de outros neurônios denominados o soma ele o corpo celular ele processa a informação e o axônio ele é responsável por propagar essa

informação processada pelo soma adiante se o neurônios vai divulgar vai propagar essa informação se o neurônio não atingir a condição de disparo o axônio vai ficar em repouso e assinapses são responsáveis por ponderar essas conexões por exemplo criando conexões excitatórias ou conexões inibitórias associadas aos dendritos é como que funciona o fluxo de sinal dentro de uma célula biológica nós temos o primeiro sinal elétrico que é a variação do potencial na membrana do neurônio a hora que esse potencial esse potencial de ação atinge a sinapses ele libera neurotransmissores então nós temos um sinal químico esse neurotransmissor

se a copa dendrito do neurônio é alterando o potencial dessa membrana desse próximo neurônio pós-cináptico e novamente transformando esse sinal químico num sinal elétrico embora importante destacar que existam sinapses elétricas também no cérebro E como eu já falei o neurônio é plástico ou seja ele é capaz de criar novas conexões é modificar conexões existentes ou mesmo excluir conexões anteriores aqui tá uma figura do desenho do neurônio onde nós temos aqui os dendritos que representam a nossa entrada da célula nós temos o soma o corpo celular que é responsável por integrar toda essa informação que chega

através dos dendritos e Aqui nós temos o axônio responsável por propagar essa informação caso um neurônio vem antes parar além de outras células como as bainhas de mielinas células aliás que não tem um enfoque computacional nesse momento Então a gente vai se concentrar mais Nessas questões dendritos soma e axônio se a gente pegar um neurônio pegar por exemplo aqui e recortar um pedaço desse axônio e analisar numa Lupa no microscópio e analisar composição química do Meio intra e do meio intercelar a gente vai observar que dentro da célula a gente amar uma concentração de potássio

e fora das célula a gente tem o maior concentração de sódio dado essa diferença de concentrações iônicas se nós colocarmos no eletrodo dentro e um eletrodo fora do neurônio a gente consegue medir essa diferença de potencial que é mais ou menos menos 70 mil volts quando o neurônio tá em repouso Mas como eu falei o neurônio ele pode ser é uma célula exitável Então sempre que recebe algum tipo de sinal externo esse potencial de repouso pode sofrer alterações como sinais de despolarização ou sinais de prepolarização representando aqui sinais inibitórios e uma vez que eu tirei

esse sinal externo o neurônio tende a retornar aquele potencial de repouso anterior então a gente pode simular esse comportamento de polarização de hiperpolarização despolarização e retorno ao potencial de repouso utilizando um circuito resistor capacitor um chamado circuito RC aqui só uma ilustração então de como que aconteceria o processo nós temos um neurônio no estado de repouso menos 70 mil volts aqui nós introduzimos um pulso de despolarização uma vez que introduzir esse pulso esse neurônio vai ter o potencial dele alterado hora que eu retiro pulso ele volta ao seu estado de repouso na sequência a gente

tem um pulso de hiperpolarização ou seja essa diferente potencial aumenta uma vez que nós retiramos o pulso novamente o neurônio volta ao seu estado de repouso ao menos 70 mil volts só que é quando o neurônio atinge alguma condição suficiente necessária ou atinge a gente fala que é um Limiar ele pode vir a disparar um potencial de ação e não agir de forma passiva como o comportamento de hiperpolarização ou despolarização que mencionei anteriormente o que que é o potencial de ação primeiro ele é um efeito tudo nada não existe meio potencial de ação ou a

célula dispara ou não potencial de ação são sinais com amplitudes constantes e são utilizados Aí segundo kandel é pelo cérebro para analisar processar transmitir informação entre as diversas células que compõem a nossa rede biológica aqui tá uma figura só mostrando ilustrando que que é o potencial de ação né então ele sai quando a gente atingiu a condição para criar o potencial de ação a gente sai de menos 70 mil volts despolariza mais ou menos menos 100 a 110 mil volts uma vez que eu disparei o potencial de ação ele volta ao seu estado de repouso

passando por um período refratário então qualquer ideia como que a gente pode modelar o neurônio biológico considerando essas características no qual nós temos os dendritos que recebe a informação nós temos o soma que processa a informação e o axônio que dispara essa informação para as próximas células Então como modelar esse processo Qual que é o propósito dessa modelagem para que que serve esse tipo de modelagem Nós temos dois duas linhas duas vertentes bem distintas ambas começaram na década de 40 e ambas são responsáveis pelo desenvolvimento de modelos de neurônios artificiais a primeira que a base

da área de redes neurais que é o escopo dessa disciplina ela tem como objetivo tentar reproduzir os comportamentos que a gente observa no cérebro o cérebro inteligente ele resolve problemas complexos eu quero criar um modelo artificial capaz de resolver sistemas complexos esse problemas complexos Então ela tem uma abordagem mais quantitativa não necessariamente eu quero simular o neurônio na sua forma biológica eu quero me inspirar no neurônio para criar um modelo artificial capaz de exibir um comportamento inteligente Assim como as nossas redes neurais então neurônio MCP produzido lá na década de 40 como nós vimos na

aula passada ele é a base das redes neurais e por outro lado nós temos os modelos mais quantitativos como exemplo o principal nós temos o modelo de rocksley aqui o objetivo não é criar uma rede artificial para exibir um comportamento inteligente e sem tentar entender o próprio sistema nervoso ter uma abordagem mais quantitativa e ele é amplamente utilizado em neurociência computacional o que não é o foco dessa disciplina bom que que o neurônio MCP então conhecendo aquilo que que na terra na década de 40 nós sabíamos de neurônio que ele é uma célula capaz Pode

ser cittável que recebe um monte de entradas processa e emite saídas ou seja lembra bastante os dendritos ponderados por peso sinapticos aqui nós temos o soma responsável por integraça as informações se atingir aquele Limiar a célula dispara ou seja limite sinal 1 se não atingir aquele Limiar a cela emite sinal zero Então ele pode ser vista como uma simplificação do que a gente conhecia até então sobre o modelo biológico é composto por sinapses que simulam os nossos dendritos que seriam essas caixinhas aqui o x o corpo celular que é o nosso somatório faz a integração

de sinais ponderado pelos pesos sinapticos e uma saída que representa o axônio indicando aumentativo ou não na sua forma original é uma célula binária ou seja neurônio sempre vai emitir um sinal de um indicando que aquela células emulando um comportamento disparando ou emitir um sinal zero indicando que aquele neurônio está em repouso aqui então tá uma figura ampliada do nosso neurônio MCP então nós temos a sinapses né são as entradas X ponderadas por pesos w esses valores são agregados na soma atingindo linear a gente dispara aqui a gente tem uma generalização do modelo MCP onde

a gente ao invés de simplesmente definir um Limiar a gente está criando uma colocando uma função de ativação que pode definir agora criar neurônios não apenas binários com saída zero ou um mas com saídas contínuas indicando por exemplo é o nível de atividade é que aquele neurônio tá emitindo para aquela data entrada esse V aqui bastante importante a gente vai ver muito ao longo do curso é chamado de Campo local induzido que seria o somatório ponderado das entradas x do vetor x com o vetor w é um produto interno Entre esses dois vetores aquela função

ativação definida ali atrás ela pode assumir diversas formas no caso mais simples uma função degrau que seria simplesmente linear atingiu Limiar dispara não atingiu Limiar a resposta é zero a gente pode ter uma função linear por partes onde eu tenho um sinal abaixo de menos meio o neurônio não dispara ele tá repor repouso acima de meio ele está disparando na capacidade máxima e entre menos meio e meio a gente tem um neurônio esse valor indicaria fazendo uma analogia modelo biológico Qual que é o nível de atividade disparo desse Tenório por exemplo se ele tiver em

0.5 aqui no meio indicaria um neurônio que tá respondendo com 50% de capacidade tá disparando com 50% da sua capacidade outras funções bastante utilizadas a função sigmoide logística e a função tangente parabólica ambas tem o mesmo comportamento só que tem gente parabólica ela é uma função antimétrica de menos um a um enquanto a função sigmoide logística ela vai de 0 a 1 e elas indicam também da mesma forma que linear por partes o tanto estado de repouso do neurônio indicado por zero ou por menos um de acordo com a função utilizada o seu nível de

disparo até atingir a condição máxima que seria a resposta 1 a função reluque é amplamente utilizada Principalmente nos modelos de redes Profundas que é o seguinte se o campo local induzido o valor de v ele for menor do que zero a resposta é zero Caso contrário é o próprio valor de v então só funciona bastante interessante até porque a derivada dela no lado positivo ela é constante e positiva então a gente não tem o desaparecimento do Gradiente que é um dos problemas que a gente vai ver lá na frente que de alguma forma atrapalha um

treinamento das redes neurais como multiplas camadas além do neurônio de determinístico apresentado até então nós podemos também ter uma versão estocástica desse neurônio ou seja ao invés do neurônio disparar ou não simplesmente analisando o campo local induzido a gente pode definir uma probabilidade desse neurônio vira disparar ou não então a gente vai ter que neurônio vai disparar com probabilidade P de v ou seja sinal de saída vai ser um e vai ficar em repouso sinal menos um com probabilidade de 1 - p de V onde P de v é definido por essa equação abaixo essa

equação é importante analisar a temperatura aqui a temperatura se ela for uma temperatura alta esse neurônio ele tende a disparar como se fosse um lance de moedas ou seja ele vai disparar com 50% ou ficar em repouso com 50%. conforme a gente diminui essa temperatura o valor de v começa a ser mais influenciar um pouco mais o valor da probabilidade ao caso que quando nós chegamos no limite com tendendo a zero essa equação se transforma em algo determinístico seguindo o seguinte sentido se vê é positivo eu vou ter probabilidade de um de disparar e se

ver negativo eu vou ter probabilidade zero de disparar ou seja por idade um de ficar em repouso essa unidade ele é bastante utilizada nas máquinas de Bolt mas que a gente vai ver lá na sexta semana do curso bom é só para deixar o essa apresentação um pouco mais mais abrangente mais completa eu vou introduzir de maneira muito superficial o que que é o modelo de hotker Ele é modelo que foi desenvolvido como eu falei lá na década de 40 Praticamente em paralelo ao desenvolvimento neurônio MCP e o objetivo dele aqui é descrever fielmente o

comportamento do neurônio biológico então a gente não tá com não temos não temos como objetivo criar um modelo artificial a partir do modelo rock ele para criar comportamentos inteligentes e sim utilizar esse modelo artificial para tentar entender o próprio funcionamento do sistema nervoso então ele tem um enfoque fisiológico e não computacional ele é o objetivo dele é tentar analisar como que é gerado o potencial de ação Quais são as condições para que potencial de ação seja emitida e ele é formado por diversas equações diferenciais ou seja ele é uma célula um pouco mais complicada do

que a base matemática do neurônio MCP que nós vimos até então até hoje não dos modelos mais importantes em neurociência computacional e até pela pela sua importância os autores foram contemplados significativo um nobe fisiologia em 1963 E desde então nós temos diversas variações do modelo hotker Ele é modelo bastante complexo e ele emite Ele Pode emitir basicamente todo o comportamento que a gente observa no modelo biológico que a gente pode gerar com esse modelo matemático então se eu não quiser gerar todo esse modelo eu poderia pegar um subconjunto do modelo de rocks ele reduzindo o

custo computacional e assim por diante então a literatura a gente tem diversos modelos matemáticos que são podem ser visto como simplificações ou variações do modelo de horten além desses modelos nós temos diversas outras células que podem células artificiais que podem ser utilizadas nas regionais como variações do MCP eu já te mostrei quando a gente troca aquela função sinal por uma função de ativação do tipo sigmoide logística por exemplo neurônios que utilizam função de base Radial neurônios que possuem memória de curto e longo prazo Como as células lsdm células de ru que a gente vai ver

também no final dessa disciplina é unidades convolutivas ou comvolucionais e neurônios expulsados que são neurônios mais próximos dos neurônios biológicos uma vez que eles não emitem saída zero ou um ou valores intermediários eles emitem pulsos ao longo do tempo assim como a gente observa no modelo biológico bom nessa aula então nós relembramos alguns aspectos que a gente aprende lá no ensino médio sobre sobre o cérebro nós revisitamos o neurônio biológico vimos Quais são suas partes fundamentais como que ele é composto e nós vimos como que a gente faz a modelagem matemática desse neurônio especificamente neurônio

PCP que a base para o desenvolvimento das nossas redes neurais artificiais próxima aula a gente vai entrar no conceito de aprendizagem redes neurais mostrar as principais técnicas de aprendizagem encontradas na literatura e os principais paradigmas de aprendizagem que podem utilizar essas técnicas Muito obrigado pela atenção até a próxima aula [Música] [Música]