A MATEMÁTICA DE UM MODELO DE REDE NEURAL | Felipe Hime e Sapiens Chat

é porque na Inteligência Artificial ela a gente Primeiro ela a gente passa os dados para uma arquitetura de rede essa rede ela converte ess por exemplo em uma foto ela primeiro ela vai ter que converter essa foto em dados numéricos para reconhecer os pixels dessa foto se você estiver usando dados tabulares de uma planilha do do Excel por exemplo de qualquer outro programa que seja uma tabela em SQL e essa tabela já estiver posta usando células em valores numéricos você não vai precisar fazer isso ou se você tiver estiver utilizando por exemplo um algoritmo de

cotação de ações predição na Bolsa de Valores todo todas as variáveis envolvidas são números Então você também não vai precisar fazer isso agora por exemplo se você estiver trabalhando com um arquivo de áudio Você vai precisar converter esse arquivo de áudio em sinais sonoros que são uma sequência de números que identificam lá no eixo X e Y A A as ondas que que geram sin sin as ondas de sonoridade no série de F serão que gosta sim claro adoro série de F minha vida série de F exatamente muito usado na Inteligência Artificial série de fur

inclusive e se você tiver passando o arquivo de vídeo geralmente a gente converte esse vídeo em uma sequência de frames de imagem também imagem você já converte a imagem diretamente para uma uma uma Matriz Matriz de pixels o importante é você você sempre con converter para uma matriz né a gente isso Matriz numéric eu tava vendo um curso do Mit Outro Dia Online cara e o professor muito o professor chegou e falou assim no final ele falou no final do curso assim Resumindo aprenda Matriz entendeu aprenda Matriz é inteligência artificial é pura álgebra linear é

pura álgebra linear pura álgebra linear que é uma das matérias mais chata que você possa imaginar que isso cara é legal é é muito semelhante inclusive os cálculos da da Inteligência Artificial é muito semelhante com os cálculos da mecânica quântica para quem tá acostumado com anotação de dirac que trabalha com matrizes F conversando isso isso geralmente o pessoal que da mecânica quântica e consegue com muita facilidade transitar entre a física e a inteligência artificial e o contrário também é verdadeiro o pessoal que tá acostumado a trabalhar com algoritmos de inteligência artificial com a matemática da

Inteligência Artificial não tem nenhuma dificuldade em passar a trabalhar com os cálculos da mecânica quântica porque são todos muito parecidos sim é por álgebra linear você usa para desenvolver esses modelos o o lance da série de furer dá para explicar um negócio que fica bastante didático porque Qual é a ideia tipo a minha voz a sua do Serjão aqui e tal é uma onda sonora tem um envelope ela pode ser super complexa são sinais com série de furrier pensa que é só a galera pensar que eu posso matematicamente descrever qualquer onda complexa que for como

uma soma infinita de e ondas senoidais só que na prática assim quando pega de fato a sua voz a minha dele isso pode se tornar tão complexo que a gente não consegue ali com a matemática sozinho mesmo na computação conseguir repetir igualzinho aí vem a ia uhum para aplicar exatamente quais seriam os parâmetros ideais ali para imitar a voz certinha entendeu mas o fundamento é matemático o que eu tava explicando é o seguinte primeiro você precisa converter qualquer dado que se em número porque um computador ele só entende números e desses números é que nós

vamos extrair os padrões que serão salvos no modelo ah hoje os algorit o algoritmo de inteligência mais artificial o algoritmo de Inteligência Artificial mais usado na atualidade são os algoritmos de redes neurais artificiais que são uma abstração matemática do funcionamento da mente humana s redais para quem estudou biologia aí na na colegial deve ser lembrado como é a composição física de um neurônio tem mu eu não sei como que tá hoje mas na minha época eu estudei isso no colegial Não sei se hoje tem também tem também a galera estuda então o neurônio o neurônio

biológico ele funciona da seguinte forma nós temos os dendritos que é por onde entra a carga elétrica o sinal elétrico da informação esse sinal elétrico ele é retransmitido por corpo celular do neurônio no corpo celular nós temos temos o núcleo somático que vai somar essa carga elétrica em uma carga elétrica única vai sintetizar esse valor elétrico em um em uma única informação que resume toda a informação que entrou e essa carga elétrica depois ela é transmitida pelo axônio até os terminais de saída do axônio nos terminais de saída do axônio é gerada uma reação em

cadeia porque essa informação de saída ela passa pros dendritos do próximo neurônio então é um ciclo quase que é um ciclo infinito a até o momento da nossa morte at morte até a gente isso aí até a morte do neurônio mesmo é não é infinito porque a gente morre né mas é o um ciclo ali que ele é uma reação em cadeia que está acontecendo a todo tempo enquanto a gente estiver vivo e a inteligência artificial os algoritmos de redes neurais artificiais eles são uma abstração matemática desse funcionamento do neurônio biológico eu vejo alguns programadores

na internet Falando que eh as redes neurais artificiais TM esse nome porque os programadores são péssimos para dar nome pras coisas não não é isso é porque tem uma correlação exata entre a naturalidade do do neurônio biológico e a artificialidade do neurônio artificial utilizado nas redes neurais artificiais é uma abstração matemática do neurônio biológico então para representar os dendritos na Inteligência Artificial como nós podemos ter de um até n dendritos de entrada a composição pode tender ao infinito paraa formação desse esses neurônios entre a quantidade de dendritos e a quantidade de terminais de saída do

axônio as combinações são praticamente infinitas então pra gente transformar isso em algoritmo a gente não poderia usar números escalares a gente teria a gente tem tem a obrigatoriedade de usar vetores para poder trabalhar com de um até n elementos para representar de um até n dendritos do da formação do neurônio biológico só hoje em dia a gente tornou isso ainda mais complexo com os modelos que tem hoje a gente já usa primiro a gente começou com vetores só que hoje a formação matemática do neurônio artificial ela já tá mais complexa do que a do neurônio

biológico porque agora o neurônio biológico Ele trabalha com com as três dimensões espaciais só hoje em dia a gente tem tensores para representar esses neurônios com centenas de milhares de dimensões é algo que até difícil de conceber pra mente humana porque a gente tá acostumado a trabalhar com qu quatro dimensões as três espaciais e o tempo só que em algoritmos de Inteligência Artificial o nosso algoritmo por exemplo ele usa mais de 20.000 dimensões Então como é que você consegue você não consegue imaginar isso na sua mente como seriam 20.000 dimensões você só consegue representar isso

de forma matemática e para você fazer essa representação matemática você tem que usar cálculos de álgebra linear envolvendo vetores matrizes e tensores para quem não sabe aí a diferença é que os vetores eles são unidimensionais a gente pode ter de um a n elementos em uma direção só pode ser um vetor linha ou coluna as matrizes ela tem vetores como elementos que são Dados distribuídos entre linhas e colunas e os tensores são matrizes que podem ter de duas a n dimensões que aí podem ter até centenas de milhares de dimensões Hoje em dia a gente

tem algoritmos de inteligência artificial com milhões de dimensões uma quantidade absurda de dimensões que você é impossível pra mente humana conseguir visualizar essa quantidade de dimensões você não consegue Só através da Matemática só para tensores dá para ser representados por matrizes mas não é exatamente Matriz mas só para te complementar aqui é seria um uma seria um tensor bidimensional né uma matriz é é que ele é rigorosamente só pra galera não encher o saco é isso que eu tô querendo dizer tipo rigorosamente falando matemática ele os tensores Alguns podem ser representados por Matriz mas ele

não é exatamente Matriz só quis complementar para não ter internet né Mas tem uma coisa tem uma coisa tem uma coisa interessante que dá ainda para pular um nível abaixo quando quando a gente fala por exemplo de vetores matrizes tensores e escalares como você disse talvez fique muito difícil pro público geral entender mas aí é legal a gente dar um passo atrás tipo é só a galera lembrar de grandezas vetoriais e e grandezas escalares aí temperatura você só precisa de um número ali 23º 25° é o pessoal que não é de exatas pessoal que não

é de exatas acho que deve est meio perdido com essa conversa aí é por isso que eu tô falando aí no no caso de velocidade você precisa de um vetor né direção e e o o módulo né a quantidade de velocidade e a direção também e a os tensores eles são só parte da estrutura do modelo modelo na verdade é bem mais complexo que isso que nem eu tava explicando aí pra gente representar os dendritos que são os inputs do do neurônio artificial os valores de entrada a gente usa Usa esses vetores matrizes ou tensores

depois a gente ainda tem que passar isso tem que multiplicar isso por por uma outra Matriz de pesos pesos que é a parte mais importante do modelo porque a gente vai ter que encontrar os pesos ideais para gerar os valores de saída esses pesos eles representam essa carga elétrica que entra pelos terminais de entrada do neurônio biológico então a gente multiplica essa Matriz ou esse tensor de entrada por essa Matriz ou tensor de pesos que são números flutuantes geralmente números entre zero e 1 Mas isso pode variar muito dependendo do modelo e a gente depois

depois de calcular esse produto esse produto escalar vetorial matricial tensorial que seja basicamente conta matemática isso álgebra linear álgebra linear depois que a gente calcula esse produto a gente ainda vai ter que realizar um passar esse produto por uma função somatória que é a representação matemática do núcleo somático do neurônio biológico porque Lembra que eu falei que o a carga elétrica ela é Ela entra pelos terminais de entrada pelos dendritos e através do corpo celular ela chega até o núcleo somático do neurônio e esse núcleo somático ele sintetiza essa informação em uma única carga elétrica

no neurônio biológico da Inteligência Artificial a gente faz isso também a gente primeiro realiza essa multiplicação tensorial depois de calculado esse produto tensorial a gente passa isso para uma função somatória que representa esse núcleo somático do neurônio biológico e nesse núcleo somático artificial que é essa função somatória a gente realiza a soma de todos esses produtos uma vez que essa soma é calculada a gente depois vai passar por uma outra função que nós chamamos de função de ativação que é a representação matemática do axônio o axônio ele é no neurônio biológico ele pega essa informação

do núcleo somático essa carga elétrica sintetizada em uma única carga elétrica e transfere essa carga elétrica pros terminais de saída do do do axônio através do próprio axônio então ela vai o neurônio biológico é como se ele formatasse essa carga elétrica no axônio para preparar ela para que ela seja redistribuída pros próximos neurônios e Gere essa reação em cadeia no neurônio artificial a gente faz a mesma coisa só que para formatar essa informação nós usamos uma função que a gente chama de função de ativação aí tem diversos tipos tem você pode usar uma tangente hiperbólica

uma geralmente a gente costuma usar uma função sigmoidal para isso para colocar isso uma uma função sigmoide para colocar o valor entre zero e 1 deixar ele formatado entre zero e um E isso também adiciona não linearidade ao modelo para que ele também possa reconhecer padrões não lineares e depois de passar esses dados que é um negócio difícil depois de passar esses dados por essa representação do axônio que é a função de ativação Aí sim a gente passa esses valores redistribui esses valores para um novo tensor de saída que seria a representação matemática dos terminais

de saída do axônio uma vez feito isso a gente vai comparar esses valores que foram gerados na saída com os valores esperados que a gente está esperando que o modelo nos retorne como resposta como os pesos iniciais do cálculo do modelo eles são calculados primeiramente de forma aleatória a gente coloca números randômicos ali então Muito provavelmente esse primeiro resultado será um resultado errado então a gente faz ali um cálculo de erro calcula uma taxa de erro aproximada e através dessa taxa de erro a gente regula novamente os pesos para valores mais próximos do ideal e

volta novamente o cálculo lá no início em um processo que a gente chama de back propagation o back propagation é a repetição desse cálculo que a gente pega o valor residual dos terminais de saída e passa ele novamente pros terminais de entrada para que ele possa ser multiplicado novamente por aqueles pesos que representam a carga elétrica para gerar dessa vez lá na saída valores mais próximos daqueles que a gente está esperando em cima disso a gente calcula ali a taxa de erro vai ajustando os pesos geralmente o pessoal usa o cálculo de Delta descida de

Gradiente esses tipos de cálculo para poder minimizar a função de custo inclusive o diferencial da nossa arquitetura hoje que a gente conseguiu baratear o custo de treinamento é que ah não já já você vai entrar nisso aí não eu só ia eu só ia fazer um pequeno comentário Entendeu agora porque que eu me juntei esses caras a não tá certo não e o pessoal tá aqui falando pô mas isso é difícil e tal mas é isso cara eu nem interrompi ele para deixar ele falar porque você vai aí nos lugares e a galera Ah não

porque a inteligência artificial aí tá substituindo o artigo o cara que nem sabe o que que é cara entendeu o cara tá explicando então ele tá explicando o que tá lá dentro lá no no no no no na a o fundamento é na alma do do do algoritmo tem coisas muito complexas e o pessoal na na ponta reduz a a discussão a se vai acabar ou não com o nosso emprego Então cara preste atenção na sua vida aí entendeu É lembrando pro pessoal que redes e neurônio artificial ele não recebeu esse nome porque os programadores

são péssimos em dar nomes paraas coisas tem uma correlação exata entre o neurônio artificial e o biológico tem um motivo para ter esse nome não cara ninguém é pior que astrônomo tem é pr é pi que astr não tem não tem qual o nome daquela estrela a 75.63 at tem umas aulas famosas de de a assim que o cara ele o primeiro slide é um neurônio E aí ele vem explicando tudo isso aí que você explicou que é muito e é isso aí entendeu pessoal