Generative Adversarial Networks (GANs) - Aula Introdutória

eu tô gravando aqui beleza gente eu vou só compartilhar aqui então ela que vocês também E aí G1 G1 Tá bom então tema de hoje eu acho que já viram lá nos slides eu tenho George Ganso né esses degenerativas aniversariar é e não é com essa aqui primeiro com a introdução que que são elas né Eu preciso de ouvir falar em gp3 essas canções mais recentes sim mas a ideia é uma rede criar uma queijo para gerar informação é sem precisar conteúdo seja a imagem áudio tanto faz o tipo de conteúdo bem em vez de

fazer fazer o caminho inverso né mas e diz que a gente viu até agora em vez de fácil de ficar lá eu imagens em por exemplo em vez de classificar essa imagem é pegar a classificação na gente por exemplo uma criança um cachorro por exemplo daí geral uma imagem que represente ou gerar criar tem um modelo para conseguir gerar uma imagem nessa pacífica né E aí e se perguntar então é o o quê que seria uma imagem gerada né eu que escrevi imagem gerada boa é como é o caso ficar em uma imagem boa sei

lá por exemplo imagem Branco né daí é é por isso que tem Argan as bandas em si A ideia é poder classificar se uma imagem é bom não se um modelo a gente vai pensar nele ainda quando você está escrito para você eu mando ela consegue diferenciar de uma imagem verdadeiro ou falso então por exemplo eu tenho eu tirei uma foto de um de um cachorro por exemplo e daí eu fui lá e nós é um cachorro né no meu desenho não desenho Um Bom desempenho analítico alguém que está vendo esse desenho não ia conseguir

diferenciar por exemplo um cachorro o cachorro que eu desenhei de um cachorro de verdade né daí tem esse evento aqui que eu pus nos slides que é você já ouviu falar esses a gente essa é essa cara não existe essa pessoa não existe e aí você tem fiquei com cavalo achei engraçado ele é uma grande por trás ela geram imagens de cavalo e e não vai tá é deixa eu mandar para todos os dela é e é que ter imagens de cavalo ele tem que chegar pelo menos Daí o que estaria por trás dessa página

seria uma treinada para gerar imagens de cavalo e daí a gente um pouquinho no contexto das grandes né É porque até repentemente no caso pois aí 2014 não tinha métodos muito bons trás ver a informação né você lá eu queria gerar um arquivo de áudio não tinha um método pensado logo assim de que passa o seu deveria seguir para criar um modelo desse tipo né daí a ideia da Gama o próprio paper né então já possível com engraçada a gente se tornou possível o avanço e é na frente de classificação reconhecimento uma as seis que

a gente vai até agora só para Residente lá na net 20 outro vem quarta-feira desclassificação foi possível eles conseguiram entrar no gente nem criativa assim de usar ela para fazer o caminho inverso né então é importante no ataque não foi do nada que surgiu a Rede Minas geradora né já tinha ideia de como fazer aquele assim ou não tinham os meios né mês para treinar sair disso aí seria mais ou menos vou contexto por trás da criação da Gama e daí agora vou explicar um pouquinho aí não me o significado da sigla ganz né que

no caso é degenerativo adversário né são redes degenerativas e adversariais o primeiro explicar parte do generant né ela tem uma diferença importante aqui para Natal e são nascer discriminar ativas com as redes generate né é terminativa são as que a gente viu até agora que quinta a sábado como eu vou deixar ela tava aí elas ensaiam como entrada é dados reais né uma imagem é um áudio assim que eu gravei que eu fiz que eu peguei na internet por exemplo dela tenta classificar ela tem determinar o tipo de dado aqui tá lá pro seja boa

noite uma probabilidade uma classe se né ou por exemplo só uma regressão linear ela faz lá discrimina o número que é só tem uma entrada na rede dela criar um número por exemplo que eu vou dar uma saída aqui é da o preço de casas assim numa região né isso aí você tá discriminando um preço específico para de acordo com as características da casa por exemplo né E daí então aqui embaixo alguns exemplos bacia de certo que me nativas quem te viu lá mexe aí não força o presente bem agora cortaram dessa desse discriminativo cetim

gerador gerador que é realmente isso que significa a parte do generativo no nome da ideia de ter um um entrada que cê deixa por exemplo imagem que apresenta Animation na frente por exemplo ela tem um vetor que apresentaria a classificação desse das imagem pode ser até aleatório os valores de entrada dependendo e daí a saída seria a imagem gerada a carteira desses vetores então né então se você consegue visualizar as seis que a gente viu até agora geralmente é o tamanho aqui das composições são inversas né gente tem imagem aqui como entrada faço uma população

é uma articule por exemplo ainda não e até de um vetor de saída por exemplo e não corte aqui né que é um tanto de validade sem saída que no caso eu faço um caminho contrário né até que essa rede aqui específico usa de convulsões em vez de convulsões né bem tendo em mente que a gente consegue montar uma rede para secar em contrário entre a questão de como treinar ela né como que a gente definir os parâmetros para que esse caminho contrário e faça algum sentido né Aqui passa pela de convulsão é e daí

cozinha pela fundamental aumentar dimensionalidade né do pode entrar no pé sem dizer os tempos aqui um uma visualização da diferença principal entre os modelos de relativos os modelos interativos eliminatórias né enquanto os captadores/destinatarios separam os dados que a gente viu pão você pode acabar Shine on o canal passo não na sala de recapitulação de délhi também Net dos mochileiros pé certo eles então separar áreas diferentes os modelos generativos por outro lado eles querem distribuições de probabilidades né então falar é os dados nesse nesse nesse essa região aqui no espaço tentava probabilidade é de pertencer a

essa classe né então meio que eles fazem o caminho inverso talvez não esteja muito claro com essa imagem aqui mas daqui a pouco vocês vão entender um pouquinho aqui com essa passa aqui de probabilidade significa queria saber se ele tá claro tem alguma dúvida nem passa saber diferença da sobrancelha tá bem e não tá então vamos continuar a bom então a partir de agora quem está na questão de pão aqui a gente tem nenhuma rede não é feita tá ao contrário né as camadas em cima então fazendo o caminho inverso né então o processo aqui

no paper foi foi bem simples na verdade para para modelar e construir uma rede aqui para sempre não tem um fedor de entrada né esse Beta de entrada foi os valores inseridos nesse de torção valores aleatórios né É pode sair estranho porque tipo no condensado é nascer discriminar quais os valores de entrada na alguma imagem que fazer algum sentido presente nessa de espíritos as cores presente mais na que ao contrário o quê Por quê que é isso que eu não quero ter valores para as pastas pelas novidades que eu vou ter que gerar conteúdo em

cima dela se eu não quero ter um valor pré-definido né para ó tá esses Passos porque eu quero que a própria quente né Eu quero que a rede e queria a relação entre valores Às vezes a voz aí é tipo eu tenho um espaço vazio assim é esse espaço vazio tem vários pontos é desculpa tem um espaço pompons aleatória 1 É nesse espaço que eu quero fazer eu quero separar alguns conjuntos de pontos Daniel Soares e daí fazer com que esses pontos projeto em uma no conteúdo que eu quero gerar a daqui a pouco eu

vou desenhar mostrar esse desenhada por quê que é mais fácil de entender tá porque aqui tem valor da minha foto né não vamos ver todinho daí a gente seca pegue o carrinho ponte eles não especificaram um pais que eram as as camadas internas da rede porque também não é tão importante que a ideia que da Gama não é uma rede em cima mas é como treinar essa rede é o maior problema está em como treinar uma rede de gerador não como modelar é é as mandalas são específicas em mesmo depois eu não posso que importa

como treinar refrigerada oi e daí a gente tem uma uma matriz Humberto não tem senhora aí de sair. Tamanho da informação desejada por imagem de uma matriz é lá 256 256 se for um áudio tem celular 16 pitbull pelo pelo tamanho do aparecem também tem uma rede aqui para gerar informações modeladas a gente quer saber como criar a sua rede e aí quem tá a mágica das grandes né é tendo a entrada aí como me acordo com essa imagem então ser para vocês ela ajuda a visualizar bem bem na entrada é com valores aleatórios para

o gerador a gente quer aqui para cada conjunto de valores aleatórios próximos no espaço das distribuições né no espaço das probabilidades a gente quer que esse conjunto de pontos Gere um conteúdo específico no caso aí é uma imagem falsa de 18 por isso aí a gente quer falar que o ponto 000110 um todos esses pontos próximos da origem é correspondam para alguma variação diferente da forma de se inscrever 18 mesmo como é O que é configure os parâmetros da rede geradora né para fazer com que bons perto da origem Raven desenhando 18 assim aí que

a gente entre o trem sete a gente pega por exemplo aí deve ser 1 m lixo em um set de caracteres desenhasse O que passa tanto esse Data Set de treino quanto a saída do Moreno gerador tu manda ele de um discriminador na causa eu me deram de classificação vem aqui que é a função desse modelo discriminador ele pega essa imagem receber tem que terminar sem imagem real você nem imagina verdadeiro né E daí a gente tem aí é um uma sequência de Passos a gente vai ter que fazer para aparecer para fazer o beck

propagation né trem em certo já já mostro isso aqui mas aqui eu quero que vocês entendam aqui o Adam Não é esse a rede geradora mas como a gente coloca a regeneradora com a rede discriminadoras juntas para que seria fácil treinar a rede geradora para fazer imagens com que não tem algum significado né e não seja só aleatórias e daí coloca nessas duas elas viram uma rede só então a entrada são valores aleatórios né passa pela atiradora fica no formato da imagem que a gente quer e essa imagem não pode ser qualquer outra informação manhã

no Messenger para que uma imagem esta imagem entra na região discriminatória e nem passa pela minha agora ele tem uma classificação no final tem imagem gerada é foi interpretada como sendo verdadeira né filho se ele conseguiu pacificar como 18 Realmente você ainda não conseguiu marcar ficar com um olho aqui no caso a imagem não posso Oi gente vai pra parte de como treinar essas duas vezes em conjunto então novamente como é que a gente fazia perto em uma rede até agora a gente mandava um defe para ele né e pegava a saída o erro o

erro da rede isso aí no final e daí acordo com esse erro a gente atualizar os parâmetros da rede a gente vai dobrar para fazer aí passava pela pelo a gente é Oi tá aqui ó uma rede quente mim sem você quer treinar carne geradora não é a que está conectado diretamente a saída do erro né o erro seria expulso sem a imagem é gerada por exemplo tem vou votar no que é um e o erro quem que é do gerador aqui selecione o seu tio se eu quisesse gerar a imagem 8 por exemplo mas

é aparecer esse presente 17 beleza daí deveria a saída da função de erro deveria retornar O valor é grande né porque foi alto e não gerou a imagem que deveria ter gerar isso aí seria é o a função de erro da reger adoro eu tô aqui com as duas estão juntos nenhum lá tá conectado no final da outra a saída de erro e é a saída da rede discrimina agora né então o erro Essência Mas você calculado o erro da rede geradora idade discriminadora vai ser vai aparecer na saída da rede dos criadores e não

na rede geradora ou na hora que a gente vai fazer o bem propagation dessa rede em conjunto A gente vai começar pela discriminar Dora e até um comércio da rede gerador é uma importante notar que passa pelas duas quando a gente vai fazer é o treinamento da rede bem Queens a parte do do adversário da sigla da Gama 1 A Essência depois a gente não tá quem é a regida dagan o foco dela não é na parte ela não surgiu a ideia da Gama surgiu né querendo fazer a parte do adversário foi mais por causa

da parte do gerador né então o adversário foi só a técnica que aqueles descobriram de como treinar a parte do gelado né nem no caso tem eu vou tem duas imagens parecidos e vão gostar como que é feito o Beto propagation na hora de treinar rede gerador em casa e é mas tem aqui na mesma imagem seu personagem anterior e tenho valores de entrada aleatório que entra na rede geradora é que né daí que na imagem que é o caso não passa anterior a minha imagem né que vai ser o tempo e daí Pega um

centro das imagens reais também e esses dois conjuntos de imagens reais imagens faço tiradas vão ser inseridos na rede dos crimes na van né vem cá ver a rede de cima da hora de terminal o erro Bela mesmo né se ela conseguiu classificar por exemplo 18 por 18 é o salão 10 como usar eu irei também ela já era um erro pro função da rede gerado mas enfim é importante não tá aqui primeiro a esse conjunto de Jesus o Davi foi para deixar feito o primeiro só na rede discriminador mesmo então a primeira etapa aqui

do treinamento da rede rede Sônia Regina diz que me adora né então cálculo erro faz sobrepor variation e depois vai para segunda tá no caso a copa e no carro aqui a segunda etapa é o treinamento da rede geradora mesmo para treinar isso mas por favor deixa não para na rede discriminado ele parte da função geradora aqui na função do erro da da rede geradora em casa você lá tem uma imagem 7 ela se a regeneradora por uma imagem 7 é o erro vai ser alto se a rede diz que me adora Conseguiu perceber que

a imaginação né ver se ela não conseguiu de xingar isso é falso ou não o erro da força da da rede geradora quando consequência nessa barra a gente já tem uma função onde iremos separado aparece duas vezes aqui e quando vamos fazer para conferência na rede geradora é o erro aquele passa pela risque minadora passa depois vai para o gerador só que a Nec pula né Ele diz que me adora porque não não tenho parâmetros aqui dela não tem a ver com o erro da bom então é é como se pulasse só que tem que

passar por ele também porque elas estão conectadas informação que eu mostrei data on G1 E aí é isso que significa a parte do adversário na barbacã época as duas redes da Heads criadora EA rede de gênero adora juntas e durante o treinamento fazer com que elas sejam treinadas independentemente beleza sendo treinados independentemente é meio que se tivesse uma competição entre ela né a gente está tentando maximizar é maximizar eu já já explico essa forma grande que nem preciso pensar muito nela só para eu poder passar por cima não mas tenta maximizar é o mestre aqui

a precisão da da classe da rede pacificadora né cadê discriminador então corrente maximiza precisão a couraça da e diz que me adora ela consegue identificar bem certo por exemplo vai consegue identificar bem um número dois ela nunca vai me dá um presente enquanto a gente tenta maximizar sua rede diz que me adora a gente tenta também de menino de Minimizar né o o erro aqui da função geradora né então a gente não quer quer a gente quer que encontra a rede discriminadora consiga diferenciar números da classificados corretamente a gente não quer que ela consiga é

diferenciar entre os números reais as entradas reais duas entradas falsas produzidas pela rede geral da né por isso que a isso essa esse me next aqui e se ele vai tá significando na parte do adversário né a gente vai dar a gente vai treinar duas vezes só que uma tem um objetivo encontrar a outra né e por isso que não estão Tecnicamente um contra o outro daí nesse você tem que eu disse treinamento bom é conta esse bimestre aí a parte do adversário alguém tem alguma dúvida alguma coisa e pode mandar um chat também que

você acha dele Oi tá online bom é bem chegou aqui no na parte mais teórica mais superficial aqui é que eu vou explicar um pouquinho das vantagens do alguns assuntos extras da rede além do treinamento né É É a gente vai começa aqui primeiro porque elas vantagens e desvantagens de usar essa rede o maior problema sem dúvidas tem dúvidas é que a registar Gun não tem uma convergência é muito Super Fofo né ela não converte perfeitamente é difícil na verdade ela pode convergir mas assim a gente pensa que ela com Veja porque Silvio supondo que

Oi gente tem um gerador WEG perfeito naquele desligar produzir imagens totalmente iguais a a rede as imagens reais né Então as imagens falsas são iguais as imagens verdadeiras é o discriminador por consequência não vai conseguir distinguir né porque se elas são iguais não tem diferença realmente e daí a água acurácia dele no erro da função geradora é considerado Desculpa o erro da função geradora será de cinquenta por cento né e sem essa espécie cinquenta por cento significa que é tipo um chute não Gerador não consegue diferenciar as imagens geradas das falsas tem uma como se

ele tivesse escutando a essa aqui é falsa tem agradece quero falar sabe não tem como saber E aí se gente tem uma geral uma graça é boa para o gerador e arrumar curasse de discriminar aqui continuar sempre diminuir é o feedback EA saída da função do discriminador é vai acabar perdendo um pouquinho na importância né E daí como antes que o gerador EA ciência precisa da saída do esquema do discriminador a final das contas ele acaba não conseguindo convergir perfeitamente né porque é enquanto ele melhora a convergência dele pior porque ela depende da dele errar

né é engraçado pensar dessa forma daí tem outros problemas que o velho Shin guard grade em né é esse depois eu acho que a gente vai ver na próxima aula que é de atenção na próxima reunião é só que em essência é como é uma rede grande ela tem uma parte ventilador em uma parte dos Vingadores juntos às vezes é alguns parâmetros que estão lá Oi tá bem um gerador é acaba sendo diminuídas tanto modificados tanto por números pequenos na hora de fazer o Beto propagation multiplicando pelo Cleide lugar gente e quando chega já no

desculpa e quando chega no começo da rede né é esses parâmetros acaba perdendo um pouquinho dos valores deles então eles não tem tanta influência assim na hora de mudar a rede e daí isso é o nosso problema aí que acaba também atrapalhando a convergência da rede a vantagem nem pus em um tópico aí porque é tão Evidente né poder gerar informações é um método mais recente é foi o método mais inovador aí para gerar informações da picantes não tinha tanta capacidade aí para gerar Pode vir sim de forma automática numa rede sim e daí voltando

aqui a parte do espaço vetorial que eu falei lá no começo né sobre os pontos aleatórios Então é isso bom aqui um espaço tridimensional né Imagine aí espaço tridimensional tem que ter um conjunto de pontos em volta da origem isso é uma coisa de pontos em volta do de x = 100 exemplo E aí que cada um desses dois conjuntos de pontos sem presente aquela por exemplo uma mulher sorridente para dar uma sente bem existe aqui os pontos na origem Por exemplo quando passam os pontos na origem de 1000 uma sabe quando eles passam pelo

pela rede geradora é eles vão acabar gerando uma imagem de uma mulher sorridente Pois é e daí os pontos ao redor deste vão quando eles passam na geradora por exemplo podem gerar é um homem um homem sem expressão é um homem outro e daí o legal desse digitar no campo vetorial né é que eu posso voltar subtrair é os valores desses pontos e depois dessa operação de subtração ainda conseguir informação relevante né é um caso Aí o exemplo da veu que é bem passo de perceber isso é os pontos por exemplo é após a Gerar

uma mulher sorridente só não proximidade não é importante quando se subtrai os pontos que correspondem a uma mulher neutra por exemplo depois soma com os pontos que correspondem homem né a gente ganha a diferença aí do vetor no caso é subtrai mulher de mulher espera né e subtrai é o neutro somando com neutro do homem espera também no final fica só os imagem e primeiro ali com um me do último nem Minha experiência resulta né passando pela admiradora também não homem sorridente né nem eu existo espaço vetorial aí que tem uma correspondência Direta com a

saída do modelo gerador de Diamante chamamos de espaço latente mas que não sei se alguém vai lembrar das coisas de geometria analítica né a gente passa um pouquinho por cima da de se passa na frente né bem isso aqui que também acontece na rede não lá vem ela agora é uma parte da Esse é legal hein mas é em recente né que talvez vocês tem um vizinho notícias aí não sei se conversaram pela atenção é que é de ataques adversariais É isso aí aconteceria com uma rede por exemplo é isso aí isso acontece também pelo

mesmo motivo do espaço e como funciona o espaço latente que eu expliquei agora é Oi gente tem aí um uma rede de consiga gerar por exemplo é uma imagem de uma placa aí escrito Top né classificar como só a rede diz que me adora dessa grande classifica assim marca como só adicionar um conjunto de pontos né receita podem parecer aleatórios mas trabalhando no espaço vetorial a Carmen mudando né a região desses pontos por uma região correspondente a outra classificação eu posso então também no final eu vou ter uma classificação errada é graças a esses pontos

que possam aparecer lá planta vem mesmo que a imagem mais sejam parecidos né função uma placa escrito Stop no espaço retaliados estão em posições é totalmente diferentes nem a rede geradora também vai a rede dagan grátis eu nem vai classificar isso aí como totalmente uma raça totalmente diferente dá isso tem muitos problemas por exemplo você é o seu presente eu quero enviar uma imagem por um banco assim presente e daí eu posso por esse reconhecimento de caracteres em uma nota por exemplo nome de dinheiro e falar e me passa e fica lá vamos sem reais

parecer só porque eu desenhar um pontinho no meio norte sempre a gente sabe era aí é bem curiosa aí como funciona esses Passos Essa É Minha Essência da rede foi que eu falei uma promessa de levar essas curiosidades aí que eu falei no final a ganha é mais mas no jeito de como treinar a Regina uma rede em cima Então acha complexas é a gente nessa informação principal ainda da reunião de hoje E aí vem vou parar a gravação aqui também