Com certeza você já ouviu falar o termo chatbot várias vezes por aí pela internet inclusive aqui no curso de Inteligência Artificial mas o que são eles do que se alimentam é isso que a gente vai aprender nesse [Música] vídeo olá pequeno gafanhoto seja muito bem-vindo muito bem-vindo a mais uma aula aqui do seu curso de Inteligência Artificial o meu nome é Gustavo Guanabara e já já o Ramiro já tá chegando aqui para falar sobre um assunto que cara todo mundo tá falando de chatbots pessoal fala ah o chatbot do Jini o chatbot do chat GPT
o chatbot do Claud o que que são chatbots como que eles funcionam é é porque na verdade tem gente que confunde o termo chatbot com inteligência artificial gente que acha que Inteligência Artificial é só chatbot tem gente que não sabe confundir foi para desconfundir tudo isso que eu acabei de falar que a gente vai trazer o Ramiro a partir de agora para você entender de uma vez por todas o que que é um chatbot e saber diferenciar o que que é i a como um todo e o que é um chatbot interrompa a sua aula
para um papo muito sério um papo empreendedor eu não sei se você sabe mas eu já falei um montão de vezes aqui dentro do curso de ia que a hostnet é uma empresa especializada em hospedagem inclusive que tem várias franquias espalhadas pelo Brasil e o meu convite empreendedor que eu tenho para fazer para você é o seguinte torne-se uma franquia da hostnet acessando o site da hostnet que tá aqui ó no QR Code aparecendo na tela ou na descrição do vídeo ou no comentário fixado na parte de cima do site tem escrito seja um franqueado
clicando nesse link você vai ter todas as informações ações para se tornar um representante da hostnet na sua cidade isso dá acesso a todo tipo de ferramenta que eu já citei aqui o construtor de site as ferramentas Premium os cursos os treinamentos inclusive você vai participar de um grupo específico de todas as franquias onde os diretores da empresa também fazem parte e tiram dúvidas todos os dias então se você tá pensando em empreender na internet construindo sites a oportunidade é essa entra no site da hostnet clica em seja um franqueado e entre nesse mercado da
internet com o pé direito Ramiro começa agora um novo assunto na verdade é um assunto que a gente já viu mas vai continuar vendo né são os chatbots aprenda a conversar com robôs Pois é já sei que ninguém vai falar a gente já falou sobre ch já falou vamos falar de novo na realidade aqui a gente falou de uma maneira muito Geral agora a gente vai trazer algumas informações como os tokens o funcionamento dos tokens em relação a memória quando está numa sessão que às vezes você você perde aquele lastro de memória porque não tem
uma memora persistente uhum mesmo você estando logado quando você passa muito tempo ali com com vários prompts com vários conteúdos Às vezes você pode perder esse conteúdo Então é isso que a gente vai explicar vai ser um aprofundamento mas vai trazer muita informação útil então fica ligado você que tá em casa não perde por esp você já tá acostumado que a gente sempre traz informação e essas próximas aulas agora tem bastante informação aí sobre o funcionamento do chatbots que podem e vão fazer bastante diferença no seu uso do dia a dia pode confiar na gente
e fica tranquilo que logo na sequência a gente tem algumas aulas curtas aqui a gente vai começar a a a chegar na parte de aplicar os promsa a gente já apli a gente já tá aplicando PR tá aplicando mais na teoria mostrando exemplo a gente vai mostrar como você aplicar para estudar para escrever código para corrigir código para explicar código de programação para criar conteúdo a gente vai chegar lá show de bola é só ter paciência querido GFO Então olha só chatbots como funcionam vamos dar uma uma um Panorama geral aqui funcionamento do chatbots é
o seguinte ó no mundo da Inteligência Artificial existem vários tipos de modelo de linguagem que serve para diferentes objetivos o modelo mais utilizado são o chat GPT e o Jini que a gente usa aqui no curso né que são os robôs de conversa que lembram das mensagens anteriores para que você possa ter um diálogo com ele é porque quando a o GPT da Open ele foi lançado antes de ter o chat sim então era eles utilizavam por api E aí ele não mantinha essa memória ele não mantinha essa lembrança você tinha que fazer isso no
teu sistema agora não porque o chat o chatbot em si ele é um sistema sim que usa a ia por trás né usa o Api da ia E aí quem faz essa consistência de manter essa informação é o chat Aham verdade porém esses chatbots não são o único tipo desse modelo né temos outros exemplos de algumas apis como você falou que Ao contrário dos chatbots não tem memória ou seja cada chamada você deve incluir o promp de preparação novamente né que é o o exemplo promp de atuação aquele negócio ó me responda como um especialista
de tal coisa a gente já viu nas vídeos nas aulas anteriores Exatamente é isso aí continuando aqui ó chatbots como o chat GPT são feitos para simular conversas interativas para ter uma conversa eles precisam lembrar de todo o histórico da conversa isso significa que toda vez que você manda uma mensagem eles releem todas as mensagens anteriores que vocês dois enviaram já que eles não têm uma memória de verdade não é uma memória como a nossa né Ramiro é e eu recomendo que você converse com com o chat GPT com Jam eu e o guanab temo
um resultado muito positivo que às vezes a gente cria um tão a gente tá bacana mas não vem exatamente que a gente quer então é você fala para para ir Olha não gostei do resultado não gostei desse parágrafo sim o tom de voz não tá legal quando eu falo tom de voz Lógico é a forma de de se comunicar e você trata ele como se você tivesse conversando com alguém os resultados que eu e o guanabar estamos tendo dessa dessa forma conversando naturalmente tem sido muito bacana não eu eu eu elogio eu falo ol Era
exatamente isso que eu eu elogio o guanabar ele tem uns pinos a menos da do que eu na cabeça que ainda elogia a Eu não cheguei nesse nível mas tô quase lá hein Elio é que eu tenho tenho tido tanto Resultado positivo que dá vontade de elogiar mesmo tá é não não elogio no sentido n assim nossa você é demais eu falo assim ó não Era exatamente isso que eu tava precisando segue essa mesma linha a partir de agora eu tipo esse elogio é perfeito porque você esse elog que você falou é perfeito você tá
dando a o direcionamento para I que ela tá no caminho certo que ela não tem que sair você gerando vários conteúdos por exemplo que ela não tem que sair daquela linha e esse elogio é perfeito que você tá fazend não eu faço muito isso faço bastante continuando aqui tem o seguinte ó essa memória de conversa é o único fator importante que nos diferencia de modelos que não são chatbots exatamente agora falando ainda do funcionamento do chatbots vamos falar sobre o conceito de tokens que são muito importantes a gente já citou aqui mas a gente vai
aprofundar ainda mais o conhecimento que a gente tá trazendo para você chat gpts e outros modelos de Inteligência Artificial não leem palavras do mesmo jeito que nós isso é importantíssimo né Ramiro com certeza tem um exemplo ó enquanto nós lemos a frase eu não gosto de ovos né palavra por palavra eles podem dividir isso em sua própria versão de palavras ele é assim eu não gosto de ovos na verdade ele pegou palavra por palavra aí nesse exemplo mas eu por exemplo vamos supor que não gosto de seja considerado um token é um token que um
token que caracteriza a frase como negativa eu não gosto de sabe ex não gosto de Sim e ele também pode separar dessa forma sim a palavra por exemplo desgosto pode ser considerado dois tokens por exemplo que é o gostar e o desz que faz o inverso do gostar né quem vai fazer isso é é a própria ia né quem vai considerar isso isso é o prprio então assim a gente L sempre palavra por palavra uma ia pode ler palavra por palavra termo por termo pedaço da palavra por pedaço da palavra isso vai determinar juntar juntar
dois termos quando isso é muito repetitivo exatamente e é por isso que as vezes as pessoas falam ah não mas a i tal Tem suporte a tantos tokens e a outra tem suporte a tantos tokens token em si vai depender muito do que a ia considera um token então assim Pode ser que tipo uma ia que suporte 2 milhões de tokens ele considere o token letra por letra posso estar falando uma besteira absurda mas letra por letra pô numa num texto grande você vai consumir um número muito maior de tokens então assim suportar tantos tokens
vai depender do que a ia vai considerar como token tô errado eu não t não eu até acho que até frases inteiras são muito usu sei lá eu amo você normalmente isso po tá sendo gravado como um token é É verdade ver sendo gravado como múltiplos tokens mas também com token sof pela repetição que isso é e deve ser encontrado pela ia em livros e na internet sim faz todo sentido faz todo sentido ó e aí ó continuando essas palavras e botei botou palavras aqui entre aspas porque pode ser só palavra ou pode ser termos
são chamados de tokens e quase toda a inteligência artificial moderna usa isso cada token vira uma lista de números para i a conseguir processar isso é interessante né Ramiro a gente não fala palavras os tokens são números são valor e eles guardam valores Associados também sim né A gente vai ver mais à frente show você não precisa saber porque as eais usam tokens mas é importante entender isso quando a gente fala do comprimento de contexto esse termo comprimento de contexto a gente não falou ainda falou a gente vai falar agora então vamos falar agora ó
comprimento de contexto O que vem a ser comprimento de contexto comprimento de contexto se refere à quantidade de texto que um modelo de linguagem pode considerar ao gerar uma resposta tanto para chatbots quanto para outros modelos existe um limite máximo desse comprimento de contexto Com certeza quando você tá usando maor é muito importante você saber desse limite para que você saiba até onde você pode ir numa chamada por exemplo uhum Show Beleza e aí vem uma coisa muito importante Ramiro se a conversa ou texto ultrapassar esse limite que é o tamanho do comprimento de contexto
o modelo não vai conseguir lembrar de toda a conversa na hora de responder por isso que às vezes é preciso repetir as informações importantes e uma coisa importante é o seguinte Ramiro existe do chat GPT um limite de tokens e existe um limite de comprimento de contexto tanto pro pago quanto pro que é gratuito é importante dizer o seguinte hoje no momento que a gente tá gravando esse vídeo a gente tá usando o 4 o né o modelo 4 o do chat GPT que tá disponível inclusive gratuitamente pro de graça e muita gente veio falar
assim ah pô Então se o 4 o tá de graça pra gente para que que eu vou pagar se o 4 o tá de graça ele está de graça porém com uma limitação eu diria grande no tamanho do número de tokens suportados o comprimento de contexto eu acho que ele tá mantendo o mesmo aí são duas limitações diferentes eh você tem que observar quando você contrata um um A é o número de tokens que ela suporta por exemplo nesse caso do gratuito é o número de tokens que ela suporta até a versão 3.5 sim ou
o número de tokens que você que ela suporta em um único pron aham mas aqui o comprimento de contexto não é é a a capacidade dela vamos dizer assim de memória mas também tá limitada a texto aham el consegue manter a tua conversa sim então você começou a fazer um projeto de manhã aí foi almoçar voltou continuou às vezes ela para de entender e começa a a sair daquele caminho que você tava por quê Porque lá aquele P Inicial onde você disse como ele deveria se comportar por exemplo já se perdeu sim por conta do
comprimento de contexto você mesmo outro dia veio falar para mim Ah eu comecei a tava criando umas imagens comecei a não sei que aí eu desliguei o computador sem sair da sessão voltei no outro dia já continuei funcionou normalmente de repente à tarde não funcionou mais como eu queria eu tive que passar o TP inicial de novo por quê foi nesse momento que a memória desse contexto comprimento contexto morreu aí eu te eu te recomendei o quê que você criasse um GPT isso é um outro assunto uhum porque no GPT né que é um agente
GPT você consegue deixar as instruções fixas Então aquela as instruções de como ele deve se comportar do que que que você tá fazendo qual o projeto já ficam fixo é você não vai vai perder essa questão com o o o rompimento ali do limite do rompimento de contexto é deixa deixa eu explicar direitinho o que que tá acontecendo foi o seguinte eu tô preparando eu tava preparando uma palestra e nessa palestra todas as imagens eram geradas por Inteligência Artificial usava o d o Doli né E aí o que que acontecia No início eu falava Olha
eu quero imagens nesse formato nesse tamanho nessa nessa proporção eu quero proporções 16 por9 eu quero tamanho e resolução tal Nesse contexto nessa usando esse tipo de arte e aí ele ele fazia fazia fazia depois de um tempo ele começava a Gerar por exemplo imagem quadrada Aí eu falava assim pô tu tá gerando uma imagem quadrada Eu não te pedi naquele outro formato e aí eu fui reclamar disso contigo falou não ó Tem o cumprimento de contexto E é isso que a gente tá tentando te ensinar aqui nesse vídeo o cumprimento de contexto é ele
tem uma memória só que quando que nem aluno durante a aula ele entende tudo na semana seguinte ele já esqueceu porque já passou já entrou tanta palavra na cabeça o comprimento de contextual exatamente entrou tanta coisa na a caixola dele de outras matérias que ele esqueceu aquilo antes o chat GPT funciona exatamente assim aí o que que depois que você me ensinou isso o que que eu comecei a fazer eu preparei para eu não precisar criar um GPT meu que eu não sabia fazer né Depois você me ensinou também eu criei um a minha a
a instrução principal Olha eu vou pedir imagens nesse formato desse tamanho com esse tipo de arte né Aí eu peguei isso gerei um um arquivo de texto toda vez que eu percebia que ele esquecia eu vou falar assim olha só ó vou te passar as ordens iniciais de novo beleza ele tô preparado eu ia lá colava esse texto no prompt E aí sim ele voltava a me atender então eu percebi isso percebi não você me ensinou que ó chegou um momento em que ele esqueceu por quê porque acabou o cumprimento de contexto isso é essencial
para você que tá assistindo esse vídeo porque isso vai acontecer com você também é porque o GPT é é que nem a é velhinho esquece exatamente Pensa num velho é o chat só só para explicar porque eu acho que não ficou claro o que o Guanabara falou ele primeiro ele deu um C do formato das imagens que que ele ia querer sim então ele disse o tamanho da imagem largura altura tipo de cores que tinha que ser eh tipo anime não sei ele falou lá o que ele queria s depois que ele que ele fez
isso ele só foi pedindo as imagens olha agora eu quero uma imagem de um urso polar É isso aí de PT já sabia o formato agora eu quero uma imagem disso disso e ele passou um dia fazendo isso foi dormir acordou continuar na minação foi aí teve uma agora que o jpt começou a mandar formatos com imagem de largura diferente cores diferentes por se perdeu esse Primeiro Comando dele e aí não tinha nem anotado aham que é o pior e agora não ele salva porque ele sabe que ele precisa de mais imagens então ele traz
e joga de novo comando Inicial e sai criando mais imagens isso examente Exatamente isso exatamente então você que tá em casa Se algum dia acontecer com você você já sabe o que que houve Isso é um problema de cumprimento de contexto e é uma limitação que toda Iá tem alguns tem menos alguns tem mais e você vai ter que aprender isso na sua vida só isso já valeu voltar no assunto de chatbox Com certeza sem dúvida nenhuma e oo continua o seguinte ó escolher qual Inteligência Artificial usar levando em consideração o número de tokens às
vezes é um equilíbrio entre preço e a necessidade de um contexto mais longo porque as iis que vão te dar um maior contexto maior quantidade de token provavelmente vão te cobrar mais por isso ninguém vai te oferecer Ah não isso aqui é um plano gratuito tem tokens ilimitados e e comprimento de contexto infinito mentira não existe isso com certeza então assim na hora de avaliar primeo avaliar a qualidade da resposta e segundo Ah não eu vou usar ia para fazer análise de dados e eu preciso eu tenho três ias que fazem isso mas eu preciso
de um uma troca de informação muito grande um volume de de tokens muito grande que eu vou aí você tem que ver preço uhum verdade verdade não sei se você já viu mas aqui no canal do curso em vídeo a gente lançou há algum tempo atrás um podcast chamado Experience podcast e se por acaso você não conhecia abre uma aba Nova abre o canal do curso em vídeo no YouTube e na aba podcasts do canal Procura pelo Experience lá a gente já tem disponível dezenas de episódios conversando com profissionais da área de tecnologia que atuam
aqui no Brasil e também no exterior se você tá querendo entrar na área de tecnologia e quer aprender com a experiência de gente que já tá gabaritada trabalhando há muito tempo no mercado você não pode perder os episódios do curso em vídeo Experience podcast eu também vou deixar o link na descrição desse vídeo e também no comentário fixado E aí pequeno gafanhoto gostou da aula Entendeu agora o que que é chatbot manda esse vídeo pro seu amigo que ah o que que é chatbot e tal se ele confunde chatbot com ia Esse vídeo é o
vídeo certo para você apresentar o curso de ia pra galera não esquece que eu tenho pedido a ajuda de vocês sempre aqui na divulgação do curso de a né porque a gente precisa disso E como sempre vou dar spo do próximo vídeo no próximo vídeo a gente vai começar um assunto também que a gente separou em duas partes chamado prompt de preparação a gente meio que já viu o início disso mas no próximo vídeo a gente vai dar uma avançada de como preparar os chatbots para te responder para te dar respostas mais inteligentes e mais
precisas a gente se vê no próximo vídeo Um grande abraço e até lá [Aplausos] [Música] [Aplausos] C [Música]
