boas-vindas ao primeiro episódio da web série chat GPT e as generativas aqui da [Música] lura o meu nome é Fabrício Carraro e no episódio de hoje a gente vai falar sobre o chat GPT né O que ele é como usar Mas a gente não vai parar nisso a gente vai um ponto além e falar também sobre conceitos de engenharia de prompt ou seja como criar um prompt de uma maneira melhor para o chat GPT dar uma resposta melhor para você se você tá vendo aqui na tela a gente já tá aberto no chat GPT né que é esse sistema esse llm né um large language Model um modelo grande de linguagem que são esses modelos criados que ganharam fama aí no final de 2022 mais ou menos que eles são treinados com muitos dados com muitos dados de texto e Eles te dão uma resposta que você acha que ele entende o que você tá falando e na verdade ele realmente né ele faz associações ali por trás a gente vai ter um episódio aqui dessa websérie explicando como exatamente funciona o chat GPT E essas outras llms por trás mas esse modelo é treinado de uma maneira que ele consegue te dar uma resposta muito coerente na maioria das vezes né eu já tô logado aqui no meu chat GPT como vocês podem ver se você ainda não criou sua conta crie porque é muito fácil é muito rápido e você já vê logo de cara aqui que a gente tem duas coisas lá em cima né duas opções o GPT 3. 5 e o GPT 4 eles são modelos né o GPT 3. 5 ele foi treinado mais antigamente com menos dados então ele é um pouquinho pior e a gente tem o GPT 4 também que é o modelo mais atual mais recente dessa empresa a Open ai e ele é pago então a gente pode fazer tudo aqui dessa aula todos os conceitos que a gente vai ver podem ser feitos usando o GPT 3.
5 esse modelo um pouco pior um pouco mais antigo mas se você tiver pagando você vai poder usar o GPT 4 que provavelmente vai te dar uma resposta melhor e como funciona isso né se você nunca usou o chat GPT na sua vida ele funciona através de prompts e o que é um prompt ele é basicamente um pedido uma mensagem que você manda pro chat GPT para ele te dar uma resposta você pode até ver aqui embaixo que tá escrito send a message que significa mande uma mensagem basicamente né ele te dá até algumas sugestões de mensagens que você pode mandar mas a gente vai criar os nossos próprios prompts aqui um prompt possível para introduzir aqui que a gente sempre faz de brincadeira é de pedir pro chat GPT criar uma poesia né então você pode pedir crie uma poesia sobre o Fabrício Carraro que gosta muito de línguas e aí ele já vai gerando para você automaticamente uma poesia né então vamos ler nos cantos das línguas ele mergulha com paixão Fabrício Carraro alma inquieta em profusão então ele até até rimando ali é uma coisa engraçada que não serve para muita coisa Claro mas que mostra como que ele entende né Essas textos ele foi treinado com muitos textos e aí dado um prompt aleatório ele consegue te dar uma resposta que nesse caso foi uma poesia que foi o que a gente pediu mas não é só isso né ele você pode pedir por exemplo aqui ele fez isso em português você pode fazer traduza pro inglês e como ele é muito bom com textos ele foi treinado com textos da internet até 2021 ele vai conseguir fazer essa coisa que ele não vai criar uma poesia nova porque a gente pediu para ele traduzir apenas né então talvez perca a rima né mas olha aqui ó with Passion so with so pur então ele ainda Manteve ele conseguiu manter a rima né the flight Shining bright Olha que interessante ele viu que era uma poesia e Conseguiu traduzir Mantendo as rimas e claro isso que a gente fez até agora Pode parecer um pouquinho bobo e é realmente Mas você já vu poder por trás do chpt Mas a gente não quer parar por aí a gente quer ir além usando os conceitos de prompt Engineering que é a engenharia de prompts e você pode me perguntar o que que é isso o que que é o prompt Engineering ela é basicamente técnicas que você pode usar para criar um prompt melhor para criar um pedido melhor pro chat GPT e para outras llms para obter uma resposta mais precisa deles então você pode ajudar o sistema criando um pedido melhor mais preciso mais claro e isso vai aumentar a sua chance a sua probabilidade de ter uma resposta que vai ser a que você quer e eu vou mostrar para vocês um cookbook que é um livro de receitas publicado pela própria Open Ai que é a empresa por trás do chat GPT lá no github público deles né no repositório do github público deles que tem várias técnicas para melhorar a confiabilidade do seu pedido então eles falam aqui ainda sobre o gpt3 né antes do 35 e antes do quatro mas são conceitos que são aplicáveis ainda pro 3,5 e pro 4ro né então eles te dão várias possíveis técnicas que você pode usar para criar a Fórmula Mágica a fórmula perfeita de um prompt é claro que não existe uma fórmula perfeita existem vários papers científicos sendo criados atualmente por universidades do mundo inteiro né de Stanford de Harvard berkley da China do Brasil também pelas próprias empresas né pelo Google pela Open ai pela meta do Facebook de como fazer melhor essa engenharia de prompt e eu vou apresentar alguns desses papers científicos aqui para vocês hoje que vão te ensinar a criar talvez não uma Fórmula Mágica mas criar com certeza um prompt melhor e mais inteligível pro chat GPT primeiramente ela diz aqui dê instruções mais claras divida tarefas complexas em subtarefas né tarefas um pouco menor E aí ele dá vários né deu prompt pro modelo para explicar antes de pedir a resposta enfim ele dá vários pedidos aqui várias técnicas que você pode usar mas a gente vai ver vai focar um pouco mais nos papers científicos né um deles que a gente pode ver aqui mais para baixo é esse de zero shot que foi publicado pelo Tak Kojima da Universidade de Tóquio aqui em 2022 agora praticamente né que ele fala que basicamente as llms os large language Models eles funcionam com esses zero shots Ou seja você não precisa dar nenhum Exemplo né você não precisa dar um shot seria um exemplo ou uma amostra então eles funcionam sem dar nenhum exemplo que foi basicamente o jeito que a gente criou aqui né os prompts a gente só fez um pedido sem dar nenhum exemplo e ele deu pra gente uma resposta e ele realmente funciona dessa maneira mas tem maneiras de você melhorar essa eficiência né melhorar a precisão da resposta que é usando a cadeia de pensamento que em inglês é Chain of thought e isso a gente pode ver um exemplo aqui no próprio chat GPT pedindo para ele pensar passo a passo como você pode ver aqui Let's think Step by Step eu vou dar um prompt aqui para vocês pra gente testar isso vou até abrir um novo chat né se você vê aqui do lado esquerdo você tem essa opção porque quando você abre um novo chat você perde aquele contexto que a gente fez antes da poesia e a gente realmente não precisa daquele contexto né então vamos copiar e colar aqui né um diretor de cinema Já dirigiu 16 filmes Metade dos filmes que ele dirigiu são de ação então oito são de ação e metade dos filmes de ação tem a participação do Nicholas cade então Quatro tem o Nicholas Cage e na metade deles o Nicholas Cage tem bigode Então são dois filmes que o Nicolas Cage vai ter bigode né quantos filmes de ação com a participação do Nicholas Cage com bigode ele dirigiu então é um problema que tem vários subníveis né e ele é um pouco confuso se você só der esse prompt automaticamente pro chat GPT é possível que ele erre então uma dessas técnicas de melhorar a precisão seria você pedir para ele fazer isso passo a passo como você como a gente viu anteriormente né então por exemplo a nossa Pergunta a gente pode escrever aqui pergunta seria esse nosso problema aqui do Nicholas Cage e lá embaixo a gente tem a resposta e pense passo a passo e vamos ver qual vai ser a resposta do chat GPT no nosso caso agora vamos dividir o problema em passos para chegar a resposta olha só que legal o diretor dirigiu 16 filmes passo um passo dois metade são de ação então oito passo três Metade dos filmes de ação que significa que quatro filmes de ação tem a participação do ncolas cate passo quatro agora a metade desses quatro filmes de ação com Nicolas Cage tem bigode isso nos leva a dois filmes de ação com o Nicholas Cage e Bigode Portanto o diretor dirigiu dois filmes de ação com a participação do Nicolas Cage e com bigode Olha que interessante você pedindo para ele pensar passo a passo ele já estrutura sua resposta de uma maneira diferente né Então em vez de cuspir a resposta de uma vez ele vai dividindo isso em Passos o que já ajuda muito na precisão dessa resposta uma outra técnica de prompt Engineering que é muito útil também ela é similar em vez de ser o zero shot com Chain of thoughts né com a cadeia de pensamento vai ser o f shot com Chain of thoughts ou seja alguns exemplos né poucos exemplos F shots com o Chain of thought com a cadeia de pensamento que você pode ver ele tá aqui também como um dos exemplos dados né F shot examples com a cadeia de pensamento com esse Chain of thoughts que como ele funciona basicamente em de você simplesmente dar o prompt e pedir já direto para ele fazer passo a passo você dá alguns exemplos você ensina o chat GPT a pensar junto com você e para isso a gente vai ver um outro exemplo aqui que quem fez a imersão II Quem fez a imersão de dados da lura já tá acostumado com ele mas se você não viu você vai ver aqui comigo que é um exemplo de arrecadação de impostos então você pode ver a gente tem uma tabelinha aqui né com 10 pessoas com o o rendimento anual de cada uma delas imagina que você trabalha no governo e você quer arrecadar impostos dessas pessoas e uma alíquota fixa ali de 30% mas tem um porém as pessoas que ganham um salário anual abaixo de R 40. 000 elas vão ser isentas elas vão pagar zero de impostos Então olha como esse problema já começa a se complicar um pouquinho mais né você tem que fazer a soma de todos esses valores aqui mas apenas dos valores que sejam acima de R 40. 000 por ano e aí pegar os 30% desses valores acima de R 40.
000 por ano se você fizer esse pedido diretamente pro chat GPT é possível que ele se confunda ou para outros llms também né Pro Bard do Google pro Bing da Microsoft é possível que eles se confundam mas para isso a gente pode usar essa técnica de prompt Engineering a f shot com Chain of thought né a cadeia de pensamento para mais ou menos ensinar o chat GPT a pensar junto conosco Então vamos voltar lá pro chat GPT abrir um novo chat e eu vou colar aqui um prompt que eu já preparei para vocês e eu vou ensinar para vocês como fazer esse fio shots com Chain of thoughts Primeiramente você coloca a sua a sua pergunta você estrutura essa pergunta então eu tenho uma lista de valores realmente a gente tem aqui uma lista de valores o meu resultado final será 30% da soma dos valores correto porém nem todos os valores serão somados apenas aqueles acima de R 40. 000 até agora né Foi o que eu expliquei para vocês para a lista abaixo Qual é o meu resultado final e eu vou adicionar um pontinho a mais e conte quantas quantos valores existem e me dê o resultado final e aí aqui a gente dá uma lista de valores né 10. 000 20.
000 50. 000 e 60. 000 ou seja dois acima de 40.
000 e dois abaixo e aí eu mesmo vou dar a resposta pro chat GPT então nesta lista existem quatro valores e eu vou copiar aqui colar o resto do prompt para vocês né existem dois valores acima de 40. 000 que são 50. 000 e 60.
000 a soma desses valores é 11 110. 000 né desses dois apenas o resultado final é 30% da soma desses valores portanto 30% de 110. 000 que resulta em 33.
000 Essa é a resposta que eu escrevi pro chat GPT para dados fictícios que eu gerei aqui esses F shots Esses são os Fi shots são esses exemplos que eu tô dando para ele e agora a gente vai fazer pros nossos dados mesmo né pros dados reais que a gente quer a resposta Então pergunta a gente copia a pergunta porque a pergunta é a mesma né É o mesmo valor a gente pode até colocar um separador aqui para ele entender que é uma nova pergunta Então pergunta Tem uma lista de valores meu resultado é a mesma pergunta só que agora em vez de dar esses dados fictícios aqui a gente usa os nossos dados reais aqui da tabelinha né então vamos tem vários né você pode ver 31 15 e tal eu já fiz aqui até um valores para conferência no total a gente tem que ter cinco indivíduos desses né com rendimento acima de 40 Então são 10 são cinco acima e cinco abaixo e o imposto a ser arrecadado o valor total tem que ser 13. 500 vamos ver se o chat GPT vai dar esse mesmo valor e aqui a gente vai ter a nossa resposta osta que em vez de você escrever a resposta como você escreveu aqui você vai deixar em branco para ele completar então a gente deu um exemplo de resposta é o modelo que a gente quer e aqui a gente deu para ele completar E aí vamos ver se ele vai dar a resposta esperada Olha eu começo a produzir a nossa resposta ó Nessa lista existem 10 valores existem cinco valores acima de 40. 000 que são blá blá blá blá BL blá os valores tais a soma valores é 435.
000 o resultado final é 30% da soma desses valores portanto 30% de 435. 000 que resulta em 13.
