bom pessoal seja bem-vindos mais uma aula nós estamos aqui com Defy e na última aula nós colocamos as api Keys dos modelos llm pro Defy já começar a funcionar Agora nós estamos aqui na tela principal do Defy e para para nós criarmos um aplicativo nós temos aqui três opções a primeira opção é criar do zero a segunda é criar de um modelo e a terceira é importar arquivo dsl criado zero criar vou primeiro explicar aqui o criar do modelo se você clicar aqui em criado modelo o Defy já te dá vários modelos aqui e prontos
para você tá explorando a ferramenta então eu posso vir aqui ó em recomendado aí ele já tem os modelos recomendados ó então tem aqui ó workflow planning assistent workflow question classifier ó noled retrieval my chatbot cell blog generator Eu sinceramente não gosto de usar os modelos prontos porque é se você tá vendo o dify pela primeira vez ele é um pouco confuso de entender então nós vamos criar um do zero só tô te mostrando esse aqui porque você pode por exemplo aqui ó YouTube channel data analyses você pode testar né para testar Você pode ir
lá clicar e ver como é que é o flux mas no curso aqui nós não vamos usar os modelos pros nós vamos usar modelo criar do zero e importar arquivo nada mais é do que suponhamos que você criou um chatbot salvou ele baixou na sua máquina e você quer subir em outro aí você vai usar o importar arquivo dsl nada mais é que o arivo do bot que você criou aqui dentro do DEF então se você criou um bot baixou ele na sua máquina e quer subir em outro ou em outra máquina você vai importar
tá então nós vamos usar o criar do zero Você vai clicar a em criar do zero e aqui tem Ah o tipo do chatbot que a gente deseja criar bom nós temos aqui o tipo chatbot básico e o chat Flow nós temos o do o tipo de aplicativo chamado gerador de texto nós temos do tipo agente e nós temos do tipo fluxo de trabalho Qual que é a diferença de um pro outro só de você clicar aqui ó passar o mouse por cima ele já vai te mostrar ó eh o chatbot é para você criar
um aplicativo baseado em chat ou seja para chatbot esse aplicativo usa formato de pergunta e resposta permitido várias rodadas de conversa contínua é o que geralmente a gente vai usar tá gerador de texto você pode construir um aplicativo que gera texto de alta qualidade com base em prompts como geração de artigos resumos traduções e muito mais você pode criar também um aplicativo que faça isso agente Construa um agente inteligente que pode escolher ferramentas para completar tarefas aut autonomamente tá e o fluxo de trabalho é construa aplicativo que gera texto de de alta qualidade com base
em fluxo de trabalho com alto grau de personalização É adequado para usurios experientes nesse curso nós vamos aprender a fazer o chatbot básico e o chatbot fluxo de trabalho que é esse aqui para você tanto fazer chatbots mais simples você vai começar esse curso aprendendo a fazer chatbot simples Até fazer o fluxo de trabalho tá então nós vamos escolher aqui pessoal o chatbot tá Por quê Porque o chatbot eu posso fazer tanto chatbot simples como posso fazer chatbot chat Flow que é para usuários avançados que é esse fluxo de trabalho aqui tá Então dentro do
chatbot nós temos as duas opções e nesse curso nós vamos focar no chatbot e no chat Flow aqui eu vou dar um nome tá Eu já pedi aqui pro chat PT criar um prompt um prompt não um eu falei assim ó crie um salão de beleza com horários preço serviço é só pra gente ter aqui um exemplo tá então eu vou vir aqui no chatbot vou colocar atendente de salão beleza aqui você pode colocar a descrição se quiser esse [Música] atendente para os clientes de do salão aí você pode colocar o nome da empresa do
seu cliente eu vou colocar esse aqui ó glamor e elegância e vou clicar em criar e nessa tela nós vamos começar a dar as instruções para esse chatbot aqui o chama de orquestrar você que vai ser o maestro desse chatbot Então olha olha que legal eu posso usar a ia para gerar para mim o promt por exemplo Qual é o público Vou Colocar assim ó clientes de salão de beleza Quais problemas eles esperam que a ia possa resolver para eles a ia deve fazer o atendimento geral Aos aos clientes interessados em serviços de salão de
beleza como cortes alisamentos e etc a deve não somente atender como fornecer [Música] todas todas fornecer todos os serviços horários e localização do salão coloquei aqui mais ou menos tá vou clicar para gerar só para você ver que tem esse recurso no Defy que ele fez assim ó olha só esse recurso da ia aqui Já te ajuda a criar prompts ele deu um um prompt em inglês ali ó dizendo your Task ou seja sua tarefa it to provide é prê comprehensive information to potential clients interested in sal in Salon Services such as haircuts e falou
ali em inglês você pode copiar isso aqui vem aqui no tradutor se você não quiser usar inglês Apesar que se você usar inglês ele vai ter uma melhor performance tá mas você pode vir aqui ó traduzir copia volta lá no e e vai colar aqui e aqui ele deu também uma melhoria do chat ele sugeriu aqui ó uma abertura de conversa eu vou aplicar porque abertura de conversa aqui não consigo editar agora eu vou clicar aplicar confirmar ele não mudou aqui mas não tem problema vou lá de novo copia V aqui em pugs sua é
foresis interados em serviço de salão como corte de cabelo alisamento e muito mais Você não deve apenas atender mas também oferecer todos os serviços e horários e localização do salão certifique-se de que as informações sejam detalhadas e abranjam todos os aspectos do serviço do salão eu vou fazer agora aqui mais básico para te explicar como funciona mas depois nós vamos construir prompts mais avançados tá E aqui ó ele deu uma abertura de conversa que eu vou editar vou copiar aqui o que ele deu Vou colar lá no tradutor e ele deu abertura chamada assim ó
Olá estou aqui para ajudá-lo com todas as informações que você precisa sobre o serviço de salão fica à vontade para perguntar sobre serviços horários e localização do salão eu gostei vou copiar e vou colar aqui ó pronto e eu posso também adicionar opções ó ó perguntas de abertura por exemplo posso colocar aqui ó Onde fica o Salão perguntas que geralmente as pessoas fazem né Qual o preço do corte Quanto custa não qual horário coragem salão tá aberto posso colocar cinco tá deixa eu ver o que que o GPT criou aqui ah qual o telefone Qual
o telefone do salão eu vou colocar mais uma deixa eu ver que que ele colocou eh posso colocar aqui ó pacotes promocionais por exemplo tem pacotes promocionais Beleza vou salvar então isso aqui vai aparecer no chat aqui se você tiver utilizando e tá vendo aqui ó ele vai começar desse jeito Por exemplo se você tiver utilizando Defy web tá se você tiver utilizando Defy web Isso aqui vai funcionar se você for usar no WhatsApp a gente vai mostrar aqui nesse curso como você utilizar oy na web e no WhatsApp tá você vai aprender a usar
aqui no WhatsApp e você vai aprender também se você adquiriu o curso do reply Agent você consegue usar oy em no Facebook no Instagram no WhatsApp api oficial e na api Evolution e também no no zapi você consegue usar no telegram e você consegue usar e em todos os canais né mas por enquanto aqui nesse curso eu vou mostrar só aqui nessa parte depois nós vamos evoluindo ele bom aqui eu coloquei a a tarefa tá então vou colocar aqui ó objetivo # objetivo e aqui eu vou aqui ó embaixo eu vou colocar informações do salão
eu vou copiar isso aqui que o GPT deu JC mas você não falou que o bot vai ser com ha retrieval né que eu vou poder colocar documentos vou poder colocar PDF vou poder fazer o Web scrap do site da minha empresa sim você vai poder mas por enquanto eu vou mostrar para você a o básico o básico que você pode fazer E aí nós vamos avançando nós vamos fazer Bots que vai fazer web scrap de website da sua empresa do seu cliente que vai poder ler um documento né PDF Excel que seja né Google
sheets e também que vai poder acessar banco de dados Tá mas calma que nessa aula aqui nós estamos aprendendo o básico Então nós vamos colocar tudo no prompt primeiro para depois eu ir avançando com melhores maneiras de fazer isso então aqui ó informações do salão eu vou colar aquilo que o GPT me deu todas as informações então toda vez que fizer uma pergunta ele vai mandar tudo isso aqui que são tem 1663 caracteres tá então Vou reiniciar aqui e vou falar assim ó oi ele vai falar Olá como posso ajudar hoje porque ele tá usando
o GPT 3,5 turbo e aqui no Defy eu tenho uma coisa legal quer fazer o o debug de mais de uma llm então nós colocamos a openi e o grock então a gente pode fazer aqui ó se você clicar aqui em cima nesses três nesse nessa configuração aqui ó aqui em cima você vai clicar aqui vocêde dar temperatura eu goo de usar entre até 04 você pode colocar o top P né que é o controle de diversidade ali né você não precisa usar mas se você usar você consegue dar mais precisão nas respostas você pode
definir quantos tokens e o formato de saída que pode ser em text ou emj tá não precisa mexer em nada disso agora eu vou clicar aqui embaixo só coloca a temperatura e vem aqui embaixo e coloca debug as multiple models E aí você vai poder escolher outro modelo aqui do lado direito ele já separou aqui o primeiro e o segundo eu vou colocar outro modelo eu clico aqui vou aqui em select Model e aqui eu posso escolher outro modelo você pode e comparar com GPT 4 pode comparar com o Lhama eu vou comparar aqui com
o GPT 4 o tá colocar aqui a mesma temperatura pronto e aí eu vou clicar aqui de novo aqui em cima e vou clicar em adicionar eu posso adicionar até quatro modelos vou adicionar mais um modelo e eu venho aqui terceiro modelo e posso escolher por exemplo o lhama 3 70b que é o 70 bilhões de parâmetros tá vou colocar a mesma temperatura 04 para ficar legal como tem dois da openi eu vou colocar dois do grock tá vou adicionar o quarto modelo e esse modelo vai ser o Mistral tá vou colocar o Mistral vou
colocar a mesma temperatura 0.4 Pronto agora eu tenho quatro modelos eu posso clicar aqui em reiniciar p ficarem sem nenhuma pergunta e aí eu vou perguntar para todos aqui ó Onde fica o Salão ó Onde fica o Salão Onde fica o Salão cada um vai dar um tipo de resposta isso que é interessante por que que eu gosto de usar o porque cada projeto você vai utilizar uma técnica ou uma abordagem diferente da ia então você podendo ver como que as LM se comportar com cada tipo de pergunta você consegue selecionar com qual llm você
vai trabalhar em em cada projeto nem sempre você vai querer trabalhar com a openi em todos os projetos ou só com a openi tá você pode utilizar eh mesclado ali né com várias llm ou você vai falar assim cara só o pna tá dando conta do recado ou então pô o grock tá dando conta do recado vamos ver o que que ele respondeu aqui eu perguntei pro GPT 3.5 Turbo Onde fica o salão e ele respondeu ó o salão de beleza glamor e elegância já localizou o nome do salão está localizado na Rua das Flores
1 2 3 centro de São Paulo seu CEP é 0100100 então se a gente olhar aqui no no prompt a gente pode ficar verificando se ele tá dando a resposta corretamente então aqui ó ele acertou o endereço ah porém não tem centro de São Paulo ele tá parecendo que ele inventou o CP ali né porque não tem CP então por isso é legal a gente ter esse debug aqui vamos ver o GPT 4 o GT4 o respondeu assim ó ah está localizado na Rua das Flores correto se precisar de mais informações ou direções entre em
contato conosco no telefone 123 4 5 6 7 8 GP T4 foi mais assertivo respondeu corretamente ele só respondeu que tava aqui ó que é o que eu quero então o GPT 3,5 inventou aqui um CEP isso não não foi legal ah o grock lama 3 Ele já respondeu corretamente também e o bistr já deu uma resposta de todo o tamanho dizendo que o salão fica h seus clientes podem agendar serviço blá blá blá ele já quase que deu o prompt inteiro aqui na resposta né pessoal então não era isso que eu queria e e
pronto então aqui eu tenho e vários várias formas de estar trabalhando com modelo e uma das formas é eu estar fazendo esse debug então por exemplo Vou reiniciar aqui e vou vou perguntar qual o preço do có vou perguntar aqui que é os quatro respondes de vez Qual é o preço do corte a invés de eu ficar clicando em cada botão eu já vou perguntar direto todos eles vão responder o preço do corte aqui feminina é R 8 o masculino é R 50 então aqui o GPT 36 eu vou só dar um desconto por 36
que eu não gosto de usar esse modelo gosto de usar o modelo 0125 tá ele é melhor do que o gt35 é puro Então vou eu vou dar um desconto para ele vou perguntar de novo o preço do corte Então beleza o GPT 3,5 Ele respondeu que o corte feminino é 80 exatamente o masculino é 50 acertou o GT4 ele ele é dá melhores respostas tá pessoal olha como que ele já estruturou aqui a resposta ele já colocou aqui ó no formato de tópicos ó corte feminino masculino colocar se precisar de mais informações pode ligar
pode acessar o site nosso endereço é tal nosso horário de funcion meta de 9 às 20 então o GPT 4 o ele deu uma mensagem muito mais elaborada e aqui ó o GPT o Lhama 3 Ele só falou assim ó o corte é ele deu aqui em tópicos E só deu mesmo a resposta que precisava o corte feminino é 80 o corte masculino é 50 e o Mistral ele falou aqui ó ele eles é foi o que se aproximou um pouco mais do GPT 4 só que o Mistral ele tá dando a informação do prompt
inteiro ó ele tá falando ele tá pegando todo o prompt e dando como resposta então ele tá falando a servir eu só perguntei o preço do do do corte ele deu o preço da tabela inteira tá isso aqui e outra coisa importante que eu vou falar aqui para vocês quando a a o llm dá uma resposta se você passar o mouse aqui ó dentro do até aparecer aqui embaixo ó o tanto de token que ele gastou e quantos segundos ele levou para fazer isso ó o GPT 35 para dar essa resposta aqui ele gastou 707
tokens cada token equivale mais ou menos a 750 Palavras só que aqui ele tá calculando a a entrada e a saída Ou seja a entrada foi a minha pergunta e a saída foi a resposta dele e ele teve que também e a entrada foi a minha pergunta eu prompt tá então Lembrando que aqui ó ele quando eu faço uma pergunta ele ele também tem que fazer a leitura do prompt tá do prompt dos documentos então por isso que dá aqui 707 tokens né ele fez ali o retriever também e aqui o GT4 ou ele gastou
720 tokens tá e ele levou um pouquinho mais de tempo né o GPT 3,5 é mais rápido pouquinho mais rápido o Lhama aqui ó ele gastou 788 tokens e levou 43 segundos foi o mais rápido mas ele gastou um pouco mais de tokens o Mistral foi o que mais gastou ele gastou 1475 tokens por quê Porque ele tá lendo prompt inteiro de você como é que eu conserto isso na próxima aula a gente vai construir uns prompts mais mais elaborados colocando limites nas llms desse chatbot básico para você tá conhecendo tá bom e a gente
vai começar a construir um chatbot nós vamos colocar com texto tá vamos colocar também eh Vamos colocar aqui mais recursos para esse chatbot e você vai aprender isso aos poucos eu vou te pedir para você não ficar ansioso porque você precisa entender os fundamentos para depois você conseguir construir chatbots mais avançados quando a gente começar a falar de chatbot mais avançados você já precisa entender esse básico aqui senão você vai ficar perdido lá no chatbot avançado tá bom Espero que você tenha gostado dessa aula até a próxima aula
