começamos aqui agora uma série de vídeos que fala sobre assuntos polêmicos de Inteligência Artificial e nós vamos começar a falar sobre armadilhas dos [Música] llms Olá pequeno gafanhoto seja muito bem-vindo muito bem-vindo a mais uma aula do seu curso em vídeo de Inteligência Artificial o meu nome é Gustavo Guanabara e já já eu tô trazendo aqui Ramiro Lobo pra gente começar a discutir armadilhas que os Lord l models podem causar pra gente então assim nem tudo que você pede para uma inteligência artificial você pode ter certeza de que ela vai te dar a melhor resposta
e que você possa confiar 100% é sobre isso que a gente vai começar a discutir agora nesse vídeo e vai discutir por mais alguns vídeos porque esse assunto de armadilha dos llms é muito importante marca as pessoas que você conhece falando assim caramba olha só tem coisas que a gente pede PR pras pras inteligências artificiais né pros chatbots e nem sempre pode confiar nos resultados Então você seja bem-vindo seja bem-vinda a essa série Esse é o primeiro vídeo de alguns vídeos se eu não me engano são cinco mas tá vindo aí o Ramiro pra gente
começar a falar sobre falhas comuns e citações de fte em um dos recados da hostnet que eu dei aqui no curso de Inteligência Artificial eu falei sobre o processo de franquia só que eu sei que aqui dentro do curso em vídeo Tem muita gente que tem o conhecimento na hora de criar sites mas que não tem o recurso financeiro para comprar uma franquia pois saiba que a hostnet criou um programa chamado Universidade web marketing que é um verdadeiro Caça Talentos o objetivo é treinar os interessados todos eles aprendem a criar site utilizando as ferramentas da
rnet arrumam clientes reais atendem a esses clientes totalmente orientados pela galera da hostnet e no final os melhores alunos são selecionados e se tornam automaticamente franquias da hostnet então não perca tempo se você tem afinidade com a área de tecnologia a construção de sites e a base do marketing digital é só entrar no programa Universidade web marketing da hostnet e quem sabe daqui a um tempo você seja uma das unidades regionais da empresa Um grande abraço fica com essa ideia na cabeça e volte a sua aula Ramiro chegou a hora de começar um assunto novo
importante aqui do seu curso de Inteligência Artificial que são as armadilhas dos llms Conheça as falhas das Iá para não cair em roubada do que a gente vai falar esse assunto é super importante porque eh nesse momento que a gente está talvez se você tiver assistindo esse curso daqui a se meses 1 ano tenha mudado aham a gente tem alguns problemas que aí ainda não tá preparada às vezes ela não fala uma verdade absoluta vou te dar um exemplo que aconteceu comigo Ah foi ontem tá eu tava usando especificamente chpt eu não vou te afirmar
se aconteceria no jamini no jamini porque eu acho que ele tem acesso à internet mas o s PT ele não tem e muitas vezes ele simula que tem porque ele pega um conteúdo que ele já conhece Uhum Então eu tava T tirando dúvida ajudando um franqueado a usar I para poder criar so uhum criando uns propin né E aí começou pegava lá uma URL do site faço o so da da URL tal crio o título palavras chaves a description lá fez a primeira direitinho fez a segunda direitinho fe a terceira direitinho beleza foi lá e
ficou feliz e beleza quando eu estava tomando banho aí eu pensei o chat GPT me enganou Você sabe por que que ele me enganou Hã Porque o o a a o site tava protegido com aquela tela de em breve só quem conseguia acessar as urls de verdade era um administrador o chpt não teria login então ele pegou o conteúdo da url que tava escrito lá que era de móveis né móveis para cozinha não sei o qu e a partir dessa palavra chave do da URL Ele criou todo o conteúdo mas ele não acessou de fato
a página é ele não chegou e falou Puxa não fui capaz vou imaginar aqui Não ele só disse que só continuou não não foi cara exatamente então assim esse tipo de coisa tem que tomar muito cuidado porque às vezes você pensa que ele tá acessando a informação que você quer ele tá te tá criando com base nessa informação e ele não tá ele tá criando ele tá criando uma fantasia entendeu não seria uma fantasia porque pela URL Ele identificou o que eu queria criar um conteúdo com aquilo entendeu Mas seria melhor se de fato ele
buscasse todo o conteúdo que que estava ali na página entendi é fica tem que ficar de olho você em casa aí e ó lembrando na nossa janela de tempo aqui estamos no momento com o chat GPT na versão 4 e 4 o não é isso exatamente então tudo que a gente tá falando é de 4 e 4 Ah mas agora já tem o chat GPT 7 eu tô vendo essa aula na hora do gpd 17 e isso não funciona mais aí beleza foi uma evolução natural da coisa com certeza Então vamos lá a primeira armadilha
que a gente vai ver a gente vai analisar as possíveis falhas né Ramiro Então vamos começar ex Quais são as falhas mais comuns que os llms podem ter isso não tô falando só de um produto podem ter Pode ser que a tua llm não tenha esse problema mas fica sempre de olho aí seguinte ou pode ser que ten muito mais do que esse exatamente ó primeira falha comum é modelos de aprendizagens de linguagem né que são os llms a gente viu lá no início do curso são ferramentas incríveis que mudaram várias áreas da tecnologia desde
o atendimento ao cliente até a criação de conteúdo no entanto como qualquer tecnologia Elas têm suas limitações saber quais são essas falhas é fundamental para usar os llms de forma eficaz e Minimizar problemas que possam surgir essa aula vai discutir algumas dessas falhas comuns que incluem problemas como citação inadequada de fontes viés ilusões erros matemáticos e manipulação do comando Inicial Assim você vai ficar preparado ou preparada para entender e utilizar essas ferramentas de uma maneira mais Consciente e eficaz então é o que a gente acabou de falar falar né vamos ver os principais problemas primeiro
problema que a gente vai ver já nessa aula nas próximas a gente vai ver outros problemas citação de fontes Então vamos ver o que que tá escrito aqui sobre citação de fontes embora os llms possam gerar textos que parecem citar Fontes é importante entender que eles não podem citar fonte com precisão e agora Ramiro é porque na na realidade quando ele faz o processamento das informações da base de conhecimento dele aquilo tudo vira token não é como o Google faz na busca que ele armazena o link armazena as palavras armazena o site de onde ele
tá buscando aquilo tudo vida Toca então quando você pede alguma coisa que é muito famosa por exemplo ele pode se você tiver conversando com ele sobre algum assunto sobre Shakespeare ele pode citar lá C ou não ser uhum aquela questão que a gente conversou do próximo to que estatisticamente aquilo é o que vai ver né isso a mas e ele pode se referenciar dizendo que isso é é é é desse autor mas ele não tem essa informação com precisão uhum se aí muita gente vai falar ah não mas quando eu tô usando o chat GPT
lá na no Windows que o Windows tem a integração com o chat GPT ele me traz a links de onde a gente ou o conteúdo na realidade são dois processos tag baral ele usa o chat GPT pega o o o conhecimento e depois ele faz um outro tipo de busca interna para tentar identificar identificar ali no buscador do do da Microsoft qual é o nome do buscador esqueci Bing o Bing é e o Bing ele vai lá e faz uma busca daquele conteúdo para tentar tentar identificar a fonte correta Caraca tá aí eu não sabia
disso não para mim ele realmente caramb não ele vai ele ele vai ele vai chamar através de api o o chat PT o chat PT não faz isso ele vai trazer a resposta uhum ok ele tem parceria com o chat PT ele vai usar ap depois ele vai pegar aquilo que ele recebeu e vai fazer uma busca semântica dentro da base dele do que ele é um buscador ele tem uma base de dados Aham Aí ele vai te dar alguns links eu não sei nem se ainda funciona assim teve Teve uma época então aquele link
não vem do do GPT funciona entendi ele veio o GPT segunda busca veio de uma busca semântica que ele fez depois entendeu ele analisa a resposta do GPT joga no Bing e o Bing tenta encontrar a de onde mais ou menos o GPT buscou essa informação ou Onde existe uma informação semelhante a informação pode ser totalmente criada então de on informação eu posso dizer ent verdade entendi ó e como o Ramir explicou isso acontece porque ele não tem acesso à internet e não consegue lembrar a origem dos seus dados de treinamento e esse não tem
acesso à internet uhum foi o que deu problema na na história que eu contei no início só que na hora a gente ficou acreditando que ele tava acessando sim entendeu sim verdade porque ele ele não diz nada então enfim vamos lá continuando consequentemente frequentemente geram Fontes que parecem plausíveis como o Ramiro disse mas são completamente inventadas essa é uma limitação significativa a usar llms para tarefas que exigem citações de fontes precisas então muito cuidado universitários que estão assistindo aí a galera estudante tá fazendo trabalho não peça muito por citações porque pode vir coisa errada e
aí o teu professor vai pegar no teu pé não Nessa versão do do chpt se for o chpt não peço citações confesso confesso que não parei para testar o JM mas não deve ser diferente aham o problema de citação em precisa de fontes pode ser amenizado de certa maneira utilizando llms com busca aumentada Estes são llms que tem a capacidade de pesquisar na internet em outras fontes para fornecer informações mais precisas o Gemini é um desses não é isso é o Gini é um desses ele pode eh depois de fazer a busca dentro da ia
ele pode fazer uma busca dentro da da base do Google é o que a Microsoft fez lá no Bing como eu te falei entendeu a Microsoft tá dentro do Bing simulando mais é porque na realidade tá usando chpt é eu tô aqui pesquisando o negócio existe um outro chamado perplexity que faz mais ou menos isso também não sei se você já ouviu falar eu já ouvi falar mas nunca utilizei é então fica aí testa se você precisa muito disso Tenta aí o Gemini Tenta aí o perplex ou então se você a gente tá na versão
mais avançada do chat GPT né repetindo a gente tá usando nesse momento a versão 4 e 4 o não tem conexão Mas pode ser que as próximas até possível que as próximas tenham então se você tá numa ver mais avançada pesquisa para ver se ela tem conexão também e e outra coisa ô gu se você precisa da citação de fontes uma vez que qualquer I te forneça você tem que validar isso falou tudo Ramiro falou tudo não copie e cola Ah eu vou copiar colar e vou considerar que tá certo não não copia Cola verifica
se tá certo se não tiver certo apaga o que a parte que tá errada e segue tua vida não aceite 100% o que ela vai te falar ela pode ficar maluca ela pode alucinar senti PR você e você tá aí copiando e colando coisa errada e vai entregar trabalho zoado com certeza não sei se você começou a conhecer o canal do curso em vídeo agora mas na verdade eu já produzo conteúdo pro YouTube desde 2013 então aqui no canal do curso em vídeo já tem um monte de aula um monte de conteúdo disponível gratuitamente para
você e o que eu peço é uma coisa muito simples compartilha os nossos vídeos com o maior número de pessoas que você conhecer você tá na faculdade tá no colégio tá estudando tecnologia Com certeza você tem um grupo de estudo ou o grupo da turma compartilhe os nossos vídeos os nossos cursos com eles isso ajuda a gente demais no crescimento do canal e incentiva a gente a produzir cada vez mais cursos para vocês eu posso contar com a tua ajuda e aí você conhecia todas essas armadilhas que a gente citou nesse vídeo a gente falou
mais de falhas comuns e citações de fontes nos próximos vídeos a partir de agora a gente vai falar sobre mais algumas armadilhas que são muito importante de você conhecer até para que você quando receber uma resposta e identificar hum isso aqui pode ter uma armadilha que eu possa cair fica muito mais fácil de você identificar Beleza então no próximo vídeo a gente vai falar sobre uma coisa bem polêmica também que é o viés as inteligências artificiais tem viés vamos discutir isso no próximo vídeo sobre armadilhas do llm um grande abraço e a gente se vê
na próxima aula tchau tchau [Aplausos] [Música] [Aplausos] h [Música]
