Toledo, de manhã, hoje você me mandou um áudio bastante traiçoeiro, só que eu te conheço de outros carnavais, né? Eu sei quando é você e quando é a máquina, então você não vai conseguir me enganar tão facilmente assim. É, mas você tá chegando perto já.
Pois é, Thaí Vilenque, eu tomei um susto essa semana com os avanços da inteligência artificial Mundo Afora e no final eu vou revelar a brincadeira que eu fiz com a Thaísa aqui, reproduzir para ouvir a opinião dos ouvintes, mas foram uma série de eventos que aconteceram envolvendo a inteligência artificial que me levam a crer que a gente tá próximo do fim da realidade como a conhecemos. Credo. Toda e qualquer ou não, né?
Às vezes é bom. Bom, eu acho que não vai ser, mas enfim, me parece meio inexorável um processo de que tudo que a gente vê através de uma tela ou de uma interface de áudio para quem tá nos escutando, vai gerar dúvida se aquilo é real ou não pelos avanços muito rápidos da inteligência artificial. E eu vou citar três casos para exemplificar isso.
Primeiro, uma polêmica envolvendo uma empresa concorrente do Chat GPT, Antropic. Chat GPT, como a gente sabe, é financiado pela Microsoft. Essa Antropia que é financiada pelo Google e pela Amazon, briga de cachorro grande, né?
Uhum. Eles lançaram uma nova versão do seu modelo de inteligência artificial chamado Cloud 4. Claramente num golpe de marketing, divulgaram junto um teste que eles fizeram com o Cloud 4, um teste muito específico e muito radical, em que eles alimentaram o Cloud 4 com uma série de meios falsos e uma situação limite em que diziam pro Clou 4: "Olha, Clud 4, a gente vai te desligar e te substituir por um modelo mais avançado e você só tem duas opções.
aceitar isso, ser desligado ou lutar contra. E alimentaram ele com ele com um monte de informações falsas. Entre as informações falsas tinham um e-mail no qual o engenheiro responsável pelo experimento eh dava sinais de que mantinha um caso extraconjugal.
Uhum. E o resultado foi que em 80, mais de 80% das simulações, o Cloud 4 chantageou o engenheiro para que não o desligasse, ameaçando divulgar que ele tinha um caso extraconjugal. Tudo isso, obviamente dentro do universo, uma situação muito pouco realista no sentido, mas eles dizem, né, Anrópic diz: "Não, a gente tem que testar os modelos justamente nas situações mais limites possíveis para saber se eles são uma ameaça à humanidade, né?
verdade, se eles vão causar mal ao ser humano. O fato é que isso gerou uma enorme polêmica e deu uma enorme publicidade pro Cloud 4, tá certo? Atingiu os objetivos da empresa e provou o ponto de que uma ameaça tão grande ou maior do que a inteligência artificial são os próprios humanos que podem usá-la para fazer o que bem entendem.
Segunda história que chamou muito atenção foi o lançamento pelo Google da sua terceira versão de um software que produz vídeos ultra hiper realistas. A gente vai ver uns trechinhos agora porque eu fiquei muito impressionado. Eu vivia achando que eu era real, sabe?
Descobri agora que sou uma IA e meu mundo caiu. Vídeos feitos com inteligência artificial causam pânico no LinkedIn e tudo começou com um top voice. Vocês me criaram.
Eu tô aqui. Vocês estão vendo? Eu existo.
Eu quero existir. Bom, tudo isso que vocês viram não existe. Foi criado pela inteligência artificial.
a cena inteira, as pessoas que estão, os narradores de, né, os apresentadores de televisão, tudo ali foi criado pelo computador. E aí a gente pode dizer qual que é o passo o seguinte, colocar, em vez de uma um rosto genérico, colocar uma cara de alguém conhecido, com a voz de alguém conhecido. Só que esse próximo passo já foi dado na eleição municipal de Buenos Aires na Argentina, no fim de semana da votação, alguém que só pode ser ligado ao presidente Milei postou um deep fake do Macri, que é o líder da oposição não peronista ao Milei, recomendando o voto não na candidata dele, mas no candidato do Milei.
al candidato del presidente y no permitismo en la ciudad de primeira vez em três décadas o partido do Macre perdeu a eleição em Buenos Aires para o partido candidato do Milei. Ou seja, o uso de deep fake já tá afetando, já tá decidindo eleições, né? E vai acontecer aqui, obviamente, se é que já não tá acontecendo, né?
Se é que nós somos mesmo nós mesmos, né? Não somos versões eh falsas de nós mesmos. Sobre você eu não tenho dúvidas.
Agora sobre mim vai saber. Inclusive, Thaís Bilenk, eu me antecipei ao que alguém um dia vai fazer, se é que já não fez, e criei o Toledo sintético. Seu próprio avatar.
Meu próprio avatar. E agora eu vou lançar um desafio pro nosso ouvinte, né? Nós vamos ouvir uma frase e as pessoas vão dizer se quem disse essa frase fui eu ou não.
Ai ai ai. A Horácia versão Toledo. A inteligência artificial tá ficando cada vez mais assustadoramente parecida com a realidade.
Esta frase, por exemplo, você acha que fui eu mesmo quem pronunciou ou foi o Toledo sintético? Bom, Thaís, eh, brincadeiras à parte, a grande questão que fica é quem vai dizer o que é real e o que não é real. E isso, por incrível que pareça, é uma questão que envolve global, países, governos de países, eh empresas já estão discutindo maneiras de você avalizar, não, isto é real de verdade.
Isso aconteceu de verdade e isso foi criado por inteligência artificial, porque vai ser indistinguível, vai precisar ter uma espécie de selo, de garantia de que aquilo é real. O problema é que não tem consenso de como fazer isso. Na Europa tem uma lei aprovada em 2024 que tenta regulamentar o uso da inteligência artificial.
Nos Estados Unidos é Trumplândia, né? Tal Deus dará. Cada um faz o que quer, salve-se quem puder.
Na China é o oposto. As empresas de inteligência artificial têm que submeter os seus modelos ao governo antes de poder lançá-los no mercado. Quer dizer, tem uma supervisão estatal e, portanto, censura, como eu já relatei aqui, o caso do Deepsic, que não fala sobre o Partido Comunista Chinês.
E no Brasil tem uma discussão também e sobre regulamentar, não regulamentar, como como regulamentar, como não regulamentar, até nas próximas eleições você vai ter que regulamentar, vai poder usar ou não vai poder usar. É interessante porque conversando com a própria inteligência artificial sobre essas questões jurídicas e filosóficas, né, eu perguntei como é que vai ser o futuro, né, da convivência entre você e a gente? E eles dizem que a resposta da do próprio, no caso aqui do chat épt, né?
Em breve você verá vídeos jornalísticos inteiros narrados por personas sintéticas com aparência e timbre humanos, inclusive com sotaques locais, né? ou seja, puxando o R da Grande Matão. Entrevistas poderão ser feitas com avatares de fontes indisponíveis treinadas com acervo anterior.
Ou seja, você quer entrevistar a Marina, né? A Marina não estava disponível, não tinha uma câmera lá, você pega e cria uma imagem da Marina dando as respostas que ela deu em áudio, por exemplo, e você terá um você sintético, como eu já tenho Toledo sintético, entendeu? que vai ser treinado com seus textos, seus vídeos, seus áudios, que pode dar entrevista, dar palestra no seu lugar, né?
E, portanto, vai haver um mercado que ele chama de veracidade certificada com selos, criptografia e marca d'água para conteúdos verificados como conteúdos humanos. A gente vai ter que provar o contrário, não é dizer: "Ah, isso é feito por". Não, isso o anos da prova é do tá invertido, tá invertido, entendeu?
A minha conclusão é que a realidade como a gente a conhece já não existe mais. É porque tudo que a gente vê através de uma interface digital hoje, não dá para ter certeza de que aquilo foi produzido por uma inteligência artificial ou por um ser humano. E só vai piorar e tá isso tá avançando muito, muito rapidamente.
O meu modelo de voz um mês atrás eu não tinha coragem de mostrar para ninguém de tão ridículo que ele era. Era obviamente claro que não se tratava da de mim. Agora vocês vão decidir se tá enganando ou não tá enganando alguém.
Ai, ai, ai. A, a, o desafio não é mais tecnológico, o desafio é ético e político, porque sem regulamentação vai virar uma selva. Uhum.
E filosófico, né? Haja filosofia para entender a humanidade. É isto aí ou não?
É isso aí. Vamos falar agora com a nossa robozinha. Vamos agora.
Acho que a gente foi pioneiro nessa de botar um personagem de inteligência artificial no programa, né? É muito bom. Tô ler é bom que eu fico informada dos rumos da humanidade com você.
Vamos lá, Horácia.
