O lado OCULTO do Chat GPT [Miguel Nicolelis]

Não dá para sair um troço genuinamente novo ou disruptivo de uma de um de um de um sistema do do chat EPT, por exemplo. Foi o que o foi o que não, ele é a média do passado. Por isso que eu sempre falo, né?

É é construir um futuro sem futuro. É um futuro baseado no que já aconteceu. Então você não vai conseguir criar novos escritores, novos pensadores.

Você vai renunciar à inovação. É o oposto da mensagem que é dada para nós. É verdade, né?

Porque eh tudo tá sendo equacionado por um único parâmetro. Hã, isso é muito curioso. Quando você pede para uma rede neural, artificial, maximizar um parâmetro, ela vai maximizar o parâmetro.

Então você fala o seguinte: Hã, eu quero aumentar a produtividade da minha do meu negócio. Esse é o parâmetro. O que que o sistema vai fazer?

Ele vai procurar todos os caminhos que aumentem a produtividade. Se isso significar matar alguém, roubar alguém, violar patentes, o sistema não foi programado para ter ética. Ele não entende o que ética.

Esses sistemas não têm consciência, eles não têm nenhum tipo de moral, eles não tm nenhum tipo de pela própria natureza deles. Pela própria natureza. Quando o a o grande disserviço que o Comitê Nóbel de Física fez, foi dar o prêmio Nobel para um dos caras malucos da área, que é o o Hinton, né?

O Joffrey Hinton, que é um doido varrido, que diz que as redes neurais dele tm sentimentos, pensam, é consciente, não, ele fala isso há 30 anos, eu conheço o cara e é assustador. E nunca ninguém nunca podia imaginar que esse cara ia ganhar o prêmio de física, né? Porque e os físicos ficaram destroçados, né?

Mas enfim, o cara ele ele projetou, ele promoficou a as redes neurais achando que elas são, tanto é que ele é um dos defensores com um grupo de gente que agora nós temos que discutir os direitos eh do do chatt como como se fosse um ser humano. Eles têm direitos, né? Imagine.

Então, quando você pede pro sistema maximizar um output, ele vai maximizar, ele não vai medir consequências. Se ele tiver que demitir 90% do dos carteiros para o a o correio ter o lucro, mesmo que o problema não seja a existência de 90. 000 carteiras, ele vai lá demitir os carteiros.

Então, como a sociedade inteira foi otimizada ou tá sendo otimizada com esses últimos, esse único parâmetro que é um parâmetro, vamos dizer, financeiro, lucro. Ah, eu quero ter lucro. E você tá usando a inteligência artificial para decidir como você vai, a, o caso mais estuporante é seguro saúde americano.

Tem várias empresas estão usando agora sistemas como o Chat GPT para decidir se eles vão cobrir a sua conta médica, tá? Mesmo você pagando barato privado. Só que assim, qual que foi o parâmetro que a empresa eu quero ter o máximo de lucros para dar o máximo de dividendos pros meus investidores, tá bom?

O cara vai matar a gente. Aham. O sistema vai negar.

cirgias, vai negar fisioterapia. Você falou do seu colega, teve um AVC nos Estados Unidos você não consegue pagar pelo fisioterapeuta, tem que sair do seu bolso. Depois de um certo número de semanas pode esquecer.

Só que fisioterapia para certas condições, você precisa de um tempo muito maior. Enfim, esses sistemas, se eles tomarem conta do processo de decisão que anteriormente pertencia a Só nós, onde se tem um grau de empatia, um grau de solidariedade, tinha-se, né? um grau de humanismo, né?

Mas ainda ainda que tenha reduzido todos esses graus, né? Ainda é maior muito em somos humanos ainda. Ainda há Exato.

Ainda existe. Ainda existe. Mesmo que seja isso na máquina não tem isso, né?

Isso. Aí eu pergunto para você, onde além de nós aqui e alguns outros debates acadêmicos, onde você vê esse debate acontecendo publicamente? Não, assim, na verdade, o que acontece em geral é é a vai os o o chat EPT e as inteligências artificiais, o cara que cria uma imagem, a o o a ferramenta que cria uma imagem ou que cria um vídeo e facilita o teu trabalho nisso aqui, isso aí é indeusado, na verdade.

Essa é a solução dos nossos problemas para valer. Eh, quando na verdade a gente tá gerando mesmo uma a galera que sem empatia, sem E eu vou te dar outro dado que ninguém deve ter eh, para você rodar esses sistemas. Você precisa de centenas de milhares de chips da Nividia rodando nesses data centers gigantescos, tá?

Cada um desses data centers hoje em dia consome eletricidade e água, equivalente a uma pequena cidade. Então tem cidades no Arizona, no Texas que estão ficando sem água e sem luz e estão querendo chutar esses caras para fora. Aí sai ontem um artigo no Guardian mostrando que a Microsoft admitiu em 2023 ter 43% dos seus data centers localizados em áreas onde falta água pra população local, tá?

Então, eh, são monstrengos, né? Evidente que você precisa de data centers para processar todas as informações, e-mail, cloud e tudo. Só que o a ênfase hoje em dia são nos data centers de inteligência artificial para rodar e treinar esses modelos com trilhões de dados, muito mais assim, muito famintos de energia água.

Famintos de energia e água. Então, ontem a Guardou um relatório enorme, quem quiser eu recomendo, ler no site deles, mostrando que existem planos de construir centenas desses data centers. Tem até ministro brasileiro indo implorar para trazer para cá, que eu acho um absurdo completo.

Em áreas desérticas, em populações que não tm água, na Espanha, no Oriente Médio, eh na África, em regiões onde quem tá morando lá já sofre com problemas de eletricidade e água, se você puser um barato desses, você vai acabar, né, com com a com o suprimento natural para quem mora lá, né? Então, é como se fosse uma invasão, é como se fosse o o imperialismo digital, tá? Você não pode mais fazer nos Estados Unidos, né?

Porque tá tendo resistência, as comunidades estão passando, as cidades estão passando leis locais proibindo os prefeitos de atrair essas coisas, né? porque gera muito pouco emprego, é um número muito pequeno de pessoas, mas tem um impacto ecológico ambiental enorme com retorno zero, porque esses caras vêm com eh isenções fiscais. A cidade não ganha um dinheirão, né?

Não ganha um recurso financeiro como se propagam por aqui, né? Eh, então você tá tendo é é quase que uma invasão digital agora, física, né? Com consequências que ninguém para para pensar, né?

Porque e ah porque eu quero falar com o chatpt. Exato. Eu quero, eu quero, né, pedir pro chatpt fazer um meme da do meu primo, né?

Eu tenho um monte de primo, teria que fazer um monte de meme. Mas o, o mais incrível é isso, é a autofagia humana. Eu não é nem mais eh só ganhar dinheiro.

Sem querer nós cruzamos aquele aquele aquele ponto, aquela linha no chão, né? eh que nenhuma espécie a que nós conhecemos pelo menos, jamais cruzou, que é quer conspirar contra si mesmo, tá? Você não vê baleia eh contribuindo pro fim dos oceanos, você não vê lobo e matando assim, né, os seus companheiros de caçada, pelo contrário, eles eles dependem daateia para sobreviver.

Então eles, né, eu não sei se você já viu essas coisas, quando a loba da luz, a matriarca da da ocateia, os lobos caçam em golem. rapidamente, sem devorar a carne para voltar para perto da loba e vomitar para ela poder comer sem ter que caçar, porque eles sabem que a loba tá gerando, né, membros que vão no futuro ajudar a sobrevivência do grupo, né? E nenhum lobo consegue dizer que ele é um indivíduo.

O lobo não. Talvez o nosso grande problema seja a gente ter percebido que nós somos indivíduos, né, no fim das contas. Esse é um é maravilhoso.

Essa é uma conclusão, uma das conclusões de de um sociólogo muito famoso que fala exatamente isso. Num, numa natureza, num mundo natural onde o coletivo imperou por bilhões de anos, nós tivemos a ideia de que indivíduos é que reinam, entendeu? Nós temos que ter, né, o individualismo ao limite.