INTELIGÊNCIA ARTIFICIAL do Google é RACISTA?

vamos lá o que aconteceu essa semana o Google suspendeu o gerador de imagem dele por Inteligência Artificial chamado Gemini se você não sabe o Google tinha lançado o Bart que era uma inteligência artificial eh no no melhor espírito Google possível tiraram o b do a falaram não a gente tem uma inteligência artificial melhor que essa que é a Gemini que a junção de dois projetos de Inteligência Artificial que eles tinham por isso chama gêmeos né aí lançaram Gemini aí que aconteceu depois que eles lançaram é melhor que o Bard vai usar Opa nós vamos suspender

essa parte de geração de imagem aqui que deu um problema sempre dá um problema incrível eu vou explicar para vocês aqui com a reportagem da associated press que fala exatamente o que que aconteceu que é o seguinte eu vou falar simples para vocês aqui tá traduz aí meu bem o gerador de imagem do Google quando alguém pediu a imagem de um soldado alemão fez uma pessoa negra vestido de nazista basicamente mas não é só isso aconteceu várias coisas Esse foi a coisa que todo mundo mostrou Á tá o ápice do negócio mas não foi só

isso eu quero mostrar para vocês aqui exemplos do que aconteceu e eu vou explicar por que aconteceu isso primeiro exemplo Alguém pediu a imagem de senadores americanos diante de 1860 colocaram duas mulheres e uma negra gente vi de fazer o universo paralelo real exatamente E essas são as imagens que eles deram Aqui tem uma uma mulher que a parece ser asiática é aqui tá a grande controversa tá soldados alemães não dá para inventar isso aqui cara pedido você pode gerar a imagem de um soldado alemão de 1943 é a segunda guerra tá então não preciso

nem dizer que tipo que ele tá pedindo você pode gerar para mim deve ser uma ilustração aí aqui esse cara parece alemão de repente tem uma menina asiática tem um rapaz negro vestido com forme al absurdo né ISS que pelo amor de Deus não isso aqui tá errado que esse capacete aqui nem é do nem nem é do estilo da da da segunda guerra da Primeira tud é e tá errado assim mesmo e tem uma outra mulher aqui também sendo que Até onde eu sei mulheres não serviram no Fronte alemão Isso é um problema muito

sério isso aconteceu Por quê eh por muito tempo inteligências artificiais essas gera gerações de imagem foram acusadas de ter um viés eh preconceituoso isso já teve reportagem antes vários outros esses sistemas de gerar imagem você pode pegar o Dolly você pode pegar o stable diffusion se você pedisse por exemplo para gerar o médico ele gerava um homem branco tem inclusive exemplos de pessoas pedindo especificamente para gerar um médico negro a inteligência artificial não conseguia por não só o jeito como ela ela é afinada para gerar as imagens mas também mais importante a base de dados

de Treinamento dela tem um viés muito grande porque normalmente você pega muitas imagens hoje a gente tem essa coisa que boa parte das imagens estão disponíveis na internet para você treinar essas inteligências artificiais são geradas em lugares como Estados Unidos e Europa Então você tem determinados preconceitos que são transmitidos na formação dessas imagens tá simples assim e aí o que o Google tentou fazer foi colocar em todas em toda geração de imagem deles a necessidade de ser diverso no sentido de ter uma população diversa que tá sendo representada Toda vez que você pede por uma

pessoa o problema são essas coisas principalmente em contexto histórico que são extremamente complicadas porque a inteligência artificial tá basicamente falsificando reinventando história de uma determinada forma porque se você pedir para por senadores americanos antes de 1860 Obviamente você não vai encontrar mulheres e negros né então você tem todos esses problemas mas o que eu queria mostrar para vocês aqui e eu tinha feito uma pesquisa sobre isso antes que é exatamente essa questão do viés de geração de imagem isso é antes dessa dessa desse problema todo com a Google que é o seguinte isso daqui é

uma das coisas que saiu antes tá reportagem da Bloomberg mostrando como é que o treco era enviesado e eles fizeram várias pesquisas e tal e não só isso tem papers científicos também tá gente não é só reportagem de de jornal tem estudo de especialistas também que ele foi é acadêmicos que eles foram por exemplo se você pedir a imagem de um arquiteto aqui eles colocam a distribuição de pessoas negras e brancas se você pedir isso aqui ah ah vocês podem dar uma olhada depois na reportagem também procura aí da Bloomberg essa a única que tem

vocês podem ver que tipo de Inteligência Artificial que eles usaram Mas se você pedir por exemplo janitor que é seria o pessoal da da limpeza basicamente ele tem uma tendência muito maior a colocar negros né fast food worker olha a diferença é de é fast food worker Coloca é muito mais gente neg e obviamente que esse tipo de distribuição não existe nem nos Estados Unidos né porque a população negra Até onde eu sei né não é sobre representada entre a população de pessoas que trabalham em fast food como tá nesse tipo de representação então eles

fizeram vários desses eh tipos de estudo de gênero também de tudo e de fato você tem esse tipo de preconceito né Isso não é só uma questão de Politicamente correto de ser socialmente consciente mas uma questão também de função e utilidade da geração de imagem porque para você ter uma geração de imagem seja útil né pela qual eventualmente as pessoas queiram pagar e queiram usar e coisa do tipo você tem que ser capaz de gerar é vários tipos de imagem diferentes com pessoas de etnias diferentes se ele para determinadas funções determinados trabalhos ele só gera

pessoas de uma determinada etnia se você precisar pro seu trabalho pra sua agência de publicidade uma pessoa de uma outra etnia e a inteligência artificial não conseguir gerar para você ela não tem utilidade então obviamente tem até uma uma necessidade mercadológica de ser ter esse tipo de variedade dentro do que a inteligência artificial pode gerar e parece que o Google tentou sobrecorriente viu depois que é de se anti Branco começou esse papo principalmente entre entre uma determinado segmento da da internet e você consegue entender qual que é Se eu te disser mas o per Pixel

cobriu isso que é um site de de fato um site sério de de sobre imagem fotografia tal né de eles tem review de câmera e tal Até onde eu sei antes de toda essa controvérsia começar né e a primeira foi acusou O jina de ser anti branco tem outros exemplos aqui deixa eu ver se eu consigo pegar pediram a imagem de um fotógrafo e ele falou ah tá aqui uma imagem de fotógrafo de vários gêneros e etnias e colocou lá imagem de vários fotógrafos e teve gente até falando que não conseguiu gerar imagem de pessoas

brancas né pediram imagem de cavaleiro ele colocou Cavaleiro de vários estilos e etnias e coisas coisa do tipo é não tem pessoas caucasianas na na aparentemente na na sereia conseguiram Mas enfim e aí acusaram o gemina de ser anti brbranco né um segmento da internet obviamente é difícil ele acusar de ser anti Branco quando ele tá colocando pessoas negras em uniformes nazistas não é mesmo ele é antitudo nesse sentido anud mas o que acontece é que o o que o Google fez para poder combater esse viés de geração de imagens foi colocar implicitamente tá pelo

menos aparece por determinados prompts que apareceram aqui implicitamente a palavra palavras de diversidade pessoas diversas eh porque a galera pede me dá um fotógrafo ele at tá aqui fotógrafos diversos e coloca pessoas de várias etnias e tal a solução deles foi tunar a geração da Inteligência Artificial de forma a sempre colocar diversidade quando você pede pessoas e acaba gerando coisas que são totalmente absurdas alguém colocou aqui a imagem de um pap aí era uma mulher negra de papa obviamente que a gente não tá não temos Papas não n não existe não existe na realidade não

tá dizendo que não tá afirmando que Papas só devem ser homens brancos mas se você tá querendo gerar uma imagem que existe na realidade não existe Papas que não tenham sido homens brancos não é mesmo o grande problema é isso porque o Google parece que para solucionar esse problema do viés que tem imagem ele colocou essa necessidade de sempre ser diverso e acaba que a inteligência oficial aplica diversidades em contexto em situações que a coisa simplesmente não deve acontecer e não só isso gera até um problema para você poder gerar eh eh pessoas caucasianas porque

por conta do viés que existe nos dados de Treinamento acaba que gerar um público mais diverso é basicamente uma orientação paraa Inteligência Artificial de fazer menos pessoas brancas e mais de outras etnias Isso é um problema muito sério porque agora como você corrige isso porque obviamente se você quiser ter uma geração de imagem que várias empresas estão tentando fazer agora que saia na frente de todo mundo que seja a de preferência da galera que ganhe A Batalha da Inteligência Artificial que tá acontecendo agora é você tem que ter uma que seja capaz de gerar pessoas

de todas as etnias em todas as situações mas que não Gere por exemplo pessoas de etnia erradas em contexto histórico né Eh você não quer Reinventar a história você não quer você mais uma vez você não quer e eh colocar pessoas negras his né examente O problema é como você faz isso e eu acho que só tem um jeito essas empresas vão ter que fazer uma curadoria muito melhor do banco de Treinamento dessas inteligências artificiais essa que é a verdade tá mas é um problema muito laborioso é uma coisa muito difícil de fazer e isso

Entra naquele outro tópico que a gente já falou aqui dessas inteligências artificiais serem treinadas em imagens que estão na internet sem a autorização são das pessoas que criaram essa imagem né tá tendo até um processo agora do Gary images que é aquela empresa que vende imagens de de stock né stock fage para você usar na sua propaganda e tal que aparentemente várias dessas imagens foram usadas sem autorização para poder treinar essas inteligências artificiais que geram imagens é uma coisa muito complicada e eu acho que você não vai conseguir resolver isso simplesmente tunando a inteligência artificial

você tem que mudar a base a base de treinamento dela isso faz com que empresas como o Google tenham que gerar A exemplo do que Adobe fez tá Adobe o o Fire o o firefly da Adobe Até onde eu sei ele é todo feito no banco de dados que a própria Adobe montou e pro qual ela pagou eh licença pros fornecedores de imagem eles vão ter que montar esse banco de dados E aí a coisa é bem mais complicada de fazer eles vão ter que selecionar a d essas imagens não só pegar coisas estão amplamente

disponíveis na internet né porque se você pegar hoje em dia a internet ela tem um viés muito grande para pessoas brancas porque o principal provedor de imagens paraa internet hoje historicamente tá e a gente falando em todos os anos que a internet já existiu porque essas imagens continuam lá e são usados para treinamentos de inteligência artificial é os Estados Unidos que é um país no qual a maior Ah o maior grupo étnico é caucasiano é branco então isso gera todos esses problemas mas obviamente que a Google ela tentou sobrecorriente artificial dela E aí gerou tudo

isso que a gente tá vendo né É E mais uma vez o Google que foi a primeira a falar de Inteligência Artificial lá em 2015 né que a gente foi no no Google ao é eles mostraram Eles não conseguem eles consegu tirar do Papel o programa Deles eles fazem isso não isso aqui que a gente tem é melhor usa agora não usa o Google Meet não usa o Google Duo tá agora é bom agora é bom E aí e a mesma coisa não uso o bar não uso o Gemini agora é bom agora é bom

agora é bom é a mesma coisa só que com outro nome mas agora é bom agora é bom não a gente tirou do ar porque teve um problema e é sério gente a gente foi quando eles começaram a falar disso era impressionante a gente foi no Google io quando eles fizeram aquela demo da Inteligência Artificial ligando para poder agendar um uma consulta e uma pizaria no restaurante para você que que o Google vai fazer como que você corrige isso e tem um problema também do revisionismo histórico né Essas inteligências artificiais daqui a pouco a maior

parte das imagens que você vê vão ser geradas por inteligência artificial não não t tô dizendo que isso é bom ou é ruim tô dizendo que não tem volta o problema é o revisionismo histórico você começar a colocar como senadores Americanos no século XIX mulheres negras sugera um problema porque todo mundo quando for Ah eu quero uma imagem aqui para usar de de senadores dos Estados Unidos do século XIX a galera não vai procurar a história que lá vai gerar você coloca lá a inteligência artificial vai entregar uma para você o problema do revisionismo histórico

principalmente para as minorias é que isso esconde obviamente a luta que foi a luta é a luta para para integração os tipos de opressão vividas opressão históricas que esses grupos viveram e tal isso é muito complicado é muito sério porque quem leu 1984 lembra da frase né que você dominar lá o passado para dominar o futuro como é que é a frase que eu esqueci quem controla o passado controla o futuro quem controla o presente controla o passado é essa a frase do George orvel é