e eu aqui não entendi nada para você não meu filho de Calma que eu vou explicar pra quem me acompanha há duas semanas eu fiz um teste postei a foto utilizando no final das minhas fotos uma foto de uma pessoa branca pois bem o meu engajamento subiu mais de 6 mil por cento sim não é brincadeira 6101 para fazer isso ao longo da semana mas eu vou aproveitar que a chata falando disso ela postou foto de pessoas brancas no vídeo dela porque assim como eu EA maioria das pessoas negras mulheres negras que dura de conteúdo
que ela também sentiu uma diminuição muito grande engajamento orgânico dela e eu também entrei nessa lista Olá eu sou Luciana Barreto e esse é o entre vozes o novo podcast da CNN Brasil nesse primeiro episódio começa apresentando a vocês um pouco sobre o trabalho de duas influenciadores digitais negras essas que você escutou ainda pouco a primeira delas é a sal levar ela mantém um canal no YouTube um perfil no Instagram lá ela fala entre outras coisas sobre veganismo e Maternidade e começou com assar a ideia de fazer um teste quase uma armadilha com o Instagram
ela queria entender porque afinal de contas suas postagens tinham pouquíssimo alcance engajamento mesmo que ela se esforçasse tanto para produzir conteúdo de qualidade o experimento da sal levar foi reproduzido por dezenas de outras produtoras de conteúdo na internet como a Luana Carvalho que você também ouviu lá no início a Luana é influenciadora digital e trabalha com diversos temas importantes como combate é a gordofobia não por coincidência assar e a Luana que observarão a mesma tendência durante o período em que tentaram driblar a rede social Instagram simplesmente derrubando o nosso engajamento E aí quando a gente
coloca foto de pessoas brancas de mulher o nosso filho engajamento aumenta mais até do que ele já era antes no fim a conclusão foi uma só isso é o que é racismo de algoritmo da plataforma são o levar e Luana Carvalho tão longe de serem as primeiras pessoas a sofrerem com o racismo algorítmico antes pessoas já tiveram seus rostos embranquecidos em aplicativos de selfie solfiltros das redes sociais outras pessoas viram suas postagens classificadas como discurso de ódio no Facebook simplesmente por Acredite usarem gírias de grupos afro-americanas tem gente que já teve o cabelo confundido com
peruca em bancos de imagens na internet em alguns Episódios pessoas se depararam com seus rostos tagueados como gorilas no Google fotos pessoas já foram presas em justamente com base sem programa de reconhecimento facial e já perderam o a fila de transplante de rins simplesmente porque o algoritmo que organiza o atendimento médico nos Estados Unidos beneficia pessoas brancas esses e outros casos foram todos compilados em uma linha do tempo do racismo algorítmico criada pelo pesquisador Tarcísio Silva a linha é resultado da sua pesquisa de doutorado intitulada dados algoritmos e racionalização em plataformas digitais não é à
toa que dos 61 acontecimentos da linha do tempo do Tarcísio os dois primeiros sejam Justamente a criação do Facebook e do Twitter e de acordo com o pesquisador as duas empresas são poucos diversas em termos de gênero e Raça isso tem tudo mas absolutamente tudo a ver com o racismo algoritmo operante nessas redes sociais e veja bem se você chegou até aqui eu preciso te contar o algoritmo não é só racista não ele também é gordofóbico' homofóbico machista capacitismo e mais qualquer outra pressão que você imaginar que existe do lado de lá da tela a
esta altura tenho certeza que você já está curioso Pois então calma que eu vou chamar algumas pessoas para me ajudarem a explicar por todos nós consumimos hoje é todos os dias e as tecnologias também estão regulando cada vez mais a sociedade vídeos caso por exemplo do sistema de reconhecimento facial que já causaram enormes transtornos e injustiças a pessoas inocentes e formal identificados por esse sistema de reconhecimento é o Vinícius Boo é doutorando em Comunicação Social pela puc-rio e idealizador do gabinete digital uma das mais importantes experiências de governo aberto desenvolvido as aqui no Brasil por
conta desse projeto o Vinícius ganhou uma porção de prêmios e acabou se aproximando de vez desses debates relacionados à governança no mundo digital seja muito bem-vindo Vinícius tudo bem prazer poder participar dessa discussão tão importantes tão atual e que envolve tantas dimensões na da vida em sociedade no mundo contemporâneo quem também está aqui com a gente nesse Episódio é o apresentador de TV criador de conteúdo e especialista em marketing digital a de Júnior em suas redes sociais o A de que fala muito sobre racismo estrutural Em nossa última conversa eu te fiz uma pergunta você
sabia que nenhuma pessoa nasce racista Então qual é o mecanismo que faz os seres humanos se odiarem pela cor da pele Oi gente fez uma promessa te responder essas questões e aí isso eu vou fazer a partir de agora a de bem-vindo olá Luciana Oi lá o Vinícius lavar querido ouvinte é um prazer estar aqui para discutir um assunto tão importante muito obrigado eu queria começar bem lá do começo mesmo sabe eu vejo muitas pessoas confrontando a ideia de que possa existir racismo algorítmico sob o argumento de Que el modelo matemático portanto que seria exato
e isento de subjetividade explica para gente então porque a gente pode dizer que existe um racismo algorítmico também machista homofóbico etc várias outras opressões acho que a primeira coisa é importante ficar rapidamente para quem está nos ouvindo ficção afinal de contas algoritmos né só corrente presentes são uma sequência de regra de comando de procedimentos lógicos para solucionar o problema quase uma receita de e acaba servindo ao propósito de colocar estruturas de Inteligência Artificial de mecanismos digitais para funcionar na e para fazer com que a gente consiga efetivamente utilizar vários recursos digitais que a gente faz
essa diariamente esses algoritmos são estruturas automatizados a dizer flexão de tarefas para resolver algum problema para realizar uma atividade gente sociais por exemplo que nós usamos todos os dias o Seu funcionamento é determinado pelo funcionamento desse algoritmo da esse caminho através dos pais são direcionados conteúdos são selecionados né uma série de conteúdos que vão aparecer nas nossas Tavares é uma lógica uma dinâmica automatizado sim mas é sempre bom e importante lembrar que esses apolíticos da dessas fórmulas que produzem esses funcionamento do mecanismo kit o Perry tecnologias digitais é pra vocês mãos né É só nos
corais estão também imersos numa procura e e aqui uma sociedade racista ela tende a cor do circo Rico Esse racismo água ele pode se expressar de diversas formas ele pode se expressar o ranqueamento de conteúdos nas redes sociais privilegiando as pessoas brancas ele pode de expressar os sistemas de reconhecimento facial que possui enorme distorção em relação a identificação de pessoas não-brancas pós também se refletiram sistemas automatizados de seleção de pessoas é até aprovação de crédito bancário e nas plataformas de busca da onde você associa palavras a imagens e muitas vezes essa Palavras conjunto de palavras
e conteúdos que estão relacionados a a única coisa das mulheres são extremamente preconceituosos e esses algoritmos eles acabam o que cozinha da sede Nova que é uma dinâmica presente na sociedade e portanto também deve ser percebida enfrentada e problematizada no ambiente digital outra coisa para ilustrar nossa conversa a fazer uma palestra dia desses e tinha na plateia um publicitário que me disse que foi fazer um publicitário negro mas vamos registrar ele foi assumir a publicidade de um hospital e aí chegando lá ele tentou modificar as imagens todos os médicos e enfermeiras eram brancos e aí
ele foi fazer uma pesquisa básica na internet para buscar enfermeiras e médicos negros e não existiam até que lá na página tal você vai 40 50 depois de uma busca básica no Google ele achou uma imagem ele modificou essa linha de apresentação do hospital quando ele fez isso ele disse que no dia seguinte chegaram lá pessoas para olhar a nova imagem do hospital e aí as pessoas olhavam em volta até que finalmente alguém teve coragem de falar para ele olha que legal agora né você agora não coloca só médico também não você coloca também auxiliar
de enfermagem na imagem Então isso é o que o algoritmo racista atrás para gente também é um pouco de e são que a gente tá fazendo aqui perpetuando estereótipos na nossa sociedade e ninguém mais conhece estereótipo tanto quanto o ADN Junior cadê você primeiro ouviu falar do algoritmo racista ou sofreu os efeitos dele só depois descobriu do que se tratava em eu comecei entendendo que o algoritmo racista ele existia a partir de leituras não é o primeiro depois sobre isso foi lá no 2014/15 falando sobre isso eu tava muito voltado a falar sobre comunicação e
estratégia de uma parte digital e fui começar a perceber que existe uma diferenciação na entrega quando eu comecei a fazer um canal para falar para falar sobre isso tem jeito de eu vir aqui quando eu gostava o colocar não podia colocar a métrica certinho de tudo que não ia e até hoje eu tenho lixo isso acontece até hoje deu números muito em filmes de pessoas que entram e compartilham que coloco por conta da entrega ser muito melhor mas vi pessoas e chegaram depois tem o mesmo tipo de fala e que são muito bons mesmo não
é uma crítica aqui faz mas é de quem aprontou de pele mais clara ou são brancos e que tem entregas muito superiores aí eu comecei a entender isso e comecei a fazer isso para dentro do curso também e muita gente começa a se identificar com isso não fiz não mas não tô entendendo o que você tá fazendo aí é muito claro isso uma vez Eu fiz uma postagem com uma pessoa branca dos olhos azuis só para testar isso antes da outra blogueira fazer o post faz muito tempo que eu coloquei e eu recebi eu tive
mais de 200 likes em 7 minutos Assim tira novidades e assista simplesmente clicam simplesmente clicam a gente também está ensinando né o funcionário de uma forma porque o algoritmo também faz parte de como a gente vai treinando o sistema também E aí ele começa a repetir aquilo que é um vestido de um sistema então aí e tem uma questão de que as pessoas têm um olhar especializado para colocando as isso se reproduz da forma que ela foi viajar também com pelos a falta de representatividade nos bancos de imagens na internet já é possível só uma
evidência de racismo quais acontece que nesse caso Então existe um efeito Cascata já que esses bancos muitas vezes são usados de base para diversos algoritmos tô certa como funciona isso sem dúvida esses algoritmos são estruturas automatizadas que operam por uma lógica matemática eles vão consultar vamos buscar base de dados base de informações através dos pais vão aperfeiçoar permanentemente o seu próprio processo de funcionamento se você tem uma quantidade enorme de base de dados internacional chuvas brancas homem a determinadas características é natural e esses algoritmos E produzam essas lingua são as associações vou dar um exemplo
é super simples que eu fiz esses dias pensando Inclusive essa conversa em grandes bancos de imagem da em base de dados imagens associadas a algumas das principais profissões mais valorizadas no Brasil uma delas médicos advogados Engenheiros Até nós vamos perceber que percentual de margens que reúne pessoas é baixíssimo alguns casos 36 por cento ou seja todo o repertório está constituído por trás dessas bases de imagem de dados que relacionam Estas são as principais digamos então conseguir as composições mais conhecidas e bem remuneradas essas bases de dados associam as Produções pessoas por outro ar outras profissões
menos remuneradas e menos reconhecidas atualmente se relacionam com base de marketing pessoas negras e sua reprodução daquilo que a gente encontra no conjunto da sociedade só que as máquinas EA utilização destas plataformas eras deveriam buscar não reduzir essas assimetrias e não reproduzir e às vezes até reproduzir de maneta muito mais intensa do que se vê na sociedade ou seja a todo o texto e que inclusive envolve também a baixa presença de profissionais de odontologia no mercado ou seja o que as pessoas dizem corretores nervos atuando nas grandes empresas não só no Brasil mas por exemplo
nos Estados Unidos também o que é tela indo para que essas estruturas informatizados automatizadas elas reproduzem próxima lógica de exclusão de segregação e prejuízo né ou seja em prejuízo As populações não brancas e isso no Brasil apresente ocorre de maneira bastante essa refletindo aquilo que a gente vê na própria sociedade dela se você está surpreso nunca tinha escutado falar em algoritmo racista pode já ouvindo aqui o Eu quero fazer uma pesquisa rápida na internet e confirmado todas essas informações que a gente tá falando por aqui a gente tem visto uma espécie de ocupação de perfis
a pessoas brancas por pessoas negras é isso é uma espécie de tentativa de driblar o racismo no algoritmo a gente vê muitas pessoas tentando ajudar e ajuda de certa forma quando a gente tem essas parcerias né Foi muito bom para ajudar visibilizar mas não muda o comportamento de uma sociedade muito assista que a sociedade brasileira né Às vezes uma pessoa tem milhares de seguidores lá simplesmente só porque a pele branca precisa também ter nenhum fator humano por trás disso também de que a pessoa o nosso país é um país que é um pigmento trocar disco
eu vou dar um like eu vou curtir eu vou engajar no conteúdo de pessoas brancas e as pessoas brancas famosas que se colocaram se dispuseram a entender essa o fizeram seu papel ali enquanto Aliados e funcionam muito bem mas se você ver Depois desse impulsionamento que aconteceu as páginas que foram empurrados continuaram no mesmo lugar elas não foram dali para continuar crescendo e as pessoas continuassem viajando nesse nessas páginas os números cresceram ali e localmente naquele momento ajudou mas não significa que a gente tem mudado o panorama é o espectro de uma sociedade que ainda
é muito racionalizado e vai dar like para qualquer pessoa que participa de uma novelinha de adolescentes durante a tarde que vai ganhar um 12 milhões de seguidores e a mesma menina se for Negra o menino ator negro não é a metade também tem muito a ver com comportamentos e entre os influenciadores digitais o quanto isso é uma discussão é uma discussão constante diário dois anos atrás nós discutimos por exemplo a verificação de contas de pessoas negras na internet muito mais difícil vai ser verificar um ator era muito mais difícil pelo menos acreditava na carne por
causa disso a identificar uma pessoa negra presente é uma coisa simples outra coisa que a gente tinha também era o fator de marcas e enxergar esses influenciadores como elas não se aproximar deles mesmo que é engajamento fosse grande então a internet ainda é um lugar muito complicado para influenciadores negros que tentam se colocar lá é claro que 2020 ao ano de impulsionamento a gente já vai medir 2020/2021 né mas para quem já tá muito tempo observando os dispensados eles pode entender de fato pessoas negras que estão nas redes sociais criando conteúdos ainda tem muita dificuldade
teve um caso de uma plataforma que é uma plataforma que ela impedirá por exemplo ou dizia que é páginas com casas feias pessoas feias não deviam ser tão divulgadas o tão engajados no conteúdo uma matéria enormes para o jornal independente e que se confirmou aí por e-mail de uma certa plataforma e que é real e aí quando eu falo de pessoas Oi feia só digitar falando do que né então a uma constante discussão de influenciadores negros em relação ao tratamento que eles dado na rede social pelas próprias plataformas e eu tenho conseguido conversar com várias
dessas plataformas Acho super importante o diálogo é claro sempre se colocaram muito aberto para falar principalmente Henrique os anos assim e eu vejo que há um esforço também uma tentativa de mudar o pensamento dentro das próprias corporações em relação ao tratamento e impulsionamento engajamento com pessoas negras a nossa ideia é sempre apontar caminhos né quais os caminhos possíveis nesse momento de forma prática para gente reverter esse racismo estrutural dentro dos algoritmos de fato fundamental que a gente compreender tudo isso é passível também de ação corretiva ou seja não é uma realidade dada não está atualizada
determinismo biológico principal na não podemos fazer nada não e assim fazer o quê que seria possível busca a constituir para a cidade banco de dados e fujam de padrões estéticos e de beleza 5 dias e já molho branco e religião pessoas brancas e desenhadas as pessoas não-brancas seja importante aumentar a diversidade de um para essas bases outra coisa importante é aumentar o número de desenvolvedores de trabalhadores da área tecnológica junto às empresas nascentes de base tecnológica tecnologia que operam e precisam contar com a presença Negra maior pessoas que sentem na pele por isso que nós
somos pessoas afrodescendentes indígenas mulheres coisa importante é a regulação mesmo arrumação que em alguns casos podemos dizer seguramente que essas estruturas automatizadas elas ferem legislações nacionais o racismo no Brasil é crime tipificado formas inclusive this in pagamento de determinadas condutas que não um determinado Sudeste e também pode ser é consideradas em alguns casos até uma distração castelo de fato e que o somente pode certificado até mesmo pinhão e finalmente a claro que muito importante lembrar o que eu disse inicialmente aqui sociedade racistas produzir o algoritmo de Assis e portanto a luta anti-racista do conjunto da
sociedade adoção de medidas a construção de políticas afirmativas que são fundamentais para que nós possamos expressar nessas estruturas tecnológicas para a diversidade e respeito a todas as etnias e a respeito a todas as pessoas e tem para todas as roupas sociais historicamente marginalizados prejudicados uma sociedade tão desigual a conta brasileira o debate público sobre essa questão é fundamental é um tema central o futuro da própria democracia brasileira é Oi Adri eu imagino que você esteja inclusive cansado disso mas é possível apontar caminhos e você pode estar cansado inclusive de ter que sempre apontar os caminhos
olha cansado eu nunca votar eu infelizmente gente entra o mundo no momento em que a discussão está acontecendo Ainda bem engatinhada porque aí gatinha se muito nessa opção nesse momento porque as pessoas brancas no Brasil foram começar a entender essas questões contém a maioria dos bancos brasileiros só começou a falar disso tudo faz pouco tempo então Infelizmente eu vim ao mundo no momento como eles mas felizmente eu tenho o privilégio de poder ter tido uma oportunidade de estudar entender e saber que neste momento eu tenho que usar aquilo que eu tenho as ferramentas que eu
tenho para poder trazer uma educação ou ajudar no educação que seja anti-racista educação que eu tô dizendo de conversar de a imagem tentar explicar e eu tenho paciência viu eu tenho bastante paciência porque eu acredito que a gente só vai conseguir fazer apontamentos do Tito disse a gente tiver hoje bases muito sólidas para poder enfrentar isso mas muito sólidas que a gente tá falando aqui do Vinícius com o projeto que ele tem que ganhou vários prêmios quiser baseado em dados número de factual junto tá falando sobre apenas experiências pessoais que eu tenho mais que isso
é comprovado através de entrada então eu acho que é muito importante a gente essa geração e não dá para cansar tem como continuar lutando tem como continuar indo Começo porque os nossos passos vêm de longe nossos ancestrais tem lutado tanto tempo então se é nesse momento que a gente precisa continuar falando eu não posso ir esmorecer e não posso dizer que estou cansado né imagina você perguntando por Martin Luther King você perguntando arroz a parte se perguntando que eu abri dia e tantos outros nela e aqui vieram antes e aí tá cansada é difícil que
as outras pessoas estavam vivendo o Instagram disso hoje é o momento de falar sobre isso eu estou muito feliz e eu acho que a gente precisa continuar caminhando porque eu já vejo alguns esforços sendo colocado na frente pessoas que a gente tem para falar perfeito a de Júnior Muito obrigado então pela sua participação aqui com a gente e muito obrigado te amo muito obrigado por me assistir até uma próxima oportunidade Vinícius vou muito obrigada pela participação aqui com a gente Eu que agradeço assim eu acho que foi realmente o bastante importante essa troca muito rica
parabéns por ter proporcionado dessa reflexão a gente está falando de racismo algorítmico há pelo menos dez anos desde 2010 Acredite naquele ano a Nikon lançou uma câmera com recurso para evitar fotos com olhos fechados só que a pessoas contração os asiáticos foram simplesmente desconsiderados na hora de criar um mecanismo a câmera não disparava porque achava que elas estavam com os olhos fechados Ah pois é de lá para cá os casos de racismo e outros problemas relacionados ao uso de algoritmos continuam aparecendo mas aqui com a gente não entre vozes se a gente não quer só
debater o problema queremos também apontar caminhos para a superação deles por isso eu destaco que já tem sim muita gente empenhado em combater o racismo algoritmo contato de preferência da raiz eu tô falando das iniciativas que buscam inserir mais pessoas negras na área da programação e da tecnologia da informação só para citar duas delas eu convido vocês a conhecerem melhor o trabalho do preta Lab e do Conexão uma longa preta Lab é um braço da o Lábio uma organização que busca democratizar a produção de tecnologia o pretalab em específico incentivar a inserção e protagonismo de
mulheres negras e indígenas na área de comunicação e tecnologia hoje a diretora da o Lab é a sil Bahia mestre enco o e territorialidades da Universidade Federal Fluminense Oi meu nome é Silvana Bahia eu sou diretora do AB e coordenando a preta Lab que é um projeto de estimula mulheres negras na tecnologia EA forma que o pretalab trabalha para promover a inserção de mulheres negras na comunicação e na tecnologia é a partir da rede né a partir das pesquisas das informações que a gente faz também dos levantamentos estimulando que o protagonismo das mulheres negras também
seja reconhecido e de fato aconteça em diferentes espaços de que não são apenas os de tecnologia mas sobretudo de tecnologia já uma conexão malunga é uma plataforma que quer pautar o uso das tecnologias da informação a partir de saberes afro-brasileiros as fundadoras Glenda Dantas e Mariana Gomes acreditam que partindo de discussões informações é possível a pesar uma verdadeira mudança das tecnologias digitais além dias eu não poderia deixar de falar do trabalho de pesquisadores como nosso convidado o Vinícius Vou que levam esse tema para dentro da academia de influenciadores como o ADN Júnior não é fácil
continuar produzindo conteúdo continuar Resistindo dentro do ambiente digital nessa lógica mais felizmente OAB e outros influenciadores nos dão a oportunidade de continuar usufruindo do conteúdo deles afinal de contas o prejuízo causado pelo racismo algorítmico não é problema só de quem sofre a pagamento Mas também da sociedade que perde a chance de ter acesso a informações mais diversas e claro de qualidade obrigado a quem nos acompanhou até aqui a gente se encontra no próximo episódio do vozes e E aí E aí [Música]
