E aí E aí nós estamos de volta com mais um tecnopolítica e nesse podcast ou de nós mostramos durante vários episódios como os códigos podem guardar determinações políticas condicionamentos econômicos sociais e de poder nós vamos aqui discutir um tema muito quente nesse Episódio de hoje que é o bloqueio EA discriminação dos sistemas algorítmicos que rodam nas plataformas que tanto são importantes ou antigo cotidiano das sociedades é planetárias ou seja estamos aqui para falar sobre isso com a Débora Machado Machado que é mestre em ciências humanas e sociais é pesquisadora e também participa do projeto aqui
tecnopolítico obrigado pela participação Débora Fernanda hoje e vamos entrar aqui direto no ponto essas plataformas Facebook Instagram Twitter LinkedIn as plataformas YouTube etapas o traz essas grandes plataformas de relacionamento social chamadas redes sociais online elas são operadas por sistemas algoritmos e sistemas algorítmicos eles são completamente opaco existe até no campo de marketing da publicidade é uma atividade de tentativa de descobrir como funcionam estes algoritmos para melhorar as performances das dos conteúdos de divulgação na rede mas obviamente cada vez mais essas plataformas elas monetização Aço a distribuição de conteúdos então se você pagar seu conteúdo vai
mais ou menos porque os próprios sistemas políticos eles bloqueiam na eles reduzem visualizações eles muitas vezes na nossa experiência eles não permitem o funcionamento e sim Oi e eu queria lembrar que lá atrás durante muito tempo não sei se você se recorda Débora aqui por exemplo tem uma manifestação muito forte do feminismo no Brasil no mundo né que a baixa das aham e a menina fazia protesto que não era de forma nenhuma pornográfico não era ela aparecia muitas vezes duas ou com do ano na parte superior e enfim isso para considerado uma uma agressão os
termos do Facebook ele era bloqueado automaticamente sendo que a nossa Constituição não viola não proíbe aquele tipo de manifestação eles usável é volte exemplos né mas eu queria que você se situasse esse problema dessa discriminação desse bloqueio esse é o nosso pode esquece a gente a gente estuda essa muito tempo né mas agora fazendo e funcionamento do podcast aqui na por isso que a gente conseguiu ver isso um pouco mais na prática né é bom como você disse essas plataformas principais plataformas de mídias sociais e a gente tá falando aqui agora principalmente do YouTube que
é onde a gente sabe Nossos Vídeos eles têm serviços que simplificam muito o ato de você criar um anúncio né então qualquer um que tem um vídeo sobre um beijo na plataforma pode entrar lá na plataforma do Google para anúncios né que é o Google é e criar seu próprio anúncio e é tudo muito intuitivo mesmo se você não é uma pessoa que trabalhou com publicidade nem nada do tipo você consegue entrar lá descobrir descobrir como fazer Só basta ter dinheiro para isso né só que esse sistema at é feito de forma automatizada o que
tem de uma forma facilita muito a vida dos produtores de conteúdo porque você não tem que ficar esperando muito tempo para que seu anúncio seja aprovado mas quando ele não é aprovado ou quando algo acontece que bloqueia Esse vídeo é a gente também não sabe o que que aconteceu no caso do podcast aqui na política é eu que estava cuidando desses impulsionamentos e o que aconteceu aqui praticamente todos os nossos vídeos que a gente tenta impulsionar o YouTube o Google na identifica como ou conteúdo sensível ou conteúdo chocante e opções com chocantes veja muito polêmico
gente olha que não apareceu nenhuma Milo aí nenhuma mesmos feminina apareceu nesse vídeo que mamilos feminino é assim o Vale do Silício a Deus tão bem no corpo da mulher quanto alcançarem censura de conteúdo mas sim eles identificam como conteúdo sensível o conteúdo chocante e o que acontece é que isso essa notificação aparece rapidamente e eles não dão nenhuma justificativa não mostram aonde no vídeo isso aconteceu porque foi identificado dessa forma enfim é completamente eu faço né E não tem como a gente saber a justificativa o porque isso aconteceu apenas tem um link que te
leva as políticas da plataforma e mostram mais ou menos o que é permitido Eo que não é permitido bom e foi isso que aconteceu com a gente até chegar nos exemplos menos surdos né que foi o que aconteceu no vídeo falava do iPhone de folga do Corda é que identificou com eleições na Índia aqui até agora não entendi o que aconteceu mas aí como eu conteúdo foi o depois do Sol eu falava do Marco civil o do Marco civil ou do Marco civil é que a poesia que a gente estava interferindo nas eleições da índia
mas eu queria voltar voltar antes desse casamentos na Índia é para você avisar aqui narrar o que que é considerado o conteúdo é possível ou como é que chama conteúdo chocante chocante O que é bem aqui o primeiro que eu me lembro por quê já esteve foi um o evento que chama ostracismo algorítmico aham sem E aí o algoritmo confirmado Muito provavelmente essa distorção do algoritmo ele bloqueou aquele Episódio não permitiu sendo a primeira vez que ouvi falar nisso que existia para eles o conteúdo chocante mas que eu me lembro é a Débora aqui era
similar à coisas de terrorismo também você tem como dizer para a gente o que que é conservar eu abrir a gente já para ler é bom trinha várias restrições de conteúdo que não pode falam de jogos de azar marca registrada produto falsificado em sim mas a parte de conteúdo chocante eles falam que não é permitido é promoções que contém linguagem violência imagens macabras ou repulsivas ou imagens e o relato de trauma físico e aí duns alguns exemplos Mas eles sempre colocam os parentes lista não exaustiva que pode se tem isso e muito mais coisas promoções
contém representações sindicais desde fluídos ou resíduos corporais promoções contém linguagem obscena ou profana que a gente tava até conversando sobre isso antes que eu acho muito engraçado que nos exemplos eles colocam variações ou erros ortográficos de linguagem obscena seja a linguagem observa tem que ser feita com correção no não sofre corretas você errar gramática e já não pode ou promoções com probabilidade de chocar ou assustaria e dar como exemplos promoções que sugerem que você pode estar em perigo infectado por uma doença ou ser vítima de uma conspiração isso é conteúdo chocante E aí em eventos
sensíveis eles falam de os cursos que potencialmente exploraram se beneficiam de um evento sensível com impacto social cultural ou político significativo como emergência civis Os seres naturais emergências de saúde pública terrorismo e atividades relacionadas com espíritos o ato de violência em massa e também anúncios que alegam que as vítimas de um evento sensível foram responsáveis pelo ocorrido ou exemplos semelhantes de atribuição de culpa a vítimas anúncios que alegam que a vítima de um evento sensível não merece perceberam ajuda o apoio então no nosso caso foram esses essas duas políticas que disseram que a gente tinha
violado né no caso do racismo tinha sido esse o conteúdo chocante e também achei curioso né porque claro que a gente não pode falar isso com base em Estados específicos que a gente não tem estudados mas pode racismo algoritmo algoritmo conheci ser nosso primeiro vídeo é bloqueado pelo pelo YouTube né é um bom exemplo curioso curioso é uma palavra que dá para a gente usar e hoje não não tem erro ortográfico de origem observa Então apesar que é Nós não sabemos exatamente como isso funciona a provavelmente da por aí se devem ter uma é o
algoritmo ele ele faz ele acompanha as frases ditas durante a nossa o episódio e ele deve ter o tratamento depilar net aprendizado profundo para que ele identifica construções enunciados na construções que articulam palavras e aí ele vê lá uma palavra a é um conjunto de palavras então articuladas é inter-relacionadas que ele considera a a é chocante o bizarro terrorista e tetra E aí ele bloqueia Mas a gente não sabe se é isso nosso céu quais os parâmetros irmã né porque é muito curioso os dois episódios primeiros bloqueados eram duas mulheres negras tratando de racismo e
eles bloqueia a gente denunciando o racismo não cheguei a ver com calma os dois episódios não tinha nenhum nenhuma palavra Até porque não tava escrito então não tinha erros ortográficos Mas também ele xingamentos não teve palavras é impróprias que pudessem ser consideradas é ofensivas foram positivas análise sobre procedimentos algorítmicos e foi bloqueado então é e como é que é feito o desbloqueio é o que costuma acontecer uma coisa também que eu fiz que é interessante a gente falar é que durante a pandemia esses bloqueios aumentaram muito principalmente porque aí também é uma hipótese nosso mais
alta o bastante na mídia eles eles demitiram ou enfim afastaram grande parte dos Funcionários Funcionários terceirizados né que trabalham com moderação de conteúdo então esses bloqueios ficaram cada vez mais automatizados pelo menos pessoas vendo se os bloqueios são feitos são feitos de forma correta ou não E então antes da pandemia alguns vídeos tinham sido bloqueados mas depois da padaria todos foram bloqueados e que a gente faz todos bloqueados quando a gente fala é o anúncio né gente tenta anunciar e para promover na conta a carne e o que você tem que fazer agora eles até
facilitaram esse também porque também existem pesquisas que mostraram que os bloqueios aumentaram mundialmente Então as tensões aumentaram mundialmente eles facilitaram essa plataforma também de contestação você tem que fazer antes era a preencher um formulário agora é muito mais fácil só clica no botão e aí vai aparecer uma tela falando você quer quando você corrigir o seu anúncio Ou você quer contestar essa nos falar que essa restrição tá errada e aí você envio e depois de alguns dias a escola que dão até acho que quatro dias alguma coisa assim sete dias diminuíram também esse tempo eles
verificam se sua contestação foi aceita ou não e no nosso caso todos os vídeos foram por um aceites depois que a gente contestou eles não eles não falaram após revisão humana é antes antes eles falam aparecer e após essa a sua a revisão manual eu acho que era o termo manual que eles usavam mas agora nessa nova plataforma não aparece não tem esse termo aparece apenas contestaram então nós eles aceitam a contestação eles não dão motivo lá não quero nem saber não dá um motivo a justificativa até sobe lá da plataforma ou o status de
restrito o delegado e eles não falam que aconteceu Eles apenas aceitam ou não no nosso caso o único vídeo que até hoje a gente não conseguiu a nossa mesmo mesmo depois de contestar foi o com o Diego que ele fala do das restrições do WhatsApp da Meire Fala aí e botar quadro de rastreamento cabeça e aprovada no senado que é isso não ficar mais curioso é curioso que quando a gente fala do WhatsApp também ele não permite né mas ele não permite que a gente converse o projeto de lei aprovado no senado que eu me
lembro bem não Canabarro ele ele é do International site do Airsoft não e ele e ele deu um argumento Aliás ele é muito cuidadoso ele ele ele fala muito pausadamente muito muito é claro é não tinha nenhuma palavra que pudesse gerar qualquer dúvida sobre um argumento racional né tem muitos adjetivos sem e é esse exatamente está Eu acho que você que não deixaram e puxar não é e hoje a gente não conseguiu está como ele está com um evento sensível inclusive não tá nem como conteúdo chocante para comer bem sensível a o quê que pode
ser isso não contestar um projeto de lei que quer que quer é Empurra a culpa em cada brasileiro até que se prove o contrário é compreensível isso que você falou a ele nem ele nem cita nenhum termo não falam palavras que possam parecer chocante só motivo também exemplifica bem a a performatividade sistemas né porque a gente muda forma que a gente fala a gente evita os a certas palavras que a gente a mudou o título dos vídeos várias vezes pensando conseguir colocar cinco títulos o ele vai diminuir a nossa visualização então isso ah é muito
perigoso né a gente muda forma que a gente age e colo a censura para não ser pega por esses algoritmos né E aí eu tinha do livro no livro da Democracia códigos inclusive que eu Nossa Senhora no passado eu coloco até as frases de um editor dessa da Imprensa que disse que antes ele ele eles produziam as manchetes com base na matéria agora eles produzem as mais sexys Com base no que pode ser bloqueado não é principalmente o que pode avançar mais então é o que eu tenho dito quando algumas pessoas dizem não é o
radicalismo corre mais nas redes atenção não é espetacularização é uma da que eu iria usar o tempo chocante mais chocante não pode porque eles bloqueiam quando eu de chocolate mas não é verdade se você for da extrema-direita este é os mentirosos descontextualizadas e eu duvido que eles estejam bloqueados não tem compensação mudando agora para o Facebook é aquilo que você falava do próprio YouTube eu não tenho como dizer que eu fiz um levantamento incontestável porque não é muito tempo sem a questão os pontos em relação ao as eu peço para os amigos tombarem unha bloqueado
ele tem uma redução de visualização Então eu acho que é esse nosso Episódio aqui para discutir isso é para mostrar que se essas plataformas delas são hoje relevantes para distribuir opiniões ou mesmo do atividades do próprio da própria sociedade E essas plataformas precisariam ter algum grau de controle social no sentido da sociedade sumiu comer estão operando por exemplo bloqueios redução de visualizações que é claro eles poderemos podem alegar que ao se você pagar eu chego o mesmo assim funcionamento pago e Eles te dão no direito de José e eles estão cuidando da sociedade né cuidando
da sociedade é preciso que a sociedade Cuide da própria sociedade alguns saber que forma de baixo que estão cuidando da nossa da nossa percepção a gente não pode ter acesso ao curso mamilos que nós ficar em pé chupar então o ano não sei te dizer O que é curioso também e não é tão simples que regulamentasse temas políticos aham sem eu acho que a pressão fala Desculpa sério pô Esse é o que eu tava querendo ser uma tão simples e que você mostrou isso mestrado mas ela soubesse do gênero assim como sistemas bem algoritmos todos
tem vários sim ah o o estudo de de patentes é o que a gente encontrou né claro que não é a única forma mas mostra o nosso esforço de tentar encontrar informações nesses sistemas que são opacos e que não abrem suas informações para para nada né nem tá nem para própria pesquisa e aí algo que acontece que também a gente assimila com que a gente tá vendo agora na praia dica é bom eu vejo uma patente mesma patente lei uma lei o dente lá e 40 falando basicamente sobre a mesma coisa a gente não tem
é provar que aquele sistema foi implementado né E que ele está sendo usado mas primeiro a gente viu o mesmo sistema uma duas três 40 vezes acho difícil pensar porque ia ser 40 pacientes do mesmo sistema que não está sendo usado mas o que pode não está sendo usado mas com o uso da plataforma a gente também identifica uma coisa ou outra que a gente é pesquisou e Leu nessas potentes não é o que eu lembrei de um exemplo também falando sobre inscrições de conteúdo porque estava falando aqui enfim essas plataformas precisam pensar mais na
transparência Eu acho que isso diz-me respeito também essa assimetria que a gente tem no poder sobre o nosso próprio conteúdo né então eles têm eles podem retirar isso muito fácil mas para gente provar que o nosso conteúdo não era ofensivo não era chocante é todo um processo muito mais longo e eu lembrei de um caso que rolou no ano passado em vários criadores de conteúdo do YouTube da comunidade LGBT tava reclamando muito com YouTube de ter seu conteúdo perdendo monetização principalmente porque eles ganham dinheiro com anúncios e eles viram que isso tava de caindo muito
e aí um caso específico e é muito emblemático é de uma criadora de conteúdo que nós fazemos vlogs falar sobre a vida dela era tipo um diário em forma de vídeo e ela é bissexual E aí depois que o Facebook lançou uma botão de conteúdo restrito você podia ativar ou desativar e no seu filho aparecesse compra escrito ela percebeu que vários vídeos dela sumiram quando ela clicar do conteúdo restrito e eu não falo de conteúdo sexual nem nada do tipo mas ela notou que os blogs que ela falava das relações que ela tinha como homens
então falava jovem né que eu posso desamparados ou falava de paqueras é e continuavam a mas que foi uma folga da escola ações que ela tinha com mulheres ia para o conteúdo restrito Então é assim você vê essas coisas na prática né então por mais que eles falem não a gente não é frente com seus olhos de obter a gente não responde isso ou aquilo quando você vê na prática isso acontece por mais que a gente não possa provar que é culpa do algoritmo é ele e não tem muitas justificativas né então então deve orar
é uma coisa eu sei e você lembra aquele xixi ver se não me engano tem o pesquisador assistiu o primeiro nome dele ele fala que Principalmente quando se trata de algoritmo é a transparência não resolve tudo muitas vezes até complica tal mas de qualquer forma quando eu falo transparência eu não estou mais preocupado muito com como eu acho que tem que ter em choque transparência de código é é que permite criar auditoria tal Porque a alguma coisa transferência do código para pois eu modelo de negócio onde eles podem alegar tem segredos de negócio mas veja
bem Tem um grau de Transparência sobre os parâmetros pelo reforço como dizer assim porque ele controla o algoritmo quero te controla ele sabe bem ajustada vem então nós temos que saber o que que estamos e repetimos de que não é política de privacidade nem declaração comunidade é Paraíba que eles escreveram rir Por exemplo com algoritmo e o que a o uma uma narrativa uma conversa é LGBT por quê que vencendo isso não é ele em si o algoritmo Ele criou isso afinal nenhuma ou foi o banco de dados o que foi determinações que foram colocadas
termos eles são diesel requerer como que eles fazem só então eu acho e segundo tem que ter correção de viagem mas para ter correção desse chamado de ar precisa ter responsabilidade humana Hum porque você vai você tudo bem esta preenche o formulário Mas alguém tem que tem que ser responsável dentro de um parâmetro de tempo Chega de comer e explicação porque que você foi bloqueada é por isso que eu falo Os americanos são termo se não me engano é Chile é fraca quando você faz leis assim que tem várias que tem aí no Brasil é
por exemplo eu te falar não a plataforma tem que ser responsável pelo conteúdo ela mesmo remove mediante notícia Renault almoço pectal simplesmente eu saio fora do Judiciário e começo a dizer eu fui ofendido conteúdo isso vai gerar o que está acontecendo no YouTube você falou na pandemia os cara para evitar problemas talvez eu não sei a lógica dele eles passam a bloquear Tudo pronto você não vai ficar foi bloquear automatizado é porque nado ele tem limitações da nossa semântica nós temos limitações compressor ou quando alguém fala determinada e quando alguém fala determinada as coisas você
pode ter mais uma interpretação do que é dito imagina o algoritmo sempre sou eu eu penso que a gente tem que passar nos preocupar agora com uma supervisão vamos falar comigo da sociedade sobre essas plataformas de acidentes o algoritmo conhece a sociedade melhor que ninguém pode distribuir estipular suas férias e parece algo que a dona raro Aí chamou de informática de dominação E no caso da nossa lei geral de proteção de dados né foi vetado o artigo 20 o que falava exatamente do direito à revisão né e eu brigava a revisão humana sobre decisões tomadas
por algoritmos Então nesse caso o nosso do YouTube por exemplo chinês tá nenhum vídeo nenhuma fez não patrocinado na vida o senhor as coisas estão algoritmos E então isso é muito importante de ser discutido mesmo eu achei engraçado curioso também que você tava falando isso Bissau a última coisa que aqui não é bem de discriminação mas é de monetização é o poder do Capital dentro dessas plataformas e e essa ideia do como é que você vê isso aí daqui as pessoas falam o crescimento orgânico tá o como é que você dessa coisa você acha que
tem esses Passos existe hoje não existe o aí é muito limitado eu acho que bom não vou falar que não existe mais porque tem as acessões né mas eu acho que a não ser que você esteja produzindo conteúdo que seja curiosamente muito polêmico e muito chocante muito atual daquele momento é muito difícil você tem um crescimento orgânico sim se você contrata uma uma agência de publicidade ou enfim isso não só ser uma marca mas se você é um produtor de conteúdo acho que está a cada vez mais difícil ter um porque as contas foram mas
não quer em conta o doce né o seu podem até querer aqui no começo você tem algum tipo de crescimento orgânico para você se empolgaria a produzir mais conteúdo mas é algum dinheiro assim né então porque elas não irão permitir que você cresça organicamente então isso num isso não existe mais a não ser que seja um assunto muito do momento E aí cês a ação não tem sem botar dinheiro lá você não vai crescer no Facebook por exemplo acho que eu não vou fazer uma comparação mas do Facebook com o YouTube mas das patentes que
eu vi e falavam que sobre modulação algorítmica grande parte da patente ela falando sobre o jogo do pago né conteúdo patrocinado quando a gente pode com todos pago a gente não tá falando necessariamente de um anunciante ela é um anunciante lá naquele momento mas pode ser uma pessoa diz o que é que tem sua página lá qualquer que tá impulsionar um conteúdo Então acho que tá cada vez mais difícil ficar em contato com o SAC e eles estão se tornando essas plataformas obscuras Ou pelo menos gerenciados de modo obscuro na eles estão se tornando o
principal fonte de Publicidade na do mundo por isso aí as empresas que valem mais de 1 trilhão de dólares a norte-americana são empresas das tecnologias e Comércio eletrônico e dados pessoais é isso exatamente mas legal Débora pô Valeu muito obrigado por ter pra gente ter conversado aqui para gente esclarecer como está com tá acontecendo o bloqueio de conteúdo chocantes ao mesmo tempo até serve o tempo todo no YouTube realmente contente chocantes do bando sendo impulsionadas provavelmente né porque organicamente eles têm lá limitações então aconteceu do nosso chocante suficiente para ser bloqueado mas não chocante o
suficiente para organicamente crescer É isso aí Valeu então vamos encerado aqui mais junta que política e não perca o próximo e nos próximos vai sair em breve nós vamos discutir aqui é a questão de como a gente pode ter a sociedade recuperando Na verdade uma visão sobre o funcionamento das plataformas graus de Transparência como fazer isso como fazer responsabilização explicação ou seja como democratizar esse gigantes da tecnologia que estão hoje intermediadas relações sociais valeu até o próximo tchau tchau E aí E aí
