[Doug Alvoroçado] [vinheta] A automação de tarefas pode levar à perda de [empregos em setores nos quais a presença de trabalhadores negros é proporcionalmente maior]. [vinheta] [Juli Cintra] É importante a gente olhar [as inteligências artificiais] (IA) [p'ra] tirar essa capa de "inteligência" [e essa] capa de "artificial", né? [Elas (as IAs) não são "inteligentes", nem "artificiais"].
Eu gosto muito de começar [a reflexão] a partir da afirmação (sic) dessa premissa, porque aí a gente desmistifica a reflexão (sic) sobre esse tema e [aproxima-o do] cotidiano. Então, a gente pode, por exemplo, optar por falar de IA a partir de outros termos, como "aprendizagem de máquinas", porque todo processo de tecnologias digitais, ele segue mais ou menos o mesmo [roteirinho, né? , isto é, você dispõe de dados e, por conseguinte, de algoritmos que vão dizer p'raquele sistema o que você (sic) fará da manipulação desses dados, tendo, com isso, o resultado que esse novo dado deve gerar e o resultado propriamente final].
[Doug Alvoroçado] Segundo o e-book [da Biblioteca] Educamídia (2024), nós chamamos de "inteligência artificial" a capacidade de um computador de realizar tarefas comumente associadas a "seres inteligentes", [isto] é, [a] seres que podem 'se adaptar a novas circunstâncias. Isso acontece por meio da ação de algoritmos que permitem às máquinas analisar dados, aprender a partir desses dados e determinar cursos de ação com base nesse conhecimento. [Juli Cintra] [A IA] é uma tecnologia que 'tá mudando (sic) significativamente, né?
, o nosso modo também. . .
Quando a gente olha p'ra esse processo de transformação, seja a partir da internet ou de tudo que decorreu a partir (sic) daí, né? , da plataformização da sociedade — e a IA é parte dessa plataformização da sociedade —, a gente 'tá falando (sic) de um processo de digitalização da vida [e] de uma cultura digital que [mudou] o modo como a gente (sic) se [relaciona, bem como] o modo como a gente (sic) reproduz a vida, né? Então, isso é muito significativo!
[Doug Alvoroçado] A inteligência artificial é uma ferramenta poderosa que tem impactado [numerosas] áreas [de] nossa sociedade. No entanto, é importante reconhecer que a inteligência artificial pode refletir e [pode] até mesmo amplificar os preconceitos e [as] discriminações raciais presentes [em] nossa sociedade. [Juli Cintra] Hoje, a gente precisa conviver com corpos dissidentes que se afirmam das mais diferentes formas.
Então, eu posso ser uma mulher que [tem] barba, né? Se a gente 'tá construindo (sic) a emancipação política e [a] possibilidade de ser da maneira que a gente (sic) quiser, essa é uma possibilidade; a inteligência artifical não consegue dar conta disso, porque ela (a IA) ainda 'tá presa [em um] binarismo de gênero que a gente (sic) e [que] vários movimentos sociais vêm lutando (sic) p'ra romper. Então, como é que a gente dá conta do reconhecimento desses corpos dissidentes — [que] eu chamo de dissidentes, porque não são reconhecidos como norma —?
[A gente não o consegue, porque] a norma ainda é estabelecida por uma branquitude que detém [o] capital econômico e a possibilidade de desenvolvimento dessas tecnologias que são impostas, quando a gente pensa na [macrogeopolítica, à] periferia do mundo, como é o Sul Global, como é o Brasil. . .
[Doug Alvoroçado] Os algoritmos de inteligência artificial, eles são treinados com base em conjuntos de dados existentes. Se esses dados contiverem preconceitos ou vieses raciais, a inteligência artificial [poderá] reproduzir e perpetuar esses padrões discriminatórios. Isso pode 'se manifestar de diversas maneiras [em decisões automatizadas] que afetam desproporcionalmente grupos raciais marginalizados [em processos, como, por exemplo, o de contratação para vagas e o de concessão de empréstimos, ou] até mesmo em sistemas judiciais.
[Juli Cintra] [Recentemente, a gente conheceu o caso de] uma funcionária pública que foi reconhecida indevidamente, né? , e que [sofreu] uma abordagem policial [violenta], ou [ainda o de] pessoas que foram presas injustamente. .
. A gente tem vários casos assim também por conta do reconhecimento facial. A gente sabe [que, por não ser desenvolvidas, essas tecnologias — e aí, a gente volta p'ra discussão sobre soberania digital —, assim como a não prioridade de fomento do desenvolvimento (sic) tecnológico a partir do olhar de grupos historicamente marginalizados, elas (as tecnologias) funcionam de maneira piorada], né?
, em rostos negros e indígenas, ou quando a gente olha p'ra essa dimensão da diversidade (de identidades de gênero) que nos [constitui] na atualidade. [Doug Alvoroçado] As inteligências artificiais são [catalisadoras] da transformação digital, oferecendo (sic) grandes oportunidades, mas também exigindo (sic) atenção aos desafios éticos e sociais em diversas áreas. [Historicamente marginalizada, a população [preta e parda (ou negra)] enfrenta mais dificuldades em relação ao acesso à internet e [também quanto ao acesso a dispositivos tecnológicos, ou à tecnologia, de] maneira geral.
Isso pode gerar uma exclusão digital ainda maior, ampliando (sic) as desigualdades sociais. A automação de tarefas pode levar à perda de [empregos em setores nos quais a presença de trabalhadores negros é proporcionalmente maior, e] é fundamental discutir sobre políticas públicas que garantam uma transição mais justa e mais equânime p'ra esses trabalhadores. [Juli Cintra] É importante que [qualquer mecanismo de regulação das inteligências artificiais] tenha uma entidade reguladora, mas essa entidade reguladora, ela (o ente regulador) tem [de] contar com participação social e [com] representação multissetorial.
Acho que é muito importante que a gente consiga nomear no [Projeto de Lei (PL)] 2338/23 quais são os riscos [e] quais são, né? , as tecnologias de risco excessivo e de risco inaceitável sem exceções de uso; esse é o primeiro ponto de regulação que vai ter [de] ser revisado, e é por isso que [se faz] importante ter uma entidade central que [disponha da] participação social, porque [assim a gente conseguiria, uma vez a partir do estabelecimento desse marco, construir] outras regulamentações e assegurar que qualquer uso de IA [feito] a partir de (sic) então [esteja] comprometido com a defesa de direitos humanos. [Doug Alvoroçado] É fundamental consultar diferentes fontes e ouvir as perspectivas de diferentes pessoas, como pesquisadores, ativistas e pessoas negras que trabalham com [tecnologia, pois, ao contrário, iremos sempre reproduzir os estereótipos] de um banco de dados cada vez mais embranquecido ou eurocentrado.
Ao analisar criticamente as inteligências artificiais e os impactos que [elas (as IAs) podem] trazer para a nossa população [negra], nós [pode(re)mos] construir um futuro cada vez melhor, mais inclusivo e mais justo, mas [antes precisa(re)mos] 'nos apropriar delas (sic) e entender que [são apenas ferramentas].
