Interseções entre a IA Responsável e Decolonialidade (Parte 2 de 2)

Estamos aqui no instituto de estudos avançados pro colóquio que é inter interseções entre a responsável e de colonialidade eh agradeço a presença eh Generosa da Renata mi que veio aqui participar conosco professor Almeida a professora a professora Patrícia Rufino Andrade e as pessoas que estão nos assistindo online e quem compareceu presencialmente também e Enfim hoje de manhã nós fizemos essa esse encontro que trouxe de uma maneira inédita as discussões sobre decolonialidade para pensar questões relacionadas à Inteligência Artificial e agora vamos ouvir primeiro a professora Patrícia Gomes Rufino de Andrade que é doutor em educação diversidades

e práticas inclusivas na UFS professora de junta do departamento de educação política e sociedade deps graduada em Geografia pela Universidade Federal do Espírito Santo pedagoga mestre em educação pesquisadora do Núcleo de Estudos afro-brasileiros da UFS pesquisa geografias e territorialidades políticas educacionais para populações afro-brasileiras quilombolas territorialidades afr religiosas educação Rural práticas pedagógicas para educação étnico-racial territórios periféricos desenvolveu em colaboração o Programa jongos e cambus no Espírito Santo atualmente pós-doutora pela Universidade de minessota desenvolve pesquisa em economia e políticas institucionais desenvolve projetos de liderança conteúdos e metodologias de ensino para lideranças em educação coordenou o Núcleo de

Estudos afro-brasileiros da Universidade Federal do Espírito Santo Boa tarde Patrícia Obrigada pela presença gostaria de agradecer a presença também do professor Virgílio de todos os professores que fazem parte da cátedra a Cláudia a todos os profissionais que estão aí na transmissão também o nosso agradecimento aos que estão presentes e os que estão nos ouvindo também nessa tarde e então Helen eh falar um pouquinho desse desafio né que você nos propôs a partir de como eh entendendo compreendendo a educação antirracista a gente consegue dialogar sobre essa relação né tecnológica que nós estamos né Eh nos Aprofundando

cada vez mais que a inteligência artificial e é importante dizer que meu campo de estudo Oi Patrícia eh parece que a sua conexão tá tá travando como que eh a população periférica como que ou né Eh nos contra sensos do que nós dizemos políticas públicas né de gestão E como que eh nós precisamos agora consegui ouvir Oi deixa eu só tentar aqui el hum hum é nós estamos vendo e ouvindo agora Mas talvez seja melhor sem imagem para ficar mais porque com a imagem tava tava instável a rede né Tá então vamos tirar a imagem

para ver se fica melhor então agora ficou melhor o som tá ótimo tá E é uma pena perdemos a imagem porque eh tudo que eu preparei tem a ver inclusive Tenta colocar a imagem vamos ver se às vezes Melhorou a rede Ô Patrícia mas eh eu vou compartilhar a minha imagem em PDF De repente se nós tivermos condições Né aí eu acho que é importante então Eh além dos agradecimentos dizer da importância né de nós nos colocarmos aqui eh dialogando né com os conceitos né e com todo o processo tecnológico que a gente vem se

apropriando principalmente no campo da educação e da educação étnico racial Então vou colocar aqui eh tentar colocar já nossa nossa tela aqui Aí qualquer coisa vocês me falem se por acaso que eu vou parar de ver né A então gente eu falo aqui da Universidade Federal do Santo e meu tema é a inteligência artificial ah Inteligência Artificial compromisso social e enfrentamento ao racismo e meu alguns pontos né que eu vou trazer para vocês essa essa tarde raça e racismo no Brasil questões para serem pensadas na perspectiva de uma inteligência artificial responsável e Antirracista então a

gente pensa eh Patrícia a gente tá tendo muito problema com a sua conexão Patrícia vamos passar pro próximo palestrante E aí você vê se você consegue eh se conectar pelo seu celular se o sinal fica melhor bom vamos passar agora pro professor Virgílio Almeida que é o catedrático da cátedra Óscar sala eh avisando também que o Quem faria Mediação hoje eh seria o Lucas vilalta mas ele teve um problema de saúde com com o filhinho dele e o bebezinho e ae não pôde vir eh as perguntas pro iea responde eh @ usp.br eh bom o

a biografia do professor Virgílio eh ele tem graduação em engenharia elétrica pela Universidade Federal de Minas Gerais eh Mestrado em Informática pela PUC Rio e doutorado em Ciência da computação pela Vander Beil University é membro da Academia Brasileira de Ciências academia Nacional de Engenharia e professor titular do departamento de ciência da computação da UFMG é também membro do academia of Science of developing World seus interesses de pesquisa concentram-se em vários aspectos do sistema da Computação atuando Principalmente nos seguintes temas sistemas distribuídos em larga escala e suas propriedades internet caracterização de tráfego e cargas de trabalho

medição modelagem analítica de Performance e planejamento de capacidade de infraestruturas de processamento de informação atualmente o professor Virgílio eh tá liderando o projeto na cátedra Oscar sala sobre inteligência artificial responsável e a proposta dessa mesa agora à tarde é pra gente pensar eh os nos sistemas de educação e desenvolvimento de tecnologia pro Brasil como que a gente pode inserir as demandas Ligadas à decolonialidade que são demandas ligadas à justiça social e representatividade cultural e e diversidade eh Boa tarde professor Virgílio Obrigada pela pela presença pelo apoio ao evento muito obrigado Helen pela por organizar o

evento agradecer a a Renata mii coordenadora do cgi a presença sei para ela que além do o tempo apertado delaa tem a questão da dificuldade de locomoção então Eh eh a gente Aprecia Muito essa essa essa participação dela agradecer também a professora eh Patrícia né Espero que que eh o as limitações tecnológicas sejam sanadas logo para que possamos ouvi-la né Eh eu vou apresentar um uma coisa concreta sabe eh o um um pequeno estudo de caso de como uma universidade pública federal a UFMG está tratando a questão de a na na vida acadêmica Tá eu

vou usar uns slides aqui Eh se eu puder compartilhar então tão aqui já sim Então tá ótimo Então vou falar sobre de novo o caso da UFMG na questão do tratamento do uso acadêmico de ferramentas de a eh a reitora a professora Sandra eh criou uma comissão o ano passado por volta de de Novembro né e eu acabei sendo o o responsável por essa comissão com o objetivo de formular regras para o uso de ar generativa nas atividades acadêmicas da UFMG então é Interessante primeiro porque é uma universidade pública 40.000 alunos quase 50.000 alunos no

total eh E como que essa questão da ia deve ser tratada já que ela vem sendo usada pelos alunos pel pelos professores eh sem nenhuma eh regra sem nenhuma orientação Então as perguntas que nós eh Começamos a trabalhar foram as seguintes algumas perguntas para entender essa questão da ia numa universidade pública brasileira primeiro quais habilidades Vemos como essenciais para a formação de alunos Lembrando que os alunos vão ser a futura geração de profissionais então eles têm que ser formados eh eh eh adaptar dados ao que se espera na frente tá e o avanço da Inteligência

Artificial é mostra a necessidade de formar alunos com com esses conhecimentos quais comportamentos de uso de devemos desincentivar ou mesmo proibir quais Requisitos devem ter os professores e técnicos da UFMG para preparar a futura geração de profissionais Além disso Qual a infraestrutura de ar necessária para a UFMG avançar em pesquisa ensino e extensão e e por último uma questão muito importante que é qual a estrutura de governança de uma força de trabalho para avançar com a ia na UFMG então foram essas as questões colocadas essa comissão que foi eh criada pela reitora Tem oito oito

membros eh eu sou do departamento de ciência da computação uma professora da Medicina uma professora da comunicação eh uma professora da da eh linguística um professor da engenharia um professor do direito e e um professor também da da da comunicação da da fafich então é é uma é é é uma comissão Ampla no na na natureza do da da do do trabalho de cada participante é uma comissão que busca estabelea ser uma uma eh eh uma paridade De gênero então Eh nós começamos a trabalhar em novembro eh dezembro dezembro aliás integramos paraa reitora o estudo

no final de de de Fevereiro tá vamos lá eu vou continuar mostrando aqui os pontos algumas observações iniciais que essa comissão fez primeiro que as as as eh ferramentas de a estão sendo Lan antes que a sociedade tenha tido a oportunidade de compreendê-las avaliá-las e e saber Quais são os riscos desse do uso dessas ferramentas ferramentas como o ch GPT Bard Lhama daé foram lançadas na sociedade como uma espécie de um grande experimento social foram lançados sem nenhuma sem nenhuma regra sem nenhuma eh eh e eh sem um maior conhecimento dessas questões e foram rapidamente

eh eh eh utilizadas no ambiente acadêmico por professores mas principalmente por alunos tá eh Outro ponto também que nós observamos Analizando várias universidades estrangeiras foi universidades ao redor do mundo estão discutindo o impacto das Ferramentas de a no ensino e na aprendizagem perguntas asso adas a isso quais as tarefas que os alunos devem ser autorizados a fazer uso da Inteligência Artificial de Nativa e o que não deve ser permitido Outro ponto que que que nós procuramos eh eh eh eh analisar é onde há benefícios e quais as formas de Incentivar tarefas positivas finalmente Quais os

riscos então é esse é o cenário que essa comissão multidisciplinar eh eh da UFMG começou a trabalhar nesse estudo né que partiu principalmente das discussões nossas do grupo e das das dos estudos e da do levantamento do que vem sendo feito em universidades estrangeiras Já que no Brasil a gente não achou eh eh eh eh iniciativas nessa nessa direção aqui é só para mostrar que essa Questão da ia é é extremamente complexa porque a a aceleração das tecnologias é muito rápida olha para vocês ver para vocês terem uma ideia eh a o reconhecimento da escrita

da escrita a mão né manual começou antes do por volta de 1990 e só foi ter algoritmos capazes de ter uma performance similar a a ao reconhecimento por humanos por volta de 2016 ou seja quase 20 anos no Desenvolvimento dessa tecnologia já no reconhecimento de fala Speech recognition também começou por volta de 1980 e 90 e só chegou a ter um uma performance doos algoritmos tem uma performance similar a a ao desempenho humano por volta de 2016 de novo aproximadamente 20 e tantos anos né já a compreensão o texto escrito os estudos mais avançados começaram

por volta de 2016 e 3 anos depois já 4 anos depois já tinham uma performance similar ao Elemento humano o entendimento da linguagem é impressionante começou em 2017 a tornasse em termos eh eh comerciais eh eh a a a disponibilidade E em menos de 1 ano e meio já tinha uma um uma uma uma performance semelhante a a dos humanos e logo depois ultrapassou então isso nos nos mostra que Essas tecnologias de elas avançam muito à frente da sociedade O que que a sociedade pode fazer essa é a pergunta que nós tentamos estabelecer aqui tá

Eh mas também tem suas eu não estou centrando a conversa apenas nas nos Riscos e nos possíveis efeitos negativos há uma série de oportunidades aumento de de produtividade por exemplo profissionais de de informação e conhecimento que trabalham com essas ferramentas podem ter um bom aumento de de produtividade no Jornalismo e na própria pesquisa científica quem hoje não faz uso eh do scolar da da do Google eh tem uma nova ferramenta chamada Illuminate tem várias ferramentas de tratamento de levantamento de de literatura científica de sumarização Eos próprios eh ch novas versões do chat GPT que inclusive

apresentam a referência básica daquilo que eles eh eh respondem às perguntas de de pesquisas científicas oportunidades profissionais para os alunos o estudo do Mit aponta que o acesso a ia generativa Aumentou a produtividade dos agentes em 14% com um maior impacto e essa é uma observação Importante nos trabalhadores no novatos ou menos experientes é uma possibilidade de aceleração do conhecimento oportunidades para professores planejamento de aula apoio à pesquisa educação treinamento profissional em áreas específicas e finalmente a oportunidade que nós temos de capacitar os alunos Principalmente olhando pro Futuro no convívio de humanos e robôs porque

isso vai ser provavelmente um ambiente eh eh frequentemente encontrado Daqui alguns anos tá então para educar essa nova geração para esses novos ambientes de trabalho então de novo há riscos mas há também en normas oportunidades né só para mostrar um exemplo de riscos né Eh um uma tarefa que professores fazem em em determinadas épocas do ano é escrever as cartas de de recomendação para aceitação em em programas de pós--graduação eventualmente para aceitação um estágio e nos Estados Unidos um estudo mostra Que muitos professores passaram a usar chet GPT e outras ferramentas de ag nativo para

criar essas cartas de recomendação e e e esse estudo mostra que essas cartas de recomendação geradas por tecnologias de Inteligência Artificial T um viés de gênero eles eh eh São eh privilegiam a as cartas eh de de de de de de pessoas do gênero masculino tá então e e o terceiro ponto é o seguinte estabelecer regras para Universidade é fundamental mas não é suficiente Porque é necessário manter um um um um um um um um um controle se essas regras estão sendo eh eh seguidas tá então daí a necessidade primeiro de estabelecer regras e políticas

das instituições no caso das instituições de ensino princípios de uso e uma regulação então nós insistimos que a UFMG tem que ter uma uma comissão de governança da EA que vai periodicamente rever as regras e estabelecer mecanismos de auditoria para Verificar o cumprimento da das regras e eventualmente eh verificar os casos que que fogem as recomendações né pontos Chaves Então dessa comissão primeiro impactos da ia na UFMG E aí eu acho que esse esse é um ponto que que eu gostaria de enfatizar primeiro a comissão entende que a mera criação de restrições para o uso

de a não é um caminho produtivo para discutir o o contexto acadêmico em seu atravessamento pelas tecnologias de A Então a linha da dessa comissão foi não nós não vamos restringir eh o uso da Inteligência Artificial na UFMG nós vamos estabelecer regras que dirijam essa eh esse uso pro bem pro bem comum tá para gerar eh mais mais eh produtividade qualidade de de ensino e pesquisa um outro ponto chave dessa comissão e que aí eh dialoga com que a a Elen mostrou no início que é da Inteligência Artificial responsável ou seja visar estabelecer na UFMG

o uso Responsável de a com fundamentos éticos responsabilidades Morais e sociais que estabeleçam limites de proteção para a sociedade e o meio ambiente né e finalmente a importância de se ter transparência nessas atividades todas dentro do ambiente acadêmico principalmente visando a a preservação da privacidade proteção de dados e a justiça eh eh nas decisões geradas por esse sistema E aí nós estabelecemos um conjunto de regras para cada um dos dos Blocos da Universidade ensino pesquisa extensão e administração então para ensino um exemplo dessas regras recomendar que as ementas de disciplinas sejam transparentes na explicitação do

que pode e do que não pode em termos de uso de de ferramentas de ar Então as ementas as disciplinas proposta pelos professores devem estar Clara O que é permitido ser feito por por Inteligência Artificial por geração de imagens sintéticas de texos Sintéticos e o que não é permitido incentivar as discussões em sala de aula sobre o uso de a no em cada curso com reflexões sobre pontos positivos e negativo negativos do uso dessas tecnologias divulgar aspectos controversos derivados do uso de a em atividades de ensino como direitos autorais viés discriminatório dos algoritmos privacidade exclusão

digital e desinformação e estabelecer regras para Uso e incorporação das tecnologias de nos trabalhos acadêmicos trabalhos de fim de curso eh trabalhos que são entregu pelo dos alunos né quando nós começamos essa discussão interna vários professores na universidade falavam o seguinte nós vamos eh eh retornar às ao processo de arguição oral paraa avaliação dos dos alunos porque senão nós não teríamos condições frente ao uso dessas ferramentas automáticas então é é Importante ter essas regras para primeiro não desestimular os alunos de de usarem aquilo que que pode ser usado de uma maneira positiva né e evitar

esse uso indevido na pesquisa também a ia é fundamental enfatizar a necessidade de Transparência explicando detalhadamente como a ia foi usada e refletindo criticamente sobre riscos inerentes ao uso da ia em algum processo de pesquisa tais como viés discriminatórios eh violação de direitos autorais Privacidade e desinformação avaliar com cuidado os resultados produzidos por ferramentas de a de modo a evitar resultados falsos ou enganosos ou seja nos dados que vão subsidiar projetos de pesquisa de investigação é necessário ter o devido cuidado no uso de dados gerados automaticamente de dados sintéticos tá estimular o debate junto a

publicações internas da UFMG sobre a necessidade de critério mais claros e coletivos do uso Dear na pesquisa e finalmente identificar em artigos e relatórios técnicos as etapas do processo de pesquisa que foram realizadas com auxílio da Inteligência Artificial Então essas são regras dá um detalhamento dessas Regras eu tô mostrando um um resumo delas na pesquisa aí H na extensão é quando a universidade sai do seu domínio dentro dos mur né e vai para as atividades externas então é fundamental também que a ia seja usada Com cautela avaliar os riscos sociais do uso de a em

atividades de extensão como disseminação de preconceitos desinformação e incremento de desigualdades descrever nos relatórios e artigos todas as atividades realizadas com o uso de a identificando as ferramentas e as fontes de dados estimular o debate social sobre potencialidades e limites do do uso de ia em atividades afins ao projeto extensão porque nos projetos de extensão Há não só eh eh eh eh projetos em conjunto com empresas mas há também muitos projetos em conjunto com comunidades às vezes em situações vulneráveis tá estimular via edital projetos de extensão sobre o uso de a em especial nas atividades

envolvendo escolas públicas quando a universidade trabalha em conjunto com as escolas eh de nível médio e e do Ensino Fundamental oferecer cursos online de letramento e capacitação do uso de a para comunidades Externas em projetos sociais Então essas são regras para pro uso de a na extensão e na própria administração da Universidade Quais são as regras também formulamos um conjunto de regras recomendar transparência no uso de a e normas de proteção de dados dar ciência ao público sobre etapas de processos administrativos realizados com auxílio de a com identificação dessas ferramentas recomendar supervisão humana em atividades

realizadas com auxílio de A para evitar distorções derivadas do uso de a como discriminações sociais e desinformação evitar E aí esse é importante também na questão da decolonizar e na questão do do do do diálogo com os países do sul Global evitar o uso de modelos de a caixa preta cujo funcionamento não seja transparente em decisões críticas que TM Impacto sobre indivíduos e sobre a coletividade agora para ter tudo isso e aí foi o ponto que nós colocamos paraa Reitora as regras são ótimas mas é preciso de treinar os professores e e e o pessoal

técnico administrativo para também colaborar com os alunos na na implementação dessas regras então recomendações feitas por essa comitê por essa comissão preparar professores Para que sejam capazes de se envolver de forma positiva crítica e ética com sistemas de a e dados nas atividades de ensino realizar seminários e eventos e treinamentos para os diversos públicos Da UFMG em torno do uso de ia no espaço acadêmico estimular pesquisa sobre o uso do ia especialmente sobre políticas de uso e Finalmente nós propusemos a a reitora que além das regras a universidade crie uma uma uma comissão de governança

da ia essa comissão deve ser permanente com uma composição multidisciplinar e multisetorial incluindo representante das várias comunidades que compõem o FMG principalmente alunos eh o corpo técnico Administrativo professores funcionários realizar um processo participativo de diálogo mais amplo com a comunidade para construção da política de uso de ar no FMG e conduzir revisões periódicas dessa política para ajustar já que a tecnologia desenvolve tão rapidamente então eram essas ideias desse caso concreto que eu pretendi apresentar aqui para uma discussão e sobre esses pontos que são Fundamentais E aí é um caso de uma de uma universidade pública

que que que tomou essa iniciativa Muito obrigado gente Obrigada Professor Virgílio eh antes de passar pra próxima palestrante vou fazer uma uma pergunta de mediação para ajudar o público entender melhor o conteúdo e depois a gente abre eh no final para perguntas do público eh eu gostaria de saber se como o senhor Tá na Academia Brasileira de ciências se conhece outro exemplo de outras universidades que estão eh preparando esse conjunto de recomendações porque eh parece que é uma coisa inédita ah aí gostaria de saber quanto tempo vocês de moraram para para elaborar isso né quando

vocês começaram a conversar hã e porque enfim a gente pergunta e e também que comentasse um pouco melhor essa como essa questão da que todas essas ferramentas já estão Em uso e que estamos atrasados eh em termos de de elaborar essas recomendações mas ainda assim muitas universidades ainda estão com dificuldade de elaborar eh a princípio seria essa essa primeira questão Obrigado Helen Eh vamos lá eu eu não tenho conhecimento de outra Universidade no Brasil fora do Brasil existem as Universidades no Reino Unido na Austrália nos Estados Unidos e na Nova Zelândia que tem iniciativas semelhantes

Ponto eh eh na academia também eu não não tive conhecimento mas nessa semana eu vou participar de uma reunião da ands cujo objetivo é ver como as como as Universidades estão tratando a questão de a e formular propostas para isso né Eh essa comissão foi estabelecida pela reitora com com um uma uma portaria de Novembro final de novembro de 2023 e nós trabalhamos dezembro janeiro fevereiro e e em três meses entregamos para paraa reitora um documento que Acabou gerando eh eh Esso esse esse conjunto de recomendações eh éramos oito de diversas áreas da Universidade Feito

Eu mencionei eh com um equilíbrio de gênero eh as reuniões foram basicamente tivemos algumas reuniões presenciais e as outras todas online eh o material básico foram as questões eh internas de conhecimento dos professores mas principalmente uma revisão eh de Literatura e de casos em uso em diversas universidades então nós Tentamos ter essa visão como a comissão tem gente da Medicina da engenharia da do direito da filosofia da das ciências eh eh humanas a gente teve um conjunto amplo de de pontos de de de de contribuição então é é um o que eu apresentei para vocês

é é é fruto de um trabalho coletivo tá divisões diferentes que foram Montanas eu acho eu acho que E aí a universidade a reitora levou isso pro conselho Universitário e finalmente aprovou isso no CEP que é o conselho de Ensino e pesquisa para tornar essa essa proposta uma política eh eh eh eh eh formal da Universidade Obrigada Professor Virgílio eh ao final a gente pode levantar novas perguntas eu gostaria então de passar paraa próxima eh palestrante que é ehen mielle é jornalista possui graduação em Comunicação Social pela Faculdade Casper Líbero é doutoranda do programa de

ciências da de comunicação da escola de Comunicação e artes da Universidade de São Paulo integra a câmara de conteúdos e bens culturais do comitê gestor da internet cgi.br é coordenadora do Centro de Estudos de mídia alternativa Barão de Itararé foi membro da colisão direitos na rede tem experiência na área de de comunicação atuando Principalmente nos seguintes temas política de comunicação radiofusão comunicação pública internet plataformas de redes sociais Marco civil Da internet Big Data Inteligência Artificial e proteção de dados pessoais como jornalista possui experiência em cobertura de temas especializados ligados à saúde assistência farmacêutica trabalho educação

e comunicação Eu agradeço muito a Renata que que veio ah ho falar pra gente e que é uma liderança né senão não seria coordenadora do do comitê gestor da internet e também eh participante do Ministério da Ciência E Tecnologia e sempre quando eu ouo a Renata falar eu eu falo Nossa como essa pessoa fala muito bem tem a mente muito clara Então ela ocupa os lugares né os espaços que ela ocupa hoje não é à toa realmente é uma pessoa eh muito ativa né por isso estamos aqui hoje muito obrigada Renata por participar Obrigada Helen

obrigada um prazer tá aqui no iea não tinha como eh fiz um esforço mesmo para vir aqui porque tô eh Seguindo para o aeroporto Que tem uma viagem internacional hoje ainda é um prazer estar aqui com o professor Virgílio eh com a Patrícia que eu espero que a conexão dela já tenha se restabelecido esses problemas de conexão fazem parte do rol dos Desafios colocados inclusive para que a gente possa pensar o uso de tecnologias no ambiente educacional né agradecer a cátedra a cátedra também é uma iniciativa que conta com a parceria do comitê gestor da

internet aqui eh Então cumprimentar todos da iea aqui eh na pessoa do Virgílio e da Helen eh eu quando a Helen me chamou para falar sobre o tema dos impactos da ia na educação comecei a refletir um pouco porque esse é um tema que pode ser abordado Sobre muitas perspectivas né e eu acho que foi muito interessante ter ouvido o Virgílio porque ele trouxe não apenas uma discussão mas o olhar para uma para uma aplicação específica né que é a ia no ensino Superior na universidade e que eu acho que essa iniciativa eh da Reitoria

da Universidade Federal de Minas Gerais deveria ser eh eh servir servir né Ela deveria servir como modelo para que outras universidades também pudessem constituir grupos e discutir o uso da inteligência artificial no ensino superior tanto nas áreas de pesquisa eh eh educação né Eh formal e a e a A ensino pesquis extensão né no tripé Universitário mas eu queria fazer essa abordagem a partir da perspectiva dos impactos da Inteligência Artificial na Educação Básica portanto olhando eh como isso pode trazer eh benefícios mas também riscos né olhando toda a trajetória escolar desde a primeira infância até

o ensino médio as vésperas do ingresso na universidade e eu escolhi essa abordagem eh não foi combinado né Eu não sabia que O princípio ia falar do ensino superior mas acho que foi interessante porque eu acho que essa é uma abordagem que eh me permite falar sobre outras questões relacionadas ao uso de a num país como o Brasil né primeiro eu acho que eh trazer o tema da educação e depois o tema da tecnologia a educação quando a gente olha desde as primeiras né etapas educacionais até o final do ensino médio ela é um processo

vamos chamar Essa essa mediação Educacional essa entre aspas de tecnologia Educacional Talvez seja uma das eh dos processos mais antigos da história da humanidade e que menos transformações Profundas talvez se a gente olhar a sala de aula do Ensino Fundamental hoje ou do ensino médio hoje e olhar a sala de aula do Ensino Fundamental do começo do século passado o que a gente tenha tido de mudanças Profundas Talvez seja eh a estética das Cadeiras né Eh antes a gente tinha mesinhas e cadeiras depois a gente passou a ter aquelas cadeiras de um braço então a

gente foi dando um pouco os o mobiliário da sala de aula a gente deixou de ter a lousa né aqui em São Paulo a gente fala lousa em outros lugares fala quadro negro enfim e a gente foi mudando isso com o giz né Isso foi mudando para aquelas eh lousas brancas e com eh caneta lavável e depois a gente foi usando outras formas fomos Introduzindo algumas tecnologias como eh eh como é que chamava mesmo aquilo gente que a gente colocava o o papel em cima e projetava na sala de aula reto projetor retroprojetor exatamente Obrigado

comos SL com os slides escritos é exatamente já usamos retroprojetor já usamos slides depois fomos para algumas algumas escolas que conseguiram colocar televisores na sala de aula geralmente escolas privadas mas o processo de ensino aprendizagem a Tecnologia educacional sofreu pouquíssimas transformações na sala de aula ao longo diria do último século pelo menos né essa relação professor aluno o uso de material de apoio eh e a gente tem então um cenário no qual as mudanças educacionais elas são mais vagarosas eu diria assim né Elas são mais demoradas a se estabelecerem por outro lado nós estamos vendo

um cenário tecnológico no qual o desenvolvimento de tecnologias de Informação e comunicação eh trouxeram mudanças Profundas para a sociedade como um todo e não poderia ser diferente elas também estão sendo utilizadas dentro da sala de aula qual que é o grande problema que eu identifico como ponto de partida o descompasso entre esse desenvolvimento acelerado da tecnologia uma tecnologia pervasiva disruptiva eh que requer habilidades e competências para serem utilizadas de uma maneira eh mais crítica e nos e e extraindo seu Potencial com uma sala de aula e aí eu tô olhando paraa sala de aula eh

digamos Claro que tem exceções né gente eu tô usando uma média né Eh de um país como o Brasil no qual a educação pública principalmente passa por uma situação de um sucateamento imenso aonde a gente tem uma realidade que a formação de professores e a própria eh carreira do professor no país não é valorizada adequadamente Nós temos muitas dificuldades de fazer eh Processos de capacitação e reciclagem com os professores que saem eh eh da Universidade aqueles que têm algum curso universitário e vão paraa sala de aula Então essa renovação essa capacitação de professores em massa

no Brasil é uma coisa que ainda é é muito deficitária Então nós temos um processo no qual a apreensão e o uso da tecnologia ele está sendo feito na sala de aula sem um direcionamento organizado como está sendo feito por exemplo no Âmbito da do ensino superior na Universidade Federal de Minas Gerais nós temos os os professores procurando entender como Essas tecnologias funcionam professores que TM realidades diferentes ao longo do país aonde a gente tem um uma categoria profissional de pessoas que tem um faixas etárias distintas e realidades de Formação distintas procurando entender como vão

utilizar aquelas tecnologias Então eu acho que esse é o Primeiro problema que nós precisaríamos pensar como o Brasil e e o sistema educacional brasileiro consegue desenvolver um mecanismo para que professores desde das primeiras etapas de ensino até o ensino médio tenham de fato um processo de formação aprofundado para lidar com o uso das tecnologias na sala de aula e aí eu acho que isso passa tanto pra Educação Básica quanto eh tanto paraa educação pública quanto Paraa educação privada e esse é um problema que nós já estamos vivenciando muito antes digamos das Ferramentas de Inteligência Artificial

eh eu vou dar um depoimento pessoal que apenas para ilustrar eu sou mãe de dois meninos um menino com 10 outro menino com 13 e eles estudam numa escola do interior de São Paulo porque eu moro mais ou menos no interior de São Paulo é uma escola privada uma escola que tem uma filosofia estudavam né nessa escola agora que Eles Mudaram uma Filosofia de ensino mais construtivista Eh mas me deparei quando eles estavam com seis e 7 anos com uma lição de casa para eles fazerem uma pesquisa e eu primeira vez falei ué pesquisa Mas

aonde que vai fazer a pesquisa né a pesquisa É no livro didático não no caso não era no livro didático tem algum levou um livro para casa da escola Tem alguma indicação porque hoje em dia a gente não usa mais enciclopédia E aí a pesquisa era onde aí Eu falei vamos fazer no Google vou a mamãe vai fazer a pesquisa com eles porque eles não tinham idade para fazer pesquisa utilizando uma ferramenta de busca que não é enciclopédia E aí veio uma veio duas Veio três veio quatro na quarta vez eu fui na escola e

falei olha Eh é vocês estão propondo que crianças de 7 8 anos façam pesquisas para estudarem matérias da sala de aula no Google e a diretora da escola falou é no Google Falei mas o Google não é enciclopédia Então os professores não conhecem essa ferramenta adequadamente não davam nem pontos de referência aliás tem uma visão completamente distorcida de muitas das fontes que existem na internet criminalizado criminalizando Fontes abertas por exemplo mamãe não pode usar Wikipedia porque Wikipedia é tudo mentira apenas porque Wikipedia é uma ferramenta de produção de conhecimento colaborativa então este é Um exemplo

apenas para dizer que o nosso problema do uso de Inteligência Artificial e tecnologias de informação e comunicação na sal sala de aula passa necessariamente pela formação de professores a segunda questão é como a gente introduz nos currículos escolares desde a primeira etapa literacia digital e e e e disciplinas voltadas para o entendimento da tecnologias não apenas para o saber como usa mas a partir de uma perspectiva crítica da tecnologia Para que a gente possa chegar no nível superior como diz o professor eh Virgílio e poder fazer um debate mais aprofundado compreendendo que Essas tecnologias possuem

vieses como Essas tecnologias funcionam que a gente precisa ter uma perspectiva crítica dessas tecnologias então o grande a o o eu queria partir de um pressuposto de que não estamos amadurecidos do ponto de vista da nossa estrutura Educacional e nem da atual Estágio de desenvolvimento dessas tecnologias Para incorporar plenamente esses mecanismos dentro da sala de aula essa é a primeira questão olhando do ponto de vista mais conceitual claro que a inteligência artificial e Essas tecnologias Podem trazer muitos benefícios pro processo ensino aprendizagem e se forem adequ adamente utilizados podem de fato representar uma transformação profunda

nesta tecnologia Educacional que demora tanto tempo para Se modernizar trazendo os processos de ensino-aprendizagem para uma dinâmica mais interativa com uma participação mais dinâmica do aluno num processo que seja mais integrado que seja realmente significante para paraa criança que não entende porque que precisa aprender Na oitava série uma equação do segundo grau em matemática então a gente pode desenvolver Essas tecnologias para aproximar as a a educação das várias disciplinas e darem Um sentido real para aquilo Qual que é a grande questão que nós temos hoje Essas tecnologias hoje disponíveis no Brasil são na sua maioria

tecnologias desenvolvidas por grandes empresas de tecnologia transnacionais particularmente dos Estados Unidos em corporações privadas que tem pouca pela da operação das suas tecnologias que coletam dados que treinam os seus modelos basicamente com bancos de dados em outras línguas que não possui Diversidade cujos cujo cujo cujo treinamento e a e a e o desenvolvimento da própria ferramenta não foi feita olhando paraas especificidades territoriais culturais sociais econômicas linguísticas da população brasileira que tá utilizando por exemplo ch PT mid Journey e outras ferramentas de inteligência artificial em que medida adotarmos ferramentas desenvolvidas para serem soluções globais e portanto

não estão preocupadas com as especificidades E os problemas educacionais da população brasileira até que ponto isso pode de fato contribuir para que a gente se desenvolva plenamente para que a essas soluções de Inteligência Artificial Tragam benefícios paraa Nossa educação e não apenas para que a gente esteja usando essas ferramentas e oferecendo a esses sistemas internacionais dados sensíveis principalmente como dados educacionais de crianças e adolescentes e do nosso processo educacional no Brasil então a segunda questão que eu queria trazer é o Brasil precisa desenvolver e e criar instrumentos e políticas públicas para fazer investimentos em desenvolvimento

implementação treinamento e uso das suas próprias ferramentas de Inteligência Artificial aplicadas às várias áreas que são áreas eh estratégicas de interesse uma delas a educação eh não é necessário que nós tenhamos uma dependência tecnológica é a única alternativa que a Gente tenha para usar Inteligência Artificial nas escolas seja baseada nessas ferramentas desenvolvidas para soluções globais Então esse é um outro desafio que eu acho que nós precisamos compreender como desenvolver nossas próprias ferramentas ferramentas que estejam relacionadas com a realidade eh da população brasileira e dos Desafios educacionais da população brasileira que não devem ser pautados apenas

por meritocracia por melhoramento de dados Estatísticos por eh melhoramento de eh gestão e e resultados ela precisa ser uma ferramenta que consiga ter uma visão mais humanista da educação e eu finalizo eh com essa preocupação porque eu acho que todas as questões de ética e tal professor profor Virgílio já trouxe e a gente tem a professora eh Patrícia que vai falar das questões raciais mas como a gente olhar essas ferramentas não apenas como instrumentos de aumento de produtividade do professor e do aluno na Sala de aula mas olhar essas ferramentas para que elas possam contribuir

paraa formação Educacional a partir de de uma dimensão humana né para que a gente possa ter eh condições de usar essas ferramentas para compreender de que maneira nós estamos eh eh trazendo a nossa educação mais próxima pra gente construir uma sociedade mais crítica uma sociedade mais democrática uma sociedade com menos preconceito com menos vieses né Eh eh e que se reconheça Culturalmente socialmente economicamente e linguisticamente Então essa eu acho que é uma Terceira Dimensão porque o que a gente tem visto de muitos papers que TM sido produzidos e do documentos em organismos internacionais é o

olhar da Inteligência Artificial como instrumento de aperfeiçoamento eh de eh metas e produtividade né claro isso é importante também mas a gente precisa olhar a inteligência artificial como um Instrumento para que essa educação possa ser mais humanizada e menos automatizada e menos focada na meritocracia apenas e em dados estatísticos que possam mostrar tá olha só como os nossos professores nossas escolas estão melhorando seus índices de produtividade mas ao fim e ao cabo a a a construção cognitiva social cultural dos nossos alunos vai estar despencando então acho que essas são algumas das preocupações que eu queria

trazer Obrigada obrigada Renata eh Renata trouxe coisas importantes né porque quando a gente fala de risco da inteligência artificial no ensino básico a gente tem toda uma literatura a nível internacional enfim toda uma literatura sobre o impacto das tecnologias no num público mais jovem é diferente do impacto num público adulto né então existe toda essa discussão que ainda tá aí no ar que é sobre o impacto cognitivo se a gente tem vai ter um encolhimento Cognitivo e como lidar com isso no ensino básico que é diferente do do ensino superior tem algumas questões aí pra

gente comentar chegaram algumas perguntas mas a Patrícia conseguiu entrar né Patrícia boa tarde Patrícia e boa tarde estão conseguindo me ouvir agora tá melhor sim excelente Então vamos ouvir a Patrícia obrigada então Eh foi muito bom pegar um pouco da Fala da professora Renata e eu também peço desculpas porque a Gente tá mudando de lugares aqui e reuniões e tal então a gente precisou mudar aqui de lugar para poder falar um pouco né e conseguir fazer a transmissão eu vou pedir também para colocar o os slides que a gente preparou para poder dar sequência fala

mas inicialmente eh acho que é importante a gente falar né da do tema pode passar pode já ir passando o tema que é sobre o enfrentamento as novas tecnologias a partir de uma visão né do compromisso Social de enfrentamento ao racismo entender como que as nossas populações elas estão alijadas ainda desse processo né de conhecimento tecnológico E logicamente falando da população Preta Falando da população pobre eh um processo que realmente chega com um grande distanciamento com um atraso muito grande e nesse é quem são as nossas populações pobres e periféricas e como que as nossas

como que as nossas crianças né pensando aí as Crianças pretas elas estão de certa forma inseridas num processo em que a escola né e tanto que a professora Renata trouxe muito bem em que a escola muitas vezes coloca enquanto desafio mas que não chega né à sua a sua camada ao seu tercero social até porque essa ruptura ela não acontece de uma forma tão simples né porque as construções elas se dão a partir do conhecimento eh que a gente consegue transformar no conhecimento social no conhecimento que Realmente faça esse enfrentamento racial pode passar então eu

trouxe gente alguns algumas questões para para nós pensarmos né Não primeiro eh pensar em conceitos mas eu quero fazer uma coisa um pouco mais didática né para poder tentar organizar isso e trazer o racismo como uma questão que tem que ser focada quando a gente fala de Inteligência Artificial então eu trago a questão das definições né questão racial estrutural no Brasil a Exclusão de oportunidades de políticas públicas o racismo estrutural enfrentamento eh social por hierarquias ou privilégios a visão da cidade e o Imaginário racial e a inteligência artificial no enfrentamento a preconceito racial estereótipos acordos

classes mos e eu quero falar um pouco de dentro também desse processo pode passar que seria eh como que o Brasil tem a partir da visão do estereótipo de marca e do Racismo estrutural que vai pode passar por favor que vai eh trazer né questões a serem pensadas na Perspectiva da cidade então ali eu quero fazer um exemplo por exemplo que eu trouxe foi da Celo né Eh de Paraisópolis e pensar Paraisópolis a partir desse desse lugar outro né que é visto em São Paulo como as periferias como as minorias is aí é uma foto

de Paraisópolis em 2 Se não me engano 2004 pode passar um pouco mais à Frente vê o paradoxo né das da sociedade um pouco mais à frente a gente vai ver eh o crescimento para exes Então veja bem nós tínhamos antes um da população que cresce e aí nós podemos entender né não numa visão de senso comum mas grande parte dessa população é pobre e é pereta e mobiliza uma uma um conhecimento um processo interno extremamente eh frutífero dentro da sua eh sociedade dentro do da perspectiva social que está engajado E aí nós sabemos que

dentro dessa perspectiva nós a tanto a população preta e Pobre ela também cresce mais cresce a margem e cresce com todas as necessidades que são não além das necessidades tecnológicas mas necessidad de sobrevivência do processo humanitário mas também do contexto social político e econômico então isso a gente chama de racismo estrutural Quando essas condições elas se dão eh em detrimento e discriminação dessa população que está Alijada desse processo social pode continuar por favor no próximo slide será que ele tá me ouvindo Estamos te ouvindo se puder botar o microfone próximo do próximo a você é

melhor isso pode voltar então Eh do próximo slide quando eu trago então o conceito de ismo estrutural eu vou dizendo né sobre eh como essas desigualdades elas se Manifestam nas nas diversas áreas de acesso desigual à educação né um pouco do que a Renata falou emprego a moradia saúde a Justiça Criminal racismo estrutural muitas vezes não é intencional mas é mantido por sistemas de estruturas que beneficiam alguns grupos sociis os de outros e considerando né a nossa análise a partir do enfrentamento no contexto da perspectiva de um estado né que perpetua essa relação da Estrutura

principalmente da estrutura voltada paraa branquitude e não da estrutura voltada paraa minoria racial nós entendemos sim que esse racismo estrutural ele cresce e se descreve como algo enraizado nas nossas instituições nas nossas sociedades E aí eu vou perguntando né pode passar e aí eu pergunto né como é que a gente reconhece isso quais são as questões né que nos levam a pensar sobre os racismos em Inteligência Artificial pode Passar então eh a inteligência artificial tem o potencial de transformar várias áreas mas também pode perpetuar e ampar as desigualdades sociais acho que é uma questão que

a gente precisa se perguntar porque para nós isso é né quase praticamente eh entendido como Óbvio e estamos pensando sobre isso né estamos preparados para isso Então eu acho que todo esse alento para novas tecnologias para pensarmos em questões da de como Que essa reestruturação de um novo mundo de uma nova realidade social tecnológica ela vem sendo construída num processo acelerado e que não atinge eh o tecido os os as várias camadas dos tecidos sociais a gente entende que é necessário que todo esse processo tenha um preparo Ude maior Um Desafio que seria dialogar Mas

além de dialogar pessoas com condições as comunidades como comunidades estão estão todo esse processo então do que nós estamos Falando n das disputas das disparidades sociais provocadas pelo racismo estrutural estamos falando sobre a consciência da produção da desigualdade socioespacial tecnologias que ampliam as distâncias estamos falando sobre a rapidez do crescimento das desigualdades visíveis estamos falando sobre desigualdades invisíveis e estamos falando da fluidez sobre as disparidades nos ambientes e virtuais Bom e aí a gente precisa conversar sobre a as questões e aprofundarmos isso né primeiro o viés dados de treinamento né e quais são as concepções

geradas pelos produtores de Inteligência Artificial Quem opera como são identificados os preconceitos os estereótipos etc por exemplo os temas de Inteligência Artificial são frequentemente treinados em em dados históricos que podem ter conceit raciais ch são identificaras decisões automatizadas que grupos Raciais minoritários por exemplo pode continuar pode passar bom então Eh pisando né sobre algumas e eu trouxe um artigo que traz sobre essa relação né daal e a raça eh um sistema de visão a partir da questão racial né E essa pesquisa ela foi publicada na revista de informação e ela trouxe alguns desafios por exemplo

né o primeiro desafio Quais são as causas da Inteligência Artificial questão das oportunidades desiguais para Pessoas de certos grupos raciais a segunda questão que a inteligência artificial ajuda a detectar a raça e discriminação Outro ponto importante é que a inteligência artificial ela pode se aplicar para estudar condições de saúde das populações especificamente os grupos questes faciais de pessoas que de diferentes origens e que dessa visão logicamente do do Estereótipo racial pode passar Então nesse sentido eu queria focar um pouco sobre a questão de que a inteligência artifici demográficos e imagens faciais de pessoas de diferentes

origens E para isso nós entendemos que para estudar dados imagens faciais principalmente né para decodificar essas imagens é necessário que se tenha um pelo mamente um um des né então eu escurece é que Qualquer mas moral são qu são sujeitos que produzem o processo qu são sujeitos que que colocam essas questões como dados e produzem eh essas relações né pode passar tá eh tá conhecendo do reconhecimento facial a partir do estereótipo do policial o Estereótipo daqueles que estão eh sendo por is principalmente Então esse artifício ele pode muito bem que é preto algumas questões falar

no nosso cotidiano Dea passar por favor então quando eu falo do subconsciente moral eu tô falando das relações históricas que estão travadas no nosso subconsciente E essas relações históricas elas são relações Preconceituosas e elas são sim Vas de fato como aquelas imagens que estão que foram trabalhadas Né desde a nossa infância como a população negra quem é a população negra quem é a população que aparece Quais são as características né porque por que que a na relação racial a gente vai entender que a população preta ela tá sempre aquela que tem as piores imagens e

as piores repercussões e assim sucessivamente pode passar por favor bom então eu trago aí que uma Questão né se o racismo é uma conção social embc no Imaginário eh racista construído pela discriminação pela exclusão histórica é possível falar que as mais elevadas tecnologias consideradas consideradas ou construídas por pessoas brancas privilegiadas que tiveram acesso logicamente né Eh preparo profissional né qualificação n suas estruturas pro provavelmente e treinamento são pessoas especializadas que sim poderiam contar com com grande Fluxo de informações racializadas e racistas será possível que essas pessoas estão preocupadas em que tipo de reconhecimento facial será

disponibilizado para identificar o suspeito como por exemplo as informações que são confundidas nas na Inteligência Artificial então muitas vezes são esses processos que a gente precisa entender e precisa eh fazer com Que chegue às nossas populações para que se entenda não só como se defender Mas quem são Esses sujeitos também e como se preparar para todo esse aparato tecnológico pode passar Então esse subconsciente moral né é um termo que se refere à parte do subconsciente humano que influencia ou guia o comportamento moral de uma pessoa e muitas vezes essa essa forma de inconsciente ela vai

vai estar sendo referindo-se né ao próprio consciente moral as decisões que nós tomamos as ações conscientes que são realmente baseadas nesses princípios da Experiência e esse subconsciente moral ele é moldado pela nossa socialização pela experiência de vida pela educação moral ou valores culturais e crenças religiosas ele pode inclusive influenciar nas nossas percepções do certo ou do errado das nossas ações emocionais situações éticas e até mesmo das nossas tendências automáticas para tomar decisões Morais em determinadas circunstâncias pode Passar então eu vou finalizando que muito embora essas fotos históricas estejam cravadas no nosso subconsciente moral né a

pessoa pode influenciar os nossos comportamentos de maneiras importantes e também pode ser objeto de reflexão e de modificação através da autoconsciência Então essa educação moral e práticas de autoconhecimento elas podem sim refletir na condição de valores nas nossas relações emocionais e cultivar uma maior Consciência dos nossos padrões de comportamento então acredito sim que se nós tivermos eh uma ferramenta aliada a um processo educativo uma condição social em que as populações possam estar eh juntas monitorando né e as pessoas estejam também dialogando sobre esses processos coletivamente de uma maneira mais Ampla E logicamente a discussão possa

chegar em vários lugares que nós consigamos sim eh utilizar a inteligência artificial porém nós Estamos estamos muito muito muito muito longe desse processo se nós não conseguimos dialogar com as populações enar o racismo que enche hoje as nossas cadeias que faz com que a população preta seja identificada através do reconhecimento facial ou que não consiga minimamente ser reconhecida facialmente para que possa acessar o seu próprio celular então nós estamos falando que a produção do racismo ela está sim eh sendo fortalecida a partir da Compreensão da nova tecnologia deel artificial pode passar então só para finalizar

gente eh eu coloquei aí o primeiro campo né Inteligência Artificial artificial é um campo novo necessário a discussão da pobreza e redução de danos sociais é importante entender como esse diálogo atravessa as áreas duras da produção das ciências da vida das tecnologias de poder Porque a partir dessa construção todos os processos educativos entender a Maior ou menor possibilidade de inclusão das populações pretas e pobres e isso só crce no país eh se falamos ponto dois se falamos de exclusão racial e social é necessário que por outro lado temos que falar sobre a inclusão intra e

Extra muros tecnológicos somente eh neste processo poderemos compreender o que significa justiça social e o avanço tecnológico inclusive e o ponto três que é em relação à justiça social e Comprometimento racial judicial jurídico e ainda policial é necessário que nós conhecermos a realidade Brasileira de maior quantitativo de pessoas criminalmente expostas que são as pessoas da cor preta e é fundamental a discussão racial sobre Imaginário do estereótipo criminal brasileiro já que nossas cadeias são repletas de pretos de pessoas pretas e pretas e o nosso judiciário invisibiliza esse processo nosso jurídico atua para seu agravamento E ainda

é necessário e preciso entender como se atua no estereótipo racial a partir do extermínio populacional e como Inteligência Artificial poderá no futuro próximo colaborar para paraa redução deste dano social então eu vou finalizando aqui trouxe algumas eh dessas discussões que eu acho que a gente precisa se aprofundar são questões muito densas e eu vou trazendo a partir de uma compreensão minimamente um foco né específico em que eu coloco um Direcionamento para pensar sobre a necessidade de justiça social sobre a necessidade de refletirmos sobre a criminalidade no Brasil necessidade de refletirmos sobre as áreas de Periferia

sobre populações periféricas e vamos trabalhando a partir dess desse conhecimento para essa compreensão eu agradeço tá a oportunidade uma rápida não vou poder me aprofundar por cont toda toda a condição tecnológica e a gente não teve tempo de fazer a reunião Enquanto poderíamos ter feito um pouco mais cedo mas eu vou deixando aqui a minha contribuição porque eu quero que que a gente possa Em outro momento obrigada obrigada a vocês momento agora e a gente provavelmente continuar um pouco mais à frente muito obrigada obrigada Patrícia eh eu sinto que a gente teve um problema de

conexão Mas eh você conseguiu passar a a mensagem principalmente acredito que um aspecto ético e moral né e pensar nesses Preconceitos implícitos eh o que o que essa fala me traz inclusive o próprio contexto a dificuldade eh me lembra que a gente tem uma fissura muito grande quando a cátedra abriu com professor Virgílio com convidadas a rura Benjamin e a e a Conceição Evaristo a Conceição Evaristo falou que a gente tem uma uma um um GAP né uma lacuna muito grande né de de na educação no acesso esses dias a gente teve um um antropólogo

aqui falando que fez um um Trabalho chamado tecnologia do Oprimido d eh David Nemer que que ele falou de de 10 anos atrás as pesquisas dele com com populações periféricas que a dificuldade das pessoas acessarem a tecnologia ela era cognitiva básica porque a própria relação com os dispositivos era já era difícil porque as pessoas não não tinha uma relação anterior com o computador com máquina de escrever e etc e tal então o que que acontece é que esses esses mecanismos vão ploriferação Porque eu estive na Universidade da Califórnia e a gente você pode pensar Você

tá no norte Global Mas o que eu vejo é que dentro da tecnologia com exceção da dos encontros do CG que tem que tem sido muito plurais e aí tem procurado eh trazer pessoas de diversidade mas aqui a gente tá na maior Universidade da América Latina e a gente tem essas discussões setoriais então geralmente quando a gente tem um auditório cheio para discutir Inteligência Artificial a gente tem eh pessoas de mercado envolvidas e quase não tem pessoas pretas na na na na plateia né então quando eu tava lá na bioética na UFRJ apesar do Rio

de Janeiro ser uma configuração eh mais mesclada mais plural mas também não se estava discutindo quem discute tecnologia lá na copia lá e aí são aquele perfil dos homens brancos etc então a gente ainda tem essa dificuldade de engajar hoje por exemplo a gente Trouxe pessoas eh africanas ou pessoas negras que são eh líderes né do no dentro do do do que elas estão fazendo mas eh esse debate de tecnologia Ele ainda tá nas mãos de um determinado grupo e o outro grupo a gente tem aqui uma cátedra de cultura que tem tem um uma

um tem pessoas indígenas à frente dela agora mas as pessoas têm outras prioridades Então a gente tem esse GAP essa lacuna que a gente precisa ver como que resolve Então em relação a toda a Fala da professora Patrícia e do contexto eh parece que que a gente tem que ver como que a gente resolve essas lacunas a a a Renata hoje ela trouxe também o problema da formação de professores Porque se os professores estão estão falando para acessar o Google eles também estão com pouca informação eh então eu gostaria de eh abrir para para outros

comentários gostaria de saber se a Renata tem algum Comentário em relação às às falas a Renata vai viajar hoje né então ela já tá ela já tá aqui pesquisando aqui como que ela se movimenta como que ela vai chegar no aeroporto Mas então eu passaria a fala pra Renata depois a gente tem eh tem algumas perguntas eh do público e e é isso você não eu queria apenas eh dizer que acho que uma das questões que eu trouxe que é esse problema de como a gente eh Desenvolve soluções de Inteligência Artificial ferramentas de inteligência artificial

para estarem em aderência com a realidade eh brasileira portanto desenvolvidas treinadas a partir eh eh dos problemas concretos da diversidade eh cultural étnico racial social eh eh linguística dialoga muito com a fala da professora Patrícia porque eh a gente vai conseguir ser mais inclusivo à medida que a gente tenha uma uma diversidade de ferramentas que tenham e Sejam desenvol vidas by design né para refletirem os problemas né e refletirem a a nossa diversidade né e portanto treinadas com a nossa diversidade Então acho que você tem um recorte aí eh imenso e nós eh temos que

olhar aí o problema eh do racismo estrutural mas nós também temos eh outras situações que que são os o problema das Profundas desigualdades econômicas eh que nós temos no país eh das Diferenças né Eh eh eu diria entre o o o o setor eh área Urbana e a área rural né a realidade das pessoas que moram e e estão nas escolas rurais é uma realidade completamente diferente em todos os sentidos daquelas pessoas que vivem nos grandes centros populacionais então Eh utilizar a inteligência artificial partindo dessa realidade concreta é algo que de fato como disse a

professora Patrícia Nós ainda estamos um tanto distantes de termos condições de desenvolvermos e Termos uma certa eh autonomia e soberania sobre essa tecnologia para Que ela possa servir a esses eh propósitos né Eh acho que o Brasil tem uma vocação imensa né Eh eu acho que a gente tem como olhar a tecnologia não só a partir doss riscos que são muitos né riscos inclusive de aprofundamento de desigualdades não só sociais mas geopolíticas né Hoje nós estamos num contexto Aonde a maioria dos países já estão numa condição de subordinação Tecnológica com relação ao punhado de empresas

que dominam essa tecnologia e isso gira uma gera uma situação eh eh de um novo tipo né de imperialismo e de colonialismo então que nós precisamos observar porque nós precisamos ser eh produtores dessa tecnologia e não apenas consumidores justamente para que a gente possa ter essa diversidade refletida e isso requer um conjunto de políticas públicas que parta do estado brasileiro né o ministério da Ciência e Tecnologia E inovação tem procurado eh debater tem procurado não está discutindo desde o final do ano passado a revisão da sua estratégia Brasileira de inteligência artificial Que também está eh

imerso agora na finalização já numa etapa final da elaboração de um plano brasileiro de inteligência artificial para olhar eh áreas de vocação aonde a gente possa ter eh uma perspectiva de impacto de curto médio e longo prazo porque a inteligência Artificial ela é transversal ela pode ser aplicada em todas as áreas ela é pervasiva mas nós precisamos ter focos e objetivos para olhar como essa tecnologia pode ajudar a solucionar eh eh situações bem concretas do povo brasileiro e a gente precisa compreender isso como um processo né nós já temos uma dependência tecnológica não é apenas

na Inteligência Artificial né a nossa dependência ela é fruto de anos e anos de um país que foi colonizado que não Teve uma elite que preocupada em desenvolver soberanamente eh o país então a lógica da dependência ela perpassa todas as áreas né da nossa economia então portanto é Um Desafio gigantesco mas que a gente precisa eh começar a trilhar para que a gente possa num futuro não muito distante poder ter essa conversa de novo numa outra situação que provavelmente vai trazer eh novos desafios novos problemas né mas a gente Pelo menos já vai estar preparado

Para enfrentar esses desafios e endereçar esses problemas que vão surgindo com o uso da tecnologias que estão colocados e que a gente também não tem como ficar numa situação de proibição do uso dessas tecnologias ou de negação da tecnologia mas sim de compreender Qual a melhor forma de aplicá-la onde aplicá-la Quem deve aplicá-la e como a gente capacita a nossa população para fazer o uso eh benéfico a partir eh dos interesses Públicos que nós temos para Essas tecnologias eu queria agradecer a oportunidade de est aqui me desculpar com o professor Virgílio com a Patrícia com

todo mundo que tá assistindo Mas de fato eu preciso eh me ausentar agora obrigada pelo convite Helen mais uma vez e ficamos à disposição muito obrigada Renata Obrigado Renata vou passar pro professor Virgílio nós temos uma pergunta Eh que diz muito interessante a iniciativa de vocês entendo que abre caminhos para outras as Universidades públicas gostaria de saber como percebe que tem sido até então a receptividade do corpo docente às ideias sendo propostas na FMG Obrigada Helena d méo eh obrigado pela pergunta Helena eh ainda não eu acho que nós estamos no início de um processo

de implantação dessas dessas regras dessas normas né que é e eh e é é a aprovação pelos Órgãos da Universidade então a essa essa proposta foi feita à Reitoria a Reitoria encaminhou pro conselho Universitário e posteriormente pro pro conselho de ensino e pesquisa né da universidade e Em ambos os conselhos a aceitação foi foi Ampla eh eh eh eh E aparentemente eh eh eh a disposição de implementar essas regras então eu creio que agora a partir de agora em que essa Os Dois conselhos discutiram essas regras a universidade vai então Eh progressivamente usar isso No

no como como eh forma de eh eh tornar o uso da Inteligência Artificial positivo pro pra universidade pra sociedade e no contexto Brasileiro né de novo eh eh as regras mostram que é importante que não haja uma restrição ao uso disso porém que essa esse uso das tecnologias de a seja fez de uma maneira clara transparente e e e e e e e que se mostre eh eh eh qual o papel desse dessas Tecnologias tanto no no no na na aprendizagem nos processos de avaliação então é um processo que nós estamos conversando eu creio que

o resultado vai ser positivo a universidade caminha nessa direção eu acho que outro passo importante que vai ter e que coincide com com a fala da tanto da Renata quanto da professora Patrícia que é a necessidade agora de letramento eh eh em ia né não é só digital em ia do corpo docente do do corpo técnico da Universidade então é nessa direção nós vamos indo tá acho que o que há de positivo é que nós temos uma direção a seguir os resultados são esperados serem positivos Obrigada Professor Virgílio eh tem uma segunda pergunta da professora

Lucilene cu eh Olá professor gostaria de perguntar se podemos receber seu material e informar que estamos com um grupo de bolsistas de iniciação científica na Escola de Comunicações e Artes da USP realizando uma pesquisa como amostra bem pequena durante dois semestres para analisar o uso de de durante o processo de ensino aprendizagem e temos já alguns resultados bem interessantes obrigada posso sim Professor Lucilene você tem meu meu e-mail link os meus materiais e relativos ao que eu falei hoje Pode sim fica ser um prazer bom eh Professor Virgílio das questões que foram colocadas aqui Hoje

eh me parece talvez interessante comentar eh pena que a Renata teve que sair mas quando se pensa numa estratégia Brasileira de Inteligência Artificial eh se pensa em Como que o Brasil pode competir com ah com o exterior né de ter grandes infraestruturas o que vai necessitar de bilhões de investimentos e pelo que a gente discutiu agora nessa tarde eh talvez eh esses investimentos precisam ser feitos numa parte de estrutura eh social de Educação de Não Exatamente concorrer nas infraestruturas eh nas infraestruturas eh enfim né de ter a a nuvem de ter tudo isso mas de

de ter todo esse programa de aproximação eh de aproximação desses públicos porque se esses públicos que que são sub representados eh em todos os contextos positivos e são super representados em contextos negativos né quando a professora Patrícia fala da né de muitas pessoas negras na no no no sistema prisional Então as pessoas são eh Super representadas em contextos negativos então pra gente mudar essa essa situação eh como que como que o senhor vê essa questão do investimento né da Estratégia brasileira para inteligência artificial em termos de políticas públicas eh como que a gente pode incluir

as pessoas e e promover mais ações educativas do que realmente ou do que talvez tentar Concorrer com com infraestruturas que a gente não vai ter como né porque eh é uma é uma é um investimento Mega né Essa seria a pergunta assim qual seria a prioridade da Estratégia Brasileira de Inteligência Artificial segundo o seu o seu entendimento eh Elen obrigado pela pergunta eu não tenho talvez condições de responder porque eu não conheço a a estratégia brasilea de Inteligência Artificial que vem sendo elaborada Então eu acho que não teria muito como Como Contribuir agora existe um

documento que é um documento preparado pela Academia Brasileira de ciências chamado eh recomendações para o avanço da inteligência artificial no Brasil e essas recomendações foram feitas por um conjunto de pesquisadores membros da academia e também membros externos à academia é um documento público Tá disponível no site da Academia Brasileira de ciências é um documento que trata não só da das dificuldades Brasileiras mas mostra a importância por exemplo de se investir em pesquisa e desenvolvimento nas diversas áreas para que o Brasil tenha um conhecimento mais amplo de de inteligência artificial para que tenha pesquisadores Engenheiros desenvolvedores

capazes de desenvolver esses produtos então de novo ali há uma série de recomendações práticas nessa direção então eu recomendo eh eh eh eh analisar essas questões porque feito você falou o nível de investimento Supera muito eh o que a gente vê na realidade em termos dos investimentos do governo brasileiro em Ciência e Tecnologia e especialmente em ia Obrigada Uma Última Pergunta antes da de encerrarmos eh dentro esse plano que que foi colocado para o FMG que vocês elaboraram né esse plano de recomendações eh tem eh evitar o uso de sistemas não transparentes né então por

exemplo existe a possibilidade de usar Reconhecimento facial né na no nas instituições de ensino eh e todas eh reconhecimento facial Eh esses softwares terceirizados né que seria reconhecimento facial instituições de ensino seria talvez uso de sistema inteligência de inteligência artificial em R para definir que professores contratar ou coisas desse tipo né e e talvez com o uso de reconhecimento facial ter uma Identificação de Emoções né para talvez identificar o estado mental dos alunos e tal Então como que como que essas recomendações como que as Universidades conseguiriam eh tratar isso de modo que esse sistema é

fechado então nós não não podemos utilizar Como que como que você vê essa questão eh o que eu mostrei foi um um conjunto de de regras pro uso de a no contexto da UFMG então não saberia lhe dizer sobre o Uso em outras universidades no caso da UFMG na no âmbito da administração da Universidade a recomendação é que não se use eh eh pacotes tecnológicos de ia que não se tem o conhecimento que sejam fechados eh a a a a observância a esse a essa sugestão eh vai estar a cargo também de uma comissão de

governança Então esse é um processo dentro da universidade para ser estabelecido uma comissão permanente de governança que vai verificar essas regras então Eh Especificamente esse caso de você falou ah usar software de de cono facial se tiver no contexto da administração isso vai então ser verificado se não eh por essa comissão de governança então é importante ter regras e ter uma comissão de governança que faça essas regras valerem Obrigado Professor Vigílio teria um comentário final não eu agradeço a participação muito interessante os pontos levantados pel Renata mielli que que que e eh eh eh complementam

o o a a nossa visão do caso de Universidade pois ela trata do ensino eh Fundamental e Médio E também pelas observações importantes da professora Patrícia para que a questão racial seja olhada com Devid devido cuidado e e requer atenção que o país tem que ter para essa questão então muito obrigada eh pela participação Obrigada pelos que estão assistindo e de novo essa essa é uma é Um é um movimento para aproximar para aproximar os debates de exclusão né relacionados à decolonialidade dos sistemas de Inteligência Artificial eh agradeço a toda a equipe do ia agradeço

a Cláudia que deu todo o suporte o Jorge e até a próxima muito obrigado obrigado