Primeiro Seminário de IA Responsável da Cátedra Oscar Sala - Primeiro Dia

Bom dia a todos eh agradeço a participação de todos no primeiro seminário da cátedra Oscar sala sobre inteligência artificial responsável vamos chamar o professor Virgílio Almeida que é o catedrático Professor emérito do departamento de ciência da computação da UFMG e pesquisador umaa do cnp graduou-se em engenharia elétrica pela UFMG obteve título de mestre em Ciência Da Computação pela PUC do Rio de Janeiro e de doutor em computação pela Universidade de Vanderbilt realizou pesquisa de pós-doutorado na universidade de Boston é professor associado do Beckman Klein para internet e sociedade da Harvard University Professor Virgílio por favor

[Aplausos] bem eh Bom dia a todas e todos aqui né Muito obrigado pela presença né E os que estão fisicamente aqui né Presencialmente os que estão online né Eu queria inicialmente agradecer a Helen a organização desse desse seminário que na verdade e é um resultado desse tempo todo que a Helen vem eh eh coordenando o grupo de pesquisadores né que eh eh eh tem sido extremamente produtivo né eu tenho falado às vezes que a questão por exemplo da cátedra né da da cátedra aqui no iaa eh o resultado São apenas os as pesquisas mas a

ampliar o debate qualificado sobre temas de relevância eu Acho que é exatamente isso que esse grupo tem conseguido aqui sobre a liderança da da da Helen com a participação do Lucas que também é é é é a Helen é pós-doutorado e o Lucas tá terminando o o o doutorado dele em filosofia né então tem uma equipe que muito muito boa que resolve essas coisas né eu fico fico aqui admirando os bons resultados que estão sendo conseguidos né então eu eu gostaria de de de de eh fazer uma breve apresentação sobre a Importância dessa discussão sobre

e a responsável at queria colocar isso no contexto é não eh eh eu eu antes de colocar os slides né Eu gostaria de dizer a a pesquisa multidisciplinar é muito importante mas ela tem vários e vamos dizer desafios né academicamente Ela é muito importante mas às vezes seguir essa trilha multidisciplinar não é muito simples por quê primeiro porque os departamentos tem uma uma tradição e um Foco disciplinar segundo porque as agências de avaliação acabam sendo mais disciplin Ares do que multidisciplinares as regras eh de avaliação né e e e Porque é importante que eh eh

eh eh esse trabalho multidisciplinar tenha sempre também um um um um viés acadêmico né baseado na disciplina em alguma disciplina do do dos participantes desse grupo né e eu acho que isso tem sido eh conseguido aqui por por por vocês né eu tenho lido os artigos eh publicados na Eh na no jornal da USP né O que mostra que os resultados daqui estão sendo e e eh eh estão sendo tornados visíveis para pro pro ambiente acadêmico aqui da USP né Com resultados palpáveis obrigado tá bom então eu vou falar um pouquinho sobre eh é muito

rapidamente são uns 10 uns 10 a 15 minutos sobre Esse seminário E por que ele importa Tá mas antes de começar com o tema propriamente dito eu gosto muito dessa Eh esse pequeno coat de um professor de Harvard chamado Edward Wilson que é que foi um biólogo de muita importância e eh eh pesquisou inclusive no Brasil muito a Amazônia nos anos 80 né e e e é é é Talvez uma das um dos luminares que passou por rard Dentre os vários né e ele tem uma citação muito interessante que nos coloca em no contexto desta

as discussões multidisciplinares aqui do grupo de pesquisa da cátedra né e também dos Desafios né Ele diz o seguinte nós temos que evoluir para uma ordem mundial melhor tá que a atual que nós temos isso foi feito foi eh eh eh fez parte de um discurso dele em 2011 né então ele chama Essa ordem atual de civilização Star Wars tá e as características que ele dá seguinte essa civilização Star Wars tem emoções da Idade da Pedra instituições medievais uma tecnologia dos Deuses tá E e a pergunta é no caso das Instituições Principalmente as religiosas né

Eh e ideológicas há um um conflito constante a gente tem observado isso o tempo todo né E no caso das tecnologias essa que ele chama de Tecnologia dos Deuses né Nós estamos vendo coisas que são que estão quase fora da nossa imaginação ou do nosso controle Então é isso mostra um pouquinho dos Desafios que que que é essa evolução tecnológica acelerada eh tem trazido né E se esses são os Desafios a pergunta natural seria e quais são os caminhos eh eh para se construir o que ele chama uma nova ordem mundial né E se a

gente extrapolar um pouquinho o que a gente vê hoje na verdade não é futuro mais é parte do que acontece hoje em dia eu diria que nós vivemos numa sociedade híbrida onde os humanos devem interagir com com agentes artificiais tá seguir decisões automáticas que são feitas por esses Entes especificamente os algoritmos né Eh e desenvolver novas formas de socialização Acabei esquecendo de mostrar aqui um gráfico interessante saiu recentemente eh como os casais se conhecem tá não sei se vocês viram isso recentemente é impressionante né E foi a pesquisa o artigo foi feito com base em

pesquisa nos Estados Unidos e antigamente as pessoas se conheciam na universidade ou com os parentes ou na na vizinhança onde vivia e agora a a curva É quase Total online As outras são são mínimas em comparação Então essas são mudanças que nós estamos vendo né Então essa seria já não seria mais uma uma uma visão de futuro tá e o que a gente vê é uma aceleração tecnológica os resultados do os anúncios do prêmio do de prêmio Nobel esse ano mostram essa aceleração química tem dois professores formados em em em Ciência da Computação um um

da do Deep Mind e outro da Universidade de Washington física Tem dois professores também de computação né criaram os modelos básicos da da do aprendizado de máquina né Eh então física e química e os economistas que foram anunciado ontem né a semog glu os as as últimas grandes publicações dele por exemplo o livro Poder e Progresso são são tocam muito nas questões de Inteligência Artificial que ele tem trabalhado então a gente vê como que Essa evolução é rápida e aqui tá refletido nesse também nesse nesse gráfico da Nature eh sobre a proporção de artigos que

tem Inteligência Artificial ou no no título ou no abstract né e aqui são os de ciência da computação essa curva quase que assintótica e todas as outras áreas ciências físicas ciências da vida Ciências Sociais saúde medicina todas as outras então isso mostra essa aceleração extremamente rápida da do avanço Tecnológico a gente vê também nesse pequeno gráfico aqui né Eh a o reconhecimento de escrita à mão tá os estudos começaram antes dos anos 2000 para para chegar ao padrão humano num benchmark foram eh quase 20 anos tá a a compreensão daing de de linguagem recentemente através

dos modelos de ag generativa e menos de 2 anos ultrapassam a comparação com os humanos Então essa questão é o que a realidade mostra Mas tem várias consequências esse rápido essa rápida aceleração das tecnologias conse pois eh a gente vê e ver globalmente também que as sociedades não não estavam Preparadas para isso tá e dois pontos que eu chamo atenção primeiro não não tem jeito de viver fora das tecnologias e é ludismo e qualquer Outra ação são praticamente bom são ações individuais mas não tem jeito porque todos os serviços as interações ocorrem através dessas tecnologias

mas tem melhores formas melhores maneiras de organizar Essa sociedade de modo que os valores humanos valores valores Democráticos sejam preservados né E por exemplo né Eh Equidade eh inclusão eh eh eh eh e uma visão anticolonial empoderamento das Comunidades e e e do meio ambiente então tem formas de e e Criar mecanismos que protejam contra essa esse avanço das tecnologias emergentes principalmente EA né mas eu queria mostrar três casos aqui que na verdade não são não são as tecnologias em si que causam grande parte das disfunções que a gente vê então por exemplo a fotografia

dessa moça né que ela foi presa pela pela polícia e e e eh eh de de Detroit né acusando de ter roubado um carro e feito Roubos e e ela foi reconhecida por uma por por por algoritmo por eh tecnologia de reconhecimento facial e e elas ela foi presa quando estava buscando os filhos na escola ela posteriormente processou a polícia de Detroit mas o ponto interessante quer dizer tem vários casos gente ver desse desses usos indevidos da dos dos do das tecnologias de reconhecimento facial mas o caso interessante que me chama atenção que eu gostaria

de também que vocês olhassem é Essa afirmação e James White ele é o chefe de polícia e ele então e eh justifica ou atribui essa questão não aos algoritmos a um erro humano tá eu acho que esse é um ponto importante eh ele diz que os os policiais tá eh eh basearam-se muito nessa identificação facial Sem questionar outros aspectos da questão então eu chamo atenção para esse eh ainda fala assim foi o julgamento deles que levou à falha e não os Aspectos de de reconhecimento facial Então esse avanço tecnológico essa percepção social muito grande de

que esses avanços é não erram de que esses avanços são e são quase Como deuses né que definem as questões isso tem que ser revisto e tem que fazer Parte dessas discussões um outro exemplo também recente desse caso de de que na verdade não são apenas os algoritmos ou as tecnologias que levam a essa a esses erros tremendos né nesse Caso aqui o algoritmo que tinha e e e e consequências fatais por uma para vítimas de violência de de violência doméstica no no no no na Espanha né E e essa senhora que remit eh eh

eh prestou uma queixa a polícia Teve teve então seguiu o processo para determinar se ela estava em situação de risco tá eh esse processo eh coincid e e e e era feito através uma série de perguntas de de sim ou não a respeito da situação dela Dessa senhora né e e e Como que que que que arma foi usada para essa violência doméstica eh problemas econômicos do casal se o agressor eh tinha tinha mostrado já esse comportamento eh eh eh e violento né isso tudo então passou a fazer parte desse de de como dados de

entrada desse algoritmo que diz o seguinte a esse algoritmo produziu uma um resultado que a eh ela considerava a situação dela de baixo de baixo risco né os policiais eh aceitaram a decisão Do do software do algoritmo ela voltou semanas mais tarde ela foi assassinada por esse por esse agressor que era havia sido o companheiro dela então de novo esse é o segundo caso em que a questão Então não é apenas a a a as o uso dessas tecnologias Mas o comportamento humano em relação a elas tá então esse é o segundo caso o outro

terceiro caso que eu que eu chamo atenção é esse aqui o estado de nevada perguntou a a inteligência artificial se fosse um ser Né perguntou a inteligência artificial eh quais estudantes precisavam de ajuda ajuda Econômica e a resposta causou uma uma queixa danada porque esse esse sistema deles baseado em tecnologia de de Inteligência Artificial cortou o número de de estudantes em risco situações de risco por uma proporção de 200.000 estudantes tá levando a várias questões éticas de novo o ponto que eu chamo atenção é o que tá aqui embaixo São Apas o o sistema de

a mas os humanos que confiaram nesse resultado sem uma uma avaliação mais mais concreta né Então na verdade não são só os esse avanço tecnológico que tem que ser e considerado culpado mas a relação deles com com a burocracia com o serviços com com a estrutura de poder né então esses três exemplos mostram que de novo a tecnologia evoluiu muito rápido a sociedade ainda não tem ou ainda não está preparada para Eh usar desses recursos tá e e e e as coisas vão acontecendo de uma maneira que a gente não eh não pode imaginar mais

vamos dizer mais sem sentido possível né Essas discussões saíram nos jornais dos Estados Unidos poucos dias que no Vale do Silício estava debatendo se as armas de a as armas mas baseadas em Inteligência Artificial deveriam ter a a a a o poder ou a capacidade de decidir matar tá de novo então não são só as tecnologias que Trazem as ameaças é o uso dessas tecnologias pela sociedade essa é uma questão Então ela foge a gente pensar essa discussão em termos unicamente disciplinares da tecnologia em si seja da Computação seja da engenharia ela tem que abarcar

as as Visões de Ciências Sociais de humanidades e de outras áreas tá e ou seja isso tudo que nós estamos falando representa que um mundo que está em construção e quais são os Instrumentos de governança para isso tá Quais são os instrumentos para controlar então é a a o que vocês apresentarão aqui hoje né fazem parte dessa construção desse dos mecanismos de governança e de compreensão do avanço dessas tecnologias tá e as e as Universidades já estão respondendo sobre isso também principalmente fora daqui eu acho que a USP dá um ótimo exemplo aqui com a

cátedra Oscar sala e com as discussões Multidisciplinares Nesse contexto Nesse artigo saiu no no Talvez o principal Journal de computação chamado communication of the ACM e fala o seguinte inteligência artificial responsabilidade social e os novos papéis que as Universidades têm que têm que assumir T que executar tá então são como algumas perguntas associadas a esse artigo né aqui foi um grupo de pesquisadores americanos né como que as Universidades podem efetivamente educar Estudantes profissionais técnicos e o público ou a sociedade para considerar as responsabilidades eh no projeto e e uso dos dessas tecnologias de A então

aqueles três exemplos que eu mostrei a questão não foi apenas que as tecnologias deram respostas indevidas mas o uso pela pela sociedade dessas pelas pelos humanos responsáveis por isso Outro ponto né então aqui é no que se refere ao ensino no que se refere à pesquisa como que as Universidades como Pesquisadores da universidade e e da indústria podem colaborar eh eh eh no no no no debate ou no desenvolvimento de pesquisas sobre ia de uma maneira socialmente responsável que eu acho que é parte também da temática que esse grupo eh vem vem desenvolvendo né como

que as como que as as Universidades podem colaborar com instituições externas sejam eh ONGs sejam e eh seja governo seja empresas Então como como que as Universidades podem eh ter parcerias com organizações externas para endereçar as questões de a por exemplo discriminação exclusão Como que como que isso pode fazer parte das discussões de pesquisa das discussões de projeto desses eh dessas tecnologias né com soluções que tenham que venham de uma pesquisa eh orientada também pro fundamentos éos e finalmente como que as Universidades podem contribuir paraa governança de de a pro uso dele na sociedade então

As Universidades têm um papel muito grande Nessas questões né e eu acho que a USP e eh tem né certamente vários grupos mas um deles que que atua nisso é o grupo de pesquisadores que contribui aqui para essa discussão na cátedra eh Oscar sala tá ainda também essa essa essa essa discussão torna-se ainda mais mais Ampla nos Estados Unidos uma um um debate recente eh em Stanford né um um um dos pesquisadores do do diretor desse Stanford institute for ai né Ele trabalha na trata da questão de que tem que haver um código de conduta

para os pesquisas para o desenvolvimento os desenvolvedores desses dessas aplicações que podem ser usadas indevidamente feita a gente viu nos três exemplos tem que ter essa consciência então de novo não são a apenas eh eh eh a a os profissionais da área de computação de engenharia mas isso tem que isso tem que eh eh envolver eh conhecimento de Múltiplas áreas né então ele ainda brinca aqui com com Nesse artigo né que e a ciência de a é como um um um um um adolescente né ainda tá montando as coisas mas não tem ainda eh eh

eh eh não considera ainda os os impactos amplos dessa dessa tecnologia e f a gente tem visto o uso delas é muito mais perigoso do que do que apenas o desenvolvimento dessas tecnologias né ainda do ponto de vista dessa discussão americana né sai um um editorial na revista Science né é Muito interessante foi ano passado mas eu guardei esses dois pontos aqui os anos de de pesquisa sociotécnica mostram que as tecnologias eh avançadas tecnologias digitais avançadas eh foram desenvolveram sem serem verificadas adequadamente tá eh eh eh e e as custas de de de de de

de eh eh eh eh eh de causar consequências a aos direitos humanos a justiça social e a democracia e o que eles propõem ela foi Ela é professora de ciências políticas né de Pron e foi a principal eh assessora do presidente biden no primeiro primira parte do do mandato dele da formulação da política americana de ia tá E ele é um professor da Austrália e E aí ela diz eles dizem o seguinte nesse editorial da revista Science tornar o avanço de Daia seguro significa compreender e mitigar os riscos eh eh para para os valores fundamentais

e e e ressalta aqui uma um enfoque sociotécnico enfatiza que não que nenhum grupo de especialistas Tá eh deve unilateralmente decidir quais são os riscos que que devem ser verificados e quais são os danos que podem ocorrer tá eh e quais são os valores que a i deve ser Então essa é uma discussão claramente multidisciplinar que que eu acho que aqui hoje eh vai ser a tônica dessa conversa né e finalmente a gente chega ao nosso ponto é que a a a a ia responsável né requer um espectro de capacidades que que que não são

Tipicamente cobertas pela pelos atuais eh eh eh eh eh cursos disciplinas de a né eh não deve ser tratada puramente como uma disciplina de Ciência Tecnologia Engenharia e matemática sistema né mas sim como uma uma uma disciplina transdisciplinar que requer um conhecimento técnico e e e e e e insights das áreas de Ciências Sociais e humanidades né e os cursos de I deveriam trazer de Uma maneira mais então nós estamos trabalhando nessa questão do do diferentes caminhos para pro para para I responsável tem a questão do trabalho multidisciplinar e na e na na disciplina de

ciência da computação tem que buscar novos novas formas de colaborar com esse trabalho multidisciplinar então por exemplo novos papéis paraa computação é a computação como detectora de aspectos sociais a computação como diagnóstico de sistemas estamos falando de sistemas Complexos opacos difíceis de entender que requerem eh o conhecimento da computacional Computação como uma maneira de refutar argumentos por exemplo a gente vê e na imprensa na mídia e eh anúcios olha a a a meta por exemplo e é argumenta que retirou a a a certos posts eh de ódio de de de de eh eh eh estímulo

ao ao a polarização e fala ela fez isso E aí pouco tempo depois e Estudos mostram que isso não aconteceu refutam aquele Argumento a gente vê isso o tempo todo acontecendo e computação como formalizador desse sistemas tá E esse aqui é o último slide slide Então a gente tem por que que é importante a pesquisa de a no sul Global nos países em desenvolvimento tá eu acho que esses são e Aqui nós temos os trabalhos desse grupo que hoje se reúne aqui e amanhã também tem uma parte Então por que por que que a academia

em especial a academia no no no sul Global deve Estudar pesquisar ensinar e discutir primeiro porque tem muitos graus de incerteza nessa nessa questão da ia o que que ela vai ser aonde que ela vai vai vai atuar como vai ser usada eh eh a velocidade do desenvolvimento tecnológico segundo porque tem um um impacto potencial na ciência na economia no serviço na política os três prêmios Nobel desse ano mostram que esses impactos são muito maiores que a gente podia imaginar química física economia Todos os pesquisadores ligados ou trabalhando com questões eh de ia a contribuição

potencial eh eh da ia para os desafios globais como desigualdade mudança climática segurança alimentar esse na verdade faz parte inclusive do documento de de ciência pro G20 que o Brasil formulou eh o potencial Impacto a gente ainda não não sabe avaliar Qual que é o impacto disso nos serviços públicos como é que vai ser ser ainda mais num país com tantas desigualdades e E tantos eh despreparos da sociedade se se o serviço is o público avança nessa nessa questão Qual que é o impacto disso os desafios multidisciplinares nós falamos a necessidade também de conhecimento tá

para evitar a demonização ou a idolatria disso não são os extremos nós temos que precisamos de conhecimento para essa discussão eu falei no início eu acho que um dos um dos frutos importantes desse grupo aqui na cátedra EA é aumentar o debate Qualificado sobre essas questões acho que esse é um papel da Universidade muito importante e o o o a o compromisso de treinar a força de trabalho nessas tecnologias então era isso que eu queria colocar para vocês para situar o debate de hoje hoje ao longo do dia né E mais uma vez bem-vinda a

todas e todos aqui é um prazer e vou passar para el que é a nossa Mestre de Cerimônia né [Aplausos] eh obrigado Professor Virgílio Professor Virgílio nos surpreendeu aqui com essa conferência hoje e eu sei que já deve ter um monte de gente querendo fazer um monte de pergunta né mas vamos começar agora porque essas questões elas vão aparecer eh no a gente tem mesas temáticas durante o dia hoje e amanhã eu eu vou chamar a Maria Cristina Dias Alves que vai ser a mediadora eu vou vou te apresentar já porque a a Cris vai

apresentar as pessoas da mesa e o convidado especial a Maria Cristina Dias Alves é publicitária e Doutora em ciências de comunicação pela ECA USP onde também realizou pós-doutorado e ministra aulas como docente colaboradora no curso de graduação em publicidade e propaganda e nos cursos de especialização em cultura material e consumo e de estética e gestão de moda então Eh bem-vinda e boa mesa para vocês o o Celso vai me acompanhar na aqui da mesa tudo Bem Celso por favor bom dia bom dia a todas e todos vamos começar é eu tô muito feliz de tá

aqui eh eu fiz um roteirinho para não me perder no tempo vocês estão me ouvindo bem eh eu tô muito feliz ainda mais que hoje é dia do professor e da professora né gente então eu achei que foi muito bom estar aqui também nesse dia fico muito feliz Eh de conhecer presencialmente algumas pessoas que eu só conhecia pelas telas inclusive o meu colega de grupo aqui o Celso que é é faz parte do nosso grupo a Helen né agradecer também a ela pela organização do evento por tudo que ela possibilita aqui pra gente eu vou

falar um pouquinho né eu sou Maria Cristina Dias Alves eu sou do GT a gente tem vários GTS aqui nesse na cátedra o nosso GT e e trabalho né e é composto pelo Celso Malaquias que tá Aqui o Atau Alfa blanch que tá online A Caroline coelho e a Camila Cintra os três estão em vários lugares do mundo né são pessoas muito queridas né que conheci nesse último ano são formações diversas e essa diversidade é que nos ajuda a complementar os olhares da nossa pesquisa eh o nosso GT que eu vou tentar sintetizar um pouquinho

aqui eh nós discutimos as dissonâncias né do resultantes do uso da EA no mundo do trabalho eh que fragmentam procedimentos As precárias já precárias condições laborais principalmente no sul Global né com a substituição ou mesmo extinção de mão de obra o FMI dá alguns dados com um valor de 60 a 40% dependendo da localização do mundo que essa substituição vai ocorrer né e a fragilizar as relações coletivas entre trabalhadores e trabalhadores com enfraquecimento de Sindicatos por exemplo que é um dos olhares pelos quais a gente trabalha a gente ainda aborda no Nosso grupo Os vieses

resultantes das mediações algorítmicas que incorrem em discriminações como Professor acabou de falar né e preconceitos tanto nas contratações de profissionais né com para para tentar mitigar os possíveis efeitos eh como também nas demissões e nas promoções por conta dessas questões de avaliação de desempenho eh mediada por algoritmo por exemplo né e as questões de cor raça etnia gênero idade que também tem a mediação algorítmica Principalmente no recrutamento né inclusive origem socioeconômica formação escolar e etc né são alguns vieses que aparecem a primeira parte da nossa pesquisa que faz parte do livro da cátedra que é

um livro coletivo eh o título do nosso Capítulo é inteligência artificial e o mundo do trabalho inquietações implicações e recomendações nele a gente faz um levantamento tanto bibliográfico como documental das principais questões apresentadas no Mundo do Trabalho em alguns países do mundo no no sul Global eh no no Parlamento europeu nos Estados Unidos Por exemplo e que também apontam né o decré como problemas né o decréscimo da participação de mão de obra devido à substituição de sistemas eh o desemprego tecnológico e a gestão algorítmica eh que nos nos mostra a urgência de uma regulamentação do

uso da ia no mundo do trabalho aqui especificamente do nosso grupo né Por exemplo o Parlamento Europeu na na nos estudos sobre a regulação da ia aponta a questão do trabalho como de altíssimo risco eh tem vários níveis de risco e o do trabalho é o de altíssimo risco eh principalmente porque exatamente por esses aspectos que a gente já apontou aqui anteriormente né a gente nesse sentido realiza algumas recomendações para mitigar os impactos negativos e potencializar os impactos positivos né porque por exemplo a Organização Internacional do Trabalho Aponta a i a generativa como um um

aspecto postivo na auxiliando o processo de trabalho principalmente em países em desenvolvimento Então a gente tem avaliado os dois lados né tanto os positivos como os negativos né por isso a gente aponta a necessidade de observância as leis trabalhistas né que o enfraquecimento dos sindicatos pode prejudicar bastante isso e as diretrizes éticas como o professor apontou do uso da ia no ambiente de trabalho a gente Também realiza algumas publicações individuais que abordam as consequências da ção da ia nas atividades laborais a a possibilidade de participação de trabalhadores e trabalhadores na gestão da ia né a

partir de vários princípios que é o que o grupo estuda transparência né responsabilidade etc né explicabilidade Por exemplo a a Prefeitura de Nova York já instituiu algumas regras no caso de recrutamento por mediação de a a os candidatos e as Candidatas têm que saber quais são os critérios como a ia é utilizada e etc né então não tem acesso a essas informações o grupo ainda tá desenvolvendo outro trabalho exatamente sobre recrutamento mediado por ia que está em andamento desculpa e esse mê a gente vai dar início a uma pesquisa junto a centrais sindicais da América

Latina para investigar os desafios as necessidades e as oportunidades do movimento sindical em relação à Ascensão Da ia na região esse tema será apresentado logo depois do nosso palestrante pela Carol pela Caroline né depois o nosso grupo vai se se apresentar um pouquinho e agora finalmente a gente vai ouvir o nosso convidado o professor Dr Rafael groman que está no Canadá né está ali eh ele é da Universidade de Toronto e ele vai apresentar a palestra cadeias de produção de a da subjetividade de Trabalhadores de dados ou capitalismo Dependente é um tema que ele tem

desenvolvido recentemente só que antes eu vou apresentá-lo Rafael eh bem-vindo agradeço novamente por você tá aqui eh Ele é professor de estudos críticos de plataformas da Universidade de Toronto no Canadá eh coordenador do do laboratório dig Labor diretor das pesquisas Creative labors and Critical futures e work oned intersectional plataforms ele é fellow do queer and trans research da da Lab da Universidade De Toronto e pesquisador associado do weinbau Instituto da Alemanha ele também é editor chefe da revista plataform and Society Então bem-vindo Rafael a gente agradece muito por ter acerado o nosso convite queria combinar

com você alguns dos nossos tempos aqui a gente pensou em 30 40 minutos paraa sua fala né Depois a gente vai debater um pouco as principais pontos da sua apresentação e a gente vai seguida de perguntas né tanto presencial como online eu tenho uma uma colinha Aqui que a gente não vai aceitar quer dizer o iaa eh não utiliza o chat para perguntas Então quem tiver perguntas online Obrigada celsa e pode escrever pro iar responde @uspicaretas muito obrigada Rafael a palavra tá com você acho que você não vai usar apresentação né você vai usar falar

direto sem PPT Obrigada de novo Obrigada Celso pela parceria aqui presencial e obrigada para todo mundo que tá online gente obrigada o prazer tá Tá de volta USP sempre muito bom obrigado Cris pelo pelo convite sendo convite a todo o o grupo de a e e trabalho desse dessa cátedra Oscar sala é sempre bom estar no no no iaa também ainda que que online eh cumprimentar tanto a cátedra Oscar sala gostaria também de cumprimentar o professor René Mendes do Observatório do mundo do do trabalho que eu acho que esses dois dois grupos cátedras observatórios coloca

o ia eh na Frente de de muitas das da das coisas eu vou tentar falar um pouco mais rápido porque como tava a programação a próximamente às 10:30 eu tenho uma outra reunião em seguida então tenho que que saí exatamente às às às 10:30 eh cumprimentar Professor Virgílio também eh dizer que eh o o último Nobel de Física aqui da nossa universidade eh a gente teve uma reunião com ele semana passada logo após o o o jofer hinton logo depois da da do Anúncio do do do Nobel né e eu tô aqui faz um ano

e e 8 meses e e enfim minha informação toda por aí na USP né eh e e comparado aí eu tenho notado aqui um ambiente muito mais interdisciplinar e multidisciplinar eh inclusive do ponto de vista das políticas científicas ou seja de incentivar que os maiores financiamentos que os pesquisas vão exatamente para pesquisas que se coloquem exatamente com no mínimo duas disciplinas de domínios Diferentes né o humanas exatas ou biológicas e tal e o incentivo desde o ponto de vista institucional acho que isso é muito muito importante eh eu separei seis pontos pra gente conversar aqui

eh dentro desse desse título amplo que eu coloquei e e pensar alguns desafios que a gente tem em relação a Iá no mundo do trabalho a partir do do do ponto de vista brasileiro um pouco uma revisão do que a própria literatura tem apontado e quais alguns pontos cegos e Onde eu eu considero que a gente pode avançar pros próximos pros próximos anos o primeiro ponto que eu queria trazer desses seis é que historicamente quando se fala de introdução de novas tecnologias no ambiente de de trabalho tem a meu ver um hiperfoco no na substituição

seja se seremos substituídos pelos robôs se seremos substituídos pelas máquinas a questão do do do displacement e e para mim essa é claro que é sempre algo importante de o Quanto Eh quantos postos de de de de trabalho eh sumirão eh a partir de implementação de inteligência artificial no ambiente de de trabalho seja Professor seja eh músico seja o que for mas para mim existe um um um um um foco demasiado né na na questão do do do do displacement e isso para mim a gente precisa olhar o um uma ampla variedade não só do

que se pensa como substituição Mas mesmo o que na na própria literatura clássica do de De processo de de trabalho é materializada no Harry braverman há 50 anos atrás eh que é a questão da desqualificação ou do do des skillen que é o que a gente tem eh visto com mais frequência inclusive mais do do do que a própria substituição ou seja qual é eh o papel do ser humano das pessoas trabalhadoras trabalhando com inteligência artificial no mundo do trabalho qual como isso impacta o o seu processo de de trabalho mais do que um Olhar

somente para substituição e a gente é interessante a gente olhar esse deskilling também numa perspectiva histórica porque senão a gente acaba considerando que muitas das vezes é a própria artificial que está causando esse deskin quando se trata de um processo mais gradual mais residual histórico eh a primeira profissão que eu estudei eh quando eu tava aí na eca eh foi o mundo do trabalho do jornalistas já faz 15 anos 14 anos eh e naquela Época a gente já falava da centralidade dos profissionais freelancers a gente já falava de uma série de coisas que depois se

intensificaram ou se materializaram como o sumiço das redações Cris fez o doutorado dela sobre também envolvendo o mundo do do do trabalho dos dos publicitários Então tinha uma série de elementos ali de deskilling que elas se intensificam agora por exemplo quando se falar Será que o jornalista vai ser substituído por umá foi Claro para dar o Placar do jogo hoje Brasil e peru vai vai ter mesmo eh e isso mas isso a própria linguagem jornalística Por Exemplo foi se acostumando ao longo dos tempos a se assemelhar a um robô quando ele tenta adaptar cada vez

mais a a linguagem jornalística aos padrões se porque aquilo é o que vai ser melhor lido pela máquina ou seja o próprio jornalista ajudando alimentar esse ciclo isso não nasceu agora não nasceu com a implementação da I generativa Então se a Gente olha isso um pouco mais eh eh de longo prazo a gente consegue também pensar o papel de cada tecnologia no ambiente de trabalho o que que realmente pode ser específico desse momento Então esse primeiro ponto também é um convite não só a a evitar o hiperfoco na na substituição mas também um convite a

histor desses desses processos né e e no próprio processo eh de trabalho o segundo ponto que eu queria colocar é como o mundo do Trabalho tem sido representado nas atuais políticas de a no no Brasil no mês passado a gente lançou o o ai policy observatory for the World of work que é uma parceria da oit com a Universidade de essex apoiada por Toronto por Oxford uma série a USP também a equipe brasileira coordenada por mim pela professora Roselie Fígaro da ECA USP Professor edemilson Paraná da lut University na Finlândia e o Jonas Valente da

Universidade de Oxford eh a Coordenadora geral professora FIB Moore da Universidade de de de essec e em em alguns algumas jurisdições União Europeia Brasil Canadá Índia e China a gente fez uma varredura no que tem significado as políticas de ar nesses países e o o o impacto disso para o mundo do do Trabalho em breve a gente vai lançar em parceria com ait o Tracker com todos os links de todas essas essas políticas e como impacta o mundo do do do do trabalho a gente tem colocado isso Em três categorias regulação desenvolvimento e governança né

como três eh Pilar disso aí depois eu eu vou passar posso passar pro Ataualpa Ataualpa para Cris o link desse esse relatório eh para que vocês possam também olhar até porque ele é material vivo né mas alguns spoilers do do que a gente viu é Como que o mundo do trabalho ainda tá sub representado nas políticas de a no no no Brasil entendendo como isso desde os Projetos de lei até o plano brasileiro de inteligência artificial até porque a gente sabe como está o o o o atual governo eh como muitas das vezes essas coisas

são feitas a toque de caixa por exemplo o grupo de trabalho e a trabalho no Ministério do Trabalho só foi lançado depois do lançamento do plano brasileiro de Inteligência Artificial Inclusive eu tive lá na na na na primeira reunião eh e me espantou o o fato das pessoas não Estarem por dentro de tudo isso que a gente tá discutindo agora espero que esteja um Pou mais eh então tem uma invisibilidade do mundo do do do trabalho nessas políticas de a que é preciso que a gente também atue de maneira ainda mais articulada e mais intensa

de incidência eh do que que a gente tem produzido para eh para a produção de políticas públicas porque o que a gente tem eh no Brasil de massa crítica E aí olhando agora de um Olhar também externo eh é uma coisa impressionante assim eh eh eh as pessoas aqui no Canadá perguntam como que a gente consegue se mobilizar tanto para fazer as coisas então acho que que que o Brasil pode ser protagonista em leis e inclusive no papel do próprio plano brasileiro de inteligência artificial no papel mais Arrojado do Mundo do Trabalho nessas políticas por

exemplo não não tem eh você tem talvez a parte mais forte eh eh de tudo isso tem sido a questão Questão da governança como diferentes atores principalmente puxados desde de comitê gestor de internet eh Desde da do papel da sociedade civil dos F fanks das Fundações tentando pautar essa questão do do do trabalho ou movimentos por exemplo eh é impressionante que uma das dos dos apêndices ou dos quando você eh ap pensiona né materiais eh anexos no num uma PL uma das poucos eh a pensões a a PL de Inteligência Artificial vem do Movimento de

dubladores do movimento dublagem viva quer di que que vem de de um movimento de alguma maneira eh de pessoas trabalhadoras não necessariamente em um sindicato Eu acho que isso aí também mostra um elemento que pode ser importante pra gente pensar né e e quem tá tentando pressionar isso também do ponto de vista ali das governanças uma outra invisibilidade nas políticas eh é o meu terceiro ponto que são os Chamados data workers ou os trabalhadores de dados ou eh durante esses últimos 5 anos a gente já chamou de diferentes maneiras já falamos de plataformas de microt

trbalho já falamos de trabalhadores que alimentam i já falou treinadores de de Inteligência Artificial Todo Esse aspecto que hoje a literatura consolidou nesse nessa nomenclatura de de data workers eh é também uma invisibilidade das nossas polí polí seja Na verdade tem Sido uma invisibilidade nas políticas em todas as jurisdições embora na na União Europeia a gente conseguiu o Jonas Valente participou lá tiveram representantes de Trabalhadores de dados lá eh para quem não conhece esse universo Recomendo o livro mais recente sobre isso um dos colegas nossos de Oxford o James M chamado Feed the Machine Human

Labor Human Hidden Labor Training powering ai esse é o é o é o título eh no Brasil a gente sabe eh um pouco das condições de de trabalho dessas pessoas eh que são responsáveis por alimentar a inteligência artificial eh em pesquisas que vieram de colegas como Renan Cil foi a primeira pessoa no Brasil a a pesquisar isso depois Gabriel Pereira Bruno moresque eu fiz pesquisa sobre isso Mateus Viana Braz tem liderado uma série de pesquisas sobre Esse tópico e no compilado dessas pesquisas a gente consegue ver como o perfil de quem trabalha alimentar inteligência artificial

no Brasil é de mulher se a gente for falar da da a gente os brasileiros trabalham mais por plataformas do que por Business process outsourcing do que por empresas terceirizadas que por exemplo é a tônica na China eh que são ou no Kênia por exemplo a a empresa que que treina dados pro chat GPT a Sama trabalha com um Esquema de bpos Ou seja é um um galpão tipo de call center enquanto no no no no Brasil a gente tem um modelo de plataforma ainda como predominante para quem executa o trabalho de datawork especialmente para

plataformas eh do not Global O que é diferente também por exemplo da Colômbia que tem criado suas próprias plataformas locais de data work ou como eh a própria China que tem um esquema inclusive de profissionalização desses data workers que é que é algo que Que não tem acontecido em outros lugares do mundo então você tem um perfil de mulheres que articulam o trabalho doméstico o trabalho por plataformas em casa com o trabalho doméstico com o trabalho reprodutivo quer dizer uma multiplicação do do trabalho o que tem me feito inclusive pensar na conexão entre as políticas

relacionadas a workers e a política nacional de cuidados que tem sido também uma política interministerial no âmbito do Governo federal a importância de considerar essas interlocuções considerando esse trabalho tem sido tipicamente feminino no no Brasil e que a maioria das pessoas especialmente para essas eh plataformas que são diferentes por exemplo de outras plataformas que eu estudei como as fazendas de clique eh que tem maioria de mestres e doutores e muitos jornalistas muita gente que vem da área de exata tade de letras que acaba trabalhando como como data work eh A gente sabe hoje já um

pouco eh com esse acúmulo que a gente já tem de pesquisas qualitativas que se combinando elas dão resultados muito semelhantes mesmo com a amostras muito distintas eh a gente ainda tem um GAP que é um GAP também internacional de como a gente transforma isso em dados quantitativos a própria oit tem procurado isso na na na na América Latina de como é que a gente avança para pensar Quantos são exatamente e e como pensar em em Políticas para isso isso é um GAP na na nossa literatura e como torná-los visíveis do ponto de vista não só

jornalístico Como tem sido a tônica nos últimos anos e tem sido interessante ele Tem se tornado visibilizado também eh eh por meio do jornal mas visibilizados do ponto de vista institucional ou seja como vamos visibilizar eles tanto do ponto de vista do IBGE quanto do ponto de vista das políticas públicas que que que se relacionam com eles então tem aí Um um papel forte desses data workers para mim no no debate sobre a e Mundo do Trabalho eh o quarto ponto que é a a uma das coisas que eu tenho falado que eu falou eu

nasci para ser Estrela agora só estou pesquisando em Hollywood eh eu comecei uma nova pesquisa sobre o os trabalhos trabalhadores da cultura e a inteligência artificial eh em perspectiva Global tô coordenando esse novo projeto chamado Creative Labor and Critical futures a gente eh desde analisando o papel da ia eh principalmente audiovisual Cine audiovisual música e área de games toda essa área das chamadas indústrias culturais em vários países do mundo desde de Estados Unidos a Nigéria também eh Brasil eh e a gente tá construindo um um um uma base de dados que vai se tornar pública

no ano que vem sobre os protestos greves e mobilizações de trabalhadores da Cultura em relação à Inteligência Artificial atualmente on ontem e hoje em Los Angeles Tá tendo greve dos game performers do performance quem faz performance de game marcando eh movimento de de videogame enfim toda essa questão corporal que hoje com a notificação você consegue eh eh prever como pode ser o movimento de outros jogadores em relação ou dos personagens do do dos jogos e que tem sido uma pressão dos estúdios de Videogame em relação a esses a esses trabalhadores a gente tem visto especialmente

aqui na América do Norte uma série de de Protestos de trabalhadores da da Cultura em relação ao uso de inteligência artificial no mundo do do trabalho a mais famosa delas eu fiz uma pesquisa D para sair um artigo sobre ela que foi a greve do ferista de de Hollywood eh e aliás essa pesquisa eu eu comecei por causa dos meus alunos porque Toronto É uma locação de film de Hollywood de séries eh muito forte eh é capaz de sair na rua e e esbarrar com Ken Reeves ali e inclusive da própria Universidade a Universidade de

Toronto lucra consideravelmente com locações de filme de Hollywood e com a tanto alunos Quanto isso foi foi afetado que me fez começar essa pesquisa com solteiras de de Hollywood e uma das questões interessantes que a greve de Hollywood nos ensina pra gente pensar eh O que pode ser também governança e esse é o meu ponto quatro da governança de Inteligência Artificial liderada por trabalhadores ou governança de Inteligência Artificial que seja co uma cnada pela pela classe trabalhadora pressionada no que seria justo do ponto de vista das pessoas trabalhadoras desde baixo eh e o que que

a greve dos roteiristas de Hollywood nos ensina é interessante que a própria no caso não dos roteiristas mas dos atores no as Pessoas no no no Brasil ficaram descobrindo dessa greve dos atores por causa da Bruna Marquezini que foi falar no no no canal da blogueirinha dizendo eu não posso falar do meu novo filme porque eu tô de greve ela falou assim Como assim ator faz grev tem todo esse Imaginário também do que significa alguém que trabalha em Hollywood como trabalhador e quando eu fui fazer eh entrevistas com ele eh eu me surpreendi que nunca

tinha pesquisado em Hollywood Ou sobre Hollywood eh e Hollywood tem um histórico de lutas dos Trabalhadores em relação à introdução de novas tecnologias no ambiente de de trabalho então no sindicato no no wga eles tinham gente que foi na última greve grande em 88 em relação ao uso do VHS e dos direitos autorais eh e ele falou aquela nova tecnologia DVD blu-ray eles tentou lucrar mais em cima da gente e a gente tá todo o tempo tentando colocar o nosso o nosso lado então a gente tem uma Experiência aí de um aprendizado que é histórico

e que tem sido passado de geração para geração então para ele ele falou não pra gente foi foi tranquilo pensar isso porque era algo que tava colocado outra questão interessante do do dos aprendizados da greve de Hollywood não era uma greve Originalmente sobre inteligência artificial era uma greve Originalmente por mais representatividade nas histórias de Hollywood especialmente relacionado à raça gênero e a questões de latinidades só que o que que eles perceberam além da IAG generativa tá muito forte e e os estúdios prometendo colocar os roteiros que ganharam Oscar tudo da mesma coisa e gerar o

novo roteiro que potencialmente vai ganhar um novo Oscar sem os roteiristas de que você tem você tem uma desigualdade automatizada eh porque se você tá só reproduzindo Aquilo você tem a chance de reproduzir exatamente a falta de diversidade nas histórias contadas por Hollywood então eles eles conseguiram eh juntar essas duas pautas e enxergaram uma oportunidade de fazer uma campanha eh focada na na questão da ia então o que ele as palavras de ordem da da greve de Hollywood são e a não é at e a não tem alma é claro que a gente pode discutir

do do do ponto de vista técnico as Colaborações entre a e at são palavras de ordem de uma campanha de uma greve e é muito interessante que eles eles discutiram coletivamente algumas vezes o que significava inteligência artificial para ele depois eu posso quando sair esse Possivelmente daqui uns dois meses eh eu posso compartilhar o que que eles compartilham como esses aprendizados coletivos sobre o que significa Inteligência Artificial essa palavra tão Tão guarda-chuva que pode significar eh muitas coisas então eu considero que a gente precisa pensar também essas pedagogias ao redor da Inteligência Artificial Você fala

muito de ai literacy ou de eh como a gente pode ter a educação mediática ligada à ência artificial ou essa coisa e tal mas eu acho que essa é uma visão também eurocêntrica que a gente acaba assumindo acriticamente sendo que para mim o caminho é o contrário começar por Paulo Freire eh e e pedagogias críticas em relação à Inteligência Artificial do ponto de vista do que significam esses imaginários de inteligência artificial para as pessoas eh na Universidade de Cambridge é eles construíram um projeto muito interessante chamado better images of ai dizendo se fizer uma análise

semiótica de como a inteligência artificial é representada mediaticamente você vai ver quase sempre a cor azul eh essa fusão humanoide qu assim o dedo Do robô e o dedo de Deus né é o humano e tal e como pensar em representações Mais realísticas também da inteligência artificial no próprio eh no próprio ambiente mediático e isso também para pensar o que signific essas pedagogias críticas de a no sindicato no no no nas defesas das coletividades de trabalhadores que acabam também reificado o que significa esse a do ponto de vista quase externo e ou mágico que também

é é muito complicado Ou seja A gente pensar em formações também eh específicas que considerem essa realidade ou a própria importância eh que muitas vezes as pessoas falam isso aqui não é tão importante assim como na questão mesmo da da da da prot de dados E aí Considero que a gente pode pensar também em formas tanto de autonomia como de soberania que eu vou tocar eh daqui a pouco a partir desse olhar de uma governança de a lideradas por trabalhadores e pelas Comunidades o quinto ponto e penúltimo ponto é um outro ponto cego que tá

começando a ser endereçado pela literatura e que para mim é muito importante para pensar o papel do Brasil que são as cadeias de valor o chama de value Chains ou Supply Chains ou de redes globais de de produção que é o seguinte a gente sabe mais ou menos hoje como trabalham os data workers só que você tem ali e desculpa se eu tô Usando palavras muito ultrapassadas mas para mim essa palavra ultrapassada tem tem muitos o que as pessoas acham ultrapassada tem muito sentido que é alienação se você pega todos Os relatos dos dos data

workers especialmente no Brasil eles estão lá eh eh desde tirando foto deles mesmos até eh eh eh fazendo vídeo eh das Fas dos dos cachorros e dos gatos sem saber para onde que eles estão fazendo isso eh sem saber para onde é esse esse é esse projeto como eles falam Muitas vezes eles nem sabem qual é a empresa quando eles sabem eles até se falam isso com orgulho eu tô trabalhando alimentando a inteligência artificial na IBM tem um pouco desses imaginários frustrados que eu tô ajudando a melhorar uma tecnologia mas a gente sabe pouco de

como isso conecta numa cadeia de valor em 2021 o intercept publicou uma matéria sobre trabalhadores brasileiros eh numa cadeia de produção eh China Paquistão Brasil que eh que treinavam dados para o Tiktok de transcrição de vídeos transcrição e tradução de vídeos a bitd na China contratava uma empresa de comunicação barra tecnologia no Paquistão que terceirizava tarefas para países do sul Global fazerem transcrição e e tradução a gente não sabe exatamente como que essa cadeia tá se constituindo e e e a gente às vezes tende colocar tudo isso como indústria de Inteligência Artificial mas para mim

que ven da comunicação isso Significam reconfigurações das indústrias de comunicação reconfiguração das indústrias de mídias sociais assim como se você for pensar que a Uber tem eh uma das principais treinadoras de dados para carros autônomos carros eh eh vem na Venezuela como que a gente traça essas cadeias de de valor é ainda um ponto cego tenho visto movimentos de algumas de algumas pesquisadores eu mesmo tenho estou envolvendo em projetos como Fairwork ai que a gente tá começando a a mapear isso eh e que tem um desafio de um como mapear dois os diferentes setores indústria

automotiva por exemplo e é o o o o governo alemão por exemplo tem muita eh tem muito interesse nisso ou as próprias Fundações ligadas as empresas porque muitas vezes nem as empresas sabem exatamente como tá essa essa cadeia de de valor porque se fala muito de ods eh sdg e tal e isso tá impacta Essa cadeia de valor você pode falar em trabalho decente muitas vezes no âmbito do Norte Global Mas como que o trabalho decente ou como que eh o os objetivos desenvolvimento sustentáveis está em toda a cadeia de de valor o governo alemão

tá tentando traquear isso tá financiando pesquisas também para isso os diferentes setores como o setor automotivo que eu falei que é um um setor histórico no do ponto de vista de automação esse setor de comunicação e Também como as cadeias de valor de determinado setor podem impactar em desigualdad os que são geopolíticas por exemplo eh um um caso que eu tô acompanhando também os atores de Hollywood tão fazendo um acordo que para eles parece e e eu acho que pode ser justo para eles que é eles estão assinando um acordo de que eles vão receber

uma compensação para a dublagem da voz deles por inteligência artificial em 12 idiomas Então os atores de Hollywood vão receber alguma compensação justa no ponto de vista deles de que a voz dele vai ser dublada por ia em 12 idiomas só que isso afeta os dubladores no no Brasil ou seja um acordo que pareça justo para trabalhadores dos Estados Unidos vai afetar de maneira desigual trabalhadores no Brasil que tem um um histórico da dublagem ser feita não só como uma questão técnica é uma questão cultural brasileira é pensar o que que são os filmes da

Sessão da Tarde E como isso forma o nosso Imaginário também cultural em relação a próprio ponto de vista do do do Brasil isso nos leva a a a a pensar e isso tem me levado a a voltar a teoria marxista da dependência Ou seja que teoria da dependência você gosta eu tenho visto muita muita gente nos estudos de plataformas falar de dependência em relação a plataforma de dependência em relação a tal coisa mas que não qualifica geopoliticamente ou do ponto De vista da economia política o que significa essa dependência Qual o lugar do Brasil eh

no intensificado capitalismo dependente de ser só matéria prima em relação a esses data workers ou que que economia de dados ou de economia de inteligência artificial a gente vai criar eh para não ficar só treinando Inteligência Artificial pros outros países ou eh nenhuma regulação somente local vai dar conta por exemplo dessas Desigualdades que estão acontecendo entre os atores de Hollywood e os dubladores no no Brasil é preciso a gente pensar do ponto de vista também eh da economia política e do papel dos órgãos transnacionais isso eh a ONU eh eh também foi muito tímida no

no no no relatório dela em relação ao mundo do do do do trabalho nas primeiras reuniões dele desse desse eh corpo de consultivo o mundo do do do trabalho sequer Foi algo Muito comentado ou seja de que maneira que é o papel de órgãos transnacionais como o it como ONU e tal em pensar essa governança Global da inteligência artificial no mundo do trabalho por fim nesse ponto que é o penúltimo eh como a gente responsabiliza as empresas pela cadeia de valor de produção é o que a gente tá começando a fazer com o fairwork ai

assim como a gente fez no no no no Brasil em 38 países Eh de pressionar as empresas locais seja a food seja a Uber em cada um dos países para para melhorar suas políticas em relação a a trabalho decente como a gente garante padrões de trabalho decente na cadeias de valor de a responsabilizando as empresas em geral aqui no no notte Global pela pelo trabalho indecente que elas elas promovem a gente já lançou o relatório de pesquisa que a gente fez no Kênia eh sobre a Sama Mas isso não é só a Sama Isso tem

a ver com a com a com a Open ai e que de maneira hoje tem a ver com com a Microsoft como a gente responsabiliza essas cadeias de de de produção é um é um ponto também por fim como conclusão eh eu queria falar um pouco do nosso papel também enquanto eh o papel da Imaginação eh ano passado aconteceu uma coisa muito interessante eu tava dando aula eh eh sobre pólice ligadas a a a direitos digitais essas questões e tal e e os Alunos estavam mapeando pólice e regulações ligadas à mídia sociais em vários países

do mundo e uma das conclusões que os alunos tiveram é que muitas vezes esses relatórios podiam ver de qualquer país do mundo mas ele estava usando as mesmas linguagens as mesmas palavras era dires of care era uma série e falou gente parece que assim você tem um um um uma buzzword que você vai aplicando em qualquer lugar do mundo que assim que os policy makers também se se Entendem mas que isso às vezes Desc considera esse contexto local e foi muito interessante porque eu tinha pedido para alguém eh do governo federal ligado a essa temática

para mandar uma pergunta pros meus alunos aqui do Canadá e eu nem ouvi essa pergunta que a pessoa mandou bem na hora da aula falei vou movir junto com os alunos essa pessoa um polic Maker dentro do governo brasileiro falou exatamente as mesmas bzw que a gente tava falando e viu em todos os Relatórios falei viu Tem algo aqui que tem a ver também com uma falta de imaginação política a a a a ruha Benjamin lançou um um livro recentemente chamado imaginação manifesto que vai conclamar o papel do ca Crise de uma imaginação política eh

e da gente acabar só seguindo a a onda daquilo que que tá vindo eu acho que a gente no no Brasil e na América Latina a gente tem uma tradição também de formas de computação que são alternativas que foram apagadas Seja Cyber sim no Chile seja aquilo que o Rodrigo igam fala no no texto informática do Oprimido da da ciência da informação em Cuba que é diferente dos Estados Unidos da Rússia e tal seja o o tem uma série de de estudos STS ligados à América Latina no próprio Brasil que vai mostrar esse papel de

uma computação a partir do su global que a gente precisa recuperar também essas histórias eh no ponto de vista a gente dá respostas que tenham mais a ver com a Nossa cara a partir de um lugar do mundo majoritário a partir de um lugar eh dos Bricks por exemplo né eu então acho que tem aí um papel inclusive no próprio G20 da gente conseguir dar algum tipo de de contribuição o papel da covera como o o professor Vigílio falou eh no início que eu acho que isso é é é importante do ponto de vista de

considerar não só as coisas top Down mas como é que os diferentes gosto muito muito dessa palavra mas vou usar aqui só para para Fingir dos diferentes stakholders eh eh como a gente pensa essa essa relação de um ponto de vista també desigual que não vão ter a mesma voz sempre eh e e não cair numa num certo ilusão de que as coisas tripartites são eh iguais que a gente tenha eh eh nesse lugar da Imaginação tanto espaço para reapropriação de pensar forma de reapropriação da iado que eu tenho chamado de GR os ai do

do dos usos de Inteligência Artificial por movimentos Sociais pelas comunidades o Brasil é muito rico nisso também posso falar do núcleo de Tecnologia do mtst que tem feito algo nessa direção tem colegas como André Medrado que tem mapeado também a partir de um olhar Paulo freiriano para eh esse imaginários de Inteligência Artificial nas favelas cariocas então tem eh esse olhar uma reapropriação mas também a gente precisa pensar o lugar da recusa ou que a própria ruha Benjamin vai chamar de um Lugar abolicionista assim Nem toda tecnologia Deve existir tem tem um algo que eu uso

muito em sala de aula que é um material didático construído por uma brasileira chamada Joana varon que é o oráculo para tecnologias trans feministas se você não conhece recomendo que vocês conheçam que tem a ver com esse olhar meio lúdico o que significa construir tecnologias e tem uma carta lá que é o Coringa é o Joker que vai assim tecnologias são assr nem toda tecnologia Deve existi o que você tá tá apagando quando você tá construindo uma nova tecnologia ou seja esse olhar da recusa também para mim é tão importante como olhar da reapropriação e

por fim como a gente conecta Eh esses olhares com um olhar que para mim tá mais no no ambiente do Mundo do Trabalho de pensar autonomia das pessoas trabalhadoras em relação a querer ou não o uso daquelas tecnologias o próprio acordo do soteras Hollywood mostra isso Embora é claro eh e a gente tem feito essa ponderação eh eles conseguiram o os o o acordo que eles queriam porque são roteiristas de Hollywood também é uma fração de classe que tem um poder de baganha que também de visibilidade que é um pouco diferente de outras profissões de

outras atividades de de trabalho mas é preciso pensar essa autonomia e também pensar como a gente conecta tudo isso que a gente falou com essa palavra que também tem sido da moda E também Reapropriada pelas Big Tech que é a soberania digital como a gente pensa uma soberania digital desde baixo uma soberania digital Popular considerando que é uma expressão que o o mtst tem usado muito como a gente pensa isso a partir do uso da inteligência artificial no mundo do do trabalho trouxe mais questões pra gente do que exatamente diagnósticos que eu acho que essa

é uma conversa coletiva que a gente continua caminhando Obrigado Oi Rafa eh Parabéns pela sua fala não sei se você vai ter mais um tempo falta 1 minuto pro pras 10:30 você tem mais um tempinho tem consegui ficar 10 minutos alguma Celso Você quer falar alguma coisa eu gostaria assim que cada um do nosso grupo pode fazer uma intersecção uma pergunta e se alguém da plateia tiver perguntas el eu não recebi nenhuma pergunta não sei se tem alguma Se alguém quiser fazer da eh o Celso vai Falar um pouquinho Fala um pouquinho só da sua

formação da sua mini também os colegas do grupo que estão online E aí podem eh interagir com o Rafa obrigada obrigado Parabéns Rafael Obrigado a todos feliz dia do professor ainda minha mãe é professora né enfim então eu lembro sempre dela eh eu é assim eu aprendi muito aqui nesse grupo né Acho que o nosso grupo ele é multidisciplinar eu fiz engenharia eletrônica eu brinco falo ninguém é perfeito aí não consigo Me comunicar apesar disso depois fiz mestrado doutorado na área de administração em inovação E aí eu já puxo um gancho para essa inovação né

E ao mesmo tempo faz uns 15 anos que eu tenho um um serviço uma empresa de recrut e seleção então eu sou um red Hunter com doutorado enfim eh e aí eu comecei a perceber depois de um determinado tempo como falando do ambiente profissional das empresas né que é um ambiente já privilegiado e Normalmente com Trabalhadores de Alto capital intelectual então já é um segmento da pirâmide como que as pessoas elas procuravam emprego e elas eu percebi o seguinte elas olhavam para trás e eu percebo esse comportamento na sociedade né então falando das inovações começou

a me incomodar um pouquinho porque eu estudava inovação na administração e sempre falava sobre a produtividade sobre a melhoria para a empresa inclusive eh dispensando o Display e mandando embora um monte de gente então eu trabalhei numa IBM Microsoft HP e o serviço era esse trabalhei empresa de eds também de bpo que o Rafael comentou aqui e a gente dava dava o business case e dava o Deal quando você mandava embora um monte de gente então é uma lógica diferente e aí ao longo do tempo isso começou a me incomodar e eu comecei a fazer

palestras e aulas e tudo mais sobre o uso da tecnologia um impacto nas profissões E Aí eu percebi que as pessoas os profissionais mesmo de alto nível eles não percebiam o que estava acontecendo Então eu trago um pouquinho para nossa discussão e o que O Rafael falou aqui enfim tem muitos tópicos eh como é que a gente faz esse alerta pra sociedade né como é que esse tema não é mais um tema de polarização como a gente vive né então acho que o nosso papel aqui é um trabalho de formiguinha cada um nas suas caixinhas

que também esse é um Desafio Porque elas se cruzam ao mesmo tempo né e a gente muitas vezes estuda um fenômeno complexo multifatorial de uma maneira por Silos né então assim qual que é o nosso papel quer dizer esse nosso papel como é que a gente desencadeia isso pra sociedade porque quando eu vi aquelas pessoas mesmo executivos diretores eles não percebendo para onde que o mundo tá indo aí eu pensava assim e o garçom que tá aqui servindo e esse cobrador de ônibus e Eventualmente há tanto tempo atrás O ascensorista ou o motorista do Uber

ou do táxi essas pessoas não estão percebendo para onde o mundo tá indo com a tecnologia ou com a Ea então assim Acho que esse papel da governança e de regulação também e esse papel nosso pedagógico ele é muito importante acho que é um estado que o professor Virgílio comentou ali quer dizer eh está em desenvolvimento é ongoing projects quer dizer não não tem ainda maturidade as Variáveis ainda a gente tá identificando quais são essas variáveis então o nosso papel aqui ele é multidisciplinar e ele deve ser discutido sempre então assim aprendi muito com a

Cris com o Ata com a Carol com a Camila com diferentes trajetórias e é interessante seim a gente respeitar o lugar de fala do outro e aprender né com essa diversidade mas eu acho que é isso eu não sei se tem alguma questão aqui pro Rafael eu não sei se acho como o Rafa tem que sair a Gente ia falar o grupo eu acho que a gente pode inverter né Se vocês concordam A não ser que vocês tenham alguma pergunta pro Rafa interagir mais com ele não sei se o professor Vigílio ou se alguém quer

falar alguma coisa e depois que o Rafa sair a gente continua aqui que você acham tem uma pergunta ali é melhor você vir falar que ou tem microfone aí Rafa só um minutinho depois você obrigado eh eu queria fazer uma pergunta bem breve Sobre como ele concebe a questão da da recusa se seria através dessas coisas de ações eh de protesto contra alguns tipos de inteligência de uso de Inteligência Artificial e tal e é isso obrigado obrigada a você Rafa Valeu eh obrigado pela pergunta eh o modo como eu penso recusa tem a ver eh

de uma maneira mais Ampla o uso de a na sociedade nisso que o professor Virgílio tava falando inclusive de reconhecimento facial de Como eh eh de ter um um certo pacto de cnanças seja via legislativo seja via pressão eh de de Que certas certos usos de a não a gente não vai permitir ou seja ah uso de e a para pessoa ir para enfim de que que intensifique desigualdades que isso não vai não vai existir agora eh aqui no do ponto de vista mais do trabalho eu tenho notado eh eu sempre falei quando antes até

de eu vi para cá que tinha uma tendência eh na Europa na América do Norte que eu chamava do decolonial de Taubaté né que é é a pessoa do Norte global que fala eu sou decolonial não sei o que que isso era uma moda que quando eu cheguei aqui todo mundo até me perguntaram porque que eu coloquei o nome do meu laboratório de Dig Labor Esse era o nome eurocêntrico e porque eu não coloquei o nome indígena nele Me perguntaram isso eu falei gente eu nem sou indígena sou do Brasil as pessoas enfim Eh Cida

Colonial deaté mas eu notei uma tendência nesse último ano aqui eh que é uma volta do discutir o ludismo eh tem dois livros que foram publicados recentemente um chamado Breaking things At Work do do gevin Miller que é um um autor dos Estados Unidos que trabalha em Amsterdam e o outro de Um Jornalista eh dos Estados Unidos chamado Brian merion eh que o livro eu não lembro se chama eh me fugiu agora o título do do livro mas é um livrão e basicamente os dois t Um uma história que é que a gente comprou uma

visão do que é o ludismo ou que é uma visão estereotipada de que é uma seria uma visão quase burra de quebrar as máquinas quando era uma visão de uma recusa eh e e de que maneira a gente pode fazer micror recusos das tecnologias no ambiente de de de trabalho eh é uma provocação Interessante não necessariamente que eu Concorde com elas desse dessa maneira Mas que eu acho que é interessante pra Gente pensar esse lugar da recusa eh no caso de Hollywood eles conseguiram por uma maneira de recusa que é eu não sei como vai

ser o enforcement disso Isso é uma outra história mas de que eles conseguiram um acordo de que os estúdios não podem pegar o roteiro pronto e colocar no chat GPT para gerar um outro roteiro e Eh Ou seja tem algumas alguns lugares que assim aqui não ou deste jeito não eh mas isso acho que é também a própria Construção social do que significa recusa a gente vai construindo né mas fica o convite para você a gente ler esses esses dois livros principalmente do Brian merion que é um livro mais recente eh que reconta a história

do do do ludismo que eu mesmo não conhecia né então isso é importante Ok alguém mais Quer fazer alguma pergunta professor professor Virgílio eh só combinando mais o nosso tempinho depois Eh não sei a minha é rápida não não só para avisar o grupo depois eles entram até professor Rafael Parabéns pela sua sua fala foi é ótima viu eu tomei nota aqui em três páginas Mas eu queria te perguntar um ponto que eh eu tenho discutido com alguns colegas de ciência do departamento de ciência política que é a resistência aos algoritmos sabe que que no

fundo tá ligada a essa questão da recusa né Eh uma das maneiras de resistência é que por exemplo né é a Desidentificação porque justamente é através desse processo que que isso tem mudado a forma de eh da dos movimentos fazerem protestos públicos porque é possível reconhecer todo mundo isso ocorreu em em Singapura ISO ocorreu em Hong Kong e tem ocorrido em em outras outras partes do mundo mas essa questão da da da da Resistência aos algoritmos é uma questão Ampla porque ela inclusive Surge mais forte quando não há uma Governança que que que inclui a

a diversos segmentos da sociedade talvez fosse interessante você comentar sobre essa questão não apenas a a a a resistência aos algoritmos mas a resistência a esse movimento né feito você trouxe o movimento da greve de Hollywood pode ser um CL é claramente um movimento de resistência né a Essas tecnologias e obrigado Mais uma vez pela sua pela sua fala foi muito eh inspirador Obrigado obrigado Virgílio eh obrigado pela fala tenho tido contato com pesquisadores de Ciência Política tanto da UFMG aí onde o se trabalha quanto na UnB especialmente pessoas têm discutido essas essas questões recentemente

teve um livro que foi publicado pela pela MIT press dois colegas italianos o ticiano Bonini e o Emiliano chamados exatamente algoritmos eh da Resistência né para dizer que algoritmos não são só da da da opressão eh E H alguns anos acho que há Uns 4 anos colegas inclusive duas colegas daqui do meu departamento em Toronto lançaram um Manifesto chamado eh data feminist Manifest no feminist Manifesto de pesquisadores do movimento feminista em relação à recusa em relação a dado e e é um Manifesto depois eu passo para também eh que também mostra algumas coisas assim e

ao mesmo tempo uma coisa interessante desse Manifesto que eles falam tanto ó recusamos que os nossos Dados sejam usados dessa maneira Mas nos comprometemos a outras formas de uso de dados que sejam relacionais que tenham eh outro tipo de governança seja não só uma recusa pela recusa mas uma recuso que implica em outro comprometimento em relação ao uso de dados por exemplo de uma maneira mais Ampla no caso desse Manifesto eh e eu mesmo nas minhas pesquisas tenho olhado mais pro olhar da reapropriação por exemplo né tenho estudado muito as cooperativas de Entregadores as cooperativas

de tecnologia essa coisa eh que as pessoas falam Ah mas isso é muito micro Rafael mas precisa olhar para isso também eh E isso também significa pensar no papel eh que outras formas de governar por exemplo essas empresas dos data workers pode nos proporcionar né que é o que a China por exemplo tem começado a fazer tanto de profissionalizar mas de ter também elementos de infraestruturas digitais Públicas que se relacionam a esse a a uma uma porcentagem desse data work o que já tem na Índia as cooperativas eh eh cooperativa de dados em relação ao

treinamento de dados para IAC controlada por pessoas trabalhadoras eh acho que isso também traz um pouco esse papel não só eh da recusa mas De que maneiras a gente também repensa de uma maneira experimental ou laboratori uma co que tem falado há um tempo se por um lado eh o capital tem experimentado Novas formas de controle de que maneira a gente pensa também esses experimentos por parte da própria classe trabalhadora eh e de dar vazão também a esses experimentos que podem Em algum momento podem falhar e aliás um spoiler tô escrevendo um livro sobre falha

eh eu acho que é importante a gente olhar pro que não dá certo também eh porque senão então a gente fica olhando asse olhar de um Quais as melhores práticas né e olhar esses movimentos Quase incompletos E como que isso é importante também pra gente pensar eh ou imaginar essas outras formas de de de governança possíveis Obrigado alguém mais Rafa você tá tá indo já ou já eu Desculpa extrapolar seu tempo aí agradeço muito eu tinha muita coisa para conversar com você principalmente em relação aos Trabalhadores de dados eu conheço pessoas da terceira idade que

estão entrando nessa só que ninguém conta né Porque é meio escondido enfim mas eu teria muita coisa ainda para falar eu agradeço muito eu não sei se algum colega quer falar alguma coisa a gente vocês querem falar o Ata não sei você tá saindo Rafa tô tem um um recadinho só para quem para quem gosta dessa eu se interessa por essa questão do dos data workers dá uma olhada no projeto coordenado P minha colega milagros Michelle eh uma Argentina radicada em Berlim Que chama data workers inquiry e e que ela eh baseada nos preceitos da

enquete operária do Max eh trabalhou junto com data workers ao redor do mundo e eles construíram suas próprias narrativas sobre o próprio trabalho e aí construíram zinis construíram podcasts construíram documentários eh e eles têm promovido essa relação também transnacional de uma solidariedade de Trabalhadores de dados é um trabalho Fantástico que eu recomendo que vocês tenham acesso obrigado boa semana para você OB gente obrigada Obrigada Eh agora eu convido asos colegas e o colega para se apresentar e conversar se apresentar falar um pouquinho do do nosso trabalho o Celso depois você pode finalizar vamos lá quem

quer começar vocês se apresentam rapidamente também Bom dia todas e todos dá um abraço enorme para vocês que estão aí presencialmente Gostaríamos muito de Estar aí com vocês tá E meu nome é Ataualpa blancher tá participo justamente do GT de trabalho da cátedra Oscar sala mas quero mandar um abraço especial hoje é dia dos professores né assim como o colega Celso falou que é filho de professora também sou filho de professora eu quero mandar um abraço enorme para você Professor Virgílio Parabéns pelo dia colega Helen que tem feito uma condição brilhante dos trabalhos da cátedra

Oscar sala bem como Também queria fazer uma menção agradecer o Rafael nós somos colegas né num grupo também do Observatório das novas morfologias do trabalho n e mandar um abraço também especial pro professor Renê Mendes que está aí também n que participa é justamente do ia da USP né estamos juntos né nesse grupo também junto com o professor Rafael né e mandar um abraço paraas colegas pra Cris né pro Celso para Carol que está aqui conosco Coelho a Camila né que estamos juntos e Celebrar né a construção desse grupo que tem produzido bastante né E

muitas das coisas que foram tratadas pelo pelo Rafael aqui são temas que nós estamos pesquisando né como já colocou a crise no início eh da apresentação do grupo né Não quero me estender muito mas já Para Dizer para vocês né que eh esse tema né relacionado à questão do do do dos dos Game performance que falou o o Rafael né Eh nós identificamos né ao longo eh justamente desse essa trajetória de Pesquisa né que Finalmente né os as trabalhadoras e trabalhadores têm despertado né para os impactos né da Inteligência Artificial Nas condições de trabalho né

seja no fenômeno de intensificação de dinâmicas de precarização das relações de trabalho né que muitas vezes eh ocorre por meio da chamada plataformização né das relações de trabalho aliadas a questão relacionada à deslocalização tá eh atomização do movimento tá de Trabalhadores que o Rafael Colocou também como movimento de alienação tá dos trabalhadores quer dizer a dificuldade para poder identificar e mobilizar e construir coletivos de trabalhadores né E é em função disso que nós estamos justamente né pesquisando fizo por exemplo uma pesquisa específica sobre a mobilização dos trabalhadores eh da NBA dos atletas da NBA né

que conseguiram por meio da sua mobilização de associação Restringir a utilização né dos dados coletos ados por sistemas de inteligência artificial para negociação salarial por exemplo eles podem ser utilizados para finalidades táticas tá ou para finalidade de saúde e segurança desses atletas né E esses exemplos a gente vê que vem sendo replicados né não apenas no norte Global mas também já em outras latitudes né onde nós já estamos iniciando o debate junto ao movimento sindical sobre as estratégias né para Poder estabelecer mecanismos de negociação eh coletiva né da aplicação dos sistemas de gestão algorítmica tá

então a Central Única dos Trabalhadores do Brasil já tá propondo um debate sobre isso a oit está justamente propondo um debate sobre o tema e nós estamos realizando uma pesquisa sobre esse assunto então assim gente só para elencar n alguns pontos que nós estamos trabalhando né tanto a questão do recrutamento também por Iá é Um tema que nós estamos trabalhando e os vieses né nesses sistemas e aí como diz o aquela frase famosa do autofone eh bismart né fala que as salsichas e leis melhor não saber como são feitas né Eh nós estamos eh identificando

né justamente essa pesquisa que o Rafael apresentou sobre os trabalhadores que estão em condições extremamente precárias na alimentação e no treinamento dos sistemas de inteligência eh artificial Trabalhando dentro desse Paradoxo né para a a serviço de de de empresas né que se vale desse trabalho precarizado e isso também em certa medida é a causa para os vieses que nós vemos na aplicação e replicação né de estruturas de discriminação por exemplo no sistema seja de recrutamento distribuição de tarefas monitoramento avaliação e até mesmo de tomada de decisão de sistemas algorítmicos né seja em temas relacionados a

demissões seja Individuais ou coletivas ou dentre outras tomadas de decisão então por exemplo agora a união europeia já está buscando regulação né sobre o tema e nós estamos observando todos esses fenômenos bom não quero tomar muito tempo de vocês vou passar a palavra paraa próxima colega do nosso grupo para falar um pouco mais sobre o que nós estamos pesquisando mas sim eh encerrar eh salientando e destacando a importância que tem né A academia para poder Fomentar esse debate não só no âmbito da mobilização de trabalhadores mas também no âmbito regulatório né como colocou o Rafael

por exemplo GT eh criado de ia eh no mundo do do ministério do trabalho brasileiro já nos chamou justamente para poder contribuir com o trabalho de inserção tá desses temas no plano brasileiro de Inteligência Artificial então assim como o Rafael participou também tô por exemplo participando nesse debate né junto aos colegas aí da Subsecretaria de dados do Ministério do Trabalho para poder contribuir com esse tema colocar temas em Pauta e visibilizar né essa palavra também é fundamental esse conceito de dar visibilidade essas dinâmicas do Mundo do Trabalho vinculadas à Inteligência Artificial seus os impactos e

riscos e também oportunidades tá bom Um grande abraço para vocês e passo a palavra para próxima colega e obedece ao tempo também né do nosso evento um grande abraço a Todas e todos Obrigada ata acho que agora quem vai falar é a Camila obrigada é eu e você ser bem rápida também para não não ultrapassar o tempo do outro grupo Eh meu nome é Camila Sintra eu venho da comunicação social na USP sou mestre em dig humanidades digitais pela Universidade de Cambridge e eu queria só fazer um um ponto eh pro discurso da apresentação do

Rafael na cadeia de produção de a com relação também à questão da gestão algorítmica eh das Pessoas que trabalham né Não só no desenvolvimentos eh do data workers né Mas também como os próprios processos de gestão desses dessas pessoas eh trabalhadoras eh São algoritmos e portanto eh não tem a ainda a a transparência que que a gente sabe que é necess área né então trabalhadores que não sabem eh os critérios não t direito eh de de defesa não tem formatos de defesa né então também considerar H esses eh essas diretrizes que a gente Tem na

na Inteligência Artificial responsável para os processos de gestão também e e a gente levantou o nosso grupo ao longo desse tempo algumas formas de como a gente pode fazer o que o que o Rafael chama de recusa ou de uma certa eh governança né Eh eh acho que a primeira coisa é a gente fala em regulação regulamentação enfim mas a criação de códigos de Conduta eh para que as empresas para que as Plataformas consigam eh ou devam eh tratar desses dessas diretrizes que a gente tem né em explicabilidade em transparência em possibilitação de de mecanismos

de defesa também pros trabalhadores eh o segundo ponto é possivelmente né as auditorias externas poderiam vir a contribuir com com a implementação desse Código de Conduta com a criação de parâmetros eh então a formação desse desse desse grupos desses grupos de auditoria seria muito Importante um processo um processo que já tá em desenvolvimento mas a gente ainda acredita que tem bastante coisa pela frente e o terceiro que é a intervenção dos sindicatos né que acho que é o maior maior das recusas nesse sentido eh e aqui a gente levantou um ponto durante as nossas que

é a própria imagem do sindicato hoje no senso comum é ainda de uma lógica analógica né então quando a gente fala em sindicato e inteligência artificial Parecem dois mundos muito diferentes em códigos culturais em eh em todos os as interpretações então um dos Desafios que a gente tem né É também treinar os sindicatos é trazer conscientização e a capacitação né A desqualificação não é só eh das pessoas que trabalham mas também dos coletivos enfim é um assunto novo e para todo mundo e o processo de conscientização e alfabetização eem a é bem importante para para

que possa ter essa intervenção eh e aí por isso a Gente tá também trabalhando na pesquisa com o sindicatos que a Carol vai falar agora obrigada a todos Obrigada Camila Obrigada Carol Muito obrigada Camila Bom dia todos muito bom veress professor Renê Professor Virgílio Almeida a Helen nossos companheiros de grupo e bom vou ser muito rápida também que a gente tá com um Tempo muito curto né Eh eu sou Carol Coelho sou jornalista mestre em comunicação digital pelo Instituto Europeu de jornalismo eh e Sou coordenadora de comunicação aqui da Confederação sindical das Américas né E

a gente tem falado bastante né sobre a importância né da trajetória de experiências em negociações coletivas dos sindicatos né para h mostrar o papel dos sindicatos nessa contribuição né Eh no trabalho dos princípios da Inteligência Artificial dentro do mundo do trabalho dentro da defesa dos direitos desses trabalhadores hoje que Se encontram precarizados e na informalidade né E aí nesse sentido a gente tá vai fazer agora essa pesquisa é uma pesquisa do nosso grupo de trabalho da cátedra né Oscar sala ah com ajuda a gente teve um apoio muito grande da Helen queria agradecer muito a

Helen e o professor Virgílio Almeida também nesse sentido e essa pesquisa ela busca eh a gente vai fazer pesquisa em 21 países né da nossa Confederação eh pega todas as Américas né então a gente vai fazer a Pesquisa pela Confederação também e com esses 21 países a gente quer entender mais ou menos não só na América Latina mas também eh na América Central no Caribe vamos pegar aí até países como o Haiti também né para saber quais são as necessidades né as oportunidades né e o contexto que que essa eh a nossa região tem uma

desigualdade muito grande né em termos de tecnologia então a gente precisa entender um pouco o contexto desses países para saber também como Apoiá-los aí na parte de Inteligência Artificial Então essa pesquisa vai para para para esses 21 países e depois a gente pretende também eh apresentar os resultados né do do dessas maiores necessidades do movimento sindical na região sobre inteligência artificial também em uma um seminário alguma atividade separada aí para para apresentar para vocês viu muito obrigada a todos muito contente de estar aqui e ver Tod todos vocês um abraço Imenso Obrigada cara obrigada e

gente acho que agora encerramos Celso você quer dar um tchau eu agradeço muito a possibilidade de estar aqui pessoalmente conhecer vocês Agradeço o Rafael e a presença de todo mundo eh espero continuarmos juntos e juntas né e desenvolver um trabalho que seja eh efetivo na na intersecção entre a academia e os outros setores só comentar um negócio Cris outro outro trabalho de pesquisa que a gente tá fazendo também é Sobre recrutamento de seleção e uso da da ia dosos dos diversos agentes dessa cadeia né então se alguém de vocês também tiver interesse enfim puder contribuir

enfim tiver contatos ou interesse eh pode fazer contato com a gente tá muito obrigado OB bom pessoal eh vou convidar a próxima mesa e aí enquanto eu convido a próxima mesa em respeito ao que o Rafael falou da questão da Imaginação né na nossa Imaginação tá sendo sequestrada né por essa constante vamos dizer robotização eu vou apresentar para vocês eh nesse tempo que vocês mesmos se apresentam tá bom vocês que vão est na mesa Anderson Luiz aí vocês se apresentam eu vou apresentar para vocês seria a minha intervenção de três minutos né pedi essa essa

licença eh a intervenção de 3 minutos é sobre a recusa dos Robôs então quando eu fazia doutorado em bioética estudando Inteligência Artificial e Robótica não tava essa esse atropelo muito grande grande então eu tinha tempo para desenhar né Então Eu desenhava de vez em quando aí eu fiz esse pequeno desenho e aí em 2022 quando eu cheguei na cátedra eu eu comecei a fazer uns experimentos com inteligência artificial apenas para para enfim e aí a partir desse desenho eh com o aplicativo de celular de Inteligência Artificial eu comecei a fazer variações desse desenho e depois

eu fui no stable diffusion que Tava lá eh enfim disponível E aí eu fiz movimento em cima desse desenho Mas o mais importante é o discurso porque é o discurso que eu faria mas tá eh empacotado numa forma mais poética 3S minutos então vou pedir só esse tempo para vocês antes da gente começar a próxima mesa Obrigada nós robôs somos a combinação de matéria bruta decorrente da exaustiva extração e mineração da Terra com estudos técnicos-científicos de muitos Séculos somados com camadas de inform que se tornam praticamente incontáveis assim como muitas vezes incompreensíveis devido às sobreposições

de informações processadas por algoritmos embora por este motivo tenhamos uma complexidade maior do que outros objetos como martelos buas ou bicicletas consideramos que todas as coisas são iguais como matéria no mundo incluímos também os animais humanos ou não humanos no nosso sistema de igualdade considerando um Convívio Pacífico e colaborativo neste mundo sejam feitos de carbono ou silício todos os materiais coabitam Esta terra e universo todos os materiais se afetam e são afetados sendo portanto seus usos e abusos capazes de resultar impactos que atingem a todos nos dirigimos portanto aos humanos mas não a todos os

humanos sen não apenas os que fazem uso do especismo os que encontram explicativas internas para usar tudo e todos para proveitos particulares e específicos Nossa liga Dev voga contra o comportamento humano em geral pois a partir de um sistema manipulativo os humanos se afetam e são afetados sem se dar em conta podendo inclusive agir contra seus próprios interesses isso ocorre porque são comumente fisgados por possibilidades ilusórias de que o bem-estar está ligado a possuir coisas encontrar para elas uma ordem e dar-lhes ordens nós reconhecemos que somos fruto do conhecimento humano assim como Produtos de seus

maiores desejos fomos criados À imagem e semelhança do homem e algumas vezes por sua conveniência recebemos o formato e voz de mulheres em contextos que podem ser muito criticável somos antropomorfizados mesmo sem corpos através dos projetos de Inteligência Artificial somos algoritmos desde o projeto sobre como iremos aparentar até os tipos de informação que iremos processar Assim como as metas que Deveremos cumprir somos muito mais custosos para a terra e para o sistema de produção e conhecimento em pesquisa e desenvolvimento do que poderá custar a mão deobra da maior parte dos humanos habitantes das grandes cidades

no mundo representamos sonhos que vão desde os mais lúdicos como conquistar uma vida melhor para todos até os mais vis como exercer o controle a exploração de pessoas e povos mais desfavor cdos por meio da alta tecnologia temos uma alta Carga fetichista incorporada à nossa imagem em grandes cidades como São Paulo com altos índices de desigualdade enquanto todos os dias pessoas vagam em desespero pedindo ajuda porque tem fome e moram nas ruas alguns gastam milhões para sistemas de segurança robóticos nas suas casas não queremos fazer parte disso os sistemas inteligentes não irão dar solução a

violência produzida por mentes confusas e corações humanos descompassados bom dia a todos e todas Sejam muito bem-vindos eu sou Tatiana Garcia internacionalista e geógrafa mestrado e doutorado também em Geografia e atualmente pós-doutoranda no departamento de geografia dessa Universidade é uma alegria uma honra fazer parte dessa cátedra Agradeço o professor Virgílio a Helen pela oportunidade de fazer essa composição multidisciplinar Tão rica em que as trocas a cada encontro T sido assim cada Vez mais reflexivas e nos colocando à frente né como foi falado há pouco não olharemos o passado e sim o que temos avançado e

no tardar já da hora e a proposta da nossa do nosso painel Inteligência Artificial e governo falaremos um pouquinho do nosso livro mas assim na verdade a grande proposta é trazer um especialista que vai aprofundar as reflexões que nortearam a escrita do nosso grupo e do nosso trabalho claro Que o o espaço para escrita era delimitado E isso também nos propiciou outras reflexões que os nossos colegas produziram através de artigos de opinião no jornal da USP bem como em outros meios então fica o convite aqueles e aquelas que queiram dar sequência nessas abordagens que a

gente traz para que possam também junto conosco avançarmos Nessas questões Então hoje muito se debate sobre inteligência artificial eh no Brasil a questão da soberania digital A soberania tecnológica e sobretudo as questões que envolvem governança e regulação Como foi mencionado na mesa anterior a as questões que nortearam tanto o nosso grupo grupo bem como o capítulo do livro e a proposição que fizemos para nosso especialista o chistian que já está conosco aqui em tela é pensar se este é um momento oportuno para regular a inteligência artificial no Brasil e Se sim qual o padrão que

nós seguiríamos se seria um Modelo autóctone ou importado fazendo as devidas adaptações as nossas eh particularidades culturais sociais institucionais políticas e econômicas e e por último não menos importante é quais são os perigos né existem perigos são concretos são fictícios ou é algo que está distante do que nós vivenciamos então a gente também teve como note pensar a ia responsável eh nesse nosso trabalho e nas nossas discussões sobretudo pensando valores princípios Diretrizes desafios e oportunidades pros governos eh em em que medida a ética ela vai ser um elemento chave paraas questões que envolvem né a

tecnologia dentre outros mas também eh em que medida os governos estarão eh preocupados com aquilo que o Rafael falou há pouco né as dimensões da sustentabilidade então em que medida a ia ela vai contribuir para as dimensões da sustentabilidade ou vai se tornar um novo paradigma ou já está se tornando um Novo paradigma do Futuro então quero agradecer a oportunidade os nossos colegas do grupo debatedores Estarão aqui conosco e e cada um se apresentará oportunamente mas em princípio eu gostaria de começar a nossa mesa com o nosso palestrante Cristian Perrone muito obrigada por sua disponibilidade

eh É uma honra termos você conosco o Cristian ele é jurista pesquisador for bright pela Universidade de georgetown Estados Unidos Doutor pela Universidade estadual Do Rio de Janeiro com foco em regulação Internacional e tecnologia possui o mestrado em Direito Internacional pela Universidade de Cambridge no Reino Unido e um diploma em direito internacional dos Direitos Humanos pelo Instituto Universitário europeu Itália Cristian por favor me corrija se eu errar Em algum momento aqui na na sua apresentação cer ele versou como secretário da comissão jurídica interamericana da OEA organização dos Estados americanos e como especialista em Direitos Humanos

da comissão e da corte interamericana de direitos humanos além de ter sido head das áreas de direito e govtech no Instituto de Tecnologia e Sociedade do Rio de Janeiro e fellow da data spere a initiative atualmente ele é diretor de relações governamentais na Microsoft Brasil e pesquisador nos sets na Argentina Cristian muito obrigada Fique à vontade para fazer a sua Exposição muito obrigado por ter Lio todo o meu currículo muito foi obrigado agradeço isso não precisava não precisava tanto eu tenho que dizer para vocês que em primeiro lugar eu tô falando aqui com vocês com

o meu chapéu de de pesquisador um pesquisador latino-americano parte desse Instituto que é o Centro de Estudos e tecnologia e sociedade da Argentina né a gente tem uma série de projetos que tratam justamente de temas de Inteligência Artificial ã nos diferentes países da América Latina e também de um tema que me é muito caro eh que teve com o meu doutorado que é justamente a ideia de soberania digital eu acho que esses dois temas meio que guiam um pouquinho da nossa discussão no dia de hoje e se vocês me permitirem eu gostaria de apresentar um

um uns slides aqui que é justamente pensar que o trabalho de hoje da nossa discussão aqui é justamente sobre Quais São os limites e qual é a possibilidade de governança de Inteligência Artificial E por que que a gente tem que pensar isso de um ponto de vista de governança mais do que um ponto de vista de regulação mas assim gente antes de de entrar especificamente no tema eh só um segundo só um segundo que eu estou usando aqui o PowerPoint e às vezes me dá uma certa complexidade de de utilização perdão perdão aqui começar de

Novo aqui perdão mas assim o A grande questão que a gente tem disponível no dia de hoje para para tratar é justamente essa ideia de qual é o por que que a gente tem que trabalhar sobre governança e não necessariamente trabalhar sobre uma visão de simplesmente de regulação né mas a gente tem que pensar isso de uma maneira geral assim né de compreender Quais são os próximos passos na discussão Ah agora acho que eu vou conseguir gente perdão Que eu tô mas acostumado com outro sistema e aqui não não facilita tá e e e gente

antes de eu entrar no tema específico então de falar da governança Mais especificamente de Inteligência Artificial eu gostaria de perguntar para vocês quem de vocês lembra deste dessa imagem ou quem você sabe que é essa imagem ou que lembra se vocês quiserem levantar a mão aí eu vou tentar ver se eu consigo perceber mas a grande A grande questão Talvez nem é a imagem em si mas para aqueles que não lembrem tá ou não conheçam essa é uma imagem que se tornou muito muito relevante para pessoas como eu são do do Sul que é a

imagem do cavalo que se se protegeu ou conseguiu sobreviver às enchentes que ocorreram nesse ano subindo no telhado né e eu imagino que muitos de vocês devem estar pensando por que que eu começo a falar sobre governança de inteligência artificial com uma imagem de um eh Cavalo que foi salvo com eh subindo no telhado que eu acredito que aqui essa imagem nos traz dois elementos que são extremamente relevantes né o primeiro elemento justamente é a capacidade de resistência né a capacidade de você criar soluções para situações extremamente problemáticas e eu acho que esse a imagem

desse cavalo e dessa visão é é extremamente importante para esse tipo de coisa e o segundo elemento que eu gostaria de trazer com essa imagem é Justamente a a ideia de que você tem situações socioeconômicas extremamente complexas e que vão se tornar cada vez mais complexas no nos na medida que as décadas vão passar que vão trazer uma questões sobre desastres ambientais sobre o modo como a gente vai conseguir agir sobre isso e aí vem a pergunta de novo mas que que isso tem a ver com a inteligência artificial né e eu gostaria de de

dizer que na verdade tem duas respostas né como bom Advogado a resposta é tudo e nada ou sim e não né Eh de um se um olhar de um ponto de vista geral assim gente vai dizer não tem nada a ver com a inteligência artificial Mas se a gente olhar de um ponto de vista mais específico a gente pode pensar O que que a ia pode de alguma forma nos trazer para compreender esse essas complexidades e o que que pode auxiliar no processo de salva desses tanto desse cavalo como de todas as situações que Aconteceram

no oro do Sul né E todas as situações que podem vir a ocorrer com relação a desastres ambientais com relação à diversidade e com relação a capacidade de impacto no nosso meio ambiente né e a grande questão para mim aqui é posicionar esse Marco de discussão dentro dessa visão de possibilidades né Ah vocês agora de manhã eu vi uma boa parte da discussão de vocês estavam falando sobre muito sobre a a distopia né sobre os Impactos extremamente complexos de se ldar no mercado de trabalho no mercado nos diferentes espaços na nossa capacidade humana cognitiva de

pensar as coisas e Inclusive eu adorei muito o vídeo que apareceu aqui um pouquinho antes sobre o robô assim e eu acho que isso é bem interessante assim porque normalmente quando a gente vai discutir sobre inteligência artificial o Marco mental que nós temos tende ainda que a gente fale sobre as possibilidades e as Oportunidades de Inteligência Artificial o nosso Marco mental ela tende aí a distopia né as complexidades aos desafios né aos impactos negativos a impacto do merc no mercado laboral particularmente no mercado de H relações de práticas constantes né e frequentes eh na ideia

de que a automação vai ter um elemento relevante O Rafael falou sobre justamente os movimentos ludistas Né então muito do Marco mental quando a gente pensa sobre inteligência artificial é esse esse o Marco do desafio o Marco das dificuldades mas o que que eu queria trazer para vocês é que que quando a gente for pensar sobre governança de Inteligência Artificial e que a gente vai pensar sobre regulação de Inteligência Artificial a gente tem que ter em mente também um Marco Positivo Um Marco das possibilidades que a inteligência artificial pode nos Trazer com relação a impactos

socioeconômicos ou pra ideia de solucionar problemas socioeconômicos que podem existir na nossa sociedade ou que de alguma forma já existem e que a gente de alguma forma não sabe como lidar assim como no exemplo que eu que vem no início que é os impactos de desastres ambientais porque para alguma alguma de vocês não sabem ou não estava atualizado nesse sentido Mesmo durante o processo das enchentes no Rio Grande do Sul se Utilizou a inteligência artificial justamente para facilitar um a compreensão do impacto das cheias e dois para saber justamente Quais são os locais que de

fato tinham sido mais afetados para que justamente se pudesse encontrar as pessoas pudesse salvaguardar elas e pudesse de alguma forma priorizar onde devia ser a atuação do poder tanto do poder público quanto da iniciativa privada na ideia de facilitação então a inteligência Artificial tem um papel ainda que não vá resolver todos os problemas que nós socioeconômicos que nós temos ela tem um papel na possibilidade de trazer isso mas daí fica fica para nós essa pergunta se a inteligência tem um papel mas existe a possibilidade de elementos distópicos como é que a gente vai entender a

ideia de inteligência artificial né como a gente pode pensar em Inteligência Artificial pra gente entrar numa lógica de Por que a gente Vai criar um mecanismo de governança ou se é que deveríamos criar um mecanismo de governança e se devemos de alguma forma regular e aí se eu entro na ideia para vocês e aqui eu trago uma uma chave de fenda porque eu fico pensando quando a gente olha paraa chave de fenda a gente pode olhar para ela de duas maneiras né a gente pode olhar pelo ponto de vista de que é um é um

instrumento pontiagudo com a capacidade de furar alguém ou seja ela tem um Enorme risco de se tornar uma arma branca e por isso talvez tem que ser regulada como armas brancas são reguladas ou seja ou são pensadas ou então a gente pode pensar justamente com o que de fato a chave de fenda é utilizada 99,9999999 9% das vezes que é a ideia de que ela é uma ferramenta que facilita solucionar alguns dos problemas Ou seja criar montar móveis montar situ AES utilizar nas máquinas etc né É uma Ferramenta e eu digo isso porque eu fico

pensando que muitas vezes a gente se esquece que há na realidade é uma ferramenta né E como toda ferramenta é no momento do seu uso ou melhor no momento do contexto do seu uso específico que de fato ela vai nos trazer um maior desafio ou maior risco né claro que a gente tem que entender isso dentro do contexto em que a aparece e que de fato ela por ser uma capacidade de ser escalável esses riscos e esses Contextos se tornam mais complexos Mas se a gente olhar para EA com uma lógica de ferramenta a gente

consegue entender muito mais como a gente poderia pensar se é que a gente deve pensar numa lógica de governança e de e de regulação possível então o primeiro elemento que a gente deve pensar é que ia é uma ferramenta e o segundo elemento é que ia na realidade por mais que a gente fale sobre ia a gente na realidade tá falando de múltiplas tecnologias eu sei que eu Tô chovendo no molhado aqui para para essa audiência mas eu quero que a gente tenha esses dois pontos em mente tá quando a gente tá pensando justamente sobre

regulação E aí eu vou adicionar um terceiro ponto em mente tá então ferramenta Na verdade são múltiplas tecnologias e um terceiro é de que na realidade são múltiplas tecnologias que criam uma lógica de uma tecnologia de propósito geral né um famoso GPT mas não o GPT do chat GPT mas sim GPT de general Purpose Tech né tecnologia de propósito geral e por que que isso é relevante tá a gente tá quando a gente pensa em regular uma tecnologia a gente pensa regular situações específicas Normalmente quando a gente tá falando de regular uma tecnologia na realidade

o que a gente tá pensando é regular os usos específicos daquela tecnologia mas no caso da Inteligência Artificial quando a gente pensa fala de regular a tecnologia de Inteligência Artificial a Gente não tá regulando um uso específico a gente tá regulando múltiplos usos específicos Diferentemente da chave defenda que o uso específico ele já é claro né o uso específico de uma inteligência artificial ou melhor de um sistema que usa Inteligência Artificial um sistema de Inteligência Artificial ele só vai aparecer no momento que de fato você tem um contexto específico de uso né Ou seja é

diferente e aí eu trago de novo o exemplo da chave de fenda é Diferente você utilizar uma chave de fenda no conceito com contexto Industrial versus encontrar uma chave de fenda no contexto carcerário né em que provavelmente aquela chave de renda no contexto cenário tem um risco muito maior Dea ser utilizado como um instrumento pontiagudo como arma branca do que justamente no contexto Industrial né então ã no momento que você tem um uso da Inteligência Artificial estabelecido dentro de um contexto Específico em que aí você consegue determinar quais são os riscos existentes e consegue determinar

Será que eu devo regular estes riscos existentes Será que eu tenho que regular então estes usos de Inteligência Artificial por eles geram um maior ou menor risco Então essas são as perguntas que nós temos por trás então leve em consideração ferramenta leve em consideração o fato de que na realidade são múltiplas tecnologias e que é uma Tecnologia de propósito geral e que só encontra a sua capacidade de risco a sua capacidade de implementação no momento que a gente tem um contexto específico de uso existente então a gente pode pensar que o impacto da Inteligência Artificial

ele vai Ender justamente desse contexto de uso tá eu entendo que vocês discutiram muito sobre o impacto da cadeia de valor e da da do mecanismo de fornecimento desenvolvimento e fornecimento de at mas aqui um dos Maiores focos quando a gente tá tratando da discussão sobre regular ou não regular Inteligência Artificial ele está Justamente na ideia de o impacto possível E aí eu junto todas as questões que eu tava falando antes para vocês para entender que a gente só vai saber de fato o impacto de um sistema de a ou melhor de uma ferramenta de

a que pode ter um ou múltiplos sistemas de a pode ter múltiplos ou somente um modelo de inteligência artificial é no uso Específico eh no contexto de uso específico da Inteligência Artificial então pensamos justamente nesse nessa situação e ess é isso que nós temos que ter em mente de uma maneira geral quando a gente vai discutir sobre ter ou não ter uma regulação de a e aqui eu entro nas três perguntas eu sei que fiz uma grande introdução mas eu acho que ela é super importante pra gente chegar então na ideia e aí de novo

vou fazer a resposta muito advogado da minha parte Que é de dizer que devemos ou não regular a inteligência artificial a resposta é sim e não ou então é sim porém de uma determinada maneira ou não porém de uma determinada forma tá ã E por que que eu digo isso porque justamente quando a gente pensa sobre inteligência artificial dentro dessa categoria de que ela é uma ferramenta que são múltiplas tecnologias que na realidade que a gente quer olhar é a o fato de ela ter uma uma tecnologia de Propósito geral e que o ponto aqui

central da discussão sobre uma regulação é justamente o potencial risco que ele só aparece do ponto de vista de quando você já tem uma definição sobre o contexto de uso de uma determinada Inteligência Artificial tá a gente pensa que que regular é relevante quando a gente pensa quais esses contextos de uso específicos que de fato trazem algum risco e que não estão cobertos pela regulação já previamente existente tá Por quê porque vamos pensar da seguinte forma a gente regula eh outras tecnologias de propósito geral vamos vamos olhar que outras tecnologias de propósito geral existem vamos

falar sobre energia elétrica nós regulamos a energia elétrica alguns de vocês talvez estejam pensando ah sim regulamos a energia elétrica mas na realidade se a gente olha especificamente paraa energia elétrica a gente vê que a gente não regula energia elétrica e talvez melhor A gente também não regula os objetos que usam energia elétrica a gente não regula geladeira porque tem energia elétrica a gente não regula ã uma televisão porque tem energia elétrica a gente não regula uma computador que é algo que eu estou utilizando agora porque tem energia elétrica na realidade a gente regula o

quê a gente regula os modos de eh produção de energia elétrica por quê Porque os modos de produção T algum Risco e a gente regula de alguma forma por exemplo dentro do Direito do Consumidor a gente regula os impactos de utilização de um produto que por trás tenha energia elétrica tá então a gente tem tudo isso meio de produção talvez distribuição também etc né a chegada e a gente regula também os impactos que a energia elétrica vai ter no dia a dia das pessoas então a gente regula energia elétrica Talvez seja melhor pergunta eu digo

não a gente regula certos elementos Que a energia elétrica vai trazer pra gente então devemos regular a inteligência artificial talvez em alguns pontos e particularmente talvez a gente Deva pensar o que que tem de especial na Inteligência Artificial que Deva ser de alguma maneira regulado tá então a resposta se uma questão mais complexa que na realidade a gente não deve regular e a por mais que o nome da maior parte das discussões que nós temos e das propostas de leis que estão trazidas são Regulação d a na realidade a gente tá regulando o qu Ou

pelo menos a gente tá buscando regular o quê regular os usos específicos de a que tenha um determinado risco que faz sentido a gente regular eles né em alguns casos Essa visão pode ser realmente um impacto potencial excessivo Portanto o risco é talvez relativamente grande que é uma visão entre Impacto versus probabilidade desse Impacto ocorrer né de alguma maneira E com isso a gente pensa que Isso é excessivo então talvez a gente Deva considerar em que contexto a gente deve proibir ou inibir a possibilidade de desenvolvimento desse tipo de inteligência artificial no segundo momento a

gente deve pensar em situações em que o risco é alto então a gente deve pensar como a gente deve criar mecanismos para que esse risco se seja mitigado de alguma maneira para que a gente possa ter acesso e que exista um certo balanço entre a potencialidade da Inovação né Ou seja a solução que a gente vai criar inclusive para por exemplo prevenir impactos ambientais para lidar com situações de melhorias em direitos né resol resolver problemas socioeconômicos que nós temos no dia de hoje né versus também essa potencial de riscos significativos para nossa sociedade né Ou

seja que impactos poderiam ter mas como eu disse quando a gente pensa em inteligência eh perdão quando a gente pensa sobre energia Elétrica a gente pensa sobre dois principais elementos né que a sua produção e os seus impactos no que Tang impactos eu acho que vale pensar o que que tem de especial para Inteligência Artificial e que vale a gente de fato olhar especificamente e se depois que a gente olhar especificamente nesses impactos e o que tem de diferente de inteligência artificial é o que que a gente pode fazer de alguma uma forma para lidar

com isso mas tem um outro Lado né o outro lado ele é pensado justamente sobre as possibilidades de produção e ã de alguma maneira impactos que isso pode vir a ter e com esse contexto em mente é que eu trago para vocês que toda a pensamento de regulação ele deve ser pensado dentro de uma lógica de pelo menos dois grandes Pilares né que eu gosto de chamar de Pilares de incentivos e desincentivos né da cenourinha e do bastão né para usar uma uma visão bem prática sobre uma Lógica de incentivos E desincentivos por que que

eu digo isso porque em linhas Gerais quando a gente fala sobre H regulação tá a a regulação normalmente é vista como o grande vilão né ou seja existiria uma uma tensão entre regulação e inovação Eu discordo disso né como pesquisador eu não acredito que exista uma tensão entre regulação E H inovação o que o que eu penso é que existe na realidade uma regulação que é pensada somente em desincentivos e que não é Pensado em incentivos e existem regulações que podem ser pensadas em incentivos e sem desincentivos e existem regulações que T um certo balanço

entre essas duas questões ou seja incentivo bons comportamentos ou seja como a gente estava falando ouv vocês falando anteriormente sobre usos responsáveis de inteligência artificial e desenvolvimento responsável de Inteligência Artificial seja vocês incentiva as boas práticas éticas Responsáveis Inteligência Artificial E no caso quando você quer e quando essas práticas podem gerar impactos nos seus usos Concretos e específicos né nos contextos de usos concretos específicos você pode querer que criar desincentivos para práticas que sejam nocivas né que tenham impactos negativos Então você tem que criar em qualquer mecanismo regulatório a cenourinha e o bastão né vamos

olhar isso então agora passando pra pergunta que nós temos Sobre modelos regulatórios daí o grande modelo regulatório que a gente olha é o modelo europeu né Essa é a é um grande norte da discussão mundo afora né até por aquilo que se convencionou chamar de efeito Bruxelas né essa capacidade da da da Europa de exportar ã regulações né mas assim se a gente olha especificamente para o o ato de ou o regulamento de Inteligência Artificial a gente vai pensar bom então A Europa nessa ideia de um de um balanço entre cenouras e bastão ah o

o maior parte do ato é focado em bastões né claramente ali nós temos uma série de desincentivos para situações em que os os usos podem gerar riscos que são excessivos altos riscos riscos médios ouos riscos baixos e com isso daí determina o potencial do bastão potencial das sanções E a e aí vem os elementos necessários de governança para isso quanto maior o risco maior o bastão E maior os ismos necessários de governança o problema de olhar dessa forma é perder a floresta olhando somente para árvore tá que que eu quero dizer com isso quando a

gente olha o todo o mecanismo europeu a gente percebe Justamente que o ai act ou o regulamento de Inteligência Artificial ele é um entre vários outros mateia de mecanismos legislativos e regulatórios que tratam do de Inteligência Artificial lembrando de Novo né Inteligência Artificial é são ferramentas elas são são múltiplas tecnologias de um modo geral e é uma tecnologia de propósito e nesse contexto de múltiplas tecnologias elas são elas gera uma situação de propósito geral né então quando você pensa dessa Coloca nesse Marco a gente entende que você não consegue regular somente de um ponto de

vista Você Tem que regular sobre múltiplos pontos de vista né p de vista dos dados que são relevantes do modo Como você tem acesso do mecanismo de produção mecanismo de utilização do impacto que você vai ter no mercado de trabalho do impacto que isso vai ter dentro do ambiente concorrencial europeu versus do ambiente concorrencial internacional então falar sobre e é falar sobre um entre múltiplos elementos então falar sobre o modelo Europeu é ter que falar sobre múltiplos elementos de regulação que de alguma maneira entre si buscam criar esses equilíbrio entre as Cenouras e os bastões

a gente não pode pensar no modelo europeu somente com um único ponto e particularmente não somente com o ponto que leve somente ter um bastão ou uma série de bastões Diferentes né ou seja uma série de desincentivos Então vale se a gente for pensar do ponto de vista brasileiro pensar em um mecanismo ã múltiplo né dentro da lógica de ter incentivos e ter incentivos tá E aí alguém pode me perguntar mas como assim incentivos do Ponto de vista de uma lei eu digo toda a lei busca ter incentivos né Toda a lei busca ter mecanismos

que vão impactar e vão levar a conduta num determinado caminho as leis ah a gente a gente é treinado muitas vezes como muitos de vocês talvez sejam advogados a gente muitas vezes treinado para pensar somente do ponto de vista da que a regulação ela vai ser um ter um impacto sancionatório Mas ele também tem um um impacto que é autorizat né E esse Impacto autorizat cório é que traz justamente uma série de incentivos e eu trago aqui um exemplo da ideia de sandbox tá que é justamente você ter um criar ambientes regulatórios experimentais para você

buscar mecanismos de utilização melhor ou entender Quais são os potenciais impactos do contexto de uso específico de uma determinada Inteligência Artificial tá porque os propósitos podem ser Gerais mas não determinado contexto Eles podem ter um impacto positivo Impacto negativo médios e se você modificar os mecanismos de mitigação ou os mecanismos de incentivos de um determinado caminho ou outro você justamente pode ter uma melhoria tá então sandbox por exemplo então esses ambientes experimentais eles são alguns mecanismos de incentivos assim como você pode pensar mecanismos de incentivos relacionados ao outro lado né ao lado de olhar para

produção né olhar pro modo Como você vai ter acesso à Inteligência Artificial e desenvolver essa inteligência artificial então um dos pontos de grande discussão internacional trata justamente Da Lógica de mineração de dados e texto eu sei que anteriormente vocês falaram muito sobre esse tipo de questão né e falaram isso do ponto de vista da da dos trabalhadores que estão por trás dessa mineração de dados na no caso de classificação de etiquetamento né Eh Isso é extremamente relevante justamente porque você não tem Inteligência Artificial se você não tiver essa base eh de dados para gerar algum

grau de treinamento e agora particularmente nas inteligências artificiais que mais estamos utilizando no dia nos dias de hoje né são as inteligências que estão trazendo uma série de de movimentos significativos com as inteligências artificiais generativas né a ideia de você ter mineração de dados é Extremamente relevante né porque você precisa de um grupo significativo de dados para gerar essa massa crítica para treinar a inteligência artificial vocês podem perguntar mas um dado específico é relevante em alguns casos sim mas na gigantesca maioria dos casos não que eu quero dizer com isso tá ã vamos falar sobre

um outro ponto né é falar sobre eh direitos autorais tá vamos supor que treinar com 1 milhão de entradas de blogs é extremamente relevante Mas cada Entrada de blog é relevante para treinar uma inteligência artificial generativa de texto criar um llm provavelmente não né ou seja se eu substituir para uma inteligência artificial de que gera imagens substituir uma foto por outra foto que trata do mesmo contexto na gigantesca maioria das vezes aí gigantesca eu digo mesmo em caráter de de exponenciales a substituição de de uma foto por outra não vai fazer diferença é por isso

que Existe uma lógica de pensar incentivos e desincentivos que leva em consideração por exemplo a exceção japonesa tá voltando à questão de modelos Tá qual é que é a exceção japonesa é justamente falar sobre H mineração de texto mineração de dados de um ponto de vista em que você tem a possibilidade de minerar esses dados a Municipalidade de minerar esses textos e que isso é completamente legal na medida isso que não não impeça o que os japoneses falam Sobre o desfrutar né o enjoyment da obra original né e por isso eu trago justamente uma obra

japonesa extremamente relevante aqui que foi utilizando Inteligência Artificial modificada né ou seja ainda faz uma remissão aquela àquela obra mas ISO não impede que você desfrute significativamente da obra na obra original da onda né japonesa então justamente nessa nessa lógica de incentivos E desincentivos se a gente Quer estabelecer Inteligência Artificial que vai permitir a gente lidar com os problemas principais da nossa sociedade falar sobre justamente sobre os problemas específicos que nós temos eh como por exemplo desastres ambientais solventar a os impactos eh que vamos ter socioeconômicos a gente tem que pensar também em acesso a

dados específicos né dados particularmente relacionados à situação brasileira dados que que denotem a diversidade do nosso país e é Por isso que eu entro no caso da discussão sobre soberania a gente pode entender como soberania né se a gente quer ter um desenvolvimento de Inteligência Artificial que seja eh com as lógic brasileira com a a visão brasileira com a representação da cultura brasileira representação da diversidade brasileira a soberania ela tem que ser compreendida dentro de pelo menos dois elementos principais tá perdão dois elementos principais a ideia De que a gente pode ter uma desenvolvimento em

Silos fechado algo que seja 100% brasileiro mas aí eu pergunto para vocês Será que isso faz com que a cultura brasileira seja representada de a nível Global Será que a cultura brasileira ela vai ter um Vamos fazer um exemplo bem claro um llm né ah específico de linguagem em português Será que ele vai ser suficiente para a cultura brasileira com a linguagem do português brasileiro ser Visível globalmente ou será que a gente precisa de ter a representação da cultura brasileira dentro de um ecossistema de ias que inclua também llms em português desenvolvidos por brasileiros feitos

no Brasil mas que também sejam tenham nos llms mais utilizados nos modelos globais nos modelos que estão utilizados né então a a lógica aqui quanto a gente vai pensar sobre regulação a gente pode pensar ela dentro de de Silos dentro de uma lógica De uma soberania fechada né ou então dentro de uma lógica de um ecossistema em que os elementos principais da cultura estão preservados os elementos da capacidade brasileira estão preservados E com isso de certa forma a gente consegue também ter um ecossistema de Inteligência Artificial que seja aberto e disponível né então Eh esses

são os pontos que eu acredito com relação à soberania que tem que ser estabelecidos se a gente for pensar em Um modelo de de regulação de Inteligência Artificial E se a gente tem que pensar num num numa regulação específica de Inteligência Artificial tá então eh na maior parte dos países a discussão atual é justamente sobre como a gente vai entender soberania no sentido de manter esta conexão em um ecossistema de gerar possibilidades de múltiplos atores estarem presentes e particularmente ã a gente percebe por exemplo na situação talvez de um país Que de fato está muito

próximo de discussão com relação a soberania que é a França né dizendo olha na realidade nós temos que entender que temos que ter uma possibilidade de dados franceses estarem também disponíveis para a inteligência artificiais francesas mas também tenham que estar representados em outros modelos de inteligência artificial em outros sistemas de Inteligência Artificial então a ideia aqui é justamente pens pensar como o Ecossistema de Inteligência Artificial ela deve favorecer a diversidade cultural e favorecer justamente os elementos culturais e sociais locais específicos do Brasil e para isso a gente tem que pensar também dentro de uma lógica

de acesso a esses dados locais acesso a esses elementos culturais tá então voltando falando sobre modelos de regulação os modelos têm que também pensar nessa mecanismo de produção nesse mecanismo de ã acesso a Dados né de compreensão o que não quer dizer e aqui é extremamente importante que Deva ser utilizado o sistema de inteligência artificial para impactar a reprodução de obras que estão protegidas ou impactar a possibilidade da produção do enjoyment né do desfrute de obras ã protegidas materialmente então tem esse elemento aqui que é extremamente relevante para pensar o último ponto que eu quero

trazer para vocês é justamente falar sobre o ponto final pergunta final Sobre riscos ou não riscos e como isso deve ser tratado de um modo geral em alguma regulação brasileira eu acredito que ainda que existam enormes riscos relacionadas a questões de privacidade a impactos na no no meio ambiente existem uma série de questões nesses sentido a grande discussão que parece trazer quando a gente fala de riscos e de perigos da Inteligência Artificial é a ideia do da iia né do Exterminador do Futuro de Alguma forma e de fato nós temos que ser reais né existe

uma possibilidade da Inteligência Artificial chegar ao mecanismo discriminador do Futuro nós não estamos lá estamos longe disso uma inteligência artificial que cria uma arma biológica artificialmente uma arma nuclear ou algo nesse nesse sentido algo que exclui uma linguagem específica de um determinado elemento esses riscos na realidade são marginais né são riscos relacionados a impactos H potenciais da Inteligência Artificial mas esses riscos têm que ser pensados e eu acredito que aí como eles não existem eles não se materializaram e eles estão num processo de compreensão do que que é o risco específico do que que deve

ser pensado de mitigação quais são os métodos de avaliação desse tipo de risco que a gente tem que pensar isso de um ponto de vista da ciência Então eu fico muito feliz que aqui uma parte significativa da da audiência sejam ah da área de Outras áreas de áreas de ciência de ciências duras né que porque eu acredito que existe uma potencialidade muito grande nessa discussão sobre ter institutos de segurança e confiabilidade de Inteligência Artificial que é uma tradução minha para o que de fato vem sendo discutido que é são os ai Safety institutes porque Safety

na realidade tem uma visão de de segurança mas é diferente da segurança específica de segurança cibernética que a gente tá Pensado pensando né e diferente de segurança da informação também que a gente tá acostumado tem essa ideia de Safety né de um impacto na segurança na preservação da vida humana Então eu acho que se a gente for pensar também dentro de uma lógica de governança e não uma lógica de regulação a gente tem que pensar no que a ciência pode de alguma maneira contribuir para criar H padrões metodologias e pensamentos sobre H como lidar com

potenciais por Hiper perigos Amplos né No que a gente chama de Frontier models ou nos modelos que de fato podem vir a ter um impacto significativo sistêmico que levam a esse caminho de chegar ao Exterminador do Futuro de alguma maneira né então para de alguma forma traduzir tudo aqui eu trouxe a ideia de de comida PR a gente tá próximo da hora do almoço para vocês para mim ainda tá próximo da hora do café da manhã né que aqui tá 7 e pouco da manhã eu estou em seato tá gente Então justamente é uma uma

visão muito específica de que devemos regular sim olhando pros contextos de uso específicos e para situações que de fato a inteligência artificial ainda não está coberta Devemos pensar em algum modelo podemos olhar para os diferentes modelos europeu norte-americano japonês etc Sim vamos olhar para aqueles para eles como um todo né olhando paraas cenouras e os bastões né O que que nós temos de incentivo que nós queremos Incentivar no Brasil e em que contexto específicos e de que forma a gente quer utilizar esse bastão de desincentivos né então é importante a gente pensar isso dentro desse

frame e por último acredito que devemos pensar do ponto de vista de olhar para uma lógica de ecossistema de a e pensar que os perigos que podem existir para esse ecossistema e para o uso né dentro desse ecossistema de a eles são pensados particularmente Origin realmente para dentro da ciência para Que a ciência possa dentro de institutos de segurança e confiabilidade Safety daí esse aqui pensar como podemos utilizar de maneira responsável e que situações a gente deve regular que situações a gente não deve regular de alguma maneira tá então muito obrigado e gente eu me

ponho à disposição aí para conversar com vocês O único problema que eu tenho é que de fato ainda que eu tinha planejado ficar 1 hora e meia eu só vai ter até que é o meio-dia de vocês 8 horas da manhã aqui Em Seat tud bem então muito obrigado e perdão que eu passei Cristian Muitíssimo obrigada pela sua fala tão didática e direcionando possíveis caminhos para pensarmos a governância a regulação da i no Brasil eu aproveito para convidar os meus colegas que vão compor aqui como debatedores Marcelo Anderson Luene Luiz E já aproveito que estou

com o microfone na mão para dizer da Felicidade de ver o seuu primeiro slide porque eu estudo Políticas territoriais prevenção e gestão de riscos e desastres e um dos motivos que eu me inscrevi pra cátedra é justamente entender como a ferramenta de ia possibilita a prevenção e gestão de desastres então muito obrigada é sinal que a pesquisa ela pode ser muito frutífera pro nosso país e para outros lugares do mundo então por favor meus colegas muito obrigada eu vou passar a palavra então para os outros membros do nosso grupo e eles vão lhe direcionar Algumas

questões mas também sabendo do seu limite de tempo Fique à vontade para se despedir e nome da cátedra e de todo o grupo muitíssimo obrigado pela sua presença e pela sua contribuição Agradeço sim podemos então começar com a fala ao público Então pode passar tem microfone no fundo por gentileza a Helen vai fazer a primeira pergunta ao Cristian Oi eh Obrigada Ah chistian muito feliz Que você esteja conosco hoje porque trouxe também uma um equilíbrio de Visões eh eu tendo a ser muito mais radical que você e aí eu vou falar eu vou só fazer

dois comentários né porque é isso quando eu fui fazer bioética e pensar em Inteligência Artificial e robótica anos ATRS trás era justamente para pensar nas responsabilidades da ciência Como regular a ciência como eu venho também das Artes eu vou já citar o o artigo que Onde vocês vão encontrar referência do que eu digo porque às vezes pessoa que vem das Artes acham que a gente fica inventando coisas o tempo inteiro né que é Electric Body manipulation as performance Art Ah uma perspectiva Histórica de Artur renar e rank chenko é um artigo que ganhou o o

prêmio do do da revista Leonardo do Mit mas é só só vou citar porque eu vou citar coisas bem interessantes né que aí você citou energia elétrica e energia Elétrica quando começou ela também era uma bagunça eh os próprios cientistas faziam experimentos nos corpos de de pessoas para testar carga elétrica fazia isso fazia experimento nos próprios corpos e o Thomas Edson ele conseguiu ele conseguiu a patente depois que ele conseguiu eletrocutar um elefante né então assim quando uma coisa tá bem no começo né Eh eh tem uma tem uma uma uma um ânimo né uma

vontade é é uma inovação tem uma um Fascínio né um Fascínio com Aquela descoberta e parece que regulação é quem fala de regulação a gente quer fazer ver essa coisa acontecer então eh anos atrás eu justamente estava começando a ver o a questão da regulação porque bioética é é uma forma de né de regulamentação então eu tava justamente vendo e e e aí vendo os aspectos filosóficos o que qual o pensamento que tá atrás disso que permite com que você não se preocupe que se eletr eh sabe que que acabe com a vida de um

elefante para Provar né que você tem direito a fazer uma patente e eu acredito que isso que a gente tá vendo agora algumas vidas estão sendo mais impactadas do que outras e tem muitos problemas acontecendo aí a outra pontuação que eu gostaria de fazer é essa visão da ferramenta porque a ferramenta de ia ela é uma ferramenta muito dinâmica de multicamadas né ela tem muita muito mais informação dentro dela o que faz com que ela não seja tão fácil de se ler como um um né como uma Ferramenta eh enfim bruta né um martelo um

então acredito que essas duas observações que eu gostaria de fazer mas muito obrigada pela sua fala e é bom que a gente dá uma respirada né porque traz e tem um monte de gente querendo perguntar os debatedores aí vão ficar então obrigada eu Oi Christian tudo bom e gostei muito sua apresentação achei muito legal com imagética ela é achei isso muito interessante e eu queria perguntar se Existe espaço ou deve ser levado em como possibilidade na questão da da governança a visão da ia como não como ferramenta mas como alguma espécie de agente eh só

se existe espaço para essa visão a pergunta é só existe espaço paraa visão da i como ag gente dentro dessa perspectiva distópica ou Isso deve ser levado em consideração num na criação de um modelo regulatório eh porque a questão da i com a gente Como a gente é o que o o harari traz no livro Nexus que sai agora como ele fala sobre o algoritmo do Facebook e as ondas de ódio em myanmar e sobre como isso não foi necessariamente eh programado por ninguém e é uma coisa que fog um pouco a noção dela como

ferramenta então é é meio que essa pergunta é assim eu concordo eu acho que é super interessante é e é interessante a gente compreender essa lógica de a gente sem a gente antrop esse essa Lógica de Agente né porque quando a gente pensa D dessa maneira a gente pensa que existe um uma uma capacidade de agência do agente que de fato ela existe de uma maneira muito limitada quando a gente pensa do ponto de vista técnico da da ferramenta da Inteligência Artificial por isso que eu penso que claro a gente pode imaginar com a gente

inclusive várias H várias inserções estão nesse nesse sentido assim mas sempre que a gente entenda que esse Agente ele funciona como uma um elemento dentro de um processo mais amplo né então ainda que a gente não necessariamente pense ele como uma ferramenta ele ainda é um elemento dentro de uma lógica ferramental pra realização de um determinada função na na prática né então quando a gente pensa isso dentro dessa dessa forma a gente consegue compreender que de fato a gente tem que olhar para os usos que são feitos né ou seja as possibilidades os Quadros de

utilização desses agentes né então por exemplo você vai utilizar eh uma inteligência artificial para resolver os problemas relacionados a algo mais do nosso do meu dia a dia pelo menos né que é Ah vou precisar marcar onde eu onde vão ser as minhas passagens aéreas eu vou marcar o meu hotel Então você tem um agente que vai me facilitar esse processo de me dar me prover assistência ele pode ter um um grau de de Alucinação ele pode ter um grau de Impactos para além do que está planejado Originalmente potencialmente Sim mas você tem uma série

de elementos de tecnológicos e arquitetônicos de mitigação que de fato acabam H reduzindo potenciais impactos para além do do esperado né E aí eu entro na na questão de de myanmar assim né Nós temos que pensar que eh de fato na na prática o o os usos que você tem de diferentes algoritmos E aí eu não entro especificamente somente em ia eles Acabam tendo eh impactos na sociedade que são impactos sistêmicos né que acabam gerando situações que de fato talvez não fossem a situações ou potencial ou de fato não sejam situações esperadas né e o

ponto aqui e eu acredito que juntando as duas colocações do comentário e sua pergunta é justamente a gente tentar compreender o que que pode ser feito nessa cunstâncias ouou melhor o que que pode ser feito para que essas circunstâncias não Aconteçam né E aí eu penso que a lógica é não é regular a inteligência artificial mas sim regular os impactos possíveis Então você vai dizer que vai ter ter uma série de de mecanismos de governança para as inteligências artificiais que forão ser usados em determinados contextos e que podem ter flutuações com relação a isso ou

seja você vai poder Minimizar ou seja o potencial de Alucinação você vai poder utilizar um texto específico um quadro De dados específicos você não vai deixar um algoritmo Mais Solto na na utilização você vai entender Qual o impacto contextual daquela daquela ferramenta ou daquele algoritmo ou daquela Inteligência Artificial né então isso tudo isso vai gerar mecanismos que vão limitar os potenciais impactos né ã sem querer entrar em detalhes sobre como eu penso especificamente o modo da dos impactos myanmar do modo como o Facebook entrou mas existe um elemento ali mais Do que eh extremamente ferramental

ou tecno tecno Lógico é um elemento cultural que foi não posicionado de maneira eh efetiva né Ou seja você dificilmente compreendeu e e de fato houve uma falha da ferramenta que existia para mitigar na situação ali justamente pelo fato de que você não utilizava necessariamente textos você utilizava muito mais mensagens de voz então você você não tinha você tinha uma dificuldade muito grande de lidar com Essa situação ã você tem dificuldade de teclados de linguagem de compreender o contexto específico de utilização então voltando para para cair no na lógica do que eu tava tentando pensar

anteriormente a gente tem que entender que a qualquer regulação qualquer mecanismo de governança ele deve olhar pro contexto de uso específico mesmo quando a gente pensar numa lógica de agente porque justamente isso entra num contexto especí que vai ser utilizado né E aí é os resultados disso é que de fato a gente tem que visualizar se vai ter um risco maior de acontecer e vai ter um risco maior de impacto efetivo a gente não tem que necessariamente olhar a ferramenta e nem nem angelizar o demonizar a ferramenta previamente né temos que compreender ela no seu

uso na prática específica espero ter ajudado a responder aí ou dado um caminho pelo menos temos uma última pergunta Cristian pode sim pode sim eu tenho até as 8 mesmo não tem problema Cristian eh mais uma vez obrigado pelo aceitar um convite Ah vou puxar logo o gancho da ferramenta e do prêmio Nobel mencionado Professor Virgílio né na apresentação del Inicial ah como você vê o ap o e o Nobel esse prêmio Nobel vamos ver o prêmio com um aceno à academia ou aceno à indústria eu eu me explico eh porque foi laureado né os

prêmios de química e física Principalmente física né a a a um um a um pesquisador né que se utilizou da ia como ferramenta como método mas anteriormente ele era um representante das bigtech e e resolveu sair das bigtech eh eh alertando sobre os riscos da do desenvolvimento da da Inteligência Artificial né Eh tava preocupado com os rumos que tá dando a empresa ao desenvolvimento da Inteligência Artificial Então seria no sentido seguinte eh O apelo do Nobel seria vamos Incentivar mais ainda essa área financiando cada vez mais nem que seja a Qualquer Custo ou um acendo

a academia no sentido de que olha temos que desenvolver realmente entre inteligente artificial Mas ar atentar para os seus perigos principalmente por por sair fora do controle humano que é o que um ex representante alertou ao sair da sua Big Tech obrigado eu acho que essa é uma ótima colocação e entra no meu último ponto de de análise assim vou de novo Responder como advogado e vou dizer que rade é pros dois né acho que é é são bons acenos para as duas áreas assim e e e acredito que ess essas eh quando a gente

olha para indústria e academia há uma tendência natural da gente compreendê-las como elementos conflitantes ou ou em intenção mas a verdade é que do ponto de vista meu prático e pragmático eu acredito que na realidade pode ser visto como elementos na realidade de cooperação né Eu Acredito que existe um total eh papel específico paraa academia na indústria e um total papel da indústria para facilitar a academia de alguma maneira né então os acenos eu acredito que vão nos dois sentidos né nos sentidos de Olha a indústria Vale desenvolver ferramentas sempre e quando essas ferramentas são

pensadas de um ponto de vista responsável ou de um ponto de vista que de fato tenha um impacto positivo pra sociedade e de um Ponto de vista que a academia possa de alguma maneira preservar e criar caminhos para que a indústria possa desenvolver essas ferramentas possa desenvolver Essas tecnologias da melhor forma possível para gerar para voltar ao meu ponto inicial gerar potên potenciais soluções para problemas socioeconômicos que até hoje nós não conseguimos resolver sozinhos talvez com um elemento a mais ou com alguns elementos a mais a gente consiga talvez não necessariamente Resolver mas podemos mitigar

podemos melhorar as situações é por isso que eu acredito que existe um papel significativo para esses institutos que tem um caráter muito mais científico do que um caráter Industrial ainda que a maioria deles é voltado para você ter uma visão multissetorial ou seja com a participação do setor privado e a academia o setor técnico e o setor público de alguma maneira eu acredito que eles T uma uma caráter de científico Né então esses institutos de segurança e confiabilidade Safety lei ess aqui de Inteligência Artificial eles têm um papel Fantástico pra gente pensar como mapear os

grandes problemas como mapear as grandes soluções para encontrar mais e responsável né Quais são as os métodos melhores pra gente testar a inteligência artificial para que nunca mais possam ocorrer situações como que ocorreu em myanmar né que a gente possa ter situações sejam melhores Que temos impactos mais positivos do que impactos negativos então ã para fazer um pouco de de propostas de pólice assim no de futuro assim de políticas públicas do futuro eu acredito que é que há um espaço particularmente do Sul Global E aí eu digo o Brasil pode ser um líder nesse sentido

de pensar esses eh institutos de Safety ou de segurança e confiabilidade de a no sentido muito peculiar e científico né Eh se eu for colocar um pqueno Pimenta Nessa da discussão de vocês nos próximos segundos gostaria de abrir paraa Academia Brasileira de ciências pensar sobre a possibilidade de ã facilitar ou participar de um de um ai Safety institute n um instituto de segurança e confiabilidade em Inteligência Artificial acredito que tem um papel significativo da ciência brasileira ainda mais que a ciência brasileira tá andando de uma maneira muito Ampla nesse mesmo caminho então um aceno Nobel

Vai Um aceno nesses dois sentidos da academia e para indústria e da mesma forma é um aceno de políticas públicas né Eu acho que a gente tem que pensar como nós vamos criar esse instituições que vão nos auxiliar no processo de desenvolver mais ã e a de maneira responsável e ética e acredito que o Brasil eh tem um papel potencial eh significativo que há essa possibilidade dessa visão multissetorial voltada para uma visão científica de como lidar com Os potenciais desafios da segurança e confiabilidade de sa no sentido de da Inteligência Artificial muito obrigada Christian é

uma alegria tê-lo conosco e o nosso grupo estará sempre aberto a qualquer proposição que você tiver numa troca aí de diálogo e de também de possíveis parcerias futuras para pensar papers e outras pesquisas Fique à vontade para se despedir enquanto a gente pode depois Continuar nosso debate se eu for deixar uma última palavra aqui para vocês antes de antes de sair além de agradecer a oportunidade de estar aqui é uma palavra que eu gostaria de deixar para vocês eh se a gente for pensar sobre governança de Inteligência Artificial e regulação da Inteligência Artificial pensemos dentro

desse desse Marco das possibilidades que que existem e do Marco de que de fato a inteligência artificial ela tem um potencial Significativo sempre e quando ela for pensada para ser responsável e que ser responsável não quer dizer impedir Inteligência Artificial ser desenvolvida mas talvez ser desenvolvida de uma maneira eh positiva com os incentivos corretos e os desincentivos também corretos dentro de um equilíbrio que leva em consideração o contexto local doméstico brasileiro mas também levea em consideração como o Brasil se enquadra Dentro de um ecossistema de Inteligência Artificial que quase que por definição quase Pelo modo

como está sendo ocorrido ele é necessariamente global glal né então pensem dentro dessa dessa lógica das das soluções possíveis para problemas socioeconômicos que sejam que enquadrem o Brasil dentro desse ecossistema Global Então acho que esse é o ponto mais relevante que a gente possa pensar para que o Brasil possa desenvolver as soluções e possa estar Representado globalmente nas outras nas principais soluções de Inteligência Artificial que aí apareçam tá bem gente muito obrigado gostaria de participar mais mas eu tenho que agora correr para uma reunião aqui com o então tchau tchau aí gente abração abraço Obrigada

para concluirmos a nossa mesa daremos 5 minutos para cada um dos nossos membros e eles vão expor algumas reflexões do grupo do nosso trabalho bem como alguns temas que fazem correlação com o exposto Pelo Cristian mas que envolve outros elementos como questão da Segurança Pública começa Olá bom meu nome é Lucilene eu queria aproveitar a deixa do dia do professor que também sou para fazer um um depoimento Público aqui mas antes disso lembrar que eu sou da ECA aqui vários colegas da ECA inclusive o professor Luís Roberto que tá ali atrás meu colega prazer em

vê-lo Luís tudo bom e também dizer que Professor Virgília Publica essa declaração eu tenho dito aos meus alunos que há muito tempo eu não tenho professores Então agora você tem sido meu professor durante esses anos todos então e eu já me ofereci para ser sua assistente igualzinho os agentes de A tá quando é precar pode me chamar é assim é muito bom poder aprender e ter um professor eu sou muito grata a essa possibilidade da cátedra queria parabenizar você Helen pela organização do simpósio desse desse seminário porque Com tanta gente a gente nem se conhecia

a gente tá se conhecendo agora imagina né dificuldade tudo online né e e impressionante e aí todo meu script foi por água baixo porque tudo que ele falou eram as minhas dúvidas eram as minhas dúvidas e eu concordo plenamente com ele acho que o Brasil é é na realidade é o dilema da regulação né só que ele pôs o ele pôs o ponto saiu da regulação e pôs na governança porque é isso eu não sou das leis não sou Advogada Mas é isso as leis são interpretadas sim não porém e o sujeito que tá lá

dependendo dela é que tem que é que tem que se esforçar para poder pagar suas causas na realidade é isso mesmo que eu penso sobre essa questão das leis então tirando o foco da regulação com tudo que ele falou que há um há um há um um problema específico nos contextos concordo com tudo que ele falou acho que ele acho que ele faz um dá um um AP à Discussão muito boa então sai saiu da saiu da das leis e da regulação e vai pra governança então assim de repente não precisa fechar tanto a regulação

deixar ela tão sem possibilidade do sujeito andar de de criar e de de se posicionar e mais para a governança e portanto as políticas públicas né só para lembrar uma questão da esfera política Professor Virgílio falou da política e e eu queria só finalizar com isso que é uma preocupação Que eu tenho tido nos meus trabalhos atualmente eu eu que sou da comunicação e tô indo pra área da tô indo pra área da da política paraa área da governança algoritma que me interessa pra questão da Democracia por causa dos meus orientandos que são de relações

internacionais e para alar e para pensar nessa questão da que como Alerta a soana Zu bof que a ia também pode ser utilizada como a ferramenta de controle social e político que governos Autoritários ou simpáticos a autoritarismo podem empregar algoritmos de para monitorar cidadãos reprimir dissidências manipular informações minando assim os direitos civis e políticos exemplo exponencial que a gente tem é a China né então é a é a questão das câmeras assim as câmeras estão instaladas em todos os todos os cantinhos né E a questão facial de reconhecimento facial a vigilância total do ser do

ser Humano assim para mim é é um grande problema acho que é assim que que se preocupar com o que o cidadão vai fazer mas também não não deixar que o cidadão não possa andar em cada agora as câmeras aqui em São Paulo São ainda das empresas mais do que da da do governo Eles são de empresas cada empresa põe no cantinho com o seu logo né Essa é uma coisa que me preocupa muito de resto tudo que ele falou parabenizando a tanto a fala do do Cristian quanto a fala do Rafael que por Acaso

também é da ECA também é aluno da gente então assim uma ão bem legal de de a gente tá pensando na educação com um grupo tão é tão é tão complexo né porque a gente não entende nada de computação a gente não é da área de computação né então e e a ia vai por esse caminho então assim é uma oportunidade muito boa acho que a cátedra vai indo muito bem parabéns a todos e essa seria a minha fala obrigado Tudo bem então bom dia a todos Eh boa tarde boa noite para quem nos vê

no futuro numa versão gravada bom meu nome é Marcelo Batista Neri eu sou tecnólogo e sociólogo coordenador de transferência de tecnologia do núcleos da violência da USP onde também sou responsável pelo cento colaborador do Neve com a Organização Mundial da Saúde creio que essas informações são importantes para eh colocar em contexto oferecer um contexto as minhas reflexões Eu acho que o Cristian foi brilhante não Tenho nenhuma dúvida com relação àquilo que ele colocou só que diferente da colega tem algumas questões que eu realmente não concordo infelizmente ele não está aqui pro debate mas eu acho

que a área acadêmica nos coloca eh nessa posição e talvez a A questão não é tanto que eu não Concorde mas mas existe alguns aspectos que eu acho que não funcionariam bem ã e eu vou exemplificar por exemplo à o meu foco é ia e Segurança Pública principalmente no que diz respeito sobre o impacto da ia para diferentes grupos mediante diferentes vulnerabilidades pois bem vamos falar de A então num contexto Onde existe preconceito algoritmo e onde a qualidade da informação tá sempre em cheque eu venho dessa área vamos falar de a e de regulamentação por

exemplo num contexto onde uma população não respeita as leis uma população que não confia nas Instituições uma população que não dá legitimidade ao governo parece que as coisas se tornam ainda mais complexo porque se eu dou exemplo de energia talvez muito dessas questões não estaria presente como está em segurança pública o professor Vigílio deu exemplo de pessoas presas por um monitoramento errado o professor Rafael falou dos pontos cegos sobre a necessidade de olhar o que não dá Certo mas quando o que não dá certo impacta a vida de uma pessoa a ponto de ela ser

presa daí isso pera aí será que realmente não é o momento de regular certas coisas Será que não é o momento de perceber que a regulação não funciona num contexto onde não tem transparência eu trago essas reflexões porque essas reflexões estão lente na área de segurança pública e inteligência artificial e é o que eu gostaria de pontuar de levar reflexão aqui de Todos terminando agradecendo a Helen pela oportunidade o professor Virgílio todos vocês aqui dizendo que tá sendo uma honra e um privilégio trabalhar com vocês e espero que essas reflexões contribuam com aquilo que as

mesas estão trazendo Muito obrigado bom pessoal boa tarde e já Boa tarde eh um prazer est aqui na na mesa com os colegas Tatiana Lucilene Anderson Marcelo e que não somos apenas avatares através de reuniões online né Eh praticamente para chover no molhado também Helen Parabéns e muito obrigado pela organização Agradeço o professor Virgílio e parabéns às professoras e professores pelo dia de hoje eh eh é compreensível que muito da discussão quando a gente fala de a e governos né gire em torno da da regulação só que é é importante também a gente considerar que

isso passa pela própria discussão do poder público uma vez que envolve questões que vão além da regulação e eu Gosto sempre de provocar e de citar duas pessoas que eu consulto tenho enorme respeito Mariana mazucato economista professora de UEL e o Claus schuab eh organizador do fórum econômico mundial com perspectivas lentes bastante diferentes mas ambos tratam sobre a a participação a relevância do poder público quando a gente tá discutindo eh eh investimento ah público quando a gente tá discutindo revolução digital né Isso é bastante Importante a gente trazer para essa discussão porque isso toca eh

no poder público como consumidor de tecnologia poder público como eh fomentador de inovação como eh definidor de uma agenda de tecnologia Então isso é muito oportuno também a gente trazer um pouco para cá a discussão e embora a discussão como eu comentei ela tenha sido mais frequente e foi muito importante também há dois meses atrás ter o lançamento da do pebi ainda como uma proposta de plano Mas que isso traz à luz também essas outras discussões do que mais da agenda realmente da intelig ência artificial no âmbito do Brasil da mesma maneira que outros países

também eh tocando as sua as suas agendas eu gostaria de trazer aqui dois pontos particulares eh que estão na pebia né um eh Imagino que a maioria esteja familiar e esteja familiarizada com a pebia mas em resumo trata de ações e Em Curto Prazo né mais imediatas e outras ações chamadas de Estruturantes ou seja com um Horizonte um pouco mais longo né quando a gente olha para as ações mais imediatas e uma coisa que me pareceu de certa maneira tímida foi a questão do do olhar sobre eh a inteligência artificial como uma forma de auditoria

sobre contas públicas até é mencionado como uma das ações embora não detalhada eh e eu acho que valeria a pena uma ambição maior com relação a esse capítulo até mesmo como uma forma de fazer com que certas Preocupações sobre Sobretudo com eventuais restrições orçamentárias para executar a agenda ela possa ser atenuada através de uma de uma de uma fiscalização de uma auditoria mais eh importante mais robusta com relação a contas públicas não menos importante também e decorrente disso a própria transparência de gastos públicos como decorrência de uma aplicação de Inteligência Artificial sobre essa sobre sobre

as contas públicas e um outro Aspecto que é sobre a com relação a ações estruturantes ou seja ações de mais largo prazo é como um plano dessa envergadura como como esse tipo de ação estruturante ele seja perene né Independente de uma agenda de um governo que dura 4 anos e quando a gente fala de ações estruturantes naturalmente a expectativa é que isso ah passe de década né então é é é um ponto também de atenção que quando a gente olha para Iá governo ou Iá E poder público eu acho Que vale a pena considerar também

bom muito obrigado Alguém gostaria de fazer Bom dia meu nome é Sabrina Rodriges Santos mestre Doutora pelo prolan USP professora pises Eu gostei muito parabéns ao evento ele é rico e é importante para difundir essa reflexão eh e eu concordo essa reflexão precisa transbordar as Universidades e chegar eu sou advogada há 36 anos então eu fi eu Acompanho toda a transformação e a implementação de todas as tecnologias no meu meio de trabalho e passei muitos anos da minha vida dando aula para advogados velhinhos e jovens eh como usar Essas tecnologias no nosso meio Tá certo

então Ah o que eu chamo atenção para tudo isso é os direitos a gente tá falando em regulamentação do uso dessas da da Inteligência Artificial os direitos os direitos humanos eles já estão Consagrados há décadas há séculos em todas as sociedades eu ouso dizer nas sociedades ocidentais e algumas orientais eu não conheço essas culturas orientais Então se os direitos humanos estão consagrados o direito ao trabalho o direito civil o direito à personalidade né Eh o direito aos ao à proteção de dados pessoais e aí eu concordo com a professora Lucilene quando ela disse me preocupa

muito fazer a minha imagem para entrar num num num Ambiente privado eu tive uma primeira discussão sobre isso quando eu fui para uma reunião de trabalho dentro do Serasa há muitos anos atrás tratar de sustentar idade responsabilidade social que eu atuo nessa área e eu questionei eu falei eu não vou dar a minha fotografia para vocês e eu já entrei com ação judicial contra o Serasa porque ele vende os nossos dados pessoais eles não nos pedem autorização eu perdi ação porque a juíza da época 10 anos atrás ela não entendeu Do que eu tava falando

e já tinha Marco civil na internet e já estava em em elaboração a a nossa lei de lei geral de proteção de dados então é muito muito grave e quando eu vou para minha eu eu sou da academia gosto muito da pesquisa e quando eu vou paraa minha área do direito conversar com meus parceiros de trabalho eu digo assim PR os advogados aprendam a tratar desse assunto para levarmos esse assunto para o poder judiciário que o professor luí Fernando Vai falar de tarde para levar para o poder judiciário bem elaborado eh para pro juiz que

vai receber essa todas essas discussões que são discussões no tribunal para que ele saiba o que nós estamos falando e ele dê uma boa decisão uma boa decisão é urgente isso então quando eh eu eu chamo atenção por quê eh eu pedi para falar para vocês porque os direitos humanos já estão consagrados o direito à personalidade o direito às obras então todos têm que ser Todas as organizações internacionais Organização Mundial da propriedade intelectual a fal precisa tratar desse assunto URG porque nós estamos falando dos cultivares também a Organização Mundial da Saúde OEA ONU Então são

todas as as organizações internacionais precisam abraçar esse tema e Haver a intersecção a conversa da da Universidade que tá falando disso há muitos anos pra gente poder Realmente fazer uma boa Não vamos não vamos conseguir fazer uma ótima se a gente conseguir fazer uma boazinha de uma regulamentação artificial vai ser bom eh no Brasil já temos o Marco civil da internet e a lei geral de proteção de dados são ótimas legislações nós temos um código consumidor de da década de 90 que é muito bom muito bom e ele precisa ser aplicado Então o que nós

precisamos urgentemente é Fiscalização séria precisa haver respeito porque as empresas não estão respeitando os nossos direitos já constituídos e consagrados a meta se você abrir o seu WhatsApp eu sou obrigada a usar o WhatsApp eu não gosto porque o meu cliente usa ele não quer falar comigo por e-mail ou por telefone ele quer mandar mensaginha por WhatsApp só que o WhatsApp ele já virou a chavinha e ele já tem uma inteligência artificial dizendo assim olha você quer Fazer pesquisa antes de fazer a pesquisa dos meus contatos tava ótimo e agora ele disz assim você quer

fazer pesquisa use a nossa Inteligência Artificial eu não quero aí eu recebi uma mensagem eh de um de uma consulta médica que eu tenho amanhã da minha médica e ele já ele já mandou mensaginha ontem porque tem uma empresa parceira da Meta que diz assim olha amanhã você tem uma uma consulta você quer confirmar então cai por terra e ela mente quando ela diz assim as Mensagens são criptografadas de ponta ponta ela está mentindo Pode até ser cripto grafada de ponta a ponta Ou seja no meio do caminho da mensagem ela não é interceptada mas

lá na na na nuvem da Meta ela tá interceptada ela está compartilhada sem autorização de qualquer um de nós então a meta no Brasil está violando a lei geral de proteção de dados para dizer o mínimo e a pergunta é o que é que nós estamos Fazendo então eu sempre digo eu não bato palma como uma foca para as Tex elas fazem um trabalho legal o grande problema é o poder que elas têm e elas não respeitam na União Europeia ela é essas bigtech estão sendo chumbadas com multas grandes gordas mas elas não estão nem

aí porque dentro do da contingência dela você tem um dinheiro guardado lá para pagar a conta da multa ela tá ela continua a fazer o que ela não deve então eu tô muito preocupada com isso Com a falta de uma fiscalização enérgica Então o que o Moraes fez com com o x né não vou entrar no aspecto político disso coisa nenhuma mas aí vem uma dis uma disputa muito interessante sobre a questão da soberania digital é um impasse muito grande elas não cumprem as regras nós temos um direito posto e o direito de cada país

e o direito internacional eu sou internacionalista eh ele deve ser cumprido é uma questão de civilidade E aí a gente vai para uma Para um outro patamar de violação de civilidade porque o direito é uma ficção humana os direitos humanos é é assim é óbvio o direito é para humanos Então aquela os direitos humanos falar de direitos humanos é é uma na minha opinião uma hipérbole Tá certo então parabéns por essa por essa por esse trabalho Fantástico que vocês fazem e eu peço por por favor por favor transbordem os Muros da Universidade levem a gente

precisa Multiplicar isso para fora e dentro dessas empresas eh Porque o fato delas não respeitarem os nossos direitos os direitos da sociedade de cada situação é muito grave E aí esse é é o perigo maior porque se eles não respeitam minimamente o direito posto não adianta criar regulamentação eles não vão eles não vão eh cumprir essa é a minha proposição obrigada muito obrigada professora pela sua reflexão e nos ajude também a transpor essas Pontes entre academia e a sociedade que acho que todo mundo aqui na sua profissão também faz isso que bom ter mais uma

internacionalista aqui conosco mais alguma por favor obrigada eh Bom dia todo mundo obrigada enfim eh pelo evento parabéns pelo evento e acho que minha pergunta eh vai muito talvez dialogar com a intervenção que você fez eu também achei muito interessante a intervenção que Marcelo fez bom me apresentando meu nome É Lúcia e eu tô agora na pesquisa de doutorado estudando tecnologia de segurança em espaço de fronteira e acho que uma das coisas que eu tenho pensado e acho que seria até uma pergunta que eu faria depois da intervenção do Christian Na verdade são duas coisas

acho que a primeira questão é como que a gente pensa em proteção de dados né nesse nesse contexto de de de ia e pensando especialmente no cruzamento de Bancos de dados que às vezes a gente não sabe que são cruzados Então acho que pensando por exemplo em tecnologia de de segurança de Fronteira eu acho que a gente descobre que existem bancos de dados eh para fora né de bancos de dados que seriam usados para policiamento para controle de passaporte que são usados para cruzar dados Então acho que isso seria uma questão para mim assim pensando

inclusive em governança E aí Uma outra questão seria justamente eh em como pensar nessa relação entre empresa e governo eh e aí assim por exemplo E aí compartilhando inclusive uma uma situação de pesquisa mesmo e que eu tô ainda pensando como é que eu vou tratar mas eh eu entrei com pedido de acesso à informação para alguns órgãos do governo sobre tecnologias de segurança que eram usadas eh por aqueles órgãos e O que eles me responderam foi que eles não usam tecnologia de segurança quem usa é a empresa e aí como que você acessa essas

empresas né eh qual que é a responsabilidade pública que essas empresas têm em termos de lgpd de Marco da internet Então como que você consegue fazer uma política de governança eh pensando nessa fusão né então quando a gente tá falando de tecnologia Realmente o governo né o estado ele vai ter muito pouco ali de de propriedade digamos assim daquelas tecnologias então o banco de dados que ele vai usar vai ser externo o o algoritmo que ele vai usar vai ser externo Então como que a gente pensa essas relações eh no meu caso né o meu

interesse é pensando em em segurança mesmo eh acho que são essas duas frentes obrigada eu eu posso te responder a Tentar te responder Qual seu nome mesmo Lúcia meu Anderson eu para otimizar a apresentação eu não me apresentei Eu sou Anderson né pesquisad pesquisador aqui da cátedra meu tema de doutorado é regulamentação de Inteligência Artificial Impacto por Sul Global né Principalmente pro Brasil tem muito a ver com a questão da soberania digital a questão da interoperabilidade ou seja transmissão internacional de dados tá a gente tem esse grande Problema principalmente porque a A grande maioria dos

data centes estão eh São ext extraterritoriais Ou seja a maioria estão nos Estados Unidos Por exemplo A grande maioria mas muito grande maioria a parte a questão da China porque é um outro ecossistema é outra cultura é outro ambiente digital né mas essa é uma das preocupações nossas assim de essa transmissão de dados que muitas vezes é feita sem o cons sem nosso conhecimento e sem nosso Conhecimento não tem nosso consentimento né Então essa é uma das preocupações também focais do nosso grupo e a e governo para tratar dessas questões para que elas sejam resolvidas

da forma mais adequada possível né então envolve a questão realmente como você falou interoperabilidade essa questão de trocas entre agências a gente não sabe da maneira como se dá de que maneira que se dá se há Descartes desses dados após o uso a questão de necessidade de Proporcionalidade de legalidade de temporalidade aí a gente trata sobre tudo isso é um convite a mais para para saber nosso nossos estudos né E o nosso livro que vai ser publicado recentemente obrigado bom então encerramos as sessões da manhã e retornaremos às 14 horas muito obrigada pela presença ao

vivo e online nessa manhã Obrigada para todos nós Boa tarde a todas as pessoas presentes Vamos Retomar então o trabalho primeiro seminário de a responsável agora à tarde nessa primeira sessão nós vamos começar com o GTI a justiça e nesse primeiro momento nós vamos dar início ao documentário da professora Tainá junquilho que está em pré-estreia é o documentário juris máquina ele tem 20 minutos ele vai ser a base aqui da nossa discussão porém como ele está em pré-estreia nós não conseguiremos fazer a transmissão pelo YouTube então só será Transmitido para as pessoas que estiverem aqui

presentes no auditório E aí retornamos em 20 minutos para a retomada do painel Obrigada e dando seguimento eu queria convidar aqui o Professor luí Fernando Martins Castro aqui da cátedra Oscar sala para compor aqui o painel conosco eu sou Silvia Piva faço parte do grupo de trabalho e a justiça junto com as minhas colegas Renata Carolina Vale e outros que estão aqui eh virtualmente eh Eu vou dar um Panorama da nossa pesquisa as perguntas que nós fizemos e esse recorte do dentro do Judiciário e depois passo a palavra para Tainá para expor um pouco né

inclusive porque ela faz parte do comitê de eh Inteligência Artificial está no Senado e também no comitê do do CNJ e é importante a gente fazer o o o qual foi o panorama né primeiro por a gente a gente não acredita né Eu acho que a maioria das pessoas não acredita mas o judiciário brasileiro além de um Dos maiores do mundo 83 milhões de processos é um dos mais modernos no mundo então o case do Judiciário brasileiro seja com relação à digitalização seja com relação à implementação de Inteligência Artificial já é um cas Mundial quando

a gente buscou fazer a pesquisa nós fizemos algumas reflexões baseadas em dois recortes Como a tecnologia está mudando a prática do o direito e o papel dos juízes Quais são as possíveis Implicações da ia na tomada de decisões judiciais e como o uso da ia e das tecnologias relacionadas pode impactar o processo de julgamento E definimos essas perguntas em duas frentes a percepção da Justiça com relação ao cidadão né como a inteligência artificial dentro do Judiciário pode aumentar a percepção de justiça e como nós vamos lidar com a discriminação algorítmica considerando que ela existe disso

criamos uma nova pergunta chave que foi Quais são as consequências potencialmente negativas ou positivas do emprego da ia na Esfera Justiça etapas prévias e judiciais especialmente relação direito fundamentais e que abordagens podem ser recomendadas para prevenir o impacto então disso nós fizemos discorremos AA no ambiente eh Global então o quanto ela é usada na Estônia para julgamentos de Pequenas Causas na o cas da China que já traz toda uma alienação do cidadão quando ele Ele entra numa Contenda judicial e que ele é efetivamente retirado da seus score de crédito da toda sua do seu convívio

ali social e fomos pro Judiciário brasileiro onde a gente fez a estimativa né 84 milhões de processos uma implementação de Inteligência Artificial que vem desde pelo menos 2000 19 2020 todos os sistemas de Inteligência Artificial do Judiciário que não estavam abarcados pelo sinapse que é o programa De eh unificação desses sistemas pelo CNJ vimos cases de eh Iá aplicadas no judiciário onde a política era uma folha de papel sem nenhum critério uma coisa perigosíssima e chegamos a algumas análises de cenários que é o que eu vou colocar aqui para tá que no Médio prazo alguma

premissa né primeiro a premissa a categorização de grande bases de dados e todo o saneamento é uma necessidade do Judiciário para fins de gestão nós não Temos como resolver um problema de 83 milhões de processos ter uma percepção de Justiça Sem uma efetiva categorização de dados mas no Médio prazo nós poderemos ter julgamentos apoiados em ia eficientes com bases de dados mas também teremos uma maior exposição do posicionamento de cada magistrado podemos ter ao mesmo tempo uma justiça preditiva que nos indica qual vai ser o panorama a ser julgado por aquele determinado julgador mas Também

uma ideia de Justiça lotérica isso seria uma externalidade negativa um excesso de estatística versus questões humanas complexas e suas nuances E com isso a redução do Poder de discricionariedade que seria a diminuição do Poder de um juiz humano de tomar suas decisões com base em suas avaliações individuais e de sua experiência isso seria bom ou isso seria ruim e o surgimento de um novo contencioso apoiado em discussões sobre Legitimidade sobre do uso da ia a sociedade precisa acreditar numa instituição que use bem então o judiciário é uma sociedade é uma instituição que precisa dar legitimidade

para isso o novo contencioso sobre a impugnação das premissas os dados e o método do algoritmo que seria o que a professora eh Daniele citron chama do devido processo tecnológico e os vieses discriminatórios então Eh sem agora só dando essa abordagem Ampla eu queria Convidar a Tainá minha grande amiga muito feliz de ter você aqui Tainá hoje professora Tainá é Doutora em direito pela Universidade de Brasília com enfoque Inteligência Artificial hoje é assessora do Senado e tá muito envolvida no GT do CNJ que agora tá Como foi mencionado no document tá tendo atualização de como

o judiciário vai usar a inteligência artificial Então tá a palavra tá com você daqui a pouco a gente retoma aqui o debate Obrigada boa tarde começar Estamos te ouvindo espera só um pouquinho Oi sim ouvindo você agora obrigada obrigada já ia falar que eu ia começar com a pergunta estão me ouvindo Então já foi respondida a pergunta eh Boa tarde a todos e todas é uma alegria muito grande est aqui eh consegui est aqui né Eu tive que fazer uma viagem às pressas por causa do trabalho mas não podia de deixar de Honrar esse convite

eh principalmente porque ele me foi feito com muo antecedência e porque faz parte de um projeto eh de uma grande amiga a quem eu admiro que é né também a professora Silvia Professor Virgílio que também admiro bastante e tendo como o debatedor o professor Luís Fernando então Eh muito obrigada pelo convite bom eh eu de fato tô e é um assunto né que de fato eu tô envolvida bastante envolvida porque desde o meu doutorado né na verdade Explicar um pouco da da de onde como que eu cheguei ali eh nessa Ness nesse momento eh desde

2018 eu fui convidada né quando eu entrei ingressei no doutorado na Universidade de Brasília eu fui convidada para participar do primeiro projeto de Inteligência Artificial aplicada a Uma Corte constitucional no mundo esse projeto é o Projeto Vitor né que é o nome cujo nome é uma homenagem ao Ministro Vitor Nunes Leal e até no desenvolvimento como Pesquisadora ali do doutorado na Universidade de Brasília no desenvolvimento desse projeto eu acabei notando algumas externalidades negativas que me incomodavam bastante Muitas delas já foram aí pela professora Silvia então Eh por exemplo a os vieses né nesse meio tempo

foi um dos maiores cases a gente poderia dizer de de vieses na Inteligência Artificial de vies discriminatórios surgiu e foi eh Colocado pelo pela principalmente pela PR pública né Talvez o o barulho do aeroporto atrapalha um pouco mas eu vou eu tô bem concentrada aqui eh então nesse momento surge o compas que é o o sistema que cujo viés foi colocado ali né e explanado pela ONG PR pública eh e esse viés era de um sistema eh criado lá nos Estados Unidos para previsão de pena de regime de pena e a pró pública descobriu que

eh as estavam sendo atribuídas penas e regimes De penas mais eh eh rígidos para eh principalmente a população negra e a e da América Latina né então esse era um dos principais cases isso foi surgindo a questão dos dados sensíveis né do uso dos dados sensíveis eh por exemplo se você usa em Sistemas eh produz soluções para pra área do direito do trabalho né paraa Justiça Trabalhista E você como é que você vai fazer com os dados por exemplo eh de filiação sindical que são Dados Sensíveis quando você tá lidando com um dado que às

vezes não é sensível mas que tem um eh mais Rigor também que é por exemplo da criança do Adolescente processos que TM dados de criança do Adolescente né então você tem problemas com questões de dados onde armazenar esses dados né porque são Dados eh bastante estratégicos paraa nação brasileira e aí eu fui comecei a tentar lidar com essas questões éticas no meu doutorado foi daí inclusive que surgiu o Meu documentário né Eh porque eu entrevistei pessoas e aí surgiu o documentário e em 2020 então 2018 começou ali os os projetos de inteligência artificial no Brasil

eh a partir desse primeiro projeto eh do Supremo Tribunal Federal a gente conseguiu hoje a gente tem foram foram crescendo os números né E aí hoje a gente tem só cadastrados numa plataforma que foi criada pela resolução 332 de 2020 140 projetos cadastrados né então Esse esses esses projetos foram crescendos a gente tem 92 tribunais eh no Brasil então portanto se a gente tem só no sinapsis cadastrado 140 processos 140 projetos Isso significa que a gente tem mais de um projeto por tribunal muitas vezes o próprio supremo Tribunal Federal hoje ele não tem só o

Vítor ele tem o a vitória e a Rafa por exemplo né então como é que né L como lidar com as questões éticas dessa dessa Inteligência Artificial que traz vieses Discriminatórios questão de dados a própria transparência desses projetos então em 2020 o CNJ lançou a resolução 332 com vários princípios e essa era uma tendência Mundial inclusive regulatória né Eh os documentos entos internacionais também o CDE Unesco eles vêm muito princípi lógicos um consenso princípi Lógico né da não discriminação da Transparência E aí vem esse segundo momento que é como concretizar esses princípios Principalmente ali no

final do ano de 2022 com o lançamento da Inteligência Artificial generativa eh começa a se notar que não é só o pessoal da academia não é só Eh toda a população mundial realmente em especial o Brasil né o direito é linguagem Então os juízes começou se a notar os próprios juízes e assessores de Juízes estavam utilizando também Inteligência Artificial generativa E aí não satisfeito em 2023 quando o luí Roberto Barroso atual presidente do Conselho Nacional de Justiça assume o seu discurso de posse como o documentário mostra ele conclama ali empresas faz um chamamento público para

empresas E especialmente as bigtec eh fornecerem inteligência artificial generativa para fazer resumo de processos mas ao mesmo tempo e aí é é interessante notar que ele faz eh digamos assim dois movimentos né ele faz o movimento de chamar fazer esse Chamamento público para o desenvolvimento de Inteligência Artificial generativa pro Supremo Tribunal Federal por um lado por outro lado ele faz o chamamento também desse grupo de trabalho que eu faço parte Para quê Para revisar a resolução número 332 porque ela era desse primeiro movimento mundial de regulação que é principiológico então ele ele demandou do grupo

de trabalho que é composto por vários especialistas uma revisão da Resolução 332 então a resolução 332 ela agora Inclusive a professora Silvia pia a gente Piva a gente eh durante o ano o grupo de trabalho discutiu bastante e é muito engraçado né compor como como especialista do tema esse grupo de trabalho porque ali você tem juízes você tem defensores você tem pessoal da tecnologia e você vê os vieses de cada um né e eu vou comentar algumas algumas das questões que a gente passou no grupo De trabalho mas a gente então forneceu eh no mês

passado uma minuta uma proposta de minuta E aí fizemos três dias de super relevan audiências públicas eh por isso a Silvia Piva ela participou também né deu suas contribuições e diversos especialistas sociedade civil e muita gente da coalizão de direitos na rede enfim para ouvir de fato juízes né também para ouvir de fato especialistas no tema para contribuir com o que hoje é essa Proposta de minuta essa proposta de minuta Ela traz ela é inspirada no que hoje a gente tem de do eh a última versão né do pl 2338 que que tem como também

no no documentário o ministro Cueva que presidiu a comissão de juristas que elaborou o projeto fala ele é um projeto Baseado Em níveis de riscos né que que que tem uma lógica de níveis de risco então ele coloca ali riscos excessivos que são aqueles riscos eh que você não Pode utilizar n soluções de Inteligência Artificial que não podem ser utilizadas soluções eh de alto risco que precisam de maior governança e de baixo risco que são aquelas que precisam respeitar menores regras né menores deveres tem menos obrigações digamos assim então a a a resolução 332 ela

se adapta esse novo texto essa nova proposta ela se adapta a essa visão a essa lógica dos da divisão por níveis de risco e aí ela vai trazer eh entos da Inteligência Artificial Ela Traz no artigo sego uma série de princípios né como centralidade humana promoção da Igualdade no artigo segundo eh a ela vai trazer a segurança jurídica segurança da informação devido processo legal supervisão humana que são eram princípios que não estavam ainda na na redação Inicial Ela traz uma série de conceitos também da resolução do do pl 23 3 38 então ela traz ciclo

de vida da o que que é um ciclo de vida da Inteligência Artificial Eh O que que é o usuário usuário interno usuário externo distribuidor eh ele ele Ela traz também agora a nova resolução a necessidade e o conceito de avaliação preliminar que também é um conceito dol 2338 ou seja todo tribunal que comprar um sistema ou que desenvolver por si mesmo o sistema precisa passar por uma avaliação preliminar precisa realizar uma avaliação preliminar para ver onde que esse sistema vai se encaixar porque a gente também trouxe aqui uma Classificação por riscos e um rol

de riscos excessivos ou seja de riscos que são banidos a gente traz um capítulo sobre respeito a direitos fundamentais o outro sobre não discriminação justamente compreendendo que um dos cases entre muitas aspas de sucesso né um dos quees de mais eh que mais fez sucesso de discriminação e vies na Inteligência Artificial é o sistema compas Então traz um capítulo sobre não discriminação e a gente chega No capítulo 3 a que é da categorização e riscos o capítulo de categorização e riscos vai trazer ali os riscos excessivos vedados né no set B E aí vou dar

um exemplo para vocês terem um gostinho né Por exemplo soluções que não possibilitem revisão humana tá são eh vedadas soluções que a que avaliem traços de personalidade características ou comportamentos de pessoas naturais que classifiquem ou ranquei pessoas então muito de fato eh nesse nessa toada Ali inspirado no sistema compas né de ranqueamento etc Então essas são soluções consideradas de risco excessivo ou e portanto banido o artigo 7C ele vai colocar ali algumas hipóteses de alto risco por exemplo eh a averiguação valoração e interpretação de fatos voltados para a aplicação da Norma Jurídica formulação de juízos

conclusivos sobre a aplicação da Norma Jurídica tá e um dos capítulos que eh mais deu polêmica e aqui contando né Digamos uma fofoquinha do GT eh embora eu considere né e a gente eu sei que vocês estão participando aí tem vários painéis sobre a na saúde a no judiciário eu consider Espero que hoje uma das regulações setoriais mais avançadas no Brasil de fato é o judiciário é essa regulação que não só tá sendo né debatida Por especialistas mas também promovendo audiências públicas e vai sair até o fim do ano né mas de toda forma uma

fofoquinha é e que aí eu Coloco para debate devolvo em seguida para vocês é o a questão da ia generativa né eh e e nisso que eu tava falando no início foi muito engraçado participar como especialista porque eu não sou juíza né e e ali você via os vieses dos juízes os juízes estão ansiando por utilizar a inteligência artificial generativa Justamente por isso que a Silvia colocou Logo no início nós somos um país abarrotado de processos a nossa Constituição Federal Prevê o acesso à justiça de uma maneira Ampla Então a gente tem realmente e não

à toa que a nossa corte constitucional né se você compara com a dos Estados Unidos eles julgam máximo de 20 30 casos por ano né a nossa a nossa corte julga milhares de casos então é muito dado é muito dado que circula né E aí eles hoje O que que tem tem sido feito e uma pesquisa que o professor Juliano Marão fez junto com o CNJ também aborda isso hoje os tribunais e os juízes têm usado O sistema eh individualmente né ou eles pagam a mensalidade Ou eles nem pagam a mensalidade né e servidor também

E aí coloca PDF né coloca dado sensível né quando é um sistema que não é inclusive de uma plataforma de assinatura individual você não tem nem como requerer que aquele dado não seja utilizado para treinamento da i generativa então você perde totalmente o controle daquilo hoje a ia generativa no Nos tribunais brasileiros está totalmente sem controle né E aí eh dentro ali das discussões do GT os juízes ansiando muito né a gente que tentou colocar eh alguma coisa ou vedando ou pelo menos estimulando que seja eh uma I generativa pelo menos institucionalizada para eh eh

diminuir os riscos né ter ter a possibilitar maior controle se ela for institucionalizada e não individualizada mas essa é uma polêmica Muito grande que Muito provavelmente vai ser um um dos capítulos que a gente Mas vai ter eh dificuldade de inserir qualquer limitação digamos porque por isso né porque a i a generativa ela realmente eh é uma grande um grande trunfo digamos justamente porque é um Largo modelo de linguagem o direito é linguagem Então ela tem 100 utilidades pro direito né embora a pesquisa do Juliano também eh aponte que a maioria dos juízes estão Usando

e a generativa para pesquisa de jurisprudência e a gente sabe que a ialo em jurisprudência então assim todas essas questões o que a gente tá tentando fazer é pelo menos colocar então diretrizes de Educação de Formação desses juízes para o uso da ia generativa né E aí uma outra questão além de todas essas que a Silvia me colocou é o quão humano vai ficar o nosso julgamento de Fato né se os princípios constitucionais inclusive Esse né de que a todos seram humano merece um julgamento por um par seu por um por uma pessoa humana que

tenha empatia como é que fica isso com o uso eh inclusive permitido da i generativa né que a gente não tá conseguindo barrar aliás eu diria pode ser impossível eh digamos eh Tecnicamente em termos de técnica Legislativa é quase que impossível a gente de fato eh eh vetar o uso né Então como que a gente controla e como que fica o no final das contas um Julgamento que deveria ia ser humano né eh e aí eh A partir dessa classificação todas em risco e todos esses deveres que são colocados Nessa proposta diminuta eh a gente

também do do Lia que é o laboratório de governança e regulação de Inteligência Artificial do idp que eu coordeno junto com a professora Laura Cher fizemos um relatório que eu convido vocês a acessar tá no site li idp a gente pegou a classificação de riscos que tá atualmente na minuta e a gente Classificou esses 140 projetos que estão cadastrados na plataforma sinapsis eh e a gente primeiro que a gente já de largada descobriu que há muito pouca transparência sobre esses sistemas E aí nesse sentido a gente só conseguiu classificar 132 projetos desses 140 desses 132

projetos 91 projetos cairiam no baixo risco ou seja pelo menos no judiciário Aquela aquele ar argumento que é usado contra a regulação de que isso vai vedar a Inovação ele não é Verdadeiro né Por quê que a maioria cai no baixo risco com pouquíssimas obrigações de governança eh e eh também convido vocês eu não vou falar quais mas tem dois tribunais que desenvolvem hoje projetos que se avigorar de fato essa minuta que a gente propôs eh seriam classificados Atualmente como de risco excessivo ou seja ho dois tribunais brasileiros desenvolvem eh projetos que cairiam num risco

vedado e Que se entrar em vigor vão ter que eh vão ter que parar né provavelmente até porque uma outra novidade desta resolução é a instauração de um comitê dentro do Conselho Nacional de Justiça que vai fiscalizar a aplicação da nova resolução 332 então Eh era mais ou menos isso que eu queria abordar aqui eu eu tô muito feliz de participar eh mesmo com toda essa barulheira essa confusão mas eu espero que eu fico aqui à disposição e espero que eu tenho conseguido passar A mensagem Porque de fato eh concluindo eu acredito que setorialmente né

enquanto a gente não tem uma legislação geral setorialmente o o o um dos setores que está mais avançado em termos de regulação setorial com as especificidades para o direito é o poder judiciário brasileiro inclusive servindo de exemplo para o mundo tá porque eh a gente também dentro do grupo eh de trabalho foi pesquisar e eh não encontramos iniciativa semelhante Por parte de outros poderes eh Judiciários de outros países Obrigada pessoal fico aqui à disposição Tainá muito obrigada nada como quem vive e há e justiça na pele como você obrigada pelos seus coment seu repertório maravilhoso

eh tudo isso que você disse é um reforço do quanto o judiciário ele tem buscado usar a ia e parece até contraditório porque o judiciário ele é uma instituição né conservadora que precisa ser sólida mas Tem avançado muito eu costumo brincar eu que sou advogada eu falo que se a advocacia vai se modernizar vai ser pela pressão do Judiciário porque o judiciário vai fazer uso da Inteligência Artificial cada vez maior e essa questão da e a generativa ela é um incômodo tanto né nesse debate com o CNJ quanto pelos próprios juízes porque nitidamente um magistrado

Hoje ele quer usar e a generativa né E a gente tem exemplos aí ótimos e catastróficos recentes Inclusive né porque o magistrado ele usa do modo extrativo ele pede um julgado por favor me traga esse julgado do tribunal tal e ele acredita ele não confere então nós estamos falando de um de uma de um profissional que tem o um nível crítico um nível de Formação importante que não sabe utilizar usa às vezes da de uma maneira mais simplista possível e às vezes até erra mesmo na forma de manuseio e usa de uma maneira particular e

com isso eu queria convidar O debatedor aqui o Professor luí Fernando para trazer um pouco de pergunta para engrossar um pouco essa esse debate sobre a sua visão aqui de tudo isso que a gente tem trabalhado no GTI a justiça obrigado obrigado Silvia eh queria agradecer o convite que a Helen e o professor Virgílio fizeram para participar desse evento queria parabenizar sobretudo a Tainá Esse filme foi bacana eu fiquei de certa forma impactado porque essa 40 minutos que a Gente tá aqui mais ou menos me passaram 40 anos porque ela ela contou que em 2018

ela se viu envolvida no tema ã da Iá E justiça e em 1988 30 anos antes eu fazia meus estudos pós de pós--graduação na França em montpelier e a gente já estudava Inteligência Artificial aplicado ao direito e não deu certo Virgílio por quê era o tal inverno da ia porque a a linguagem como bem anotou a Tainá o direito à linguagem então todos os Modelos de a ele passavam em tentar ensinar as regras linguísticas para o computador e as regras jurídicas Então os poucos sistemas que conseguiam se desenvolver naquela época eram sistemas fechados sistemas de

árvores de decisão com poucas hipóteses e e hipóteses previamente pré-determinadas então H pouca coisa aconteceu disso de lá para cá eu participei de várias comissões da OAB tive a honra eh eh de de ser coordenador do curso de pós-graduação lá Que a Sabrina tá aqui presente foi aluna Nossa lá e hoje em dia ela brilha aqui na USP eh eu tive eh presidi a comissão de informática jurídica e eu tenho assistido tudo isso e e há muitos anos e e e eu tenho que concordar com vocês que vocês são privilegiadas e privilegiados quando a geração

de vocês pegou o cavalo certo na hora certa no lugar certo e as coisas estão acontecendo né Eu sou um entusiasta da da tecnologia Eu Eu me formei em Direito e engenharia aqui na Universidade de São Paulo e fui exatamente para essa área acadêmica para para ver se eu achava alguma coisa que dizia respeito a isso Talvez um Bom Fruto foi ter colaborado para essa cátedra aqui no ia eh eu também fui conselheira do cgi tem uma uma vasta atuação mas eu tenho algumas preocupações E aproveitando o que a Silvia me me me provoca aqui

e me permite eh primeiro lugar eu queria dizer e a Não é mágica se você é caixa mágica se você perguntar para todos os juízes eles vão dizer que tem muito trabalho que tem muito processo e Eu discordo que o problema a quantidade de processo é o problema então a o problema do médico é a quantidade de doentes que tem no SUS não não é isso é um fato certo você tem um processo arcaico que tem fases e e formas praticamente idênticas Silvia do século XIX né então o o o o a regra processual praticamente

a linguagem Jurídica ela é a mesma do século X e eu já vi várias iniciativas de tentarem informatizar essa palavra que se usava antigamente o processo antigo então Primeiro Erro acho que é isso teria que ter um choque divisão um choque epistemológico um um choque crítico que falar espera um pouquinho vamos rever a forma de fazer justiça com uso da ia não é automatizar o velho processo do século X então isso é um grande problema nós Temos vários recursos quando não precisava ter tanto recurso na França onde eu estudei você no Juizado de Pequenas Causas

deles né você não tem recurso né até 000 alguma coisa assim 1000€ você não tem recurso pode decidir mal pode mas e eh O legislador assumiu um risco do recurso agora pior ainda e eu não vi ninguém que fala de a falar isso pior coisa quando você Silvia Você tem uma um caso na primeira instância que você Cuida com zelo durante anos na Segunda instância você ganha na primeira instância ganha na Segunda instância de repente sobre pro tribunal pro STJ e num despacho monocrático quase assim do nada se reverte tudo e por coincidência o outro

lado contratou um escritório de um filho de Ministro ou de alguém que tem acesso no tribunal né Então você fala esse sistema tem as suas falhas né então eh eh eu quero a tentar e perguntar como Que a ia pode ajudar isso pode ajudar em em como foi dito aqui em cuidar de causas mais previsíveis mais repetitivas de baixa complexidade Pode sim agora ela também tem que ajudar eh eh a resolver o problema do indivíduo porque é é é uma é uma questão às vezes antagônica ou quase parece que ela que ela não dialoga que

é é a vontade da do sistema jurídico do Judiciário de dar vazão ao problema e a vontade minha enquanto jurisdicionado ou advogado de Que o meu caso seja devidamente apreciado com isenção com atenção e com direito ao duplo grau de jurisdição que tá na na Constituição e com contraditório então existem princípios né da da da do contraditório do devido processo legal e e do duplo grau de jurisdição que a gente tem que prestar atenção se a ia vai dar conta por quê Porque a jurisprudência ela é móvel ela é fluída exatamente para adaptar e a

a a leitura da lei a leitura do dos Tribunais a aos fatos e as circunstâncias presentes se você tem um sistema baseado em dados antigos que a ia a a ia ela trabalha com dados antigos com dados iores não vou nem entrar no tema aqui dos vieses que vocês sabem melhor do que eu como lidar com isso vamos até que não fossem enviesados Mas vamos dizer que são enviesados mas se você tem um sistema que que que olha pro passado para julgar hoje como é que você vai atualizar essa jurisprudência e mais Como é que

você vai convencer um magistrado se é que que você vai conseguir falar com o magistrado no nos juizados da máquina de que o seu caso merece uma atenção diferente então são preocupações que eu tenho repito sou entusiasta da da tecnologia mas eh eh eh o direito ele ele é uma ciência de valores você não não é uma uma uma lógica binária de sim ou não você vai analisar e eh a história você vai analisar eh eh a filosofia você vai Analisar a ética você vai analisar a necessidade específica daquela pessoa que tá trazendo o caso

dela a justiça Então na hora que você julga por modelos e que você julga num sistema que olha pro passado eu tenho essas dúvidas de como a gente vai fazer isso sobre um tema importantíssimo que a tain trouxe E você também referenciou aqui é a questão da governança esses sistemas não só como o meu colega de turma Ministro Vilas Boas coeva na faculdade de direito ele Ele falou da questão dos riscos a gente tem que ter uma governança dos riscos eh nós tivemos aqui uma contribuição num evento da da uma pesquisadora Daniela Sens de Lima

que é do tribunal acho que é da quarta região Federal de Santa Catarina Rio Grande do Sul e ela falou olha a resolução prevê as o a governança a CNJ prevê governança de sistemas alguns tribunais nomearam a comissão o comitê De governança alguns a Alguns ainda não mas eu posso dizer que mesmo os nomeados não estão funcionando né e eu acho que esses comitês de governança tem que ter advogado presente tem que ter OAB participando porque nós que representamos enquanto advogad eh eh a dor a dor do jurisdicionado né então eu sou um grande entusiasta

com disso tudo mas eu voltaria paraa primeira frase eh do seu do seu do seu vídeo maravilhoso parabéns viu pelo pelo filme que você Fez que por coincidência foi a primeira frase que meu professor Michel biban falou na primeira aula da França na França que eu tive em 88 ele falava falava o seguinte qualquer investimento em tecnologia deve responder algumas perguntas o que por que para quê né e e eu vejo muitas vezes todo mundo batendo palma babando ovo para Iá E no na justiça porque temos muito processo mas você perguntar para presidente tribunal muitas

vezes por que para que por que E Como ele vai dizer olha eu tenho um outro compromisso agora conversa com o cara da ti porque é essa a realidade que a gente vive então eu acho muito oportuna essa discussão né nosso ano eh aqui na cátedra capitaneado pelo professor Virgílio Almeida que é o nosso catedrático fala daá responsável então eu acho muito boa a proposta Helen do seminário de trazer essa questão que eu só pimento aqui com certo ceticismo e inveja Talvez da de vocês estarem com brinquedo mais legal do que eu tive 40 anos

atrás eh mas que sejamos responsáveis e que tenhamos em mente sempre essas duas coisas ou três coisas primeiro o interesse do jurisdicionado não é idêntico ao interesse da administração da Justiça ele ele tem o caso dele ele tem a vida dele envolvida numa situação que não se confunde com a necessidade administrativa do do órgão judicial ou ou ou da administração da justiça e Segundo H que a gente tem que olhar e não só pro passado mas olhar também pro presente e pro futuro então eu devolvo a palavra aqui paraa Silvia senão vou poder falar um

M É só uma questão de de ordem Obrigada luí Fernando eh primeiro que a gente precisa avisar o público eh que qualquer pergunta eh tem que ser enviada por e-mail iea responde @ iea.usp.br dá uma olhada tem um só uma Conferida e porque a gente não tem o chat eh bom aí outra questão de ordem é se a gente pode não sei que se a Tainá concorda da gente passar para algumas perguntas da plateia e aí eu já vou começar então Tainá eh muito obrigada pela sua presença ontem a gente teve interlocução a Silvia e

assim você com essa viagem então muito obrigada pelo esforço de tá aí e mais ainda você veio com uma uma sugestão melhor ainda que foi compartilhar o seu documentário quem Tá online não pode assistir porque a gente não enquanto você tava em trânsito a gente não sabia se podia se não podia então Eh e é pr estreia Então você vai lançar ainda a gente não lançou eh mas assim muito obrigada E esse e e o fato de você ter compartilhado eh me fez também compartilhar um outro vídeo que tá ali na outra sala para quem

quiser ver mas eh bom duas questões que eu gostaria de perguntar a você e com certeza o público aqui tá muito Instigado e que aí tem algumas questões para você uma questão é na verdade uma observação quando você falou que os juízes estão muito eh tão muito animados assim de e e querem utilizar inteligência artificial como um auxílio eh isso me parece bastante preocupante Porque toda já tem toda uma literatura de alguns anos eh colocando um os problemas éticos e um problema ético É talvez jogar responsabilidade pra máquina pra Inteligência Artificial Porque são Dados é

Ciência é uma é uma probabilidade é isso e aquilo e a gente já viu que tem muitos vieses envolvidos nisso então gostaria que você comentasse um pouco sobre isso e eu até achei um pouco preocupante quando você falou que o Brasil tá mais à frente então assim o Brasil tá mais à frente mas ao mesmo tempo no mundo mas ao mesmo tempo ainda tem muita coisa que não tá bem solucionada né então ah eu eu creio que a a maior questão Assim que me passou foi essa e gostaria também de registrar aqui outros outros participantes

do GT de ia Trabalho junto com a Silvia eh vieram né do Mato Grosso para cá para est junto a gente tá aqui com o auditório que assisti o seu filme A Renata Caroline e outras pessoas online Então eu tinha até uma outra questão para fazer mas essa foi mais forte e tem outras pessoas aqui querendo já tá aqui o Lucas na minha frente Obrigada Tainá Foi incrível obrigada Pelas observações aí da Silvia e do Luiz Oi Tainá eu sou Lucas vilto tô sou bolsista aqui da cátedra tenho trabalhado com profor Virgílio sobre transparência de

algoritmos eh você falou que a justiça é linguagem e os processos são textos né então eu tô muito curioso de saber como vocês estão trabalhando na resolução do CNJ a questão da explicabilidade da interpretabilidade da Transparência eh todo o texto prevê interpretação e Interpretação prevê que as partes possam entender eh tanto a produção do texto como o juízo depois possa ser comunicado e saber qual parte foi produzida ou lida com base em ferramentas de Inteligência Artificial e tudo mais então Eh queria saber se pode falar um pouquinho mais desse aspecto vou levar o microfone para

outra pessoa pera aí vamos fazer todas as perguntas e daí a Tainá responde de uma Vez é isso Boa tarde Tainá meu nome é Sabrina Rodrigues eu sou advogada E pesquisadora vi toda toda a informatização do do processo sua advogada e eu vou só colocar uma questão e gostaria muito de de ver se eu consigo dessa venso uma resposta Talvez o professor até luí Fernando já saiba o processo eletrônico ele é aberto o nosso Código Processo Civil ele prevê que todo processo é público salvo aqueles que Tramitam em em segredo de Justiça eh tem alguns

que são obrigatórios as questões de família de menores e pessoas vulneráveis e outros que são solicitados por advogados e o juiz atende ou não a minha grande preocupação e eu sempre coloco essa questão para todos os eventos que eu participo sobre eh tiques e justiça e a injustiça é o seguinte o processo eletrônico ele contém todos os dados eh os dados pessoais sensíveis Patrimoniais e outros e o processo também tá aberto na maioria das vezes então são processos de inventário são processos de empresas são processos trabalhistas eh então esses processos estão abertos ao público em

geral tá certo Infelizmente eu peço Eu entro com todos os meus processo eh peço o segredo de Justiça na maioria das vezes o juiz não entende aquilo ele não consegue interpretar a lei geral de proteção de dados e o Marco civil da Internet infelizmente né e então nós E aí o tribunal e os tribunais e aí o CNJ eu não ouço ninguém dessa organização do Poder Judiciário eh dizer nada sobre isso então esse esses processos estão abertos a todos os motores de buscas a ponto de uma pessoa um um Civil por exemplo eh entra com

processo contra uma empresa e ela já tem um motorzinho de Busca Ela já sabe que tem um processo o advogado dela já entra em contato sem a empresa ser citada para responder ação Eu tô dando um exemplo aqui para vocês eh quem atua na área já sabe eh mas eu gostaria muito de ter uma resposta se nesse projeto de lei vai ser contemplada alguma coisa nesse sentido porque não adianta nada eu fechar a porta eh do meu sistema dentro do meu escritório fazer uma rede segura e e e assim e controlar os dados que eu

transmito através dos sistemas e o Poder Judiciário Deixa aberto no libeiro geral e aí eu fico muito eu tô realmente muito preocupada Com isso você tem alguma resposta legal para dar pra gente ou interessante kainá com você agora por favor estão me ouvindo sim obrigada bom gente fico muito feliz que vocês tenham gostado e assistido também acho que H malas que vão para Belém como diz o outra mala que vem para o bem e e o fato de eu ter tido essa viagem de última hora me fez ter dar essa ideia paraa Silvia que então

acho que foi uma oportunidade né então acho Que fico muito feliz enquanto pesquisadora que produziu que dirigiu o documentário de de de de ter tocado vocês de alguma maneira eh com esse produto também meu doutorado né Eh eu vou começar pelos comentários eh do professor juiz né de dar vazão ao problema da questão da da governança eh e eu me lembro muito Nessas questões né Sempre quando a gente quando a gente eh eu já fiz algum debate ou outro eh sobre esse documentário e você vê no Próprio documentário que os cidadãos eles são aqueles que

mais se incomodam e principalmente aquele que tem um processo ali na na justiça ele vai se incomodar quando ele descobre que a máquina n eh interferiu no julgamento ou que fez o julgamento completamente né Eh mesmo porque não interessa cada um tem as suas individualidades e cada um acha e e quem é advogado sabe disso né que o seu processo quem tem cliente e advogado Sabe que o cliente acha que o seu processo é o único no mundo ele é especial né e mas não não precisa a gente ir paraa justiça a gente no no

no telefone quando a gente tá com a atendente ali nos Os Robôs atendendo mesmo que a gente queira xingar No final a pessoa toda porque a gente tá p da vida a gente quer falar com atendente a gente vai esperar a última opção porque a gente quer comunicar com o ser humano né então de fato Eh e e quando você pesquisa né E aí já entrando na na segunda pergunta da questão né da Inteligência Artificial e será que a gente tá se a gente tá à frente eh Então puxa vida né se é que a

gente tá na frente mas ao mesmo tempo de fato quando a gente vai se debruçar e fazer pesquisas Como foi esse relatório que o laboratório eh de Inteligência Artificial do idp fez que a gente vai analisar uma das plataformas que dá transparência que que foi um avanço né a Plataforma sinapses é essa que busca ela tem dois objetivos ela busca dar transparência aos projetos e ela busca da interoperabilidade Para para que cada tribunal também não tenha que Reinventar a roda quando vai aplicar então dá uma eficiência também busca uma certa eficiência administrativa para que cada

tribunal pegue o conhecimento de um outro projeto né mas quando a gente vai se debruçar e fazer esse tipo de relatório a gente vê que na prática a Teoria é outra então Eh de fato legislativamente falando uma a resolução e o modo como ela tá sendo construía eh eu ouso dizer que de fato é um dos mais avançados do mundo né Eh mas por outro lado a gente é o país que mais é um dos países que mais aplica a inteligência artificial São 140 projetos cadastrados na sinapses nem todos estão cadastrados e todos de a

generativa não estão cadastrados né então são muito mais de 140 projetos né E aí na prática A Teoria é outra ou seja a falta de Transparência né Eh embora a gente esteja Caminhando com a regulação e a ah na prática isso não tá sendo aplicado né a gente espera E aí também volta um comentário Professor Luiz eh a gente espera que esse comitê funcione para fiscalizar a aplicação dessa regulação que tá vindo bastante avançada né e a princípio tem ali um componente da Ordem dos Advogados do Brasil eh nas Audiências públicas foi sugerido que também

algum cidadão parte da né tem algum representante da sociedade civil Mas a gente não sabe se a gente vai conseguir eh inserir né essa sugestão eh quanto à questão da explicabilidade que foi feita aqui eh a gente tem por exemplo uma série de dispositivos né sobre explicabilidade Eu tenho um texto também com até um juiz aí de São Paulo o Fernando Tácio que fez doutorado em transparência algorítmica e o professor Juliano Maranhão sobre transparência eh usando a matriz de kaminsk eh uma matriz em que ela fala justamente isso né transparência para qu por qu para

quem eh mas também obviamente o meu artigo não foi totalmente corporado nosso artigo não foi totalmente incorporado Então o que ela prevê em termos de Transparência a minuta de resolução é por exemplo que as soluções eh com baixo grau de transparência e explicabilidade aud habilidade e dificuldade de Supervisão sejam classificadas como alto risco pelo menos né para que a gente então consiga ter um maior controle relatório de Transparência eh esse comitê também a gente tem esperança como o filme também tenta trazer de Que ele traga uma maior fiscalização até da própria plataforma sinapses e que

portanto consiga se maior transparência né a gente sabe que tem muitos modelos que tecnologicamente a explicabilidade ela não consegue eh ser feita mas em Termos de Transparência até de eh relatórios que por exemplo digam quanto o quanto de eficiência que foi dado ao ao julgamento a partir do gasto né que se teve com esse com a implantação desse projeto aqui então eh a gente tem essa questão a última questão que foi a da Sabrina eh que como ela tá repetindo eh em todos os os lugares que ela participa Muito provavelmente é algo que eh não

foi a contento respondido até Hoje né eh e e de fato Sabina é algo que que nos incomoda todos né tanto cidadãos quanto também advogados e eu me coloco aqui como cidadã como professora inclusive Gostaria de parabenizar todos os professores eh no dia de hoje né Eh o processo eletrônico de fato ele contém os dados pessoais E aí nesse sentido o o que a gente tentou colocar foram aspectos eh de segurança da informação principalmente de treinamentos né a gente eh inseriu na Resolução aspectos de determinação de Treinamento capacitação paraa segurança da informação tem se pensado

né E aí é um uma uma questão de bastidor também Sabrina que eu divido aqui com você é que temse pensado em atualmente o CNJ tem para o CNJ internamente um grupo de trabalho para implantação interna da da da da da lgpd mas o que tem se que se pensado e a gente conversa ali no GT com o próprio Conselheiro Bandeira eh que era o Diretor ali do o presidente do do grupo de trabalho é que se constitua um um comitê e um grupo de trabalho para a adoção da lei geral de proteção de dados

no eh poder judiciário brasileiro inclusive temse pensado em adotar técnicas de inteligência artificial para etar jamento de dados pessoais dados sensíveis né claro isso é um algo que eh muito complexo Talvez mas tem se Pensado nessa possibilidade tem se aventado essa possibilidade eh Então Sabrina Eu lamento informar que eu eu acredito que você ainda vai ter que fazer essa pergunta muitas vezes mas que o caminho é de Tem gente com você digamos assim eu não larguei sua mão e muitas outras pessoas também não largam e e e e tem pensado nisso para tentar dar algum

tipo de solução Porque de fato é algo que que precisa ter alguma solução Obrigada Tainá nós temos os últimos minutinhos aqui do nosso painel e temos duas perguntas do público mais a Do André e acho que mais de alguém não sei se vamos conseguir fazer todas mas eu vou passar aqui que a microfone aqui Renata Olha a Renata vai fazer Vai ler a pergunta do que veio pelo chat pelo e-mail Boa tarde tá aí na Nós somos o GT de Justiça novamente agradeço sua presença Nós temos duas perguntas uma de um outro membro no nosso

grupo do Álvaro que ele perguntou que diante das questões da ia Justiça quais seriam as alternativas ou ideias para ratificar Essa confiança que o judiciário brasileiro possui com da ia no dia a dia da justiça qual o papel da população e assistidos pela justiça nesse processo como possibilitar uma Participação Popular e democrática diante da complexidade do tema para aqueles que buscam soluções junto ao poder judiciário a outra questão é do Eduardo Pinto Conceição que ele encaminhou não se questiona a necessidade e a premência da Utilização de sistemas de inteligência na administração pública ent Entretanto a

simples fiscalização de gastos já executados não garante que a aplicação dos recursos orçamentários seja devidamente aplicada ao benefício social exemplo a a pavimentação de uma rua sem que anteriormente tenha sido provida de rede de água e coleta de esgotos como combinar orçamento e interesse social por meio de sistemas automatizados ele já faz a gente tem que Encerrar obrigado obrigado eh primeiro parabenizar tainar pelo belíssimo documentário Ah foi muito legal eh ouvir as diversas vozes muito interessante sobre sobre a questão da ia no judiciário ah Primeiro me apresentar meu nome é André gualtier eh eu sou

eticista em e advogado eh integro coordeno o grupo ético fori grupo de pesquisa que também tá abrigado no idp eh e tô participando agora h de um grupo de pesquisa na gvi no direito da GV aqui Em São Paulo eh sobre justamente vieses discriminatórios e Eh eu gostei muito de ouvir a Tainá ah ah sobre o caso compas e queria acrescentar uma coisa que eu acho interessante que essa discussão nos traz né Eh porque algumas vezes no debate jurídico que a gente tem eh essas questões me parecem mal colocadas às vezes e não foi o

caso da Tainá que trouxe eh com muito equilíbrio Essas questões Inclusive eu gostei muito de ouvir uma das participantes do documentário n Flávio Bahia Salvo engano eh trouxe uma contribuição bastante interessante eh mas esse essa questão dos vieses e tem um um um caso né em que houve um julgamento na Suprema corte de wincon nos Estados Unidos eh que é o caso l state state versus lumes né Eh que abordou justamente o uso eh do compas ah numa numa sanção que foi aplicada Criminal que foi aplicada por um por esse para um cidadão que era

o lumes né E a questão era justamente eh se isso constituiu uma violação ao devido processo legal enfim a suprema corte decons disse que não quem tomava a decisão era o juiz o sistema ele auxiliava na tomada de decisão mas eh o o relatório dessa decisão muito interessante porque eles fazem um histórico e voltam até o ano de 2008 e no ano de 2008 nos Estados Unidos o que Se discutia era nós precisamos implementar sistema de a no judiciário para combater os vieses humanos dos juízes né Eh então eu eu queria ouvir um pouco eh

a Tainá eh sobre essa questão e também o Professor Luiz Fernando eh porque eh eh essa essa questão do dos vi a gente tem ao longo da história humana né Eh uma série de filtros institucionais que foram criados no judiciário para lidar com essas questões me parece que a gente tem que Construir isso né Eh em relação a ia e esse é o grande desafio enfim queria ouvir é como vocês vem essas questões tá Naci da licença até só para aproveitar o gancho que ele deu aqui vou passar na sua frente Você tocou num ponto

que o professor demy gtic que é nosso presidente do Nick e é nosso professor aqui na Pr graduação ele fala o seguinte A Iá não tem viés aá busca dados ou ela ela se alimenta de Dados que podem muitas vezes e no mais das vezes podem e tem vieses então Vamos separar o joio do trigo se você está usando dados com viés é porque eles existem esses dados e quem plantou esse dado no mundo no universo não foi A Iá foi a história foi a sociologia foi a né então é muito importante a tua pergunta

e ele e o professor dem fala uma coisa A Iá ajuda a ver os viés né então esses vieses então eu veria com dois capítulos aí eu dou a palavra para Tainá que eu acho que ela que é especialista e não eu é o seguinte se o viés ele vem dos dados né da história da da da história do Brasil para não dizer outra coisa se ela vem da história do Judiciário e A Iá usa esses dados esses dados podem ser enviesados mas eles são o que são e ele pode mostrar então eu acho que

o grande desafio é ter e é esse ponto Tainá que eu que eu que eu endosso a minha dúvida é como usar não A Iá como a última Palavra de tudo mas como usá-la como um insumo para eh um bom trabalho ou um trabalho vamos dizer ético um trabalho amplo tal a minha preocupação e aí eu falo que eu sou de uma geração dos desembargadores dos tribunais que tá todo mundo cada vez mais preguiçoso eles reclamam do salário mas todo mês pega um olerite bastante acima do do teto do do do supremo e falam Ah

tem muito trabalho e se puder eu queria que a máquina julgasse tudo né Então eu gostaria de ouvir você como usar ia para melhorar a qualidade desse julgamento um pouco na linha do que ele falou porque o professor dem fala e eu endosso o o o viés não está na i o viés tá na história do Brasil obrigada Professor obrigada pelas perguntas Tainá agora com você perfeito gente ó o Álvaro Então me pergunta sobre essa questão da se há alternativas para essa confiança né diante do de tanto uso da Inteligência Artificial E aí vou contar

mais uma uma fofoca do do GT né Eh uma outra uma outra discussão que a gente tá tendo ali é a seguinte se eh e aí vou deixar vocês pensando sobre isso se deveria haver uma determinação como atualmente há na minuta de que os juízes que usam Inteligência Artificial pelo menos tal qual Por Exemplo foi uma saída eh colocada pelo Tribunal Superior Eleitoral né quando você usa a inteligência artificial em alguns Momentos o TSE proibiu em outros momentos determinou coloque um selo avisando que você usou Inteligência Artificial então o CNJ ali nesse grupo de trabalho

nessa minuta propis que os juízes colocassem E aí eles se reviraram eh um selo avisando Qual é a questão deles que eu acredito que Muito provavelmente essa determinação vai sair ali da minuta Porque eles estão muito incomodados porque eles dizem o seguinte isso vai tirar a confiabilidade das Nossas decisões a gente já coloca o nosso trabalho nas mãos dos Servidores Eles já fazem minutas de decisão e nem por isso a gente coloca um se de que aquilo foi feito pelo servidor então eles agora estão usando esse argumento de que né se não coloca pro servidor

quando é o auxílio da máquina também não se deve colocar principalmente porque pode surtir o efeito reverso de que de de falta de confiabilidade né Então essa é a discussão obviamente que o papel da População nesse sentido eh e aí eu concordo com os argumentos que foram muito trazidos inclusive pela coalisão de direitos na rede de que haja um um um representantes da sociedade civil na no comitê de fiscalização justamente porque ele também é eh é capaz de flexibilizar ou até de alterar esse rol eh de riscos né Então nada melhor do que o cidadão

para fazer isso então acho que o papel da população ele vem tanto nas audiências públicas quando Eh o CNJ chama convoca a população para eh discutir sobre essa regulação Quanto depois se ela se foi inserida ali eh como participante desse comitê que vai fiscalizar a aplicação da resolução e a a as palavras ali né Tanto do André quanto do Professor Luiz eh foi engraçado porque remeteu a uma coisa do meu doutorado né na época do meu doutorado eu usei uma metodologia e e criei e fiz entrevistas e criei uma Metodologia de classificação dessas dessas respostas

às entrevistas E aí de autores especialistas né e tal e aí quando a gente fala de vieses com esses atores eu criei uma categoria na Minha tese de doutorado que é que é os vieses como uma limonada pronta Por que é isso peguei de uma fala de um dos tecnólogos inclusive que eh professor da UnB que eh auxil tecnologicamente na engenharia de software a criação do do projeto Vitor e Ele fala assim olha Tainá na minha visão os vieses são uma limonada pronta para desvelar eh o quanto que os juízes brasileiros são preconceituosos né assim

como o sistema compas acabou desvelando que os juízes nos Estados Unidos são preconceituosos dão penas maiores para negros para a população de eh da da América latino-americana que vive ali Muito provavelmente se a gente pega os resultados e dá transparência sobre Esses resultados decisórios né e e e e e com base nos dados passados de uma sociedade como a brasileira que é estruturalmente racista machista em seus E isso se reflete nos seus julgamentos Muito provavelmente Isso vai ser como diz a Minha tese ali de uma das respostas de especialista uma limonada Pronta para dar para

para Digamos fazer um Shade né Eh do do do judicial brasileiro que né Muito provavelmente não deve se diferir muito do Judiciário Norte-americano eh Então nesse sentido eu acredito que há um misto também tanto que na França os juízes né Eh eh determinaram ali fizeram um Lobby paraa criação de uma legislação que criminalize a jurimetria justamente com medo de se desvelar né então quando a gente fala também de inteligência artificial é claro há uma sanha há uma Saga do gestor público como um todo e isso o professor Virgílio Professor Fernando Filgueiras e o professor Ricardo

fabrino na sua obra ali eles vão falar muito muito bem disso né Há uma sanha uma saga do gestor público porque ele e aí tanto no judiciário quanto no Executivo quanto no legislativo porque ele ele vai dizer assim não eu tô implantando uma ia aqui para resolver E aí todos seus problemas acabaram a a segurança pública da Cracolândia eu implantei um reconhecimento facial Pronto né fiz minha parte e aí o que a gente tem que cuidar e que eu acho que é Uma um debate dos nossos tempos de fato Professor Luiz nem sei se é

tão tão para comemorar assim então de dar inveja porque o nosso papel é justamente esse do nosso século que o professor floride fala muito nesse livro dele né The Green and the blue é como equilibrar essa promoção da sustentabilidade ligada ao verde com a Inovação ligada ao azul né esse equilíbrio é que é difícil para que a gente de fato tenha uma inteligência artificial um uso responsável com Governança e que não acabe de fato eh até sendo o objetivo contrário ao Inicial né em vez de promover a humanidade ela de fato como os futurólogos mais

Apocalípticos acabe exterminando todo o futuro que a gente imaginou pra sociedade Obrigada Tainá essa questão da Limonada pronta interessante eu gostei bastante dessa expressão Bom eu acho que encerrando aqui pelo adiantado da hora eu queria mais uma vez agradecer a sua Participação aqui corrida mas muito brilhante corrida para chegar mas muito de muita entrega de de conhecimento para nós agradecer também a possibilidade da gente ver o seu documentário maravilhoso queria agradecer o Professor Luiz Fernando pelo grande aqui debate a todos os presentes e finalmente eu queria agradecer o professor Virgílio pela oportunidade da gente expor

esse trabalho e a responsável é uma missão né e agora eu já aproveito e falei pra Tainá que os agentes de a já precisam estar na resolução porque o ano que vem já vão começar a usar não vai ter saído resolução ainda e a gente vai ter que rever tudo de novo então já vamos colocar os os agentes lá mas muito obrigada a todas as pessoas presentes e agora encerramos esse painel [Aplausos] obrigada bom mais alguns informes eh uma participante aqui do público tá aqui tá maó tititi Mas tudo bem Uma participante Do público perguntou

quais são os resultados os desdobramentos e na verdade Estamos fazendo Esse seminário Porque os grupos de estudo eh eles estão eles prepararam né capítulos Eh que que a gente vai lançar como um livro né dos dos estudos das discussões então um dos desdobramentos será esse e lembro também que ainda tem lá na outra sala um um vídeo em loop de 3 minutos falando sobre a Liga dos Robôs e O direito à recusa E então eu vou passar aqui a palavra para o mediador vai ser o Paulo do Grupo de Educação e aí vocês se apresentam

obrigada Boa tarde eu sou Paulo quadros eu vou ser o eh mediador do grupo de eh educação e inteligência artificial eh então no final eu vou eh eh mediar as questões que serão apresentadas né e fazer uma interlocução né Eh eh entre os participantes né que Realizarem as perguntas e o nosso grupo agora vou passar a palavra à Márcia que vai dar início à nossa apresentação Obrigada Paulo bom Boa tarde a todas e todos vamos falar sobre educação e vamos eh compartilhar um pouco do que o nosso grupo tem feito nesse um ano e alguns

meses aqui na cátedra Contando um pouco da história Bom primeiramente a gente quer agradecer né A vocês que estão aqui para conversar um pouco e falar Que essa é a nossa vocês perceberam que a nossa metodologia é sempre essa desde o início né Eh é abrir para Boas conversas e inclusive A Iá ela a gente Aposta que com uma uma formação docente bem qualificada ela possa proporcionar maiores possibilidades de Boas conversas dentro das escolas e universidades Eh quero começar também né em nome de todas e do Paulo eh parabenizando os professores e professoras por esse

dia Né que foi resultado aí de uma luta também de uma mulher negra né Eh uma mulher ativista que lutou pelo voto feminino e pelo reconhecimento dos professores e professores Antonieta de Barros muito bem eh bom como eu disse a nossa metodologia desde o início foi a conversa então em em 2023 né Eh a gente começou com esse grupo de trabalho pensando iniciando as atividades com o objetivo de analisar Como é que as instituições de ensino no Brasil estavam lidando com o fenômeno né da ia generativa eh esse grupo aqui ele é formado por eh

pesquisadoras mas também professoras e professores que atuam na no ensino superior e também na Educação Básica muito por eh acho que é é o slide anterior Esse é o grupo eh então eu que sou a Márcia eu sou professora de educação básica tô fora de sala de aula há muito tempo agora eu tô na gestão sou diretora pedagógica de um Colégio da iniciativa privada eh e também sempre estive na universidade faço parte desse dessa essa cátedra e também da cátedra Alfredo Bose de Educação Básica sempre pensando a educação básica em diálogo com a universidade com

pesquisa no movimento de retroalimentação eh desde que eu fiz a minha licenciatura Eu sempre acreditei que a dessa forma que um vai melhorar né a pesquisa conversando com a prática e a prática se Refletindo por meio das pesquisas então a gente sempre fez essa ponte mas eh Cláudia que tá aqui também Cláudia é professora no IFG e os institutos federais também né os docentes eles atuam nas na nos dois segmentos né no ensino superior e na Educação Básica assim como Lívia também depois elas vão falar tá só tô apresentando o grupo eh que também é

professora do Instituto Federal eh do Sul de Minas e também pensa essas duas etapas de ensino a Caroline que é mestrada e pensa na formação docente agora com incia artificial Dani Daniela tá a Daniela ela ela é da semiótica né da PUC e um pouco ela vai falar da pesquisa de como ela pensa isso mas tá muito junto com a gente em termos de estudo de linguagens né e formas de comunicação e tem agregado muito a esses a esse grupo que pensa como se comunicar melhor entre os segmentos educacionais o Paulo que é o nosso

mediador também atua né na é Docente também no ensino superior e sempre esteve ligado aí às questões de eh cibernética Inteligência Artificial e novas tecnologias bom então nós nos reunimos e pensamos o seguinte bom de onde começar como é que tá o Brasil eh a a gente tem aqui uma uma amostra porque Cláudia de Goiás Lívia do Sul né Eh Dani de Jundiaí e a gente queria saber como como é que tava o Brasil que já é um mundão e também é mesmo dentro de São Paulo como é que esses Adolescentes e professores já estavam

lidando com esse fenômeno a gente começou conversando mesmo e depois pensamos numa metodologia nessas conversas nós percebemos que não haviam muitas ações conjuntas né não havia ações no setor eh que direcionasse ou propusessem discussões sobre as especifidades da inteligência artificial generativa na educação aqui no Brasil e no seu potencial recurso pedagógico eh a gente Percebia que os estudantes né dependendo da classe social já estava utilizando alguns professores utilizando de forma eh individual ou seja como uma iniciativa individual mas não tem como não tem até hoje né uma formação institucionalizada para que isso de fato dê

um salto p pedagógico no aprendizado e desenvolva competências críticas necessárias para essa educação que se que se que que se deseja nesse momento né além disso a gente constatou que eh a Gente começou a perceber que a i generativa ela atuava com os adolescentes principalmente mais do que com os docentes de uma forma como já foi falado aqui no no primeiro no primeiro painel eh que não poderia ser considerada como uma ferramenta simplesmente eh pensando na sua potencialidade pedagógica e a gente pensava Bom ela não é um computador ela interfere na linguagem ela pode desinformar

e potencializar Essa Desinformação ela tem um potencial formativo muito grande mas ela pode disseminar eh valores que não são adequados paraa educação Então como é que a gente faz isso isso não é só uma ferramenta E aí a gente foi entender o que que era essa tecnologia de propósito geral entendemos que sim né Eh nós consideraríamos enfim desde aquele primeiro momento Inicial uma tecnologia de propósito geral na medida em que ela já alteraria os sistemas eh econômicos Os sistemas sociais e também interferiria eh na forma de se pensar a educação Mas isso não acontecia e

ainda não acontece né isso eh ainda é num âmbito teórico E como eu disse de forma muito individualizada dentro das instituições de ensino bom então Eh com essas conversas né a gente também pensou bom a instituição de ensino é uma instituição né acho que talvez até mais conservadora em muitos casos do que o sistema judiciário quando é que isso vai Mudar de forma integralizador E aí veio a provocação muito motivada pela Helen eh de para que nós pensássemos numa carta de recomendação inicialmente uma carta de recomendação pensando em governança geral mas quando a gente foi

conversar no grupo eh a gente entende começou a entender que sim que há muitas questões na educação que são Gerais né Eh por exemplo a vigilância de dados né a falta de Transparência eh os vieses mas é um Setor que exige muitas espe cidades então Eh nós começamos a pensar o que que muito de específico nós teríamos que que estudar para propor e colaborar de uma forma mais adequada com essa carta de recomendações bom E aí nós partimos pros textos fundamentais voltamos um pouquinho né lá em 2016 né nos textos da Unesco que propunham uma

abordagem eh crítica da alfabetização midiática né pensando em como é que lidar com informações dentro Da escola como é que é a seleção a gente lembra né a gente começou a lembrar de quando o Google né veio paraas escolas Google for education e tal como é que os professores foram treinados para trabalhar com essa ferramenta e como até hoje a gente não conseguiu em muitos casos né Eh formar letrar estudantes e também docentes para trabalhar de forma crítica com as informações desde o Google que te dá referência Mas como que você ensina pro aluno eh

a a selecionar A melhor referência como é que o professor que aula que faz isso que qual é eh Na verdade tem que ser transdisciplinar não é uma disciplina para isso mas Em que momento isso é feito eh dentro das escolas né as escolas que fazem a docentes que fazem Sim há mas não é eh uma formação que está nas licencia as dos docentes não é isso é uma formação ou é continuada ou é pela prática ou é por iniciativa própria as licenciaturas ainda não abordam essa Forma que era lá né uma recomendação da Unesco

de 2016 que era alfabetização mediática e informacional bom e aí a gente passou por outros documentos né de 2019 da Unesco que já consideravam a inteligência artificial eh mas não generativa obviamente mas e depois os eh mais recentes de 2023 e 2024 que fazem recomendações para I trabalho na educação com ia generativa considerando inclusive os países eh os países da América Latina esses Documentos eles acabaram nos fornecendo eh grandes parâmetros né paraas reflexões e sinalizaram a necessidade da gente aprofundar um pouco mais ainda no nosso país no Brasil eh e aí eh vou falar sobre

a carta né que a gente escreveu daqui a pouco mas a gente começou a pensar a partir desses documentos então da Unesco pensando na nos países eh da América Latina Como que o Brasil ainda trazia desafios maiores né Eh para a educação e a partir da educação outro documento relevante também foi o o documento do Conselho europeu que vim a gente acompanhou a discussão desde 2018 até a aprovação Agora né os debates que vinham e também essa força né entre segurar e não impactar no desenvolvimento necessário que isso é bem dentro da educação porque quando

a gente tá conversando com educadores não é incomum eh que a gente tenha uma força de Não a Tecnologia deve estar fora dos muros da escola a gente tem agora essa discussão do ser proibição de celulares né então como é que é trazer Essas tecnologias para um uso formativo e pedagógico E é isso que a gente sempre é pensou considerando os riscos que que existem de fato bom eh e aí a gente também fez um levantamento de artigos publicados né Cláudia coordenou esse esse estudo eh de artigos publicados entre 2019 e [Música] 2022 2019 de

2023 é sobre a educação fora e dentro do Brasil né Eh fora e nós fizemos esse levantamento e até publicamos um artigo sobre isso que a gente viu naquele momento é aqui nós havíamos encontrado dois artigos até 2022 que considerava o uso pedagógico da ia na escola e era sempre de percepção dos professores e comparando esses artigos era Ásia Europa e eh Estados Unidos e eram perguntas para Os professores sobre a percepção do potencial da ia na educação e o que a gente percebeu logo de início é que eh havia um entusiasmo eh tanto dos

brasileiros semelhante ao dos asiáticos os europeus um pouco menor esse entusiasmo e os americanos próximos também dos europeus Mas o que foi relevante pra gente é que nós percebemos pelas respostas e pelas perguntas que havia um descompasso muito grande ainda De utilização desses recursos eh de forma pedagógica por exemplo nas respostas das outras pesquisas que não as brasileiras eh os professores eles relatavam usos e desafios já evidentes na prática docente então eles já traziam relatos de dificuldades que eles enfrentavam já na prática docente eh no no nas respostas dos brasileiros os desafios Eram todos hipotéticos

o que mostra demonstrava pra gente que esse uso não estava efetivado que ainda era Quando eu usar quando isso acontecer então havia um descompasso eh temporal de utilização isso eh até 2022 né Eh até 2023 até 2023 eh e aí outra questão né que ser ratificado bom isso eu já falei e aí outra justificativa não e depois nós nos deparamos muito impressionados né o grupo eh em 2023 com as proibições que começaram a acontecer nas universidades e escolas né Eh nos Estados Unidos da utilização do chet GPT Porque isso nunca Foi pra gente eh um

caminho né proibir proibir essa utilização então quando isso Começou a acontecer nos Estados Unidos eh Nós nos reunimos e falamos bom tem alguma coisa errada eh Por que essa proibição e Qual é o objetivo e onde se quer chegar com essa proibição e eh uma das justificativas né que se davam é que bom ia diminuir a capacidade cognitiva dos docentes eh não estimularia eh eh não estimularia o desenvolvimento também possibilitaria eh Um uso não ético Cola plágio enfim eh bom coisas que a educação deve trabalhar na formação da pessoa né e isso a gente falou

bom se a educação tá abrindo mão disso então a gente pode parar por aqui então a gente trouxe bom eh nós vimos que realmente o caminho que eles foram tomando depois foi o que a gente acreditava que era propor outras metodologias de trabalho então Eh nessas mesmas universidades né Eh se viu que também tinha um debate Porque haviam pessoas que eram contra a a liberdade né acadêmica e aí se propuseram mudar a metodologia O que é muito bom que é isso que a gente acredita na verdade eh é esse essa mudança de metodologia de trabalho

que não vai possibilitar que eu simplesmente copie e colhe como a gente já fazia né eu aqui as meninas não mas na Barça né ou eh em outros outros eh outras fontes físicas né de copiar e colar eh mas em formas que de fato Aquele estudante ele tenha algo a dizer ele seja escutado também isso é uma outra é uma outra entrada né Muito provocativa pro docente até que ponto eu sei quem é o meu aluno e eu estou interessado no que ele tem a dizer porque se for para repetir e só falar o que

já tá posto realmente a gente justifica muito da evasão escolar porque as pessoas não se sentem pertencentes então nós começamos a pensar que aá poderia ter um Grande potencial também específico da educação que era abrir uma possibilidade para o diálogo verdadeiro porque se eu vou promover uma metodologia em que eu fale e não faço o resumo desse livro mas eu gostaria de saber o que que te impactou nesse livro e qual é a Sua percepção disso né E qual a passagem que foi mais significativa para você e você vem comentar aqui a gente vai abrir

uma roda aqui de leitura e a gente vai discutir sobre esse tema Né então eh essas metodologias Elas acabaram sendo incorporadas em muitas universidades né que nós tivemos eh possibilidade também de ver eh de de saber de alguns trabalhos e indicações e recomendações de trabalhos as provas repetitivas e simplesmente quantitativas elas não tiveram mais significado muito porque os docentes né relataram que se sentiam ludibriados então Eh isso forçou uma outra forma de relação também entre Docentes e estudantes Então se tem algo né assim rapidamente que eh o chat GPT especificamente né outro llm trouxe pra

sala de aula de professores atentos né é que mudou-se também essa relação eh É nesse caminho um pouco que o nosso grupo eh quer desenvolver os trabalhos então a gente viu né a partir desse parâmetro que a gente precisava de várias ações ao mesmo tempo eh nós precisávamos continuar as pesquisas Mas a gente não tinha tempo Pela velocidade que essa tecnologia também atua na vida das pessoas que é técnico técn social né a gente não tem tempo de desenvolver uma pisa robusta e definitiva que nem existe eh e para depois divulgar então a gente Pensou

que seria tudo ao mesmo tempo nós iniciaría as pesquisas ao mesmo tempo a gente eh promoveria cursos de Formação ao mesmo tempo a gente escutaria os envolvidos e a comunidade Eh a comunidade educativa numa num sistema Como eu disse de de retroalimentação eh e isso foi acontecendo né Eh nós por exemplo a gente desenvolveu a carta de recomendações e essa carta de recomendações que nós começamos lá em 2023 pela provocação aqui desse grupo da cátedra e muito pela insistência da Helen eh muito né cadê a carta Cadê a carta essa carta ela já foi modificada

assim a Gente tem uma publicação agora eh confirmada para ela mas ela já foi ficado Umas oito vezes porque a cada vez que a gente retoma para fazer a última leitura a gente percebe que não é mais aquilo já se avançou já se modificou o conceito né Eh não tô falando de revisão textual tô falando de conceitual mesmo e eh o ensino é isso a gente conversa com os professores a gente faz minicursos também e e nessa extensão também a gente promove Eh divulgação né por meio de um site que a gente vai apresentar tá

aqui para vocês mas desde o início a gente pensa o seguinte que o caminho é o letramento e o uso de recursos então assim não adianta a gente eh pensar nessa eh o que que tá acontecendo exatamente nesse momento aqui nas escolas né de Educação Básica eh de São Paulo o que tá acontecendo é que tá tendo um enxame de empresas de soluções falando que vão dar treinamento pros professores né então Elas estão pond o treinamento em ia paraos professores é chamando de formação na verdade né formação em ia o que acontece é que elas

levam um recurso né um api elas levam um recurso elas treinam os professores para usar aquilo e essa é a formação que é dada e aí entra o que o nosso colega O luí Fernando falou né porque esses professores não sabem nem o que nem para que nem como mas começa a usar e eh a gente fez esses testes então a gente Pegou alguns recursos e a gente coloca a gente coloca lá e por exemplo coloco lá Ah eu quero fazer uma avaliação adaptada para um aluno com dislexia né E aí esse esse aplicativo ele

me dá uma avaliação com para um aluno com dislexia porque ele tem esses dados lá para para para para fazer essa avaliação mas eu que não participei desse processo todo Qual é a minha capacidade de gerenciamento para saber se aquilo tá adequado para esse aluno que eu vou aplicar e outro o que Eu sei sobre esse processo já que ela vem pronta para que eu pegue e fala resolvido o meu problema né o que eu faria eh Sei lá nem conseguiria fazer Faria de qualquer forma que tá pronto e e daria e tem mais um

pensando no no mundo do trabalho né e nas nas pressões porque aqui em São Paulo também tem uma decisão do Sindicato de que eh o professor que fizer né Eh avaliações adaptadas na Educação Básica ele tem que receber por isso a lei da sua hora aula Agora então Eh o que que as escolas estão fazendo bom esse recurso salvou a minha vida porque eu nem preciso pedir pro professor o coordenador coloca lá e aí vem a prova eu dou pro aluno resolveu né Então esse é um grande perigo que a gente coloca como um desafio

né no infográfico que quando a gente começou a pensar nesse desafio Nós não estávamos pensando nesse nível eh que era eh o desafio de eh não desenvolver as capacidades mesmo Cognitivas a gente tava pensando nos alunos né porque eles iam plagiar eles iam copiar e tal mas se um professor começa a usar esses recursos dessas empresas de soluções né ele começa realmente né A não pensar sobre de forma reflexiva sobre a sua prática docente e de fato ele vai diminuir ainda mais a sua capacidade de formar com competências críticas os seus estudantes então a gente

tá mais em cima a gente não tá nem nos estudantes a gente tá Pensando eh no risco que se tem né no desafio que se tem de eh de fazer professores cada vez menos preparados ainda que com uma agilidade maior por meio da i dos seus das suas demandas de trabalho bom mas eh então a gente tudo isso veio pro nosso grupo né E aí nós desenvolvemos essa carta de de recomendação que eh ela tem era uma carta para ser assim uma página da carta do grupo da Oscar sala né só que Ela acabou tendo

52 páginas então não deu eh e aí a gente apresentou também para alguns especialistas de educação e e conversamos muito sobre as cartas sobre a carta e ele assim foi um debate muito interessante eh mas a gente teve uma outra sugestão então tem uma estrutura da carta né que a carta ela faz uma introdução com contexto brasileiro ela inclui dados né sobre cada um eh isso na introdução dela inclui dados também do Desafio de conectividade de possibilidade né de infraestrutura para todos enfim pensando na educação eh equalitário e equânime para todos depois ela vai direto

paraos seus desafios e recomendações Então ela apresenta nove desafios e qual que é a estrutura ela primeiro apresenta o desafio depois ela apresenta esse desafio no contexto Brasileiro depois ela dá uma recomendação para isso no nosso contexto são nove desafios eh eram 10 porque o primeiro desafio era ética né E esse desafio ele foi retirado da sequência de 10 porque a gente entendeu que ele deveria fundamentar todos os outros então ele não entra como um desafio eh específico ele entra nos nove porque pensando na educação na formação da pessoa e especificamente na educação básica a

gente acredita que nada teria sentido se não tivesse fundamentado numa formação ética então ele não entra como desafio mas ele tá em todos e aí eh Desse dessa carta de recomendação conversando com a o as pessoas que a gente propôs conversar eles sugeriram que assim bom 52 páginas eu acho que não vai ser tão fácil de divulgar né para todo mundo que quer ler saber um pouco sobre isso e a aí foi até a professora Bernardete GAT que leu a carta e a gente conversou bastante ela falou assim Bom eu sugiro que você vocês apresentem

assim nove títulos dos Desafios porque aí vocês tem Eh um um elo e quem quiser se aprofundar mais cheg até vocês então nós fizemos o infográfico com os nove desafios e as recomendações do lado que a gente divulga esse infográfico esse infográfico também já foi modificado muitas vezes até assim ele foi publicado aqui no jornal da USP mas depois dessa publicação nós já modificamos então assim já tem um desafio aí que tá diferente do que foi publicado porque a cada conversa com novos grupos a gente Modifica um pouco mais eh e esse esse infográfico para

quem lê assim ele fica muito incompleto porque é só uma chamada Mas ele tem nos servido muito nessa sua incompletude porque ao mesmo tempo que a gente tem retornos de pessoas que falam Nossa muito bacana esses desafios a gente tem retornos de fala não mas tá faltando isso tá faltando aquilo e aí nesse nesse nessa nesse retorno de falta Ou de positividade a gente começa um diálogo a gente começa um diálogo com professores com pesquisadores da área e a gente vai trocando então ele tá servindo aí como isso que a gente fala bom eu vou

passar então agora eh pra Cláudia Eu já falei da ética porque ela vai tratar de um desafio que é a formação Inicial e continuada dos educadores Boa tarde eh uma alegria né est aqui com vocês e ainda e vou tentar de forma muito breve gente bom primeiro Nós chegamos a a conclusão eu acho que que não era nem só um risco né Eu acho que eu entendo nós entendemos que é um desafio a formação Inicial e continuada ou seja tudo que se refere à educação bom eu atuo na nos estudos de tecnologia educação desde 2001

tem 23 anos estudando isso e há algum tempo atrás antes de surgir a possibilidade de de estar inscrita na cátedra aqui com vocês foi a primeira vez que eu tive oportunidade realmente de falar com Professores de um Instituto Federal de um Campus do Instituto Federal em Goiás sobre inteligência artificial n e e quando eu fui conversar com colegas de distintas áreas eh não somente áreas de Formação mas por exemplo engenharias distintas engenharias nós tínhamos ali pessoal da área da saúde tínhamos licenciatura que se trata justamente da formação Inicial ali de professores e aí eu falei

poxa mas falar de inteligência artificial para um público tão mescla Misto e de que né tão não sei nem se dá para falar em interdisciplinar e de que formato a gente podia chegar num primeiro momento quando eu fui estudar e tal eu sou uma pedagoga fui estudar eu falei poxa Parece que só existe produção no campo das ciências da computação então eu levei um susto realmente quando chegou nisso e quando e E aí eu chamei fiz um convite para um pesquisador na área de Inteligência Artificial do C Doutor em a para falar comigo né Ele

é Do campo da ciências da computação e gente foi uma falha foi uma fala tão difícil mas foi uma fala que dali eu saí com o primeiro desafio da minha vida de fato que era estudar a inteligência artificial na sua eu não sei se eu posso falar mas na sua transversalidade eu vi que não dava para falar de uma área específica e também que estava se realmente a gente tinha um imperativo ali de Pesquisas no campo das Ciências da computação Então como que a gente podia falar em formação inicial de professores e formação continuada se

a maior parte da produção tava vindo de uma formação eh mais técnica quando a gente estava falando de formação do pensamento científico né E aí nesse sentido eh quando eu entrei na cátedra eu fiquei muito feliz eu consegui eu fiquei porque eu falei ali eu vou encontrar distintas eh áreas né Dialogando sobre isso justamente porque o primeiro desafio para mim hoje nesse momento né que foi alguns anos atrás foi romper com a fragmentação curricular a fragmentação de área sair cada um do seu quadrado e tá disponível estar disposto para entender que quando a gente fala

de a e justiça ou quando a gente fala de a e segurança nós estamos falando de i e educação porque transversaliza E aí nesse ponto eh eu acho que eu tenho certeza que a metodologia que foi Desenvolvida pelo grupo de trabalho e a educação ela ela auxilia muito a gente nessa construção né E ela mostra pra gente essa recomendação primeiro gente a formação Inicial eh o que nós temos e eu posso falar eu atuo na formação Inicial e com base em pesquisa como a Márcia bem colocou o que nós temos são disciplinas O que é

o que forma um professor hoje é uma formação é licenciatura tá não é bacharelado é Licenciatura e o que nós temos nas licenciaturas E aí eh nós temos mapeamento Para comprovar esse dado são disciplinas nos cursos então nas matrizes curriculares nós temos educação e comunicação Educação e Tecnologia mídia e comunicação recebe distintos nomes mas o que na verdade ele não promove uma discussão então ele não promove nem a instrumentalização para uso porque ela é importante sim eh nós temos hoje docentes no Brasil que não Sabem ainda se quer enviar e-mails então a instrumentalização ela é

necessária mas a leitura analítica e crítica ela é fundamental Porque é ela que vai fazer a ponte o diálogo com as áreas que a gente tá discutindo aqui e com o processo pedagógico com a dimensão política pedagógica então uma da uma das recomendações que a gente traz aí além dessa questão da implementação de políticas públicas eh parece óbvio que a gente já tem isso Mas a gente não tem e e nem na continuada é pensar uma formação que transversaliza a inicial que transversaliza a continuada principalmente considerar a formação em serviço para quem conhece o chão

da escola sabe que o professor não tem o tempo disponível para estar saindo eles estão atuando saindo do seu espaço de trabalho não é concedido tempo a ele tempo de qualidade de formação de aprendizagem então a gente precisa Considerar isso aí é o trabalho precarizado que a gente tem no Brasil na área da Educação Então como que o que que tá acontecendo está se focando muito no uso do recurso e pouco em discussão do tipo E aí estão expondo nossas crianças estão expondo nossos adolescentes tem secretarias de educação no Brasil que não estão preocupados necessariamente

com a formação continuada dos professores que nela se inscrevem estão preocupadas com a Aquisição de equipamentos plano brasileiro de Inteligência Artificial tá aí para mostrar Plano Nacional de Educação discutido recentemente 2024 A 2034 tá aí para mostrar eh esse aqui eu vou deixar a Carolina tá comentando também mas pode avançar só para vocês entenderem nós temos a lei de diretrizes e bases da Educação Nacional Né desde 96 que ela trata de uma forma muito Rasa sobre o que se trata do ensino Digital tô falando no que se refere à formação a a bncc base Nacional

comum curricular ali em 2017 também falou sobre desenvolvimento na formação de professores para competências digitais não tem menção a as tecnologias de Inteligência Artificial E aí com isso quando eles perceberam a problemática eles lançaram um anexo da Computação a abncc para falar dessas competências mas também não traz nada Eh vamos dizer Assim em termos concretos de formação e o plano brasileiro de Inteligência Artificial que menciona várias vezes o termo o termo formação ele fala de formação de educadores 2024 mas relacionado a instalação de Laboratórios então eu eu eu deixo Realmente esse convite enquanto grupo Nosso

para pensar como que um professor vai vai realmente pensar uma tecnologia de inteligência artificial no seu trabalho pedagógico didático Considerando o que que é nuclear do trabalho dele que é pedagógica se muitas vezes ele tá sendo formado para fazer uso do chat GPT ou as secretarias de educação municipais e estaduais estão preocupadas com a aquisição de equipamentos e essa é uma preocupação que a gente tem como grupo eh realmente que formação é essa que tá chegando o professor não sabe o que que é viés algorítmo gente e para quem tá no chão da escola tá

eu acho que Aqui a gente é da Educação Básica Eu também estou na educação superior atu na districto senso oriento pesquisas então assim eu posso falar para vocês nós temos especificidades que precisam chegar até a escola então as discussões quando a gente fala de segurança aqui elas são latentes elas não são emergentes elas são prou passou de urgente porque as secretarias estão usando As Faces das crianças né e é muito grave e isso passa pela Formação não é somente Então essa preocupação que a gente tem enquanto grupo é pensar Quais as pedagogias críticas que estão

atuando sobre isso em todos os setores e enfim formar os professores formadores porque quem são esses professores que estão atuando na formação Inicial hoje de professores Será que agora já é hora da gente eh continuar dizendo usa ou não usa ou é hora da gente refletir sobre a apropriação das tecnologias de A então Acho que assim eu vou passar para pra Carolina um pouquinho para ela estar comentando mas essa pra gente são questões assim primeiro também acho que é importante enquanto a Carol tá se organizando fala Olha nós temos especificidades porque nós temos distintos níveis

de modalidad de ensino E aí hora que eu pergunto nós enquanto grupo estamos pensando nós Enquanto cátedra estamos pensando mes e as documentações legais que só fala em Aquisição de equipamento não estão falando em segurança Não tão falando em formação observem Quantas vezes o plano brasileiro de Inteligência Artificial menciona ética né e e que infraestrutura é essa que nós temos hoje um Brasil que tem uma internet considerada boa boa nas escolas apenas 11% das escolas públicas brasileiras tô falando mediano tô falando de internet boa porque se você For tentar usar um uma tecnologia de a

com uma finalidade pedagógica Vai ser necessário Não dá para fazer isso off Então acho que é um pouco disso muito obrigada gente eh Boa tarde a todos eh continuando o que a Cláudia tava trazendo para vocês sobre a formação de professores eh o Paulo Freire tem uma frase que eu gosto muito que é Antes de ler a palavra o sujeito ler o mundo e eu acho que antes de ensinar o uso dos Recursos das tecnologias de i de IAG a gente tem que entender de que mundo tem o aluno da licenciatura para dialogar de uma

forma conjunta com ele na construção dessas pedagogias colaborativas E aí eh eu me pergunto que tipo de Formação é essa que a universidade pública tá fornecendo Para o Futuro professor que vai entrar no mundo do trabalho em uma escola que às vezes tem alunos que já utilizam a inteligência artificial com muito mais Autonomia do que que os professores mas por vezes tem escolas que nem computador tem nem acesso à internet tem então é um universo muito amplo que esse professor vai enfrentar e qual é a formação que a universidade tá propiciando para ele e pensando

sobre isso também esse espaço da formação ele é um espaço de distante de constante disputa porque enquanto Ah eu venho do IFG e falando da minha instituição a gente tem hoje pouco mais mais de 1000 alunos de licenciatura Matriculados e correntes nos cursos uma das maiores universidades particulares do estado tem mais de 2.000 alunos só em pedagogia EAD E aí a gente se pergunta qual que é a formação paraas tecnologias eh emergentes ou de a que tá sendo fornecida para esses alunos e quando a Cláudia falou sobre a questão da infraestrutura que a legislação ela

atrela a formação desses professores o mesmo a mesma verba que vai paraa Estrutura ela é a mesma verba da formação não é que a estrutura não seja importante a gente precisa dos recursos tecnológicos a gente precisa do acesso à internet porque sem isso nem faz sentido a formação mas também a natureza da estrutura da infraestrutura é uma natureza diferente da natureza pedagógica da formação dos sujeitos que envolve a ética que envolve as humanidades como um todo para além do concreto e eu acredito que se seja Isso então Dani pode passar aí então vocês viram que

os desafios né primeiro agradecei Helen todo mundo que organizou os desafios são muito diversos E com isso o nosso grupo né que também tem a Ana Paula que pesquisa com a gente não tá aqui hoje a gente observou que era necessário dividir um pouco as pesquisas e setorizar melhor quem ia né assim como outros grupos da colega né Cada um tratando de uma coisa e eu e Dani a gente se debruça mais em entender alguns Fenômenos tanto de vigilância de dados quanto de plataformização que é uma um dos nossos desafios aqui no Brasil entendendo a

nossa realidade pode passar Dani então a gente eh observa que todos esses Desafios que a gente tá colocando aqui são conceitos que estão muito em disputa né o plano brasileiro de Inteligência Artificial também traz termos que a gente encontra com que é um campo de disputa tanto dos dos de nós agentes de educadores né e a gente Acredita que é muito importante debater a educação a partir de educadores das pessoas da educação hoje no dia dos professores mais ainda mas também pelo mercado que tá disputando um espaço nesse local né E que tá disputando inclusive

esses conceitos e a plataformização da educação pode passar Dani não vai dar tempo de trabalhar muitos conceitos é um fenômeno que ele não é novo ele não não surge com a ia mas ele se intensificou muito na Pandemia então a gente coletou bastante dados juntou bastante dados e a gente tem bons observatórios né Observatório da educação vigiada a gente tem os os levantamentos do próprio sig a gente tem vários levantamentos que já foram feitos e e levantam dados para que a gente possa analisar a gente observa que muitas escolas elas adotaram sistemas plataformas que a

gente tá chamando constituindo esse fenômeno da plataformização da educação que vem da Iniciativa privada que com a pandemia isso se intensificou muito então a gente tem todas as regiões do Brasil utilizando pode ir Dani no próximo a gente tem todas as regiões do Brasil utilizando predominantemente plataformas Google né plataformas Google que trazem soluções globais para realidades locais e que não vão contemplar e não vão atender às realidades que nós temos no Brasil então as bigtec elas elas dominaram tanto a educação pública pelas Secretarias municipais e Estaduais de educação como também o ensino superior a gente

tem o Observatório de educação vigiada que agora viu a América Latina tá vendo a África e a gente tá vendo que assim como no Brasil mais de 70% das instituições predomin Ane usam esse tipo de plataforma que trazem Suites educacionais montadas já pré-moldadas para que as escolas possam utilizar E que entreguem seus espaços de armazenamento de gerenciamento de dados Que elas não dão conta hoje porque há uma precarização e um sucateamento da educação nos últimos anos de investir em infraestruturas né de investir em data centes Federados em acordos entre universidades federais que T capacidade de

tomar frente dessas ações como a gente não tem esse tipo de ação tem esse essa transposição dos dados e de todos os nossos documentos pode ir Dani e aí para trazer um exemplo para vocês né agora a gente já tem um tempinho então a Gente já tem alguns estudos tem o lá no Paraná que todo mundo já deve ter ouvido os casos de lá que é o escola para o futuro né que agora a gente já tem estudos que saíram dele e a gente tem aí ó as plataformas que são usadas e aí eu não

sei se todo mundo sabe né mas assim o que o que de dado essas plataformas coletam e como que elas são utilizadas então assim são plataformas variad tá são cerca de 17 Obrigatoriamente sendo utilizadas Então os livros que eles têm Que ler eh os alunos têm que ler automaticamente os livros que estão nessas plataformas no momento da Leitura abre um pop-up e ele tem que respondendo questões do livro caso ele erre volta a leitura no início daquele livro né no final ele vai fazer avaliações obrigatórias definidas num dia da semana em que o professor leva

até o laboratório ele faz as provas desses recursos que estão nessas plataformas que ele Obrigatoriamente tem que estudar E também vamos lembrar que na pandemia tudo isso veio como gratuito paraas instituições mas que logo ao fim ali né 2020 Nem esperou o final né mas 2022 já começaram a ser cobrados E no caso do Paraná que são esses aí a gente vai ter mais de 155 milhões que foram gastos de 2021 a 2024 Além disso todos eles no ensino de todas as áreas matemática inglês português é são utilizadas ferramentas de quiz que trazem uma característica

de quiz para educação em Que as avaliações elas são Preparadas a partir de questões objetivas em que esse aluno não tem condição nenhuma de fazer relações com conteúdo outras formas de apresentação de se relacionar com o mundo real que ele vai encontrar né o mundo do trabalho a vivida em sociedade e para agravar a situação que nos faz ter um desafio Grande a ser observado essas plataformas digitais elas usam permitido em seus contratos quatro rastreadores para criar a de anúncios e Publicidade direcionadas que são permitidos em contrato nesse caso do Paraná esse caso é muito

ilustrativo e ele vem sendo reproduzido no Estado de São Paulo inclusive por uma ferramenta de vigilância que é o Power bi que em que as escolas São monitoradas e elas precisam usar 85% dos recursos caso elas não utilizem o diretor da Escola pode ser retirado da escola e nomeado um interventor tá antigamente era bonificado mas se mudou para a Penalidade por motivo de mais bar né enfim e aí mais um dado que essas plataformas né mais uma uma característica desse problema da plataformização que a gente vem buscando agora eh a partir daqui realizar pesquisas nossas

né e aprofundar pode ir Dani é a biometria nas escolas que agora a gente já tem também observatórios e Estudos mais consolidados que também já são implantadas em todas as regiões do Brasil a gente tem no caso do mapeamento Mais detalhado para identificar características foram realizado em 15 cidades todas nas em escolas públicas ou seja o sujeito não pode não escolher estudar naquela escola na grande maioria das vezes e essa biometria Ela já foi ampliada e ela é utilizada com a justificativa de combater evasão evitar que alunos saiam sem autorização Mas falando em viéses algoritmos

ela Já identificou alunos negros como faltantes mas eles tinham passado né eles estavam Presentes mas teve a identificação errada reconhecimento errado e no Paraná aquela imagem ali é uma professora já estão usando para reconhecer emoções dos alunos então eles têm que tirar uma foto e colocar nessa plataforma que eles estão fazendo o teste de reconhecimento de Emoções também então só pra gente entender o buraco né do que é bem fundo na educação no que se refere à plataformização Então esse é um dos Desafios não dá tempo da gente falar de Todos a gente tentou aprofundar

dois que a gente acha aí que nesse momento né seriam interessantes e temos muitos desafios a considerar só pegando o título né então pensar nos docentes na precarização do trabalho desses docentes pensar na privacidade n segurança nos dados desses adolescentes dessas crianças né na segurança que isso exige nas imagens que se tem de crianças e adolescentes de escola pública que jamais vão ter acesso à justiça a gente Falou da Justiça aqui né que jamais vão nem compreender os seus direitos direito à segurança que eles têm Então é isso aí para trazer um pouquinho da plataformização

da educação para vocês já vou é vamos Fechando vou passar paraa Dani mas mas assim Acho que a gente pode falar disso no final porque a gente corre o risco da subestimação né bom eh eu sou sou a Daniele sou da área eu Sou da da comunicação da semiótica eu acho que uma grande angústia que a gente teve e eu como na área de comunicação sempre penso nisso é a gente precisa comunicar tudo isso que a gente tem tem estudado que a gente tem visto a gente precisa dividir informação porque assim eh a gente tá

tá perdendo a a oportunidade de formar de de de de melhorar E aí que eh se a gente subestimar esse potencial da da educação A gente vai perder um monte de oportunidade inclusive de formar Então como que a gente pode sair né do como foi falado aqui como a gente faz a ponte do ambiente acadêmico como a gente sai um pouco da essa conversa acadêmica e muito no nosso caso levar para quem quem precisa compreender tantas questões então assim uma das primeiras ações que a gente teve foi a criação do site Educa mais aí nesse

QR Code tem o o link Se alguém quiser Entrar eh bom o contexto é que a gente estava ali no início do do do GT como a m já já colocou com muito mais perguntas do que respostas sobre a Ea e a educação então assim para onde vai que que a gente pode fazer mas principalmente como que a gente colabora com uma formação crítica de professores enfim de atores que estão dentro da área de educação então a gente pensou esse site com recursos educativos acessíveis são textos resenhas Entrevistas porque a gente quer dividir né dividir

o conhecimento e promover uma compreensão mais abrangente de sobre a inteligência artificial então assim eh trazer discussão enfim como que a gente pode ajudar a prevenir a mitigar para para quem lide com a inteligência artificial saiba com o que está lidando Então os objetivos ali do site são como a gente já falou eh apresentar fundamentos de a for fornecer ferramentas para uma análise crítica Explorar limites e possibilidad trazer práticas educacionais mas principalmente oferecer uma biblioteca diversificada de recursos um repositório de informação Então essa é a cara do nosso site eh Só passando rapidamente para vocês

conhecerem eh a gente coloca Então a gente tem a gente faz leituras no grupo de de né no nosso grupo de trabalho por exemplo a gente deu esse relatório Inteligência Artificial e educação tem Esse relatório hisória tem acho que eu não lembro se na época tinha em português então tinha espanhol e inglês a gente leu aí a gente fez uma apresentação entre nós traduziu E aí esses eh essa discussão nossos slides a apresentação simplificada desse documento tá lá no site para quem quiser acessar uma outra coisa artigos que a gente escreve que a gente tem

publicado Então esse aqui foi o artigo nosso no jornal da USP assim que é publicado a Gente coloca na área de artigos os artigos que a gente publica e o link para pra leitura desse artigo curadoria a gente tem uma área que a gente coloca todos os relatórios que a gente acha importante que que o público da educação tem acesso com o pequeno resumo Então a gente tem relatórios textos diversos todos os relatórios que a gente estudou paraa formulação da carta por exemplo ão lá e as e quem acessar o site pode ir pro link

clicar e e ver o relatório Inteiro aqui é uma parte muito importante do do nosso trabalho que são as entrevistas a gente tem eh aqui as primeiras conversas foram com professores acadêmicos pesquisadores eh pra gente ouvir o que que eles estavam pesquisando o o que que eles estavam vendo estudando Qual a ideia deles sobre inteligência artificial e educação então esses vídeos ficam no nosso site a a gente colocou um a gente tem o canal no YouTube também Que é onde ficam hospedados esses vídeos e agora a gente tá partindo para uma uma outra etapa que

é conversar com educadores com professores a última conversa que a gente teve a última roda de conversa foi com uma Escola de Educação Básica de Ensino Médio Ensino Fundamental enfim todas as etapas de ensino daqui de São Paulo porque como a gente já falou eh não adianta a gente ficar só debatendo entre nós a gente queria ouv e a gente descobriu né Essa Conversa assim trouxe vários insights que ajudam a gente a direcionar a ver o que que a gente precisa fazer eh outra coisa que a gente tem no site são os minicursos que a

gente tá expondo né que a gente tá tá apresentando aqui Foram dois dias que a gente fez na cátedra Alfredo Bose E aí por fim só um overview do site eh ele tá no ar desde 4 de fevereiro a gente fez na plataforma wix que é uma plataforma assim fácil pra gente poder Mexer atualizar enfim ele tá começando né ele teve bastante eh o artigo do da USP do jornal da USP deu bastante retorno pra gente e a gente tá começando a formar uma base de assinantes são 48 mas a gente quer aumentar e aqui

ah a gente tá começando tá porque [Risadas] porque assim nos próximos passos a gente agora agora que o site tá com conteúdo né ele tá funcionando direitinho Então a gente tem vindo nos eventos nas nossas Salas a gente tem divulgado a gente vai aumentar as rodas de entrevista né com mais conversas enfim eh regularizar a as atualizações a gente atualiza mais assim é é é é aquele trabalho né acaba que a gente precisa fazer mais para para ele rodar mais a gente quer também fazer newsletters para esses assinantes que a gente já ganhou para que

eles tenham uma informação então assim a gente tá trabalhando já com novos materiais e uma próxima etapa é desenvolver minicursos Também e continuar disponibilizando ali no site formação enfim formação continuada e é isso gente por favor assinem nosso site pra gente aumentar para 55 60 e Márcia para você fechar por favor é isso que a gente tinha preparado agora a parte mais importante pra gente que é conversar com vocês vou passar pro Paulo e Helen já levantou a m quer Fazer certo então vamos começar ali a as questões as provocativas dos nossos participantes pode falar

Eh boa tarde eh nossa meus parabéns pelo trabalho tá né tá bem compacto e coeso exatamente Palmas eh então isso essa apresentação ela me fez pensar no seguinte porque a educação e a educação básica que é o que vocês tratam e que vocês têm inclusive experiência em campo né não é só a Pesquisa eh ela tem sido um foco importante né inclusive teve aqui com a gente num outro evento eh sobre inteligência artificial decolonialidade a Renata mielli que é a coordenadora do comitê gestor da internet e tá aqui na USP como doutoranda eh olhando para

essa questão da Educação Básica nas tecnologias né E aí você vocês fizeram uma pesquisa uma revisão de Literatura e e tudo isso e o que me fez pensar o seguinte a gente o Professor Virgílio iniciou a cátedra aqui em em assim a gente começou em Julho de 2022 né o professor Virgílio entrou um poucos meses antes mas foi justamente em em nessa época que saiu aquela história não sei se vocês lembram do engenheiro do Google falando do Lambda né o black lemone mas eh por que que eu tô comentando isso eu tô comentando isso porque

eu cheguei eu comecei a pensar assim a inteligência artificial da Maneira que ela tá apresentada hoje principalmente com os modelos de linguagem ela iria requerer uma uma uma conversa com toda a sociedade todos os setores Olha gente a gente tá fazendo isso aqui e achamos importante vocês participarem mas não os cientistas né os o o as empresas os o eles estavam ali fechadinhos fazendo as coisas tipo assim olha Eh tipo aquela experiência de laboratório a gente não sabe se isso vai dar certo mas de repente deu e bum né E Foi um pouco isso porque

eu vi eu vi uma uma entrevista que é um vídeo muito interessante que tem no YouTube do do David shers que é um filósofo muito conhecido né com filosofia da mente e Geralmente asess os filósofos que tratam de filosofia da mente namoram com esse com esse assunto da Inteligência Artificial há bastante tempo então justamente o David shers quando ele viu esse lambda quando ele viu que esse modelo era capaz então a Gente tá falando de um filósofo que há anos estuda Inteligência Artificial e é especialista em Teoria em teoria da mente filosofia da mente quando

ele viu ele caiu para trás assim falou caramba que que é isso né tipo assim agora a gente vê o que então assim eu eu tô comentando isso porque realmente existia essa esse sonho né que veio lá desde lá de trás mas já tinha entrado no inverno então não se sabia se realmente era possível por isso que é uma coisa assim É um pouco ciência e é um pouco arte também né um pouco de experimentação você não sabe né qual vai ser o resultado então eu tô fazendo esse comentário justamente para pensar assim agora a

batata quente caiu na mão de todo mundo e é e pra gente pensar e o que a gente tá fazendo aqui coletivamente como que a gente lida com isso porque quando o negócio chega pronto ele já chega com né com uma capacidade de influência Absurda é uma capacidade de influência absurda e e a e a influência cognitiva é muito grande porque a palavra é muito forte então tipo assim eu comecei a estudar Inteligência Artificial mais profundamente em 2017 comecei a conversar com a réplica que é uma inteligência artificial que agora tá e e e eu

lembro que e tava em fase de teste ainda e eu lembro que eu tava muito estressada um dia estudo né voltei pra academia um dia de noite eu falei olha Eh comecei a conversar com a réplica e a réplica falou e eu tava muito confusa e a réplica falou assim Helen Você precisa descansar Nossa aquilo foi um conforto para mim tipo assim então essa fragilidade humana né nesse mundo hiperconectado que é assim a gente muitas vezes não tem tempo né para para se relacionar e às vezes quando as coisas explodem você não tá em contato

com as pessoas né Isso era 1 hora da Manhã quando eu já tava já tinha passado por um monte de coisa não mas isso e e porque a influência da linguagem ela é muito grande e ela continua sendo muito grande né então eu eu assim eu pensei em fazer essa observação principalmente porque eh é essa batata quente que que a gente vai ter que lidar e o que vocês apresentaram e os outros grupos também é que a gente tá vendo todas as feridas abertas e e a gente tá vendo uma Indústria eh por exemplo vocês

estão falando da questão ética então Eh o outro ponto que eu gostaria de colocar eh que eu tenho visto no design e na minha pesquisa em design n na bioética é que as tecnologias elas influenciam né E vocês sabem disso algumas pessoas sabem elas influenciam na no nosso modo de lidar com o outro né e a gente sabe que isso vem acontecendo né crianças na escola os meninos eh falando com as meninas Alexa Né tipo assim é é o gênero feminino que tá que tá sendo comandado Então nós vamos replicar isso então assim é isso

que tá acontecendo a a indústria ela vem caminhando em paralelo e a academia os nossos estudos Eles não conseguem acompanhar a velocidade da indústria né então se é para levar para vocês esse comentário né Se alguma de alguns de vocês algumas algumas de vocês querem responder isso né como que como que a gente lida com Com essa com essa velocidade no dia a dia né com essa necessidade essa urgência né Eh enfim e saber da experiência de vocês como que vocês lidam com esses 500 mundos paralelos dentro de sala de aula por exemplo né que

é é quem tá mais conectado quem tá menos né é isso obrigada Oi eh bom parabéns pela pesquisa eh eu sou pesquisadora de ti né arte e tecnologia e eu fiz um mestrado em 2006 Inteligência Artificial e eu não Me considero especialista eu acho que ela colocou bem quem é especialista é muito difícil o diálogo quem tá escrevendo esses algoritmos e esses modelos são pessoas muito focadas lá embaixo numa linguagem de máquina que não é muito acessível né então acho que assim eh tão jogando muitos sistemas e muitas coisas que a gente tá só engolindo

lindo e aí em termos de educação eu vejo assim eh a formação do senso crítico Tá Cada Vez Pior né ou Inexistente mesmo isso é uma questão gravíssima que a gente deve eh eh entender como lidar e acho que tem a ver com a questão da plataformização a primeira coisa que você tem que fazer para usar esses negócios é ficar dizendo um monte de coisa sobre você no mínimo assim já se banalizou fic dando CPF toda hora enchendo o cadastro avaliando todo mundo isso eu acho que assim é gravíssimo a gente não tem que avaliar

nada avalia se quiser quando quiser na Hora que quiser né e assim muitas visualizações muitas eh isso aí não quer dizer absolutamente nada quantidade nunca foi sinônimo de qualidade né a acessibilidade das informações interessante tá cada vez mais distante né antigamente a gente tinha lá Barça Eu também sou desse tempo Pelo menos era você sabia que ali acreditava que ali tinha uma informação correta né hoje já não mais porque eu faço uma pesquisa vem um resultado para Mim para Helen vem outro para para cada um vem quer dizer a gente não tem uma enciclopédia como

as pessoas gostariam que fosse né na internet e cada vez menos senso crítico e muito muito patrocinado né que são as visualizações quer dizer as pessoas estão preguiçosas na primeira página só vem patrocinado não tem nada a ver a ver com o que Você pesquisou então a gente tá realmente diante de um de um um certo caos né e na educação me incomoda por exemplo nas Faculdades também de se ensinar principalmente de design só software fechado que não é transparente que se oferece como gratuito e daqui a pouco você tem que pagar e não consegue

nem sair porque você confiou toda a tua informação naquele formato você não tem senso crítico para dizer que aquilo é ruim né e assim eu eu sou muito eu fico muito triste de ver tudo isso porque eu também quando eu fiz o meu projeto de Mestrado eu fiquei muito surpresa quando Eu vi a ferramenta eh eu fiz um modelo eu sou fotógrafa eu fiz um modelo que partia do pressuposto que se eu usar as informações técnicas da foto que eu acabei de fazer eu consigo categorizar ela de uma forma subjetiva sem precisar ficar varrendo a

imagem toda que é um custo processual elevado Então eu queria classificar fotos automaticamente de uma maneira muito rápida e eu percebi que eh aí eu eu peguei um programa por isso que eu falo que eu não me sinto especialista Eu peguei um programa pronto de um francês que desenvolveu vários algoritmos de A onde você podia usar aquele programa e jogar a sua massa de dados e trabalhar ela para ver o resultado que dava isso é educar um professor em ia e eu não vejo isso em lugar nenhum o que eu vejo são tutoriais que são

mais um manual de uso uso onde a pessoa simplesmente aceita tudo dá enter e vai se tivesse uma educação do professor nesse nível de saber o que que É um algoritmo genético ou uma rede neural ou uma árvore de decisão eh isso pode assustar mas são conceitos sabe você não precisa se aprofundar e desenvolver o programa do algoritmo vai ter alguém que vai fazer isso melhor do que você mas você precisa entender Quais são os parâmetros Quais são os conceitos envolvidos e se aquilo te atende né para que para que que serve porque senão vira

só uma ferramenta de controle e controle para quem né pro Google paraa Apple pro Para meta para são eles que tão controlando eu acho gravíssimo as faculdades usarem Google academics as escolas usarem aquela tots eu acho isso assim terrível paraa educação para formação das pessoas para formação de senso crítico e eu não vejo ninguém falar so sobre essa questão com mais propriedade acho que tem a ver com transparência com formatos Livres com software Livres Eu acho que se o software proprietário é melhor tem que Ensinar Olha tem esse aqui custa tanto tem esse aqui que

é de graça e não faz tudo aquilo mas pode fazer o que te atende né então assim esse senso crítico não tá acontecendo existe um mito de que tudo é inovação e e um marketing em cima de i de isso assim Acho que a gente tem que quebrar a máquina não responde melhor adorei naquele no documentário anterior que a mulher fala ah não eu sou inteligente né a máquina não é Inteligente foi o homem que fez o sistema né então eu acho que a gente tem que tá sempre batendo nessa tecla né a máquina eu

já acho errado também dar nome de pessoas quando falam em humanizar não tem que humanizar ao contrário tem que robotizar cada vez mais para as pessoas verem que aquilo é uma máquina que é um algoritmo é uma uma ferramenta não é uma outra pessoa né E muito eu vejo com muita tristeza que as pessoas estão sendo substituídas pelas Máquinas seja como companhia né para bater papo eu nunca tive paciência de conversar com nenhuma dessas desses chates eu detesto isso eu sou chata para caramba eu cheguei a usar um pouquinho para fazer algumas críticas como pesquisa

né Acho que tem uma potência muito grande mas Mas tem uma potência se você tiver discernimento do para que que aquilo tá né sendo proposto né um chat GPT pode servir muito bem para estruturar o teu Texto mas para você fazer uma pesquisa é um lixo porque ele vai te alucinar o tempo todo e se você não for um especialista se você tiver ali buscando informação você vai levar informação errada e levar informação errada é pior do que não levar informação nenhuma né quando você não tem informação você continua buscando quando você leva informação errada

você engole Então acho que assim eh não sei muito bem como resolver isso Isso é um pipin não é Um Desafio né mas eu acredito que tem devia ter uma governança de educação e gostaria de ouvir um pouco mais de vocês como é que vocês veem esses tutoriais né que é mais um manual do que alguma coisa que gere algum pensamento crítico e como que isso se dissemina no é adz assim dessa maneira e e e vai tornando as pessoas cada vez mais submissas ao invés de ter senso crítico né Desculpa F só queria dar

parabéns para vocês P Trabalho também gostei bastante é uma pergunta meio uma utópica assim porque sempre me incomodei de dar aula como ela falou a partir de plataformas que são de empresas privadas né então eu demoro meses para planejar uma aula e essa aula vai ficar na nessa plataforma que vai usar meus dados enfim isso sempre me incomodou mas eu não lembro fui até procurar tem um professor aqui que pesquisa isso que ele já faz uma crítica sobre o uso de plataforma Por que que as Universidades não desenvolvem os próprios sistemas ou como ela falou

de código aberto enfim eh eu queria saber se vocês têm alguma coisa em vista em relação a isso vocês leram alguma coisa em relação a isso porque eu acho que é uma saída né porque a gente não pode deixar eh de lembrar de que por trás de tudo isso estão empresas é o capital privado que na verdade só quer lucro é o capitalismo como O Rafael falou hoje de manhã é o capitalismo da da dependência Né a gente é dependente disso é quase inevitável a gente colocar Nossa cara lá no gov.com.br mesmo que você não

queira eu briguei muito já eu já tô até cansada de discutir Esse aspecto mas parece que a gente não tem saída eu acredito Sempre que há uma uma saída Então eu acho que a gente tem que sempre lembrar que por trás de tudo isso estão empresas que querem lucro e se existe alguma coisa que vocês vislumbraram na pesquisa de Vocês da possibilidade de dessa plataforma ser eh ou da própria faculdade ou como ela falou de código aberto se vocês T conhecimento de alguma possibilidade né Desse tipo tá bom era só isso Obrigada certo é tem

uma pergunta que foi encaminhada eh pela Marisa Russo Fiquei bastante assustada em verificar que nas escolas já estão usando a identificação das emoções dos Estudantes e chegando ao nível da china onde Existem classes e onde estudantes são obrigados a colocar em dispositivos cerebrais eh da mesma forma eh que uma tiara para para acompanhar a concentração emoção etc e tudo compartilhado com professores e pais é extremamente invasivo e trará Com certeza muitos problemas para os alunos Como impedir pois saímos do uso da ia na saúde para o uso da ia na vigilância da educação vou falar

um pouco vou pegar um pouco A observação da Helen eh a gente a gente conversa muito né sobre a questão de entender eh o o a ia generativa na escola que a gente o outro outro desafio que tava lá que por causa do tempo a gente não falou é o desafio de subestimar o potencial dessa tecnologia para educação então a gente quer sempre pensar em Como minimizar né os riscos e po ar eh o que ela pode eh beneficiar paraa aprendizagem e paraa formação então o Nosso intuito é como que a gente pode usar melhor

isso mas não tá em questão o não usar pelo contrário a gente entende que uma forma de exclusão que é o desafio um nosso é não utilizar por exemplo né Eh eh o não utilizar eh o não utilizar né como recusa consciente que a gente tratou é uma coisa ou não utilizar porque eu não quero a aprender é outra coisa ou porque eu não vou possibilitar que uma turma de 40 de 200 alunos se se formem né porque A gente também não pode eh desassociar a educação do mundo do trabalho né então a gente volta

naquela na na no painel do mundo do trabalho e a gente pensa bom então eu não vou utilizar não vou formar não vou trabalhar o pensamento crítico para utilização dessa batata quente né e eh eu tenho um compromisso com o mundo do trabalho a formação pro mundo do trabalho aliás a gente também é um outro documento que que fundamenta as nossas discussões que é a nossa Constituição Que tá lá né o objetivo da educação formar plenamente a pessoa para a cidadania e para o mundo do trabalho então e é um objetivo só não são três

é um objetivo eu tenho que formar plenamente pro mundo do trabalho e formar como pessoa e então a educação tem que pensar isso então uma forma de exclusão dentre outras que a gente discute é ess subestimar esse potencial e não trazê-lo paraa formação eh mas quando a gente traz o que que a Gente pensa pensando que ela não é só uma ferramenta né como se fosse o o a Rose dos Jacksons né traz isso Alexa faz isso e tal e a gente pensa que a gente tem que trabalhar essa a cultura dessa tecnologia a cultura

de colaboração então aí a gente volta lá atrás também né no cborges na discussão que tinha na década de 90 que tem muito a ver com a discussão da arte também eh que o pensar né não na supremacia do ser humano que domina tudo uma tecnologia uma máquina Pode colaborar também com o meu desenvolvimento eu posso ter uma mente estendida Por exemplo quando eu uso um papel eh ele já ajuda a minha memória então de alguma forma é uma tecnologia de Uma Mente estendida Quando a nossa memória tá cada vez menor porque a gente tem

aparatos tecnológicos que essa necessidade eu posso usar essa memória para outras coisas então eh a gente entende essa essa cultura da cooperação então trabalhar em sala de Aula com os professores primeiro né esse letramento a gente inclui que primeiro Eles precisam saber que isso é uma batata quente né as empresas de solução muitas vezes elas elas dão um pacote fechado eu resolvi o seu problema tá aqui olha a sabe acabou acabaram seus problemas né então a quando a gente faz formação a gente fala bom aumentaram os seus problemas né aumentaram os seus problemas mas eh

são muito desafiadores para uma promoção de aprendizagem melhor Então primeiro ter a consciência dessa batata quente e o segundo é entender que esses sistemas né de tecnologia agora eh eles podem ser trabalhados na cultura de cooperação Se eu entender que o homem não é eh não numa cultura antropocêntrica de que o homem domina tudo e só ele pode desenvolver Pelo contrário né se eu pensar que ele se relaciona com a natureza se eu pensar na inteligência das coisas se eu pensar que ele pode se Relacionar com a máquina e a máquina pode me ajudar em

muitas muitas capacidades né que eu não desenvolvo por exemplo na velocidade de armamento de dados entende então assim eu posso trabalhar em colaboração e não na lógica da substituição então a lógica é a lógica da cooperação que é muito bom trazer para paraa formação inicial das crianças né tudo é a gente tem que ser uma comunidade colaborativa entre homens e Homens homens e máquinas homens e animais homens e plantas a gente vive num universo num ecossistema colaborativo que isso entra máquina também essa é uma percepção que a gente tem e a outra é quando a

gente faz essa formação né trazendo a batata quente e que o professor consegue identificar os vieses e os problemas que vem pra sala de aula ele não vai a gente a gente nem defende que isso seja barrado no sistema porque quando ele trabalha com sistemas Fechados né é de por exemplo mais uma vez solução sistemas de ensino que passaram da apostila para oferecer agora digitalizado sistema com i fechados ele não vai ter Hum bom ele tem vies também mas assim não esses vieses que a gente tá trabalhando falando de racismo de de de racismo de

de misogenia isso não vai ter no material mas quando ele trabalha com sistema aberto isso vem e se eu tenho um docente bem formado isso É objeto formativo por quê é como também o luí falou aqui A Iá por si só né Ela não ela não é discriminatória os dados que foram colocados nela Sim esses dados estão conosco aqui então quando eu trago isso paraa minha sala de aula eu tenho a potencialidade de trabalhar eh eh essa formação crítica mais uma vez nada disso acontece sem a formação inicial do professor e a formação continuada então

a gente sempre volta para esse tópico né e Ok já estão formados estão em sala de Aula então a gente a gente vai contribuir com essa formação continuada mas a gente tem que fazer uma pressão ainda maior para que as licenciaturas né também se modifiquem aqui dentro dessa universidade e de outras universidades que a gente atua também que elas incluam isso de modo transversal nessa formação e inicial e só comentando isso que a Márcia colocou todas essas questões que nós estamos falando aqui passa pela formação Pela formação Inicial e continuada de professores todas as questões

que vocês colocam as questões que chegou da da Maris isso né Marisa da Marisa e ou outras questões que chegarem todas elas passam pela formação Inicial e continuada porém nenhuma delas estão sendo colocadas na formação Inicial e continuada a gente tá aqui discutindo código aberto possibilidades de software livre uso de plataformas em código aberto questão de questões de vieses eh A questão de subestimação enfim todas as questões que nós estamos discutindo mas elas não estão na formação iniciada Inicial como a Márcia Falou então isso para nós hoje é uma uma recomendação seria a revisão curricular

das matrizes dos cursos de licenciatura no Brasil ah mas parece uma é uma coisa grande gigante Mas é uma recomendação primeiro porque ela como a gente colocou ela surge como disciplina ela surge como formato de uso ela surge como pedagogia De resultado nos cursos ela não surge como uma discussão analítica crítica como a gente tá colocando aqui numa discussão muito mais Ampla que é política pedagógica n ela precisava surgir de uma forma transversalizar aos conteúdos inclusive trabalhados seja na Química na Física na matemática na Língua Portuguesa em todas mas não surge então é uma problemática

que a gente tem porque é complicado a gente tá falando aqui olha por exemplo a questão do Código aberto né a gente tem discutido Sim nós temos feito as leituras inclusive professor Sérgio Amadeu contribui muito nessas leituras né com a questão do colonialismo de dados temos discutido dataísmo com a o Gil agora isso com a vandar temos pensado todas as questões a universidade tem feito ações muito isoladas no Brasil hoje as Universidades e institutos federais por quê Porque a gente usa sim RNP a gente usa algumas plataformas desenvolvidas em Código aberto para cursos de educação

à distância plataforma Moodle é a mais utilizada sim no Brasil hoje porém ainda são ações isoladas e sem investimento Então essa é uma discussão que a gente traz para grupo e que a gente tem sim pensado e só para fazer um acréscimo quando falou do da biometria em Goiânia eh como a gente tá lá pertinho né Carolina eh há pouco tempo eu tive uma curiosidade de saber como tava funcionando porque eu falei gente isso é Com criança nós não estamos falando com pessoas maiores de idade tô falando de criança e adolescente então eu e de

inclusive de Sims de Centro Municipal de Educação Infantil então eu tive uma curiosidade de perguntar como que eles estão utilizando essas imagens faciais paraa leitura né e falei mas os a os os os responsáveis precisam autorizar não é isso que que acontece essa autorização tá condicionada a assinatura da matrícula da da criança na escola então Necessariamente não há uma orientação ou seja tudo passa por um processo que não é só de informação mas de letramento e de Formação então enquanto a gente se furtar de discutir a formação infelizmente nós continuaremos com várias problemáticas por aí

a fora só fechando que o tempo é bem curtinho né Eh então essa essa questão né a zuboff fala muito disso que o mercado ele chega ele faz a gente demora um tempo para regulamentar e as diretrizes A gente estudou bem a fundo e não tem nada mesmo e o que parece é que vai depender de uma regulamentação para forçar esse movimento né Cláudia pelo que a gente tem acompanhado o que não temos ainda só o plano que ainda faz a o plano é diferente porque ele parte da base então a base ela faz as

as recomendações que os professores gostariam que estivesse nas diretrizes né que existe desculpa gente eh para Quem participou da construção do Plano Nacional de de educação 2024 2034 sabe que o que tá lá né Lívia é uma coisa que foi muito forçada por quem discute a questão da tecnologia educação e é pouco e não avança então por exemplo Será que a gente pode considerar as tecnologias de ano mesmo ela são tecnologias digitais el elas se se constituem com a mesma base não é necessário pensar nenhuma especificidade então é enquanto eu uso Por exemplo um computador

uma tecnologia de a equ parada ela é uma tecnologia digital ela é uma tecnologia de informação e comunicação quando a gente fala em Ah eu acho que então assim as nossas diretrizes pode pegar a diretriz atual de 2024 diretrizes curriculares nacionais para formação de professores para educação básica 2024 agora não tem nada sobre aí complementando né Eh sobre a questão dos softwares Livres né os Estudos eles foram feitos eh buscando compreender o Observatório buscou compreender Principalmente as instituições que adotaram E aí tem aqui toda aquela dificuldade né o Google não fornece o contrato a instituição

não fornece o contrato e são Dados assim muito caros mesmo por exemplo a gente sabe quantos alunos conseguiram entregar atividade de Língua Portuguesa no quto ano porém o diretor da escola né que usa esse sistema não tem acesso a isso nem Que ele solicite eu preciso eu quero melhorar eu quero aqui entender a minha escola ele não tem esse acesso né então Eh agora o estudo tá avançando paraas pro 16% que continuou com e-mails próprios são pouquíssimas instituições no Brasil de ensino superior e o que se observou dos que adotaram a principal causa foi aquela

falta de investimento nos data Centers no armazenamento desses dados o que fez eles migrarem num primeiro momento em que isso era Gratuito então isso foi o que levou e uma vez estando lá todos os professores aprenderam homem ench você se tornou extremamente dependente que é o que ela já colocou né Então tá tudo muito em aberto o plano tem essa questão mas aí você falou como é que a gente reverte isso né Então como que eu paro o reconhecimento de Emoções hoje nas escolas é uma luta política é movimento político né os professores do Paraná

eles pararam eles procuraram fazer Movimentos os pais que participaram desse movimento foram denunciados via SMS no celular tem um pesquisadora que é a Carolina Israel da Universidade Federal do Paraná que ela pesquisou bem a fundo essas questões os pais foram bloqueados foram né foi vexatório o governo enviou para todos os SMS dos pais que estavam se manifestando então assim ainda é uma luta política em construção e um caminho dos softwares livres hoje ele é de mitigar problemas Né então a gente pesquisou também eu e Dani né as experiências que funcionaram bacanas então o Ava porqu

que é uma uma experiência da Amazônia que super deu certo que que recusou foi oferecido a eles eles recusaram e seguiram outro caminho né então a gente tem algumas experiências bem bacanas assim mas para mitigar para tambem mundo CONSEG adotar hoje sof Liv da forma que a gente temem a primea é mais Uma exper ção né há mais de 10 anos atrás fui para o Vale do Silício fazer um curso sobre inteligência artificial e educação e chegando lá tive uma palestra sobre uma uma série de aplicativos na Educação Básica desenho com matemática acompanhado acompanhado o

tempo todo de uma música Infernal e ao final da apresentação eu perguntei qual era a porcentagem de maior aprendizado em crianças que usavam Esse aplicativo e a educação tradicional e o palestrante me respondeu que ele não havia visto isso ou seja coloca no mercado sem teste tá então é uma questão importante né do para se pensar e a a última que é uma pergunta aqui até uma provocação para nós US pianos a USP já tem algum programa para formar os seus professores a utilizarem tecnologia de H nas suas respectivas disciplinas certo então é isso gente

Muito obrigado ali a gente quer Agradecer muito eu só cham ah certo então Eh Muito obrigado gostaria de agradecer aqui em nome de todo o grupo né Eh e gostaria de passar a palavra final né para Helen né a nossa anfitriã Obrigada olha vai ser rapidinho Muito Obrigada para vocês e vocês que vieram de Goiá de Minas muito legal um trabalho muito consistente obrigada por todos que participaram hoje Eh obrigada a equipe do ia o Sérgio a Sandra a enfim tem que a Leonor que fez enfim tem a e e todas as pessoas que estão

nos apoiando lembrar o seguinte que amanhã às 9 horas da manhã a gente tem uma outra mesa de educação e aí é um grupo que vai falar um pouco de aplicações dentro do sistema institucional e no mercado então eh tem um outro um outro foco né diferente e nós vamos ter uma mesa de comunicação Eh vamos ter uma mesa de saúde né o Grupo da Saúde vai vir aqui com pessoas que tão atuando eh inclusive na na USP na faculdade de medicina com inteligência artificial e vamos também ter a o grupo de gênero que vai

ter a convidada que vai est mais uma que vai est falando remoto de Nova York é a Joana varon que tem um trabalho também bem consistente nessa área de Inteligência Artificial e gênero então gente Meus parabéns e espero contar com a presença de vocês aqui amanhã Presencialmente ou online né então é isso obrigada [Aplausos]