CPDP LATAM 2024 | Global Index on Responsible AI

Eh vamos começar então gente eh Bom dia eh eu sou Zé luí eu vou moderar aqui o painel é prazer só gente ter uma ideia quem na sala entende Português alguém só fala só fala inglês todo mundo entende português Hum ok tá então eu vou fazer a introdução em português depois eu vou fazer em inglês também E aí pelo menos para para todo mundo entender qual que Vai ser a organização acho que isso funciona eh e no painel a gente vai ter gente falando português e gente falando no espanhol então o pessoal fala na língua

Nativa asing do introduction pel in portugese and english and the Pan will talk in Native language Lar andar will talk in portuges merish no More peluce personally we G Lar is GNA Presents of the ai index and our pel is going to be franked as a way to discuss this results so How is ai government situation Around the World sorry we have some theer of the and [Música] então o painel a gente vai começar a lariss vai introduzir brevemente o resultado e do índice global de e a Responsável antes do pessoal falar eu vou também

deixar cada um se introduzir eu acho que assim gente conhecer todo mundo saber quem que tá falando depois disso cada panelista vai ter a chance de falar então vai fazer seus comentários e a gente vai abrir um pouco a discussão PR pergunta e também pergunta pessoal do painel e quem tá na plateia então Lissa você que também da casa pode ser a primeira pessoa se apresentarem introdução Eh quero agradecer muito aos panelistas por terem atendido ao nosso convite aqui hoje bom eh bom sou parte da casa né da FGV trabalho no cyber Bricks que é

o nosso projeto né que foca em políticas digitais entre os países do brix eh também sou pesquisadora de pós-doutorado fora do país eh atuei na universidade das Nações Unidas eh e tô aqui hoje participando e apresentando um pouco desses índices eh sobre o global de governança né de ai porque também fiz Parte eh da equipe né que analisou e preparou esse index então fico muito feliz eh dos colegas Rachel adans o ncolas que não pode estar conosco hoje por uma questão de viagem eh terem destinado a minha apresentação do índice Obrigada José Vou passar pros

colegas Olá a todos Hi everyone I speak spanish sorry my portugese [Música] myl merant Open data Charter Open Datter Org global que trabaja conando goos alredor del mundo en políticas de datos abiertos que para trabar dierentes agendas temticas cambio clim eh gobernanza de tierras e inteligencia artificial un gusto estar aquí con edes Y Bueno si necesitan que repita alg por spanish please let me Bom dia eu sou Samara Castro eu sou divulgada mas agora tô como diretora de promoção da liberdade de expressão na Secretaria de políticas digitais daom na Presidência da república a gente ali

lidera as agend que dizem respeito a servço Tais a parte de regulação enfrentamento à desinformação Estamos liderando também a agenda de integridade da informação no G20 e eu pessoalmente coordeno a parte regulatória de A no governo federal as negociações que dizem respeito a esse tema uma frente que reúne Casa Civil Secretaria de relações institucionais e nós e estamos aí com vários desafios de Tudo que diz respeito ao digital no governo passa também pela nossa área Armando trans digit del ministerio econs disr solu plataformas infr Orient hacia la planifica del desarrollo social econmico La República Dominicana

Então queria agradecer Larissa Mercedes Samara e o Armando por aceitar nosso convite participar aqui do painel e também agradecer a todo mundo que tá aqui presente na sala pessoalmente eh Muito obrigado então acho que lariss com isso a gente pode começar ótimo obrigado José eh just you know that I prepare the slides in english so can also follow the presentation Without to speak in Portuguese even in spanish so I hope that it can help you Ah vamos começar então Eh vou contar um pouquinho para vocês o que que é essa ideia né do Global dat

barômetro como que vem essa ideia de de construir esse index porque A gente tem uma série de de e medidas ou avaliações do do barômetro Global mas geralmente ele se dedica ao setor público né ou alguma política específica ou uma área específica a ideia de fazer esse parâmetro global é é é medir isso na Perspectiva do país né então foram avaliados mais de 138 países né eles basicamente né vou mostrar para vocês aqui como que a gente estruturou né Essa abordagem né nos países primeiro a gente olha em três pilares que na verdade Seriam os

governos as ações governamentais que também eh estão associadas a parceiros que eu chamaria de não governamentais mas pode ser setor privado academia etc tá E também esses atores não governamentais ou seja as ações que são realizadas estritamente por is deles né Como criar uma diretriz de orientação de ai é um projeto de pesquisa eii então todo esse tipo de de de iniciativa ela foi mapeada né Qual que é o recorte dessa pesquisa Nós viemos analisando desde novembro de 2021 por entender que depois né do da eh do pico da covid-19 etc e desculpa 2020 2019

eh os países já começaram a se organizar em termos de ações estratégias e potencialmente regulações para lidar com ia né E todos esses impulsos de de de transformação digital de adoção de tecnologias então a a eh eh a gente eh pensa na ideia de uma response B né de uma ia responsável que ela tem que Agregar algumas dimensões né como essas que a gente coloca aqui que basicamente seria né aqui no eixo da da da governança responsável né Ter uma estratégia que se é capaz de amalgamar algumas condições ou princípios né orientadores de uma ia

responsável eh baseada no respeito aos direitos humanos confiável etc né Eh e depois também que ela estivesse relacionado aos contextos que nós temos como por exemplo igualdade Ou desigualdade de gênero preocupação Com as crianças né os problemas relativos à eh proteção privacidade de dados né a a as questões de de participação política ciência sobre ai e no último tópico ou Pilar a gente pensa na questão das capacidades né como esses países eles estão preparados em termos de capacidades para lidar com ia exemplo como que que um país ele compra ia né existe medidas de impacto

para avaliar como são estabelecidos os acordos né E também a a a o treinamento no nível do Setor público então basicamente a gente tem uma média de 20 áreas temáticas né durante a coleta a gente eh buscou informações mais específicas relativas à saúde educação eh ética em a e pesquisa eh meio ambiente né mas aglutinam essa primeira parte do que seria esse nível comparativo eh Entre esses princípios e entre esses três pilares que nós temos que são os direitos humanos a governança E ai então Acho que um ganho hoje do nosso painel é é termos

aqui né Eh e especialistas que podem junto conosco pensar né nesses problemas nesses soluções que nós já temos e como nós podemos nos mover né mas linkando esses atores todos né Não só o governo a gente sabe que o setor público ele tem uma centralidade mas que a a governança de eia Ela depende dessa conexão com outros atores e também centrada no ser humano Tá eu vou passar basicamente aqui os nossos eh 10 eh ke Finds mais importantes para vocês tá eh a ideia que ao longo do do nosso debate só para falar um pouquinho

como que a gente organizou isso eu vou fazer essa apresentação depois né José vai abrir para algum comentário mais breve E aí a gente vai para as perguntas mais específicas para aproveitar a a colaboração E expertia dos nossos colegas aqui eu peço a vocês que mantenham as suas perguntas a gente vai ter um né um espaço aí entre as as as as Participações dos painelistas para que vocês também façam perguntas e comentários tudo é muito bem-vindo muito obrigada então vamos falar um pouquinho aqui do que são esses que Finds né que é que a gente

tem basicamente né a gente percebe que a ideia de governança de ai ela ela é ela funciona na no sentido ideológico mas não na prática o que que isso quer dizer nós temos estratégias até mesmo robustas entre os países mas ela não tem um uma força legal na Maioria das vezes na verdade apenas dois países do mundo tem de f uma lei relativa o que suporta as estratégias dei né e outras estratégias mais específicas que sejam capazes de conectar a questão das capacidades e dos Direitos Humanos elas estão ocorrendo hoje apenas em 54 países para

vocês terem uma perspectiva Além disso algumas estratégias elas são digamos setoriais elas não se aplicam a todos os setores seja por exemplo somente administração Pública federal ou alguma área específica do governo tá eh nesse desenrolar alguns países também eles não têm estratégias Mas eles começaram a fazer algumas ações né um plano de ação eh eh ou fazer algum draft de uma estratégia Então tudo isso também a gente considera a a alguma caminhada né algum avanço digamos assim eh relativo à proteção né Eh dos Direitos Humanos o que nós percebemos e essa estrutura de governança é

que tem um Grande GAP né porque geralmente as estratégias elas se pautam em algumas questões como setor público e etc e mas não tem algo de fato tão robusto capaz de considerar por exemplo questões de cultura e diversidade de gênero né ou de avaliação de impacto eh eh do uso de ai né então Eh de fato é uma grande lacuna relativa a especificamente os o que nós chamaríamos os princípios balizadores dos Direitos Humanos eh para uma eiia responsável né um uma evidência que nós Temos é a falta de mecanismos relativos à reparação né de de

de problemas eh dentro do EA mesmo no caso em países que nós temos autoridades etc modelos de de modelos ou frameworks de avaliação de impacto de reparação de problemas Eles são de Fato escassos né E eles não têm algo relativo à força legal Às vezes eles são mesmo até mesmo sugestivos ou diretrizes Gerais movendo para para para o o o o o o tópico mais relevante que nós vimos é que todos os Países de alguma forma estabeleceram um algum tipo de cooperação né internacional eh os princípios da Unesco Eles são de Fato muito fortes né

mas olhando eh profundamente nos dados né que é uma coleta primária o que nós percebemos é que falta uma conexão em termos de implementação desses princípios né Mesmo sendo de de de cima para baixo das cooperações nacionais e contextualizá-los no nível Nacional né Eh o que de fato alguns Países precisam né e e e no contexto deles então a gente ainda sente falta disso ainda que a adoção tenha sido massiva lacunas que são perceptíveis e realmente graves né que a gente sentiu em todos os países eh a abordagem de gênero ela não acontece relativa a

Iai né e algumas outras perguntas específicas como por exemplo a igualdade do gênero e e mulheres é é o GAP maior que que a gente percebeu Então como tudo é pontuado né que a gente fala que que Que é uma área temática né que é igualdade de gênero de fato raro a gente acha alguma diretriz relativa a questão do gênero e Responsa eh isso também eh tá relacionado às próprias questões de igualdade eh EA e inclusão né quando a gente fala EA inclusão e igualdade a gente acabou glutin né para apresentar os resultados para vocês

questões eh relativas à discriminação né Eh participação pública e consciência né questão da diversidade Linguística né que por exemplo em países em que você tem mais de uma língua Qual que é o tem algumas diretrizes de recomendações de treinamentos de ai ou não Por exemplo na Espanha a gente tem mas na maioria dos países não né questões de gênero então é boa parte eh dos países que tem uma abordagem mais robusta e que inclui essas questões de inclusão e Equidade eles estão na Europa né no caso eh Nós ainda estamos eh nós lã né digo

Caribe América Latina Central Nós ainda estamos encaminhando eh eh para tentar fazer uma abordagem mais responsável dos direitos humanos e essas três questões são muito importantes e devem ser consideradas tá eh questão da força de trabalho e medidas de proteção e também não é adequado né Eh como você pode vocês podem ver apenas 33 países eles de fato Têm alguma Medida de proteção né é um leque na maioria das eh das políticas e estratégias isso não entra nem no escopo De ações né que seria algo mais pontual e olha que quando a gente coleta ações

a gente considera até mesmo um workshop uma diretriz uma consulta pública que é algo pontual tá eh aqui a gente enfatizou né novamente a questão da diversidade linguística e e cultural porque realmente é algo que que é um leque muito grande e eventualmente pode ser interessante escutar né dos colegas eh como que a gente pode trabalhar isso no nível né da América Latina etc haja visto que a maioria das Ferramentas que nós temos em a elas são baseadas em inglês né então é um ponto que eventualmente nós podemos pensar em algumas medidas de promoção dessa

eh cultura linguística diversidade só para dizer para para vocês nesse ponto Nós também intencionamos e fizemos um mapeamento relativos a a às questões de eh eh indigenous data né que é pensar se tem alguma diretriz relativa a isso e São acho que basicamente dois ou três países que se manifestam com relação a uso de dados indígenas ou al um trabalho relativo a isso e ai tá eh outro GAP muito interessante que já vem refletindo nos acordos mais recentes pelo menos no nível da Europa nos acordos de cooperação é a falta de esquemas ou de frameworks

para a segurança e Confiança dos sistemas de ai né Eh isso mostra pra gente que não não uma vez que os países não estão se preparando né os governos Não tem políticas e diretrizes eh também não há um movimento eh consistente eh dos atores não governamentais em em produzir ou propor né algum acordo nesse sentido seno ou alguma abordagem então é outro ponto crítico relativo à segurança né e acurácia e confiança desses sistemas atores né Eh como no início aqui eu comentei com vocês que nós fizemos também um mapeamento para tentar identificar ações relativas ao

meio Acadêmico organizações não governamentais que basicamente eh nesse tópico seri a sociedade civil e o setor privado né os resultados em si eles são animadores em alguns países em que a gente percebe que esses atores são de Fato atuantes né eles eh promovem workshops eles fazem relatórios diretrizes né Eh mas isso também acaba nos alertando por outro lado a falta de ação Por parte dos governos que seria o primeiro ator pelo qual você espera Alguma reação né Eh então de um modo geral eles têm eh alguma atuação e a atuação deles novamente enfatizaram para nós

eh os problemas e lacunas que nós temos relativos à abordagem dos Direitos Humanos né como aqui no caso eh questões relativas à inclusão e e Equidade eh no no site também do Global eh centro governance of e você pode achar discriminado todas essas áreas tá ou depois a gente conversa então eu posso eh apresentar melhor para vocês o que Quais seriam esses princípios de inclusão usão né Eh que que a gente aglutinou aqui tá o que que eu quero dizer para vocês que ainda tem muito que tem que ser feito né a nossa coleta primária

ela vai ser refeita vieram várias perguntas vieram perguntas eh dos nossos parceiros se nós deveríamos também nos debruçar em casos específicos no setor público para tentar eh avaliar os processos em si né de implementação e adoção de ai né Eh eh a 60% do mundo tem Né quando a gente falou um score baixo quer dizer que que quer dizer isso que não é adequada ainda abordagem né nem mesmo relativo a esses frameworks ou ou planos de ação que eles estão eh produzindo bom então eu eu vou vou parar por aqui na verdade vou esperar José

fazer introdução mas eu vou dar uma pause e abrir na verdade aqui a as perguntas pros colegas já se manifestarem né E também a nossa audiência para vocês dizerem o que que Vocês pensam sobre eh uma ia responsável né quem de fato eh deve liderar essa discussão né se você tiver alguma manifestação sobre isso eh seria muito interessante já pra gente começar eh a nossa discussão Obrigada José Obrigado colegas obrigado laiss então vou começar vendo se alguém aqui no painel quer fazer algum comentário Se alguém quiser fazer uma pergunta pode por favor levantar a mão

e a gente passa o microfone fone eh Em seguida você quer tá então vamos inverter a ordem eh você passa ess microfone eh obrigada a todos e todas eh perdão pelo breve atraso mas já tava aqui tudo marcadinho já com as perguntas direcionadas para vocês eu conheço boa parte do trabalho as pessoas estão falando respeito muito eh eu qu eu tenho duas perguntas uma é relacionado ao protocolo que tá sendo desenvolvido pelo Ministério dos direitos humanos em Relação aos direitos humanos e empresas eh eu queria Ah vamos só segurar as perguntas Gerais pro final do

painel aqui mais um espaço para sobre o que a Larissa apresentou Agora antesis conectado tá conectado a isso perdão eh que tá enfim sendo desenvolvido pelo Ministério do Direitos Humanos eh em que tem uma lista né de eh membros que estão participando desse desenvolvimento desse protocolo eu não tenho a noção de ter visto a autoridade Nacional de produção De dados por lá por exemplo ou outras organizações governamentais eh mecanismos governamentais que seriam importantes principalmente em relação às vulnerabilidades eh à populações vulneráveis no geral e eh eu queria entender se dentro desse protocolo ainda que ele

não trata especificamente qu tudo bem será Ah tá ainda que ele não trate especificamente sobre inteligência artificial né sendo a inteligência artificial uma aplicação mercadológica Né se ele não contemplaria isso se isso não seria um caminho possível por exemplo para o Brasil eh e aí eu entendo também que a gente tá diante do desafio geral da regulação que é da participação social porque e da legitimidade democrática para esses protocolos então aí eu queria devolver a pergunta para você como que se de alguma forma no seu estudo eh foi mensurado a a diversidade mesmo no desenvolvimento

dos protocolos porque também me preocupa muito que eh Os protocolos sobre diversidade ou sobre proteção a uma vulnerabilidade sejam desenvolvidos por pessoas que não não necessariamente tem um cuidado específico sobre isso eh Então eu acho que eram essas são perguntas que também de repente também são algumas respostas e possíveis encaminhamentos nesse sentido tá bem eh obrigada eu eu não recordo se você apresentou o seu nome meu nome é Oara Obrigada Lara Obrigada pela Pergunta eh eu sei que minha câmera tá dando algumas coisas eu acho que eventualmente A conexão aqui peço desculpas mas eu tô

escutando vocês bem eh e pergunta muito pertinente Porque de fato nós temos eh uma área temática digamos assim né que é a participação política e a consciência em que nós tentamos coletar informações sobre todo tipo de manifestação nesse sentido o que eu chamo de manifestação alguma consulta pública um fórum um espaço né em que Hajam tópicos que discutam eh eh eh a ai do ponto de vista responsável não é necessariamente só uma questão é uma discussão técnica tá eh esse GAP ele acontece de um modo geral tá na maioria dos países ou também pode ser

um problema metodológico algo que a gente tá pensando pro ano que vem é também olhar esses espaços de participação dentro de outras áreas temáticas Exemplo né na discussão eh do Ministério dos Direitos Humanos da Saúde etc e Averiguar se dentro desse espaço né dessa área setorial se há um espaço de participação política para de fato esses atores eh discutirem Tá mas o que eu posso dizer para você e aí você pode pegar os números lá que é uma coleta primária vai te falar que país que tem ou não etc aqui de um modo geral esses

espaços de participação Eles não têm força legal é esse é o grande problema né Por mais que eh nós Opa por mais que nós tenhamos de um modo geral eh países Com estratégias e planos de ação né e há muita efemeridade ainda no que é colocado né E aí quando a gente pensa nesse sentido de que é efêmero de fato espaço de participação social eventualmente vai ser a última parte que é é fomentada porque é um custo né em em comunicar essas pessoas em trazê-las por esses espaços etc então Eh nem sempre é é tão

fácil assim por mais que a gente pense em vias online de fazer consultas etc né porque pressupõe-se também que a Participação política você vai ter um feedback senão ela não é participação ela é de via de mão única Hum tá então assim eh dizendo para você de um modo geral é que para mim o ponto de vista que a gente tem um GAP de de abordagens relativas a Direitos Humanos quer dizer que os espaços ainda que eles existem de participação social eles não são fortes suficiente para fazer valer que a EAD seja centrada no ser

humano né então acho que é um pouco do meu ponto geral Tá eu não vou me delongar porque eu também não quero tomar o espaço dos colegas e como a gente vai tocar nesses pontos eu acho que vai ter eh também oportunidade da gente escutar deles e da experiência deles em seus respectivos países eu vou passar para José para ele fazer essa pergunta Inicial e também vou projetar aqui para vocês tá aí só para dizer para vocês um pouquinho dessa dinâmica Desculpa minha câmera tá horrível de você continuar a samá Armando Claro Claro claro vamos

lá depois a gente volta enquanto isso eu resolvo a minha câmera aqui desculpa não eu vou detalhar mais quando eu for fazer a minha fala mas eu acho que um ponto que é importante quando eh você coloca Larissa da participação social e dos temas digamos assim vinculados a Direitos Humanos eles estarem menos relacionados nos Espaços onde vocês estão né pesquisando e e olhando eu acho que isso é um processo Muito ruim mas que ao mesmo tempo é muito comum eh por alguns motivos Eu acho que um deles é o fato de que quem defende quem

tem como pauta quem tem como diretriz a discussão de Inteligência Artificial majoritariamente são aqueles que estão olhando para as questões de inovação questões econômicas questões que não necessariamente estão com a preocupação em primeiro plano com direitos humanos com direitos na verdade né e eu acho que isso acaba por Segmentar muito e vou detalhar como isso tem funcionado no governo brasileiro mas eu acho que isso deve se refletir nos outros países ISO acaba por segmentar muito aquilo que é exercício de direitos daquilo que é inovação E essas duas coisas como se elas não conversassem então eu

acho que os espaços de participação social eles são muito fundamentais mas ao mesmo tempo a gente precisa também olhar eh um pouco do acúmulo que que nós temos Tido com os espaços multistakeholders né como eles têm funcionado como eles têm gerado eh encaminhamentos que efetivamente Parem de pé e Tragam conclusões E também como que a gente consegue evitar que as pressões sofridas nos setores especialmente mais vulneráveis dentre os stakeholders que na minha visão são a academia e a sociedade civil as pressões que elas sofrem do ponto de vista de financiamento tanto por governos quanto Por

empresas como isso também se reflete eventualmente nas conclusões que saem desses espaços de participação acho que esse é um debate complexo desconfortável mas que acho que é importante que a gente faa princi Dominicana nosos con tem intelcia artifici aun tenemos oend discutiendo sobre el tema la importancia de la misma relevancia que tiene contar con Con una mano de obra especializada que se tem digamos queas veces temas esenciales como lo que menona Lara que menona también ve nos somas un pa que está empando propiamente Mater Def polític formal tema que acá nos arroje esas principales debilidades

en materia de género en materia de derechos humanos en materia de gobernanza principalmente de la gobernanza de Los datos realmente Fundament es important para avanando ha una Direc apri ese sentio toda est informe ar agregao va va serví buo Gracias Larisa por presentación primero destac también como de la importancia que exista un í herramientas de estas características peren nos perm reg eso tambén no auda SI tenemos respuestas sobre ejemplo la implementación de la inteligencia artificial en nuestras regiones una Respuesta que tenga que ver con nuestro contexto con nuestro lenguaje con nuestra diversidad cultural con nuestras

desigualdades estructurales lamentablemente Y con nuestra población Entonces índices de estas características con este detalle menn pos solues lo sego que quer dec ual vo desarrollar un en mi presenta Y está vinculado con Conun losa keying menciona Lar sobre inclusi igad sobre la falta de Tod regul pueda pued regular respons tambo falta de mares Y estructur integri garan integri desarrollo Pro inteligencia artificial algo me parece Clave que tenemos que tener en cuenta para estas converses es qué tipo de datos estamos usando para el desarrollo Y para Las inici Mi presentación Pero Me parece que una de

Las cuestiones que hacen que Noé garantizada por ejemplo igual de género que no es que haya sesgos en implementación de proyectos de inteligencia artificial es que los datos que están alimentando esa inteligencia artificial esos desarrollos Son datos que están producidos en el Norte global que Son muy distintos en términos Soci nu un a par de est estet identific globalex tenos hac unam para empezar a producir nosotros mismos los datos que alimentan esa inteligencia artificial o las iniciativas que nosotros estamos implementando para evitar Justamente que se generen estos sgos para intentar estos desarrollos de inteligencia artificial

Sean útiles para políticas de desarrollo y no solamente para que ganen Diner algunos po dejo Ahí después cuento Un Poco la investigación de Open data Charter sobre uso de datos intelcia artificial améria Latin Global realid então agora a gente vai voltar palavra para você a gente vai comear a focar um pouco na améric latina primeiro com osos do do barômetro E aí também com depois com comentário e a fala per do painel Oi José eh gente eu eu tirei minha câmera aqui porque tá meio estranho e vai acabar desviando a atenção de vocês eu peço

desculpa Problemas de ai mas enfim eu vou fazer uma breve introdução sobre os achados né sobre a América Latina e dizer para vocês também que quando nós fizemos a análise eh noss a nossa divisão foi um pouco diferente né então ficou a América do Sul e central e e e Caribe separado mas vou falar um pouquinho antes da gente entrar em algumas questões mais específicas né mas também óbvio sempre aproveitar o espaço para eh receber os comentários eh dos nossos colegas bom de Um modo geral o que nós vimos no nível da da da América

Latina né é que os países eles T estratégias nacionais muito generalistas né isso acaba abrindo espaço ou deixando eh espaço para que a gente não não seja tão proativo em algumas questões como por exemplo a questão dos direitos né Eh basicamente Brasil Chile e Argentina tem eh proposto uma agenda mais robusta né dentro desses países né a gente tem movimentações das autoridades nacionais De proteção de dados Tipo na Argentina Brasil também tentando se colocar por outro lado países da América Central como Panamá Salvador Guatemala e Honduras eles ainda tão dando os primeiros passos ali com

alguma ação e não necessariamente com uma abordagem mais robusta tá eh é bom também a gente enfatizar esse esse essa abordagem no nível né regional como a a Mercedes realçou muito bem né Por sentir falta de fato de ter um aliamento entre nós né e E e e como Afinal esse tipo de abordagem pode até mesmo impactar na própria soberania digital dos países da América Latina e Caribe né bom eh relativa à dimensão dos direitos que eu ten enfatizado muito eh Há avanços né na educação na proteção de dados e privacidade eh até mesmo na

proteção do trabalho das forças de trabalho nos países da América Latina mas de um modo geral não tem conexão com as estratégias ou os quadros de governança que foram Colocados então isso dá a impressão que eles são são ações fracas né que elas de fato não vão se sustentar em longo prazo né e e e é um pouco mesmo da da da nossa preocupação relativa essa questão questão da da instabilidade eh emocional desculpa instabilidade eh institucional desses aspectos em termos de evolução tá eh é um GAP a questão dos Direitos da Criança diversidade cultural linguística

é um Gap para para nós na América Latina relativo a questão eh dos atores Em si né Eh nós percebemos que academia setor privado e sociedade civil eles vem se moviment tando na América Latina né mas também ainda tem eh uma uma capacidade eh eh eh Nacional né Essas capacidades que a gente fala de treinamento do setor público as autoridades eh eh eh de de competição e Comércio elas ainda não estão Preparadas para lidar com com esse esse essa nova onda relativa à questão da ai né especificamente com relação às Instituições Como eu disse você

não tá Compartilhando os slides a de propósito Ai desculpa desculpa é por causa da minha câmera eu peço desculpa de qualquer forma eu não tenho um slide na verdade né isso que eu tô falando para vocês é mais geral é eu peço desculpa por isso que eu não me preocupei mas aí é os os os resultados né a gente tem esses resultados no Website mas só para dar uma introdução para vocês tá movendo já agora mesmo pra questão da América Ah Desculpa pro Caribe eu eu eu tirei porque realmente ela ela não tá me obedecendo

hoje eles ficaram saí aí ficou sabendo que eu ia fazer uma participação aqui e tem alguma coisa no meu computador mas enfim Eh quero muito aproveitar a presença né do amando aqui porque a República Dominicana ela é é o diferencial que nós temos hoje na né na na no Caribe e e acaba refletindo também nos países da América Central porque eles têm uma Estratégia junto com o plano de ação ess não vou adiantar muita coisa deixar o espaço para Armando explicar mas eles também têm por exemplo relativo às questões de promoção das competências no se

setor público a ideia de criar um centro de excelência relativo a isso né então é uma estratégia robusta que faz a diferença eh eh entre os países do Caribe né e o e a nossa percepção é se eu puder Dizer para vocês dado a massiva adoção em termos da cooperação Internacional espera-se que estes países ou seja nós possamos olhar né pros nossos contextos como mercos comentou e começarmos a nos alinhar né uma forma eh eh bastante efetiva de tentar virar essa chave aí das lacunas relativas a aos direitos humanos eh a instabilidade ou força legal

né das no dos nossos quadros de governança de ai e também as capacidades no setor público bom é uma introdução geral não sei se os colegas querem comentar ou você tem ou vocês tem Algum comentário né sobre esse overview que eu dei mais relativo à América Latina e os dados que a gente teve e o Caribe né eh se você não tiver comentado a gente pode passar para as perguntas e aí de fato manifestar algumas coisas mais específicas porque a gente vai revisitar esses temas né junto com os colegas aqui Alguém quer fazer algum comentário

acho que a gente pode continuar L tá tá Bem bom eu vou projetar aqui João ó ó José desculpa troquei tudo se você puder introduzir eu só vou explicar o que que são esses quadros tá Eh esses quadros é que quando nós fizemos um mapeamento a nossa ideia era também construir alguma espécie de right spots né pontos interessantes de outros países resumidamente né porque uma coisa que nós temos que fazer e seria né o ideal é que uma vez que a gente tem uma lacuna vamos ver como outros países têm Trabalhado e se de algum

modo a gente consegue se adaptar a isso ou não né Eh Tentei colocar países de contextos diferentes no sentido de de de ter um esforço nosso de pensar é possível de fato ter uma abordagem dessa aqui é interessante para nós ou não Ou se você enxerga alternativas né quais seriam os desafios segundo ponto né relativo à governança a gente nomeou a ideia de falar sobre governança de dados a questão da integridade dos sistemas que Aborda a segurança né e e e também do da avaliação de impacto Mas isso não fecha o leque para outras considerações

tá então vou parar de falar vou passar para José só para né suar a nossa questão E aí vou pedir para pros nossos panelistas né dizerem da perspectiva deles de um modo eh da perspectiva Regional da perspectiva do PA país da posição que você ocupa né como que a gente consegue liderar eh a perspectivas da governança né as mudanças relativas à governança Rumo a responsa BL Obrigada eh obrigado então eu vou vou passar direto pro pros panelistas eh alué Mercedes acho que pode começar que ela tinha pedido que dialogar direto com P então a gente

só confirmando isso a gente vai passar aqui para paraa fala do painel é isso você você quer adicionar mais alguma coisa Não não eu acho que os painelistas podem ficar à vontad se alguém também Quiser fazer um comentário e perguntar mas a minha sugestão é a gente priorizar os convidados né para eles falarem como eles vem hoje de fato a governança de eia e como que a gente pode Qual o rumo que devemos tomar para tornar de fato essa abordagem mais responsável com foco né na América Latina e carbe obrig José n Obrigado pass palavrao

como coment al inici tambi Graci L present esta Parteo de Los puntos principes para para mejor la gobernanza respons es GES de Los datos porro lado tamb intec es menciona Hoy qué tipo de datos está siendo utilizad para desarrollar o alimentar iniciativas de intelcia artificial Y por otro lado está gestion es datos al interior dig se está respetando la privacidad de Los datos está Respetando los derechos Hay sesg Hay discrimin esa inform para open datter hicimos una investiga con 10 pa del sur global no los recuero de memoria gana Colombia Argentina sudáfrica Bolivia Uganda Kenia

Senegal Uruguay Y México con objetivo de identificar Era La neid glob identificar tambén no solamente La neid de datos sino la neid De infraestructura de esos datos en esta investiga elegimos dos temáticas específicas una sobre agricultura Y otra en salud en el caso de agricultura decidimos tomar dos proo sobre control plag Y otro sobre agricultur intente para hac medio General básicamente plantean er tomamos iniciativas que plantean a partir de desarrollos de inteligencia artificial Pod predecir ciertas condiciones climáticas y mejorar los rendimientos de producción agrícola y a su vez también pod prevenir enfermedades que puedan PL

pued produc agr al hacer una investigación sobre estas temáticas Como menona identificamos 45 iniciativas Y utilizamos un méo primero research paraci iniciativas Y después entrevistas con local practitioners eno de est est PA yic idic que Son bastante distintos el Uno del otro Pero quizás coinciden o tienen algunas coincidencias en términos de desigualdades estructurales o desarrollos de políticas públicas en esos hallazgos Y volviendo A por es importante trabajar en en la gobernanza de Los datos Y en la gestión de Los datos identificamos que cada una de estas iniciativas creio Datas vecu bases de datos que estaban

siendo utilizadas Quiz en otro paí en otros contextos se volvan a crear yaban que la información duplicada Y hasta por momentos err por otro lado también Hay una falta de repositori centralizados de esa información Y esos datos no conac eer enton Ahí un problema porque los datos pueden dialog entre no está generando Valor Y no mejoran es desarrollo de intelcia artificial por otro lado que identificamos respecto de Los datos es que es Training dat datos de entrenamiento de la inteligencia artificial tenían ciertos límites Uno era de cobertura otro erae [Música] Y estos límites seeno justamente

para desarrollar estas inicias tomando datos de Los países del Norte Global Ti geografía distin la nuestra poro en términos de cobertura había una Gran parte geográfica de estos países que no estaba siendo cubierta enfermedades distintas que suced cos glob cos glob Y por otro lado tamb poca produc dei aprendiz transfer digamos puede local practitioners que necesitaban má recursos para producir datos locales de manera que esas Iniciativas Y esos desarrollos se asertivos enmin de estab intentando resolver en nuestra con con salud trabaj en dos temas Vigilancia o tra de enfermedades y después porot lado cuestiones de

Diagnóstico tipo de proyectos de inteligencia artificial estaban siendo usad para diagnosticar enfermedades o para ejemplo prec potencial emergen sanitari Y para eso utiliz perd no utiliz utilizaban datos demográficos yales Y después datos de imágenes historias clínicas o grabaciones de voz para resumir AC en este pun Y después sigo con la otra desarrollo en la otra pregunta esos datos demográficos yales un problema en General eran produci nuev por elte glob en muchos conc frecuencia Entonces estaban haciendo como Traque de afaban ctas enfermedades Ablación caracterizar bien a la población de cada una de esas localidades porque lo

que pasa por ejemplo en instrumentos de estas caracteríticas es que no desagregados los datos Y Que Hay una parte de la pobl que no está siendo contabilizada por ejemplo pobla LGT esun identificas como comunidades distintas si distintas es la palabra peroe los datos está desagregados Entonces es como Si no exis Entonces Cuando se intentaba hacer un modelo proyectivo sobre Cómo afectan ciertas enfermedades a determinada pobla ese modelo estaba elaborado en función de Hombres sobre todas las cosas blancos que viv sur glob por con que intentando implementar o reflejar y eso terminaba generando no solamente Baja

efectividad en términos de esa aplicación sino también tenía un Impacto discriminatorio ygt artifici gra repú Dominic tenemos muchas oportunidades para Pod estable un Model de gobernanza que responda a estas necesidades IMP primer cont con modelan dat clar ten una leanza de datos del Y principio la tutela efectiva los datos personales difíc es un proceso burocrtico Y tampoco contamos con una institución Precisamente larse aabo proces no tenos una agencia Protec datos en esa L estrategia nacial intelcia artificial dentro de su eje de gobierno inteligente una de Las primeras cosas que trata de poner amente def suficiente

perm P orden sobre caos existe con ese tema Loo tambi ha es determin como menonas Mercedes es definir un esquema sobre podamos pon orden tambi a propiamente dat sol Personal Facilite organizar la data mana La misma pu informa se generas veces produc no exista data Sea delo confiable se pued produc sgos especficos unor determin con rela una activ otra otro también estado viendo es defini precisamente de un Marco un modelo ético que precisamente el desarroll int artif administar te que a su vez también peran que estos modelos Sean apurados al Público para que puedan ver

lo que ha dentro Y se pueda garantizar vendr siendo la transparencia algorítmica modelos intelcia artifici administración comli para la prestación de servicios públicos y a su vez puedan ser extendidos organizes del seor privado O sociedad Civil para Pod generar valor sobre Los mismos Y también segir extendiendo por decirlo Así funci los princip bom eu queria começar na verdade Explicando um pouco de como ISO está no Bras porque eu fico aqui com comão para opin sobre mane mais Latin e como gente no Brasil o estudo ele é feito com base em informações que não são as

informações que nós estamos trabalhando hoje justamente porque esse plano que vocês analisaram a estratégia e tudo mais eles são vinculados ao governo anterior e elas estão sendo Reconstruídas agora eu acho que é bom aproveitar esse momento para dizer um pouco de como isso tá acontecendo que acho que atualiza o debate nós temos hoje no no Poder Executivo algumas frentes abertas para discussão eh de intelig artificial especialmente uma delas é a ebia que é a estratégia Brasileira de Inteligência Artificial que tá sendo atualizada e acho que Imagino que muito do que vocês consultaram tá dentro da

né da da ebia Que foi constituída anteriormente e ela tem passado por um processo de construção com consultas com troca é um processo amplo ao mesmo tempo que tenta ter idade mas inevitavelmente ele é mais lento porque ele passa realmente por uma revisão por uma escuta da academia para uma escuta da sociedade civil por uma troca interna no governo então ele tende a ser um processo um pouco mais lento eh por uma preocupação muito grande do Presidente da República que foi Externalizada em vários momentos e inclusive em algumas das viagens internacionais que ele que o

presidente Lula fez nós estamos constituindo o ap pebia né O Plano Nacional de Inteligência Artificial o que que é ap pebia ele é justamente uma tentativa de constituir um plano emergencial entendendo que a discussão de a ela é uma discução muito veloz que o Brasil tem um papel fundamental ainda esse ano de apresentar medidas porque afinal de Contas nós vamos ter a Cúpula do do dos países do 20 aqui no Rio de Janeiro e no G20 no GT de Economia digital nós temos um eixo que é de Inteligência Artificial e muito do que a gente

tem debatido dentro do G20 tem interceção com esse assunto então pebia ele é justamente esse plano que tende a colocar um pouco do qual qual a visão emergencial que o governo tem basicamente assim onde cada Ministério cada política pública de cada Ministério pode melhorar a vida das Pessoas com uso de Inteligência Artificial ou pode eventualmente ameaçar a vida das pessoas com uso de A então precisa criar mecanismos Ele olha para isso ele vai ser lançado agora no dia 29 Então tá aí na beirada para para lançar mas eu posso adiantar que ele tem uma uma

uma visão muito mais dessa emergência de quais são as coisas que nós precisamos fazer para não ficar para trás Quais são as coisas que eventualmente já tem gente fazendo que a Gente prisa potencializar então é realmente essa tática versus estratégia mesmo assim bem nessa pegada Eh esses são os dois espaços grandes de produção de política pública daquilo que cabe ao governo fomentar Inovar consolidar muito para fora mas também dentro das suas obrigações eh e aí isso se conecta e casa muito com a estratégia de governo digital que é conduzida pelo Ministério da gestão e inovação

a Luana que tava mais Cedo falando eh cabeça lidera essa agenda e ali também tem bastante coisa sobre como a gente vai discutir a transformação do Estado eh o uso de ia a discussão que tem sido feito feita de maneira ainda incipiente de Soberania de dados né de governança ela tá hoje iniciada num processo que reúne cerca de 10 Ministérios mas ela ainda não tem um desdobramento efetivo a estratégia na ebia pebia e e a e o a e digital já tão encaminhadas então para serem publicadas Aí em breve o outro espaço onde isso também

transita é o o conselho de desenvolvimento socioeconômico conselhão que é um espaço também de multissetorial né um espaço que tem ent ação do setor privado da sociedade civil da academia eles produziram recentemente o plano 2030 não sei se todo mundo teve acesso Mas é interessante porque a proposta desse acúmulo eh que foi feita para o governo o governo pode ou não aceitar que tá Colocado ali mas acho que mostra um pouco das sínteses eh com vizes ou sem vieses mas mostra um pouco da sínteses daquele espaço e o outro espaço onde o debate é de

at tá colocado é na parte de regulação que aí é onde nós também en cabeç e lideramos né Na parte de regulação a gente tem hoje 19 Ministérios envolvidos e são cerca de 27 Ministérios que tem hoje debate do digital com força com peso dos 39 então é um nível de tamanho de coordenação de Diferentes áreas bastante grande esses 19 Ministérios tão hoje eh com posição comum pro PL né 2338 que é o Pele de Inteligência Artificial de regulação de inteligência artificial no Brasil e isso tem sido um uma inovação na forma de atuação da

discussão do digital no Brasil e eu acho que ajuda a gente a ter hoje um texto mais avançado e Mais maduro do que a gente tinha quando a gente começou o governo deu tração para texto Apesar Dele não ser nosso ele é do presidente do senado Rodrigo Pacheco relatado por um senador de oposição mas que tem eh um diálogo interessante com a gente mas esse projeto ele ganha tração e ele avança mediante a entrada do Poder Executivo nas negociações e nas conversas com os setores econômicos com setores sociais isso eu acho que faz toda a

diferença no arranjo E aí para concluir no arranjo de governança que a gente pode construir e tem feito toda a Diferença em conseguir dar o mais o máximo que a gente né pode diante de tantos atores na mesa de coerência entre o que tá na ebia tá na pebia o que tá na e digital que vai tá na discussão de de Soberania de dados eh e o que vai est no PL Então eu acho que talvez seja esses processos que a gente consiga ajudar para poder estruturar algo que pare de pé e que tenha a

fol E para finalizar mesmo a npd ela tá colocada hoje no projeto de Inteligência Artificial que é A nossa autoridade de produção de dados aqui no Brasil como sendo a o órgão regulador responsável por e a eh Essa é a sugestão do Legislativo brasileira nós já expressamos algumas vezes pros senadores que nós não temos compromisso no poder executivo de vetar ou não vetar isso porque como isso é uma competência exclusiva nossa quem tem que determinar Qual é a autoridade como ela se constitui é o poder executivo esse debate ele vai Acontecer ele vai ter como

resultado um PL de iniciativa do executivo que vai tramitar nas casas né da mesma maneira que o 2368 tá fazendo Tá tá tramitando mas nós entendemos que é legítimo também que o legislativo dê as suas sinalizações ainda que constitua vício de iniciativa isso não quer dizer que nós ah somos contra CPD ou a favor de CPD mas que esse não é um debate que está fechado dentro do governo e que ele precisa ser feito inclusive Porque sendo A npd ou qualquer outra eu acho que uma nova não tá colocado como hipótese mais Eh mas Qualquer

que seja o órgão escolhido para ser esse órgão Central ele vai precisar de uma reformulação de uma reestruturação de equipe de expertise como a npd já precisa para proteção de dados e que já é um um um gargalo que a gente tem dificuldade de superar bom falei demais gente mas acho que atualizando aqui o debate Larissa pode Obrigada Samara eu Eu vou tentar fazer uma uma pergunta eh capciosa para conectar essa atualização sua Brasil mas também as contribuições dos colegas e também deixar o espaço né no caso pros painelistas eh eu deixei dois exemplos aqui

eh da Coreia e da árabia Saudita que apesar de não ser o nosso contexto Mas elas trazem duas abordagens importantes eh do do ponto de vista da governança de dados que é países olhando pro nível local tá E também a questão da gestão geral dos Dados e da governança mas quando eu falo dados a gente inclui todos os dados né dados abertos dados deos espaciais etc né Eh então eh a minha pergunta é mais nesse sentido né como que país Como o próprio Brasil em que a gente tem uma produção massiva de dados no nível

local e não há orientações nem governança de dados de cima para baixo né das políticas de governo aberto por exemplo Para apoiar essa organização de dados no nível local né esse é uma ideia eh deixa Eu tirar o meu meu vídeo aqui para não atrapalhar vocês eh e a segunda coisa o que que né Nós em termos de Gover né Por exemplo no caso da da República Dominicana em pensar essa né Essa essa essa governança de dados qual que é esse modelo que nós temos E se nós somos capazes de avançar para um compartilhamento de

dados com atores externos né isso tocando no exemplo que a Mercedes deu nas lacunas de dados que nós temos ou dados que não são Contextualizados com a nossa realidade é possível eventualmente a gente vislumbrar uma governança de dados robusta o suficiente para que nós possamos de fato compartilhar dados sem Barreiras tá tá então voltando compartilhamento de dados eh políticas no nível local né E essa gestão que de fato prepare o setor público gestores públicos para trabalhar com dados e ai a minha pergunta é mais comentários assim né Se vocês T alguma ideia dessa Abordagem de

governança nesse stido Obrigada se algum colega da audiência quiser aproveitar e fazer alguma pergunta ou comentário sobre isso tá por favor sinta à vontade José Desculpa eu tava só passando um pouco do do que você comentou aqui não Sim claro é só porque eu não não consigo ver muito bem Daqui a câmera fica lá trá desculpa ver agora Alguém quer Prta appro forma contemp mod específic sin embarg lo que nosotros hemos dise hasta momento lo eventualmente Sera nua protan variti del est agentes independient dentro es una tamb del ejetivo rango Constituci autonom reforada para podar

decisiones al marqu otro poderes del estado para forma un enforcement loend siend Protec personal en eseo al margen de esto Digamos que dentro lo que es gobierno sentido General viendo datos All lo que Son dattos digamos Hay esfuerzos que se han veno encinando tendent a definir unae gobernanza de datos conente a dat econmicos sociales estad geoespacial es algo hend D Ministerio econom precisamente para Pod estructura CL de dat de forma pued interopera pued reutili a vez buscar la manera de esta data no necesariamente atada A UNA a una Persona pu UTI para Pod identific a

persono sira para Pod tomar dec tema Def polític pblica experimental bada evidencia al margen esto lo conente es informa pblica si pod dec existe unae de gobernanza establecida defin le acco informa pmin informit Información personal per que se con la vigente que dice claramente información pblica sir informa sir para identificar pbl una Persona pue ser compartida esa parte esa parte o menos Clara el reto Y elaf es en función de este nuevo Marco ha definir armon Lo Que Se tiene información pblica se encontrar nu dator públic mane para dem de manera de que la misma

Haga sentido Y podamos utilizarla este Casgo va servir bastante esr tenemos infraestructuras pbl digitales para loses ejemplo para tem intercambio de datos Y existen instituciones informa esa aquí la Clave está def consent buo Gracias Larisa la pregunta no SI necesariamente tengo una respuesta como ha Creo que los desafíos que tenemos como región en materia de gobernanza de datos gobernanza de datos Y hac un Diogo entre Políticas de datos abiertos Y polític de privaci de datos podr dec Chile podría hablar de Argentina aunque en este contexto es un poco complejo Pero en términos de Marcos legales

Argentina como mencionar Hoy en el inicio evento tiene una Ley de protección de datos personales paec personales después implementa o aplic actual es otra cosa va por otro Lado Brasil en términos de gobernanza de datos como los países pioneros má por lo menos améric del del sur Yo Creo Que el desaf en materia de gobernanza de datos es primero identificar si los paí tien una legisla de protección de datos personales Y otra legisla sobre polí de datos abt acces a informa pbl est esos Marcos legales una ve que se est hacer los dialogar porque muchas

veces lo que pasa es que lasas de acceso a la información Y de datos abiertos van Por una Vereda Y por otro lado va ela de protección de datos personales Entonces Cuando un funcionario público se le hace un pedido de acceso a la información acco a información responde ese pedido quizer en cuenta qué tipo de dato debería protegerse porque es dato personal Entonces Ahí como desafío como recomendación es generar espacios en los que las áreas de protección de datos Y lasas de acceso a la información dialogen Y que también ambos Marcos Normativos pued puedan conversar

porot ladoe importante tenent tip técnicas de anonimización de la información existen para Cuando se utiliza por ejemplo datos para el desarrollo de inicias con intelcia artificial en mencion tamb en el panel apertura animiz de Los datos ciertas C informa inclu Person compc inform para proteg Los datos Son personales Y compartir aquellos datos el Dere la priva de las personas después como otro Punto de gobernanza de datos que hac tambi la gobernanza de iniciativas uso intelcia artificial los datos que inteligencia artificial uza es interoperabilidad dije principio no solamente los datos las personas que llev adante las

políticas de datos en los gobiernos Y Cuando digo interoperabilidad estoy refiriendo a que existan conversaciones de nuevo entre Las áreas que trabajan en protección de datos personales y aquellas vinculadas a garantizar el derecho acco a información públ Cuando hablamos de inteligencia artificias veces mencionamos los datos abiertamente este temor de proteg priv de Person los datos personales Y está hagamos eso Pero también es importante pensar que muchas veces los datos abiertos no generan ciertas ventajas para Los modelos de inteligencia artificial como por Ejemplo pod permitir que la ciudadanía que la sociedad civil que la academia o

informa uando ese modelo de intelcia artificial para la valida legitima de esa información que está utizando la inteligencia artificial Hay ciertos datos que deberían estar abiertos Esto Es lo que llamamos como hacer un proceso transparente de la gestión de Los datos Y por útimo como ejemplo garí Men artif un esero materia seor pblico Pue intentar garantizar que los modelos de inteligencia artificial Que utilice el sector públic no violen La privacidad de Las personas no cometan sgos utilicen datos de calidad lo que hace Chile que hace muy poco empz implementar es estable como formio específic para

Las licitaciones que impliquen Para incorporar modelos de intelcia artificial es dec si soy un proveedor y le quiero vender al estado Determinado desarrollo de inteligencia artificial Yo debo cumplir con ciertos requisitos vinculados a garantizar derechos a proteger la privacidad de Las personas y a evitar modt artifici estos oenes licitari Creo que se dice oenes Van a licitar este proceso primero tienen que comprobar estos modelos de inteligencia artificial incluyan mtic para evalar la Equidad estadística tratando de asegurar que esas decisiones automatizadas no Sean sesgadas contra ningún grupo demográfico por otro lado también los proveedores Medici para

las personas suu utiliz en los sistem de intelcia artificial también tien propon modelo de anlisis dego para identificar Y mitigar cualquier tipo de discrimin potencial o parcialidad en los resultos Y por último establec ciertos Requisitos éticos como por ejemplo esto anal Y Protec proveedor está intentando vender un modelo de inteligencia artificial al estado no cumple con est requisitos automáticamente es rechazado me parece que es un bu ejemplo de pod garantizar des el seor público Cuando incorporamos inteligencia artificial al menos podamos proteger derechos de Las personas evitar Elg y mejorar la calid de esos IMP quando

dig etiv Então a gente tem mais uma pergunta e aí a Larissa depois vai vai colocar mais dois problemas pra gente seguir é isso aí a Larissa Desculpa só para colocar Lissa vai vai voltar e colocar mais dois problemas e e a gente continua passa mais um Uma Vez pelo panelista pode pode falar por favor You can speak ah per Una frugo alor nuf amé Latin ho estoy de Acuerdo cono y luego una serie de comentari sobre cosas no estoy tan de Acuerdo digamos Cuando decimos que a regulator Latino ah Conar Argentina Chile personales socied

civil Necesariamente tengo Y dec no es Así Argentina tiene 24 act momentum legio avance per cono ha vol Poo Chile ha un act personales este 24 de Julio va ten una útima reunión de comisi antes de que sea tratada en el recinto esas dos leyes que se deben actualizar Hoy no presentan un piso de protección adecuado frente la Innova técnica o Sea está este dejando desprotegidas a las personas de Argentina Y de Chile lo mismo sucede en Colombia donde también Hay Un proceso en expectativa el proyecto todavía no se ha presentado Y en Costa Rica

el proo directamente fue retirado de la agenda Legislativa este ao por motivos políticos de ese paí exego comentario tambi [Música] sobre exist Per sigando esp en relación a la existencia de datos abiertos para validar modelos Pare que eso es una Gran inicitiva es una Gran Idea hace aos que se Viene reclamando sobre ese aspecto Pero nos está faltando una pata que es Quiz má trascendental en vistas de la exigencia computacional que requieren los sistemas de inteligencia artificial justamente infraestru comput disponible amé Latin ha muy pocas supercomputadoras a disposi Del público en General en Argentina tenemos

una que se llama Clementina que fue apagada porque no quieren pagar la factura de luz o Sea digo ves ten un Mont de datos abiertos Y librerías espectaculares Pero si no capacid computacional a disposi y Bueno te quedando ni siquiera te digo a MIT de Camino Quiz al comi Entonces mientras que lacid de computa de alta computa Tod siga monopolizada en el Norte Global en el Sur Global vamos a estar en una Gran desventaja competitiva en otro en otro canal de comentari que dese de compartir es simplemente a los Fines de la reflexi no estoy

formado en filosofía Pero quisa traer a cola genera un efecto jurídico y una oblig de resarcimiento se existe un principio precautorio obliga a responder es dec hacerse responsable el Dao causado es dec Hay Un principio de no ocasionar da Pero luego elg estadísticamente Es falta de equivalencia muestreo analizar porende elgo siempre en potencia existir porque sobre resp aniso quitativo o Sea no vamos a superar la existencia del riesgo por introducir má datos eso es un error lo que debemos hacer es ver Reduc la posibil dego hasta hasta un margen consideremos aceptable No en losos de

este principio precautorio mencio sobre too en losos de garantía derechos fundamentales porque alg que también vi en pantall se Está diciendo mucho Y queo Creo que digamos surge de la Ley de inteligencia artificial de unión europea es esta Idea de que frente a sistemas que Son de al riesgo existe la posibilidad de mitigar dichos riesgos para que puedan eventualmente ser desplegado en una sociedad determinada Y eso Supone equilibrar o balance estos riesgos identificaes Y mitiga con la garantía de derechos fundamentales lo cu para la teoría de Los derechos fundamentales es erróneo Y eso lo dijimos

en la unión europea Y lo estamos diciendo en América Latina en cadao de Los espae seend intelcia artifici por qui DEC Y con esto termino Creo que en América Latina necesitamos en primer lugar reforzar las leyes de Protec de datos Personales Antes de iniciar cualquier tipo de debate regulatorio sobre inteligencia artificial Brasil se puede dar el lujo de hacerlo porque tiene General protección de datos Argentina Chile Colombia Costa Rica no La tiene Paraguay noene ni siego trabajamos para abrir libr de datos abiertos pensar mecanismos de financiamiento para pon a disposi computadoras con alta capacid de

computa a dispi de Los competidores o de Los Desarrolladores o de quienes edes Son destinatar digamos una serar iend comentar Yi conas Ah tá então até como a gente tá apertando tempo a gente já vai terminar então a gente não vai demorar muito mais aiss vai colocar mais uma pergunta e eu vou passar pro pessoal do painel fazer algumas considerações asle Won another and Oi José obrigada obrigada também ao colega né que fez os comentários bastante pertinentes e E aí a gente já até coloca as duas perguntas finais que na verdade são inquietações né de

como que a gente pode tentar eh eh eh mudar essas abordagens ou melhorar as abordagens que nós temos relativas a i hoje em nossos países na América Latina e Caribe né com foco aí nos direitos humanos e nas nossas capacidades né Merced mencionou muito bem a questão das compras públicas etc né no Chile esse a gente até trouxe alguns exemplos aqui então é é uma explanação geral né só pra gente fazer uma rodada aí de acho que 3S minutos para cada um de nossos colegas tentarem dizer qual a proposta que eles vejem vêm hoje para

para abordagem dos direitos humanos e dessas capacidades que como eu disse né a parte de Treinamento compas públicas as autoridades de de eh eh competitividade Né como que a gente pode preparar melhor os nossos países para essa mudança repentina e rápida que nos acontece todos os dias obrigada José vou começar então bom eh eu queria começar falando ali pro Franco eh eu eu tenho bastante acordo assim com com a necessidade da gente olhar paraos super computadores inclusive isso tá endereçado tanto na EBI quanto agora na pebia isso vai est contemplado um pouco de investimento e

como a gente consegue Colocar também o Brasil nesse lugar mas acho que tem um debate que mistura um pouco de tudo isso e que o Brasil tem feito na nossa visão com algum ineditismo ou talvez com alguma ousadia que é a discussão de produção de conteúdo e de compensação remuneratória ou de alguma maneira algum nível de olhar para dados usados para treinamento de Inteligência Artificial a gente eh propôs no projeto de lei que Visa regular isso uma discussão a parte dos Direitos autorais justamente para poder conseguir garantir que aquilo que o Brasil por si só

já tem como talento natural que é ter uma produção de dados estruturados muito bem consolidada seja na parte de arte seja os próprios dos dados públicos eh que a gente consiga fazer com que isso tenha valor que isso seja também protegido e garantido a nossa soberania nós entendemos que muitos países não toparam fazer não ousaram fazer essa discussão de Remuneração sobre o treinamento muito porque talvez a gente imaginava que as coisas não seriam tão rápidas Como Elas acabaram acontecendo o caso da escala de chenon acho que é o mais emblemático mas a gente pode Pode

listar vários outros então nós também Queremos nos colocar um pouco nesse lugar de Inovar e proteger um bem Ah já estabelecido aqui no Brasil com bastante segurança aproveitando para responder às outras perguntas primeiro sobre a questão eh da proteção do Cidadão a gente tem lutado bastante para manter dentro do projeto conceito de integridade da informação como um conceito eh necessário paraa discussão de Inteligência Artificial E como eu disse antes muito desses debates eles não se eh conectam porque muitas vezes o que tá sendo discutido é muito só baseado naquilo que é uma inovação vista só

para um um um olhar de setor econômico um olhar eh técnico como se isso fosse desconsiderar os valores e as Proteções e os direitos então h a nossa eh reivindicação para que se mantenha num projeto uma olhar uma ótica de integridade da informação também tem a ver com entender como o impacto da Inteligência Artificial se dá no ambiente informacional e como isso é necessário que tenha medidas de cuidado de cautela e que lide também com as oportunidades que aparecem sobre isso eh Você tinha perguntado sobre a questão do do protocolo do Ministério dos Direitos Humanos

eu não sei qual protocolo est falando exatamente porque tem Pois é é é porque tem várias frentes eu não sei se se você tá falando de alguma coisa específica do digital se tem coisa do trabalho mas Aham isso não ok porque tá terminando também o o painel é mas enfim é porque toda a discussão né sobre a gente desenvolver algo específico paraa ia eu entendo que Dentro do arcabo jurídico que a gente já tem a gente consegue responsabilizar enfim aquilo que se desenvolve a respeito tem uma empresa tem a responsabilidade civil existem institutos jurídicos para

proteger as pessoas né então eu fico me perguntando se a gente precisa de algo específico para Inteligência Artificial ou se nós não deveríamos utilizar as estruturas que já estão nesse sentido esse protocolo de direitos humanos e empresas Eh é uma forma de mensurar de de medir como que os O Impacto é dado e formas de compensação E aí quando eu vi que não tinha nenhuma intersecção com o digital ali dentro daquele protocolo eu fiquei muito preocupada porque uma empresa pode pegar o protocolo desenvolvido pelo Ministério dos Direitos Humanos aplicar e dizer que não teve não

tem nenhuma outra responsabilidade adicional em relação à aquilo que tá causando então Eu fiquei muito confusa né de Por que não tinha uma intersecção digital ali dentro daquele protocolo acho que é que o tamanho da agenda digital e ela é ao mesmo tempo muito grande envolve muita gente e paradoxalmente ela tem essa dificuldade de ser concreta para muitos dos Ministérios especialmente os Ministérios que estão olhando para direitos Por incel que pareça mas eu acho que esse desafio ele tá um pouco Endereçado na discussão do próprio PL 2338 porque acho que o regime de responsabilidade ali

tá estabelecido da maneira como tem que tá mas eu acho que talvez a provocação que você faz ela tá em outro lugar que é o que que a gente pode fazer com que a gente já tem de ferramental para lidar com as questões do digital e aqui nesse caso de Inteligência Artificial eí acho que isso daria um um outro painel mas eu fico à disposição pra gente conversar na Sequência so para contarnos lai pregunta para nosotros utiliz tecn casic mi cas laua ser utiliz la tecnolog incluyendo intelcia artificial para meor laid vi gente para ACC

aereo Proc pblico pueda ser beneficio para seor Prado Y para generar social ese mismo contexto Cuando ha intelcia artificial Ahí Clave enoo pod identificar de manera adecuada los modelos que se van utilizar y los casos de uso porque tampoco debe ser utilizar intelcia artificial por utilizar intelcia artificial sino usic pu tecn precisamente facilit propsito no administra pblica tenemos enado caso nos V no se da esoes simplemente un paso ATR y a partir de Ahí comenzar a identificar es que encuentra problema problema algoritmo utiliz no está correctamente dise veim específicamente hayre yri ah Creo la Clave

importante tambi para Pod hac too ese ejer ael polí implementar herramientas comox datos alentar mod artifici ahar Pero también Punto deista aplicada produc Protec salvaguardas van All ejemplo van pun vist ciberseguridad ejemplo prevengo un actor tercero ha una inec código manipule algoritmo Man Y naturalmente implica momento de Constru est aplic est principi Y est con materia D Mater contemp iniciar aplic Y Mater tambén Integr so el tem de genera de capacidad por supu digamos Graci eemp diría eso es de Las principales apuestas que también en el Marco no solamente de la estrategia de intelcia artificial

de toda la política digit est haen dando actualmente dig nosos con servici per sio po crtic se apropie ell lo UTI ve All utili los servicios bsicos para podu Eemp mensajera o ver videos vamos a estar lo mismo Entonces ahora mismo como est viend alfabeti digit digit como cre un Marco de competenci niveles la po va haciendo uso apropi la tecnolog tem la forma profal tcnica tema Intel artifici con de género va audar poderar esas brechas y a su vez generar esas capacidades que la pobla neita para Pod insertar mancu Contex intelcia artifici y a

su vez pod Gener valor sobre cualquier cosa vendo Mar qu a Franco pare unamos diciendo sobre Los tres países que Y mencion como que Mejor estaban materia de gobernanza de datos en América Latina quizá no fue pertinente la palabra mejor Pero Me refería que fuer país pioneros en materia de legislar en temas protección de datos per toas tambi dije Son pa que por lo menos en Argentina que es de donde soy es un contexto muy complejo y la Implementación de la Ley no está siendo Buena Así como tampoco se está dando lugar al debate sobre

una actualización de de esa Ley coincido coincido plenamente habr que dig eneria de compara Quiz con otros países América Latina Pero después lo podemos después por otro lado sobre diferen entre Y discrimin definitivamente coincido quise referme a dos cuestion como mismo no Coincido Quiz en que por el Hecho de que siga existiendo el no tengamos que trabajar que no dijiste eso Pero dig Un Poco la Idea también del panel es como poder subrayar algunos algunos puntos Y me parece Que Hay que tratar de ir lo más posible a evitar ese sgo o que esa brech

Sea ve menor porque realmente hayim poes que no están representadas en los datos que utiliz los modelos de desarrollo de la inteligencia artificial después por otro lado de Acuerdo en esto de podemos habl de Las ventajas de Los datos abiertos como mecanismo de validación de est iniciativas desarrollo o sistemas de desarrollo de inteligencia artificial Pero no podemos hablar de eso sin pensar en las capacidades institucional para es datu encar mecanism de financiamiento para para mejorar esta capacid computacional Y para que nuestros paí pu trabajar mejor En datos abiertos en ese pun simplemente lo que quise

resaltar es que hablemos de datos abiertos también Cuando hablemos de inteligencia artificial Y que Son parte de que tienen que dialogar también con la protección de los derechos obrigada a gente tá encerrando acho que a Beatrice quer só dar um aviso sobre o almoço obrigada gente é só para falar que no centro cultural tem um brunch até às 2:30 tá é o almoço e aqui na 24 Voltamos 2:30 em ponto tá obrigada gente obrigada tá por terem vindo e participado eh foi meio corrido final porque a gente acabou atrasando Desejo que todos vocês sejam aproveitando

cpdp latão um grande abraço obrigada