CPDP LATAM 2024 | Transparencia algoritmica, uso y protección de datos por los gobiernos

Bueno Hola a todos y todas Bienvenidos a este panel sobre transparencia algorítmica uso y protección de datos por los gobiernos Mi nombre es Priscila Ruiz pertenezco a la organización artículo 19 México y Centroamérica que se dedica al tema libertad de expresión y acceso a la información y bueno uno de los temas a los cuales eh el programa de artículo ha estado eh investigando y también promoviendo ha sido el tema de Transparencia algorítmica y Bueno ahorita les les presento a los y las panelistas que van a estar aquí acompañándolos eh Les comento que esta esta esta

mesa de discusión eh se basa sobre todo en que muchos en especial el sector público los gobiernos han estado eh utilizando y comprando eh tecnologías emergentes eh Como una forma para poder eh cumplir o llenar las necesidades que tienen en ciertos sectores y bueno una de las de Las cuestiones por las cuales queríamos abrir también esta discusión con ustedes es para que podamos escucharles para que también podamos construir digamos hasta dónde conocemos que nuestros gobiernos han estado adquiriendo este tipo de tecnologías En dónde y cuál sería como la importancia de transparentar estas estas tecnologías y

sobre todo Qué pasa con nuestros datos cuando el sector público es utilizado para yo quisiera Presentar a los panelistas tenemos en la línea a Romina Garrido ella es abogada especialista en protección de datos personales magister en derecho de las nuevas tecnologías es directora de protección de datos en abogados y subdirectora de golab de la escuela de gobierno en la universidad Adolfo Ibáñez es profesora en diversos programas de posgrado en universidad chilenas También tenemos en el en línea alía Hernández ella es abogada en Panamá y España Colegiada del ilustre colegio de abogados de Madrid es directora

de legal it primera boutique legal especializada en derecho digital en Panamá y cofundadora del instituto Panamericano de derecho y tecnología y pand Tec organización centroamericana de derechos digitales también se encuentra Jonathan Mendoza él es secretario de protección de datos personales del Instituto Nacional de transparencia y acceso a la información y protección de datos Personales él también Es doctor en derecho y magister en el reglamento general de protección de datos de la Unión Europea y actualmente ha estado trabajando en estándares de la industria directrices de gobierno y ha impulsado las colaboraciones públicas y privadas además de

ser especialista en tecnologías disruptivas y ética digital con diversas publicaciones en la materia también se encuentra Silvia Calderón Ella es analista de políticas públicas en ipande teec pues muchísimas gracias por acompañarlos y bueno me gustaría empezar contigo Romina sobre todo que nos pudieras ir llevando a la mano sobre los conceptos la lo que es transparencia algorítmica que nos A qué nos referimos y sobre todo cuál serían digamos los puntos claves que debemos de prestar atención para aquellos que estamos en dentro de la agenda de de Inteligencia artificial y y este y cómo impulsar Digamos una

mejor transparencia para el sector público entonces comenzamos contigo Romina y tienes 15 minutos para tu intervención Hola Muchas gracias a ipan y artículo 19 Priscila elía por la por la organización de este espacio eh yo ten tenía una una presentación pero no no sé qué es lo que prefieren eh si es que la proyecto o o o vamos con con con con tus Preguntas porque nosotros en en golab que es el laboratorio de Innovación pública de la escuela de gobierno eh tal como nos presentaste Este es un un tema que nosotros llevamos estudiando los últimos

4 o 5 años de la mano de nuestro repositorio de algoritmos públicos que es una iniciativa eh única en nuestro país y que justamente es un primer estadio de la transparencia algorítmica que es un que es un concepto bien complejo y que se puede puede significar muchas cosas es un concepto eh es un es un elemento De la ética de datos es uno de de los de los principios eh rectores eh pero es un concepto también instrumental que nos sirve justamente para poder conocer como los gobiernos utilizan nuestros datos personales para poder eh eh evaluar

los algoritmos y sus sesgos para poder generar mecanismos de responsabilidad también es un concepto que sirve hacia hacia hacia los mismos estados para poder comprender como los algoritmos llegan a sus resultados y se Torna cada cada vez más más complejo con el uso de la Inteligencia artificial y algoritmos de caja negra no sé Priscila si si prefieres que comparta algunas láminas Sí claro eh Sí dale dale Muchísimas gracias ahora estoy compartiendo verdad sí ya lo vemos Bueno sí tal como te partía diciendo eh nosotros estamos últimamente en una en el en el último tiempo como

para situarnos en la discusión eh con con varios hitos Importantes verdad eh la Eh puede caracterizar esta esta esta esta etapa en la que estamos hoy eh el reglamento de Inteligencia artificial de la Unión Europea recientemente publicado que se hace cargo de temas de transparencia algorítmica repositorios de algoritmos públicos en el sector público nosotros tenemos uno del cual les voy a conversar y que es parte justamente eh inicial de la transparencia algorítmica iniciativas como el repositorio colombiano del Profesor Juan David Gutiérrez de la Universidad de los Andes también conocemos una iniciativa mexicana que va de

la mano de la misma un de una universidad también eh en Chile al menos se han presentado cinco proyectos de ley de regulación del Inteligencia artificial que por cierto abordan temas de transparencia algorítmica tenemos una segunda versión de nuestra política de Inteligencia artificial que también aborda esta temática y una circular Recientemente dictada este año justamente que da alineamiento al sector público para el uso de la Inteligencia artificial y que también aborda temas de transparencia algorítmica pero no se hace mucho cargo de Qué es la transparencia algorítmica como te como te partía diciendo es un concepto

complejo que puede servir para muchas cosas un concepto instrumental y podemos implementarlos de diversas formas en los proyectos de Inteligencia artificial Nosotros eh estamos trabajando en golab justamente en en una iniciativa ya hace 4 años que es algo ritmos éticos donde nosotros buscamos eh instalar la ética de datos en la en la adquisición desarrollo y en el uso de los sistemas automatizados de los sistemas algorítmicos en el sector público y la transparencia algorítmica Por cierto es un elemento de aquello nosotros tenemos un repositorio de algoritmos públicos que pudiéramos decir que es un es un Primer

paso para la transparencia algorítmica es que las personas puedan conocer en qué decisiones del Estado operan los algoritmos Porque esa es la única forma en que yo puedo saber después para poder ejercer mis derechos relacionados con los datos relacionados con los resultados de los algoritmos eh Porque estos cada cada vez están decidiendo eh cosas más trascendentales de nuestra vida y acá traje al al algunos ejemplos para mostrarles el Repositorio de algoritmos públicos es un observatorio donde nosotros eh eh vamos vamos detectando los sistemas automatizados que que se ocupan en en el estado ante la carencia

en mi propio país de un de de de una iniciativa pública que que finalmente pueda mostrar Cómo el estado usa algoritmos Eh entonces esta iniciativa colabora con con el sector público donde nosotros mostramos dónde los algoritmos actúan eh toda la información que nosotros pesquis Está eh está en Fuentes públicas y la publicamos en un formato abierto para que pueda ser usada por investigadores por los mismos ciudadanos académicos o por el el mismo sector público para para para conocer ejemplos de de uso de de algoritmos Nosotros llamamos un algoritmo público como un instrumento verdad que apoya

o que apoya soporta o reemplaza la decisión administrativa eh Y y que y que que son cada vez más Usados por los funcionarios públicos sobre todo en el en el entorno de el apoyo y el soporte de las decisiones públicas nuestra metodología para ir detectando algoritmos públicos que hacemos una búsqueda inicial esta esta búsqueda inicial puede venir de de diversas fuentes Ay Disculpen de de diversas fuentes primero eh primero información que aparece en redes sociales diario eh eh publicaciones web luego rastreamos esa información abierta En sitios oficiales luego sistematizamos y revisamos Y tenemos un comité

editorial compuesto por funcionarios públicos donde donde está el para transparencia por ejemplo la división de gobierno digital que lleva a cargo la modernización del del de del sector público porque son entidades que están relacionadas con la transparencia Por una parte y con eh el uso de tecnologías en el estado el comité editorial finalmente valida los algoritmos que se Presentan eh Y luego estos se publican en nuestro repositorio que hoy en día pasa a ser una plataforma de algoritmos públicos ya les voy a ar Por qué en en nuestro repositorio hoy tenemos más de 100 casos

documentados de uso de algoritmos públicos y como les decía Este es un primer paso para la transparencia algorítmica También estamos estudiando e junto con la global partnership of artificial intelligence si los algoritmos si los repositorios de Algoritmo son suficientes para la transparencia algorítmica nosotros entendemos que es un primer paso un paso relevante Por cierto pero no es suficiente para una transparencia significativa para las personas acá nosotros podemos ver distintos ejemplos de uso inteligencia de uso de algoritmos no todos Inteligencia artificial Eh pero en Casos bastante relevantes como la salud teleproteccion Inteligencia artificial cámaras en las

calles Calificación socioeconómica y otro y otros distintos usos de algoritmos públicos hemos ido evolucionando desde desde nuestra creación desde la creación del repositorio el 2021 a 50 casos ya llevamos más de 101 casos documentados con una metodología que ustedes pueden encontrar en nuestro reporte anual eh para nosotros es importante poder definir Cuántos de estos algoritmos son Inteligencia artificial Porque existe un gran interés en ella Muchas veces Confusiones conceptuales de cuá un algoritmo es o no es ya eh porque esto trae Por cierto desafíos mayores para la transparencia algoritmica verdad eh Muchas veces la Inteligencia artificial

se trata de redes neuronales learning Machine learning y que es difícil de explicar y cuando cuando cuando cuando usamos el término transparencia algorítmica como explicaba acá tenemos un desafío mayor ante la Inteligencia artificial que ante los algoritmos de Regla el 42 de El el 57 por Disculpen el 42 por de los casos nuestro repositorio se define como Inteligencia artificial no es algo que nosotros podemos comprobar porque nosotros no no exploramos el código de los algoritmos sino que nos basamos en la información pública disponible pero el 42 de los casos que nosotros tenemos documentados se define

como Inteligencia artificial y esto da una muestra de cómo la ia está siendo Usado por por el estado chileno también debido a las consecuencias que que que pueden tener más directa para las personas eh También exploramos Cuántos de de de ellos usan datos personales y y y es casi la mitad de los sistemas automatizados que tenemos document est y por eso también nuevamente el el llamado a nuestro gobierno particularmente en la importancia de la aprobación de la ley de datos personales que lleva ya 7 años En en discusión parlamentaria y que aún estamos en la

en la eterna Promesa de de Chile de publicar la actualización a su eh antigua ley de 1999 y y y y a la a la importancia que tiene hoy hoy en día ir ir eh modernizando estas legislaciones sobre todo ante el uso intensivo de de de tecnología la mayoría de de los algoritmos del repositorio 46 por utiliza datos personales Dónde están los algoritmos también fue una es un nuevo nuevo campo que analizamos este año Porque también es importante ver en qué parte de las políticas públicas se se se implementan y Tuvimos una tuvimos un una

un una eh una variación respecto a este dato con el informe anterior el informe anterior nos mostraba que la mayoría de los algoritmos se se desplegaban en el sector salud y este año lo que vimos fue un mayor uso de estas tecnologías en seguridad pública y esto se traduce en vigilancia directamente para para las personas entonces eh Aquí estos estos Datos son finalmente directamente de lo que el estado está utilizando para nosotros también es importante dentro de esta transparencia comprender cómo se financian los algoritmos públicos y la mayoría del financiamiento viene de de origen Estatal

ya sea del mismo presupuesto el organismo público o de presupuesto de de áreas del estado que financian estas iniciativas como la nid que es nuestra eh nuestra nuestra eh es un es un es un centro de Financiación que viene desde el Ministerio de ciencia eh Y que y que finalmente eh eh incentiva que usemos tecnología en tanto en el sector público como en el en el sector privado eh Y que por y y y que Por ende cualquier financiamiento público Debería ser estar respaldado o ser a lo menos exigible eh más transparencia más rendición de

de cuentas más protección de datos sobre sobre esos eh algoritmos nosotros estamos transformando nuestro Repositorio de algoritmos públicos en una plataforma de algoritmos públicos donde vamos a tener el herramientas y una de esas herramientas justamente es para para la transparencia algorítmica porque no es suficiente eh publicar algoritmos e informar a los ciudadanos dónde estos se usan sino también poder evaluar aspectos esenciales de aquellos que nos permitan llegar a comprender con una mayor capacidad de discernimiento verdad para las personas incluso para Los mismos implementadores como los algoritmos públicos se están utilizando Gracias también al financiamiento de

anit que esta agencia nacional para el desarrollo y la investigaciones que nosotros hemos podido continuar luego de de de 3 años de financiación del del bit del proyecto algoritmos éticos en una fase dos de algoritmo ético generando dos herramientas una de ellas una ficha de transparencia justamente basada en las model Card que son las tarjetas de Modelo en español y que permiten a los desarrolladores ir docum and diversos aspectos de los algoritmos justamente para su transparencia y esto permite luego poder rendir cuentas respecto de de su uso y poder después justificar la toma de decisiones

la la model Card tiene una estructura eh y permite entregar entregar mayor información tanto como tanto a los usuarios como a los mismos desarrolladores implementadores y al mismo sector Público que los Utiliza también tenemos una herramienta de de medición de de sesgos y una evaluación de impacto algorítmica prontamente publicada en Octubre y ya para para para para ir cerrando eh para nosotros es clave la aprobación de la ley de datos personales hemos estado trabajando fuertemente en su en su en su tramitación Yo he estado formando parte eh del del comité de de de expertos asesores

de la comisión mixta últimamente vamos a tener la Última sesión Ojalá 24 de Julio la la la próxima semana y que esto signifique la aprobación de la ley de datos personales que trae cuatro aspectos que son fundamentales que por cierto no los hemos inventado Nosotros hemos instado a que se incluyan vienen de la normativa Europea de protección de datos personales que por cierto se hace cargo de deberes de información proactiva Respecto a los sistemas automatizados deberes de información reactiva a través De los Derechos arco La regulación de las decisiones automatizadas y Las evaluaciones de impacto

en protección de datos como un mecanismo de responsabilidad cuando se utilizan las decisiones automatizadas en el sector público sobre todo que es atiende a los más desposeídos aquellos que no pueden elegir y por eso para nosotros es tan importante la transparencia gubernamental Por cierto en el sector privado también pero resulta que el Sector público es quien atiende justamente a las personas que no tienen otra opción de salud que no tienen otra opción de beneficios sociales y y y y se hallan hoy sometidas a sistemas algorítmicos que como mínimo deben ser transparentes Así que muchísimas gracias

Priscila Lía por esta invitación y a mis demás panelistas Muchas gracias ramina y bueno Me gustaría seguir contigo Lía y preguntarte que derivado digamos de toda esta presentación que Nos ha mostrado Romina en el caso de Panamá o si has visto digamos en otro en otro país en en en las Américas existe digamos alguna ley o reglamento que esté eh previniendo este tipo de transparencias algorítmicas en el uso de tecnologías emergentes si es así Cuáles han sido o qué tipos de tecnologías has visto y para qué si se muestra también la la finalidad del uso

de estas tecnologías no y por otra parte también si existe digamos alguna autoridad Adora que sea visible no que revise digamos este este uso de de tecnologías en no solamente como decía Romina en el sector eh de salud que es algo que más se utiliza pero también digamos en otros sectores por ejemplo en cuestiones de seguridad nacional en cuestiones de de Educación o incluso cuestiones tributarias entonces adelante Lía tienes 15 minutos Muchísimas gracias Gracias e Priscila por la introducción y un saludo A todos Hasta Río de Janeiro donde se está desarrollando el cpdp lat Espero

que este panel sea provechoso y también sea un Punto de partida para iniciar la discusión o sobre todo eh poner en la palestra en la mesa estos temas que en algunos nuestros países de la región aún siguen siendo eh bastantes extraños o no no conocedores en la materia por algunas autoridades principalmente y me gustaría sumarme a la mayoría de las cosas que ha dicho Romina sobre todo al tema de la necesidad de que en las regulaciones que deben existir previas a poder trabajar en el por mejorar la transparencia de los algoritmos se encuentra poder actualizar

nuestros Marcos normativos en materia de protección de datos Panamá es un país que tiene una ley de protección de datos relativamente nueva una ley que Data del 2019 pero que entró en vigencia en el año 2021 sin embargo es una ley que no adecuó o que no se expidió acorde A estándares actuales en la materia tiene muchos estándares desfasados que para las temáticas o para el uso de tecnologías emergentes que se están dando al día de hoy es bastante escaso por lo tanto contemplar un tema de transparencia algorítmica o con ar el tema del uso

de algoritmo de una manera más ética en un cuerpo normativo como lo es la ley de protección de datos personales la ley 81 del 2019 en Panamá no existe el único tema que tratan de Hablar o que de una manera u otra habla la ley panameña al respecto esa sea de tratamiento automatizado de datos pero lo deja muy muy muy generalizado entonces aquí partimos de un primer paso Qué estamos haciendo qué están haciendo los reguladores y No únicamente los reguladores sino también El Ejecutivo de los países junto con los demás actores que impulsan la agenda

de protección de datos para que las leyes de protección de datos de los países de la región se Actualicen no es únicamente el caso de Panamá hablemos de un Costa Rica vecino de Panamá que hace 11 casi 12 aproximadamente años emitió su primera Ley de protección de datos Y que en los últimos dos años ha intentado hacer una modificación de la misma y ha sido difícil no se ponen de acuerdo las bancadas se ponen de acuerdo la perspectiva que tienen algunos eh diputados con respecto a la protección de datos es distinta con respecto a Otros

algunos lo ven como un derecho fundamental otros lo ven como un tema meramente tecnológico y otros como un tema de economía digital lo cual Ninguno de los tres está equivocado pero se debería ver el tema de la protección de datos como las tres materias en su conjunto y al no tener una ley de protección de datos acorde a los estándares actuales acorde a las necesidades acorde a la al cambio revolucionario y tan precipitado y Rápido que ocurre con el uso de las tecnologías en nuestra región Por supuesto que mucho menos tenemos una ley de Inteligencia

artificial o un marco normativo de Inteligencia artificial el paso que ha dado la Unión Europea en emitir su primera ley las regulaciones y las discusiones que se están dando en esa parte del mundo de la cual muchos nos sentimos influenciados sobre todo porque al adecuar al adecuar España su marco normativo a esto y al crear una Posible agencia de Inteligencia artificial es posible que muchos países de la región repliquen ese ejemplo o que repliquen ese modelo entonces Sin una ley de Inteligencia artificial en estos países no vamos a decir y no estoy de la idea

y de la opinión que no es la solución para para culturas en materia de protección de datos y privacidad tan escasas o tan nuevas como lo son las nuestras O al menos de el país donde desarrollo mi experiencia profesional Entonces eso por un lado por el otro lado está eh las conversaciones o los los impulsos o los empujes que tienen algunos gobiernos de la región y del cual el gobierno de la República de Panamá no eh eh se excluye que es el tema del desarrollo de una estrategia Nacional de Inteligencia artificial una estrategia Nacional de

Inteligencia artificial que parta de una un consenso o una reunión de los diferentes e actores involucrados o interesados en El tema dicho esto estos actores involucrados en el tema deberán ser personas conocedoras No únicamente desde el punto de vista legal sino también desde el punto de vista técnico y es por ello que en el mes de diciembre la autoridad Nacional para la innovación gubernamental que es la autoridad que ve el tema de la interoperabilidad del estado en la República de Panamá ha una convocatoria para que países para que Perdón consultoras individuales empresas Propongan una especie

de estrategia o hoja de ruta hacia esa estrategia Nacional de Inteligencia artificial en el país sobre todo y con principal enfoque al uso de la Inteligencia artificial en el sector público es decir ya se ve un interés por parte del Estado panameño y que en el sector público se utilice la Inteligencia artificial como un claro Ado a sus procesos a sus métodos de resolver los casos a la tramitología y demás Pero esto sin dejar De un lado la ley de protección de datos que considero yo que es una ley que debe reformarse antes de que

entremos o apliquemos o que consideremos que esta estrategia nacional se convierta en ley de la República el estado actual de este empuje hacia una ley o una estrategia Nacional de Inteligencia artificial en el país es desconocido ha habido recientemente en el en el primero de julio del 2024 un cambio de gobierno por lo tanto y como saben en la mayoría de Los países de la región cuando cambia el gobierno cambian la agenda cambian los temas Entonces no sabemos el estado de esto pero se supone que esto debe ser un proceso complejo participativo multisectorial en el

cual e se toquen diferentes aspectos y que también se vean Cuáles son aquellas leyes conexas alrededor del tema de la Inteligencia artificial que podía de una manera o no influenciar a una estrategia acorde Entonces estos son desde el punto de Vista normativo las las eh la los lo que puedo aportar yo con referencia a lo que está sucediendo en mi país en Panamá y bueno mencionar el caso de Costa Rica en la región por otro lado si Existe alguna actividad reguladora que supervis el uso deas tecnologías por ahora al no existir ningún tipo de estrategia

documento que mar que o siente las bases o la de la hoja de ruta a trazar o a trabajar en base Inteligencia artificial en el país por lo tanto tampoco existe ningún tipo De autoridad reguladora si bien existe una autoridad reguladora que es la autoridad de protección de datos personales sin embargo la autoridad de protección de datos personales también es la autoridad competente en otros temas como lo son acceso a la información eh transparencia entidad del servidor público conflicto de interéses un poco parecido a la figura de El inai en México que es una autoridad

que no es comparable con la autoridad panameña Antai porque la cantidad de empleados del inai no sé si quin décimo plica la cantidad de empleados porque están divididos por secciones y por temas en Panamá 65 70 empleados son una cantidad de personas que deben ver ir regular y velar porque se cumplen diferentes derechos Como el acceso a la información la transparencia gubernamental la ética del servidor público el conflicto de interés y la protección de datos Entonces mi idea mi sugerencia como Estudiosa de estos temas que sigue los tema de las políticas pública de tecnología en

mi país es que lo ideal es que en el caso de que se avance con un tema de estrategia de Inteligencia artificial no esté Eh no vea el no se vea el tema desde una misma autoridad que vea otros temas los cuales puedan causar algún tipo de conflicto o cruces de temas hacer un país pequeño un mercado pequeño lo más probable es que la mayoría de las personas que ven unos Temas también ven los otros entonces había un cruce de información y creo que no sería lo ideal que se pudiera crear un tipo de órgano

secretaría que vea únicamente ese tema que sea única y exclusivamente para el desarrollo de políticas manuales de procedimiento y cómo utilizarlo que es lo que no ha ocurrido con la materia de protección de datos Y ha hecho que las personas tengan tan poca fe o tan poo tanoca eh pertenencia en cuanto al cumplimiento O no de la ley lo que solemos llamar el enforcement de la leate es algo que he visto en términos estadísticos por la cantidad de tiempo que ha pasado desde que la ley fue aprobada a la fecha la cantidad de multas sanciones

y denuncias son muy pocas por lo tanto la gente no tiene confianza en las instituciones públicas sin embargo crear una nueva autoridad reguladora para un tema tan específico como es el tema de Inteligencia artificial depende de Muchas cosas en nuestros países entre unas del presupuesto de crear una nueva autoridad y entre otras de que realmente haya personal capacitado para ver el tema este personal capacitado no suele estar Precisamente en el sector público que no es el sector que mejor paga y por lo tanto habrá que traerlo de otros sectores Y es ahí donde me gustaría

concluir mi exposición brevemente y decir que a pesar de que desde el punto de vista regulatorio cuant vista una Autoridad y demás en los temas de eh transparencia algorítmica a lo interno del sector Público de Panamá no existe una hoja de ruta trazada que podos ver en papel yb qué es lo que vamos a hacer en los siguientes meses si hay un interés Y si hay personas en los otros sectores sector La Academia en el sector privado que están trabajando Y utilizando la Inteligencia artificial en sus sectores no tiene que ver un poco con no

tiene que ver mucho con este Panel sin embargo desde el sector médico hay un comité de bioética trabajando el impacto del uso de Inteligencia artificial en el sector salud sanitario en el país por lo tanto hay avances un poco como islas en diferentes sectores pero creo que al momento de que esta estrategia Nacional de de Nacional de de Inteligencia artificial se ponga sobre la mesa a ser regulada por los diferentes actores es muy probable de que eh Ya existan personas trabajando en Otros en otros sectores que puedan aportar esa discusión a sentar la hoja de

ruta y que esperero que no sea muy lejana esa fecha en la cual podamos ya comenzar hablar de transparencia algorítmica y del impacto que tiene la utilización de los datos nos encantaría poder tener algo parecido y una iniciativa como la que tiene la universidad Adolfo Ibáñez en Chile la cual le ha mostrado Romina anteriormente porque es una cara iniciativa que puede Servir de insumo de datos o de casos que le serviría al tomador de decisiones le serviría al policy Maker en el país para partir de ahí hacia la agenda que queremos conseguir porque una forma

también de entender la temática las personas actualmente ven las temáticas de Inteligencia artificial como un nombre una marca chat dutp openi y a razón de esto y no lo mencioné por no ser de tanta relevancia algunos proyectos o intentos de proyectos de ley Para regular la Inteligencia artificial en Panamá en la cual no se habla de Inteligencia artificial regenerativa se habla de tipo de Inteligencia artificial chat gtp es para que conozcamos un poco el desconocimiento de este tema por algunas por algunos sectores en el país entonces vale la pena mencionar y reforzar el tema del

consexo el consenso el diálogo y sobre todo que sean multisectorial y que pueden aportar a esa establecimiento de esa hoja de ruta Actores conocedores del tema o actores que se encuentren trabajando dentro desde el punto de vista técnico como desde el punto de vista legal para que Panamá pueda Próximamente hablar o tener un repositorio o colaborar con otros órganos como la universidad de los Andes o Adolfo idáñez pro y para la transparencia de los algoritmos Muchas gracias Muchísimas gracias laa y bueno eh voy a pasar con Jonathan que quien es eh del inai de México

funcionario Público entonces a él van a venir más fuerte las preguntas aprovechando de que está aquí y bueno Jonathan Pues más bien que nos que nos pudieras eh compartir Cómo es que linay ha estado abordando el tema de transparencia algorítmica bajo qué perspectiva sé que varios eh digamos sectores gubernamentales están utilizando eh tecnologías emergentes entre ellas que eh lo que decía Lía no la ía generativa pero muchos de los funcionarios ni siquiera saben que están Utilizando esas tecnologías pero como es digamos la parte sexy no de que utilicemos chtp para las sentencias utilicemos los Bots

utilicemos x y z qué pasa con los datos qué pasa con el sector público qué es importante abordar o cómo o cómo se tendría que abordar esto desde des desde el rol que ustedes están cumpliendo como protectores de datos personales y bueno Cuál también Serían como los los desafíos no que ves ahí Muchas gracias prisca Muy buenas Tardes a todas y todos no me pongas nervioso por favor parecería que hay una falsa elección entre privacidad y tecnología hay esta idea de que para utilizar tecnología tienes que sacrificar ar temas de privacidad Y eso es falso

es totalmente falso pero es una idea que está arraigada en las sociedades latinoamericanas la mexicana no es la excepción porque hay una falta de conocimiento en torno al derecho a la Protección de datos personales si no sabes que tienes un derecho pues no lo puedes ejercer y si no ejerces ese derecho pues no se consolida una cultura en fin eh yo creo que hay tres temas que en ecosistemas digitales son muy importantes eh es muy importante alinearlo que son eh ciberseguridad privacidad y ética digital si hablamos de transparencia algorítmica estamos hablando de uno de los

principios éticos digitales no que Va muy vinculado con con el tema de explicad Generalmente los reclamos desde los gobiernos vienen hacia Cómo utilizan las empresas o los responsables la información de los usuarios para entrenar sistemas de Inteligencia artificial porque pues el algoritmo Se entrena con datos no datos personales y no personales Y en función de la calidad de esos datos si son buenos los datos Entonces el resultado podría ser óptimo si son malos los datos Eh el resultado puede tener sesgo y puede generar discriminación y con qué entrenas algoritmos Generalmente Pues con datos públicos no

eh Y si los datos públicos no son de calidad Pues ahí tienes un problema eh bastante grande temas a resolver en México y retos yo les diría diría que todos objetivamente Por qué tenemos por ahí de 20 iniciativas para eh legislar el tema de ciberseguridad más de 30 para legislar El tema de Inteligencia artificial más de 40 para modificar la ley fedal de protección de datos personales en posición de los particulares en México se protegen los datos personales hacia el sector público y el sector privado y hay dos regulaciones para ese efecto distintas la de

sector privado es de 2010 la de sector público de 2017 Esa diferencia que hay de años en la temporalidad de las normas lo que genera es una asimetría o una distorsión de lo Que hablaba ahora Romina por ejemplo Las evaluaciones de impacto o las medidas proactivas las medidas reactivas y las obligaciones que Tendría que haber en las regulaciones en materia de datos personales son cuestiones que en México Sí existen en el sector público pero en el sector privado no hay asimetría en en La regulación a nivel país o sea es mejor o más actualizado o

tiene mejor estándar la ley de sector público que la ley de sector privado Pero yo les pregunto una cosa de qué sirven las normas que no se pueden implementar de manera efectiva o sea basta con tener una ley y como arte de magia todo empieza a funcionar bien o tiene que haber medidas paralelas a la emisión de esas normas para que funcionen las las leyes Cómo establecer política pública Cómo profesionalizar a los servidores públicos Cómo la en las instituciones si hoy me preguntan si el tema de Inteligencia artificial tendría Que quedar en las manos de

las autoridades de protección de datos personales de mi país Yo pienso que la respuesta es que no o sea puede ser una salvaguarda para la conservación de la institución pues posiblemente lo pueda hacer pero no se trata de sobrevivir sino de defender y garantizar derechos no eh si no hemos concluido con la tarea de proteger los datos personales porque es una tarea titánica y aparte que está en constante evolución porque la Tecnología no deja de de avanzar ni la innovación y las regulaciones son estáticas las interpretaciones de las autoridades son las que tienen que ser

dinámicas no solo en México Yo diría que incluso en Europa es riesgoso dejar en las autoridades de protección de datos personales el tema de Inteligencia artificial no estamos hablando de cualquier cosa o sea la la Inteligencia artificial va a generar 15.7 billones de dólares hacia 2030 y va A sustituir el 60 por de los empleos va a tener un impacto en el 60 por de los empleos a nivel global y obviamente en economías que están desarrolladas es una cifra del fondo monetario internacional si no está en manos de funcionarios públicos que estén profesionalizados y debidamente

capacitados corremos riesgos muy grandes respecto a Cuáles pueden ser las interpretaciones de esas autoridades las empresas los servicios digitales no van a dejar de utilizar Inteligencia artificial ni Inteligencia artificial generativa lo que hacen es medir sus riesgos y siempre los reclamos van hacia la industria pero el tema de esta sesión o uno de los temas principales es Qué hacen los gobiernos con los datos que utilizan a través de sistemas de Inteligencia artificial Cómo contratan tecnología Cuáles es son las reglas a seguir pueden utilizar cualquier software o pueden comprar lo que sea o cuáles son los

parámetros y Cuáles son los efectos nocivos que puede haber hacia los ciudadanos en el uso de ese tipo de tecnologías por eso el registro o el inventario de de algoritmos en el sector público que nos hablaba Romina y el trabajo que ha hecho David en Colombia es muy es muy loable pero aparte es muy útil porque por lo menos te permite la fase uno es acceder a la información o sea quiero conocer qué datos están tratando míos y en dónde y para qué eso Es transparencia y explicaba esos son principios éticos digitales ya luego ver

la calidad de esos servicios o si corresponde el ejercicio de esos recursos públicos o lo que se erogó con la calidad de esa tecnología ese es un segundo paso pero si no das el primero Cómo podrías llegar al segundo lament ente si no hay una obligación legal de por medio es muy difícil que las instituciones públicas se den a esta tarea Eh no lo van a hacer proactivamente en chile no está sucediendo proactivamente en Colombia no está sucediendo proactivamente O sea no desde el gobierno No desde las instituciones públicas está surgiendo desde otros sectores la

sociedad civil La Academia en fin eh Cómo llegamos a un estándar adecuado de protección Porque si hablamos de de tecnología hablamos de protección de personal hablamos de globalización O sea no hablamos de esto Funciona en Brasil y no sale de Brasil o sea los flujos transfronterizos de datos personales con el uso de tecnologías disruptivas suceden instante en instante segundo en segundo Qué están haciendo las autoridades para formar parte de esas conversaciones reaccionar o sea podemos hablar de lo que está sucediendo en Brasil si quieren y tienen un acta de Inteligencia artificial una ley de Inteligencia

artificial que no se aprobó La semana pasada cierto tiene una autoridad de protección de datos personales que puso una medida preventiva precautoria a un servicio digital para no utilizar servicios de Inteligencia artificial generativa tienen una estrategia de Inteligencia artificial desde hace 2 años o sea hay un camino recorrido Pero cómo van a implementar eso porque si ustedes ven el camino de la anpd su creación es reciente o sea la Ley es de 2018 tuvo un bacati legis hacia 2020 la autoridad es de 2021 y luego se volvió Autónoma creo que en el 2021 también cierto

3 años Okay 3 años es muy poca madurez para una autoridad de cualquier tipo 20 años lo son o sea digamos que esto no se consolida de la noche a la mañana y menos con todos los cambios que existen y creo que es momento de eh cambiar el chip desde las instituciones públicas eh Y el perfil de las autoridades de Protección de datos personales también si no llegamos antes a las conversaciones de nada sirve nuestra actividad Perdón que lo diga de una forma tan cruda o sea para multar empresas o para iniciar procedimientos de responsabilidades

administrativas para eso no existen las instituciones las instituciones existen para garantizar derechos cuando impusiste una multa es porque ya se violó un principio ya se transgredió un deber ya no se Respetó un derecho ya no se cumplió con una obligación Esa es la parte reactiva es la consecuencia si no entramos a la conversación de desde antes en esquemas de gobernanza de protección de datos personales de Inteligencia artificial o de cualquier otro tipo de tecnología irruptiva y no consolidamos el ecosistema con conversaciones que incluyan a todos los actores colaboraciones público-privadas con reglas claras Aunque eso signifique

que El de enfrente no no coincida contigo aunque significa que tú no tengas la la respuesta absoluta de las cosas porque también los gobiernos son muy dados a controlar las conversaciones Okay vamos a hablar en un esquema de parlamento abierto pero yo modero la conversación entonces tú puedes decir hasta ahí Priscila ya no digas más por favor porque eh eso no funciona porque eso no construye Hacia dónde quiero ir hay que regular cada una de las tecnologías que Surgen sí o no háganse esa pregunta ustedes porque hoy el Boom o el Trend es eh Ai

generativa no eh pero si en 5 años es computación cuántica entonces va a haber una ley para La regulación de la computación cuántica o en 5 años anterior Entonces estuvo mal que no hubiera una ley para regular Big Data no sé O sea la soluciones no son tan cuadradas tiene que existir flexibilidad en esto yo no sé cómo haya resultado el tema de Laa act en Europa por qué va a entrar en vigor en 2025 una parte la otra parte en 2026 trae tres niveles o tres categorías si es muy riesgoso si es medianamente riesgoso

etcétera eh No les fue tamban bien con la implementación del reglamento general de protección de datos personales eh con el gdpr ya tiene 6 años en su momento fue paradigmática puso en el centro al titular las multas fueron cuanimalpa digitales globales que es lo que forma Parte de las conversaciones cotidianas por el tema de perfilamiento Data Bridge eh Incluso el uso de neurotecnologías en fin yo solo dejo sobre la mesa estas reflexiones desde los gobiernos Hay que ser autocríticos y entender cuándo está siendo parte de una solución y cuándo no y tener la posibilidad en

autocrítica y en humildad de aceptar reconocer Y tratar de proponer Cómo sí hacer las cosas nada Más que es un tema de voluntad O sea la agenda política de un país no la mueve un un funcionario público ni una institución se tiene que mover desde distintos lugares para que las sinergias lleguen al mismo fin se trata de utilizar tecnología mucha gente cree que estos discursos o estas conversaciones a veces tienen que ver con no utilizar tecnología no Por supuesto que hay que utilizar la tecnología pero hay que utilizarla de una manera responsable Y para hacerlo

de una manera responsable hay que tener la información si la ciudadanía no tiene la información de una manera clara y que le llegue y ahora Estamos hablando de transparencia algorítmica que es un tema muy técnico muy complejo que puede tener muchos significados conceptos etcétera pero hasta en lo más básico cualquier persona tiene que saber a qué tiene derecho y a qué no tiene derecho y en este caso tiene derecho a saber cómo se trata su Información por parte de los gobiernos En qué para qué y hacia dónde va Muchas gracias Jonathan y bueno eh Silvia

eres quien va a compartirnos cómo ves esta parte desde la perspectiva de Centroamérica Cómo se ha movido digamos el contexto No si es benéfico o no en en en cuanto a la evolución de este de esta temática tan compleja como la transparencia algorítmica y cómo lo están viendo desde el sector digamos público No muchas gracias y gracias por acompañarnos el día de hoy en este panel y también un placer compartir con con tan altos profesionales como los panelistas con los que estoy Ho respondiendo a la pregunta de Priscila yo específicamente hablaré de Guatemala y y

un poco acerca de Centroamérica pero más de Guatemala porque es de donde soy Im inaria peroo respecto a a Centroamérica en Centroamérica como Mencionaba Lía hace un momento pues Centroamérica tiene países que aún no cuentan con leyes de protección de datos personales como Guatemala El Salvador y Honduras Nicaragua cuenta con una desde el 2012 Costa Rica también pero ahora están en un proceso legislativo y bueno Panamá como mencionaba Lía viene eh su ley entró en vigor en el 2021 eh pero sí hay un atraso significativo en cuanto a la protección de datos Personales no es

un tema que que sea tan relevante e en la región eh De hecho por ejemplo en Guatemala no no se escucha al respecto y tampoco eh Es que le importe tanto a los gobiernos pasados no les importó tampoco en en el legislativo en el organismo legislativo y Bueno creo que para comenzar a hablar de tecnologías emergentes y Y cómo estas deben ser reguladas y demás También deberíamos hablar primero de la protección de datos personales verdad es la base de esto verdad en Guatemala s han habido intentos de de regulación específicamente se encuentra uno desde el

2022 y otro desde el 2023 la fecha tampoco han sido aprobados y estas iniciativas se encuentran Pues en pausa en el organismo legislativo y y Bueno solo con ello Vemos la poca voluntad política de parte de los legisladores también Guatemala tiene una estrategia nacional de seguridad cibernética esta Data des del 2018 es Realmente si si la si tiene la oportunidad de revisarla es una estrategia bastante vaga incluso bueno fue propuesta por un Un gobierno que tampoco tiene muy os antecedentes Verdad y Bueno aparte de que solo son ciertas directrices no es que se implementen verdad

del 2018 luego siguió otro gobierno que tampoco es que haya puesto en práctica esta estrategia nacional de seguridad cibernética luego bueno tenemos el gobierno que acaba de entrar de entrar en turno eh recientemente en enero y bueno se esperaría que con ello eh avanzara un poco más verdad Pero aún así pues tampoco es que Eh sea un tema tan relevante para el país Guatemala tiene un montón de problemas como seguramente todos los países lo tienen verdad Pero creo que por el momento no ha sido la prioridad y Bueno espero que que en algún momento cambie

verdad eh si es un problema eh bastante fuerte que a pesar de que existan estrategias o se impulsen desde el gobierno el hecho de que cada gobierno Cambie también significa que estas estrategias y demás dejan de tener como importancia porque es otro gobierno no O sea no hay una continuidad que que nos permita seguir una una ruta o o que tengamos una directrices claras verdad y bueno eso es por el momento Muchas gracias Silva y también un poco regresando con Romina Aprovechando que que estás Aquí Cuál o por qué viste esta necesidad de construir digamos

esta base cuál sería Las recomendaciones que que darías al sector público no Y sobre todo Bueno disculpa te escucho super entrecortado Me escuchas ahora no sé si soy yo me escuchas sí Okay Eh te vuelvo a repetir que cuál sería digamos las las recomendaciones no eh tú que has tenido una trayectoria para construir esta base de datos Pero cuál serían las recomendaciones específicas Que darías al sector público en relación digamos a a todo esto y y y también que nos compartieras cuál han sido digamos los obstáculos Y los retos con los que te has enfrentado

últimamente para construir la base eh voy a partir por por el final de de la pregunta porque podría podrías eh desembocar finalmente en las recomendaciones los principales obstáculos con los que nos hemos encontrado nosotros para poder levantar Este repositorio que es un repositorio si tú quieres privado porque la universidad Adolfo Ibáñez es una es una universidad privada que tiene una escuela de gobierno pero con vocación pública finalmente ha sido el acceso a la información nosotros recogemos esta estos estos datos de los mismos anuncios que hacen las las autoridades cuando van a implementar sistemas de sistemas

automatizados porque se se suele ver esto como como como como casos de éxito Bu buenas noticias y en muchos casos lo son cuando cuando tú tienes listas de espera de personas que esperan por una atención de salud y puede utilizar eh algoritmos Para poder acelerar y poder mejorar la situación de esas personas por cierto que son buenas noticias pero acceder a información ha sido el principal obstáculo nuestro por eso nosotros construimos este repositorio con bastante modestia en ese sentido porque Utilizamos la misma Fuentes públicas que a veces pueden ser muy variadas desde un anuncio o

o o una rendición de de cuentas en el en el congreso un informe presupuestario unas bases de licitación de de compra entonces hay diferentes Fuentes públicas en las que nosotros nos basamos para poder recoger este para poder publicar esta información y por lo mismo tenemos un comité técnico que revisa esto eh Y que finalmente decide si es que esto se publica o no Porque Muchos anuncios a veces quedan solo eso en un anuncio pero no se implementa la tecnología derechamente Entonces esta falta de información o esta variedad de información sería uno también de de las

las recomendaciones Nosotros hemos hecho estudi justamente con el consejo para la transparencia chileno para poder detectar los algoritmos públicos y y en en algún momento el consejo para la transparencia quiso avanzar en una instrucción general de transparencia Algorítmica asunto que quedó rezagado finalmente cuando cambió el consejo directivo porque como como se mencionaba también en las presentaciones en la del l específicamente muchas veces cambian las autoridades y cambian las prioridades Y eso justamente pasó en Chile estábamos avanzando con el consejo para la transparencia en una instrucción general de transparencia algorítmica considerando la normativa de acceso a

la información pública Porque si los actos Públicos administrativos son públicos Por qué no lo son las decisiones que se toman con algoritmos públicos entonces en base a esa lógica el consejo Había decidido avanzar Pero bueno cambió el consejo directivo eh Y hasta el minuto no no no no tenemos noticias que se vaya a retomar esa iniciativa cuando quisimos pesquisar los algoritmos públicos también nos encontramos con con con varios desafíos que se pueden transformar en recomendaciones respecto A qué es lo que entendemos por la automatización con algoritmos en el estado cuánd son Inteligencia artificial o no

cuándo utilizan datos personales desde el mismo concepto de dato personal A veces hay dudas desde el sector público entonces falta falta mucha construcción de capacidades eh que sería una primera recomendación las leyes de protección de datos son una base para nosotros muy importante que se apruebe la normativa en Chile porque va A dar también un primer paso de la transparencia algorítmica ya que no podemos prosperar en esta iniciativa que estuvimos trabajando con el consejo para la transparencia y quedó en un borrador de consulta pública a punto de ser publicado y Bueno finalmente Esperamos que que

se retome porque del de la mano del acceso a la información pública está también la transparencia algorítmica que se une con la protección de datos acá porque también nos permite conocer cómo El estado utiliza nuestros datos y rendirnos cuentas sobre ese uso Muchas gracias rumina y Lía en el mismo sentido e crees que este tipo de de de proyectos como lo que no nos ha presentado rumina puede ser implementado dentro de Panamá cuál ves que Serían como igual los los obstáculos incluso los retos para acceder a esta información y sobre todo si dentro de Panamá

están O saben que están utilizando cierta tecnología que Que por parte del sector público que incluso puede derivar este en violaciones a a derechos humanos cómo cómo lo ves l sí creo que muchas veces un error de las autoridades principalmente el sector público es por un tema de automatización de sus procesos incluso la tramitología que que llevan a cabo eh utilizan tecnología sin anen analizar las posibles consecuencias o violaciones que podía traer alguna garantía fundamental De los ciudadanos en este caso la privacidad Entonces yo creo que más que montarnos en el carrito de la moda

como dices tú de un tema que es se sexy porque es el tema del que todo el mundo está hablando deberíamos hacer primero un estudio de lo que tenemos en cuanto al marco normativo en el país segundo en cuanto a las herramientas que ya se están utilizando Y si realmente son o no Inteligencia artificial eh recuerdo en la época de la pandemia ya solían decir Que los chats que suelen configurar eh de WhatsApp para que respondan automáticamente con preguntas lo consideraban ya como una herramienta de desarrollo de Inteligencia artificial cuando creo que no lo es

a mi concepto podría hacerlo pero no en un sentido amplio o estricto entonces creo que de esa parte comenzaría lo que ha mencionado Jonathan también es super valioso de volver a repetir recalcar no Eh basta con únicamente utilizar la tecnología y ponerla al servicio de el funcionario servidor público o el ciudadano hay que poder previamente analizarla y capacitar en ninguna empresa en ninguna en una en ninguna organización del sector privado se compra tecnología y se pone a disposición del trabajador para que haga con ella lo que desee siempre se pasan por procesos de capacitación de

estudio de la misma de de proceso de cómo se va A adecuar a x o y eh dirección departamento Entonces eso faltaría principalmente en Panamá dejar de ver el tema como un tema sexy ver un tema como un tema de prioridad o un tema de que es algo que ya es realidad que no es algo novedoso que es algo que en los últimos 10 años se ha venido desarrollando y en los últimos dos o tres ha sido A pasos agigantados que nos está comiendo Porque lastimosamente nosotros vamos a ir siempre con Un paso atrás de

La Regulación Y que veamos en estos temas no un tema una obligación una obligatoriedad regular no todo se no todo se soluciona a través de regulaciones estrictas o copias a modelos regulatorios de otras partes del mundo cuando la realidad de nuestros países es totalmente distinta Entonces se puede comenzar por estrategia Nacional de Inteligencia artificial e ir viendo adecuando capacitando introduciendo los diferentes actores que Ven viendo el tema porque estoy segurísima que cuando esto salga o cuando esta estrategia salga seguramente va a ser una estrategia que esté rezagada con respecto al trabajo que diferentes actores de

otros sectores Además del sector público están utilizando Entonces yo creo que esa sería mi primera recomendación mi principal recomendación Y de lo que yo actualmente veo que es lo que está sucediendo en mi país y en la Región Muchas gracias lea y Jonathan Cómo consideras que eh el sector público tendría que abordar estos temas más allá de que se abran parlamentos abiertos que luego pueden llegar a la simulación no pero e porque digamos cada país tiene un territorio una cultura una diversidad no pero cómo cómo poder jalar digamos al interés de de de este sector

público A que apliquen una ética en cuanto a las tecnologías en diferentes digamos Temáticas no y que sobre todo tengan esa conciencia o esa sensibilización a no solamente proteger los datos personales y la privacidad no que digamos es es uno de los temas que Que Lleva esto pero también que se puedan proteger otros derechos no En el sentido Por ejemplo que en dentro del sistema de Justicia penal no ahora estén utilizando una tecnología ahí de Inteligencia artificial y no solamente tienen que velar por la protección sino Que también digamos por el debido proceso sino que

también por el acceso a la justicia Cómo cómo crees cómo lo ves por ahí Muchas gracias Priscila Fíjate lo esquizofrénico del del argumento que te vo a plantear se supone que en México en los últimos 6 años no se invirtió en tecnología porque la tecnología tenía que ver con la corrupción con actos de corrupción cierto o sea las compras de tecnología tenían que ver con actos de Corrupción entonces dentro de la política de austeridad del país vino no invertir en tecnología qué tal si cambiáramos la la cara de ese argumento hacia decir si conociéramos qué

tecnología se compra Cómo se compra cómo funciona y para qué entonces sabríamos cómo se ejercen los recursos y en consecuencia sabríamos si hay actos de corrupción o no hay actos de corrupción no es al revés O sea no es dejar de comprar porque ahí puede haber Algo mal mejor ponle la lupa a todo para saber qué bueno Y qué malo puede haber a nivel Estatal y municipal en en mi país se invierte en tecnología que es invasiva por ejemplo hay una alcaldía en la Ciudad de México que es como un municipio no es es lo

similar que va a ser videovigilada ya sabías esa alcaldía que va a ser videovigilada Ah okay siempre es por temas de seguridad si se dan Cuenta en el reporte que nos presentó Romina la mayoría de los algoritmos públicos que tiene registrados en la estadística tienen que ver con seguridad pública o nacional esa siempre es la bandera para utilizar tecnologías que puedan ser invasivas lo que no nos hemos dado cuenta es que la combinación de estas tecnologías disruptivas puede tener efectos irreversibles en en los titulares en los usuarios O sea si tú combinas reconocimiento con Inteligencia

Artificial generativa y blockchain quién sabe cómo te puede ir con eso esperemos que sepas cómo utilizarlo que ese es el punto anterior si no sabes cómo utilizar esa tecnología es como tener un carro de lujo por no saber cómo prenderlo es como tener una regulación muy buena pero no poderla implementar Hacia dónde quiero ir Quizá el acceso a la información como lo mencionaban anteriormente podría ser un Punto de partida para generar una Obligación hacia las instituciones públicas de los tres niveles de gobierno para transparentar específicamente como una obligación de transparencia y ese no es mi

tema porque yo me dedico al otro tema El de protección de datos pero como una obligación de transparencia qué se invierte en tecnología y bajo qué parámetros o sea ahí tendría que verir La regulación por lo menos las reglas básicas de lo que requieres cumplir para Que no sea una licitación pública nacional o una invitación a por lo menos tres o una adjudicación directa que son procedimientos de contratación que hay en México sin mayor justificación Porque además eso compromete otros derechos Como bien lo decías entre ellos la privacidad y la protección de datos personales O

sea sí hay mecanismos eh digamos a través del de los legisladores para poder hacer esto sin duda los hay nada más que los legisladores tampoco Son e especialistas en todo y eso se dice con muchísimo respeto no pueden saber de todo no entonces tienen que allegar de las personas que pueden asesorarles en estos temas los esquemas de parlamento abiert son funcionales son útiles bueno puede ser Eh puede ser que sí puede ser que no Depende cómo lo manejen Cuáles son las conclusiones y cuál sea el seguimiento que haya a las a los resultados o a

las determinaciones que Se tomen en esos esquemas Porque si es hacer un foro y dejar grabado y ya Bueno ya se les escuchó a todos pero la ley va a ir así eso La verdad que no Qué se hizo en México últimamente pues la alianza Nacional de Inteligencia artificial en el seno de la República qué buscó ese ejercicio bueno pues incluir a todos los actores incluyó a todos pues yo creo que no incluyó a actores de cada uno de los digamos instancias o de los stakeholders yo Pienso que sí a lo mejor no todos los

que se debían Pero sí había representación de qué buscó establecer política pública para qué Para regular la Inteligencia artificial de una forma eh informada y responsable Pero qué creen ya cambió el gobierno y como ya cambió el Gobierno ya cambió el congreso entonces quien impulsó eso ya no es legislador y como ya no es legislador pues volvamos a empezar si es esquizofrénico no a lo Mejor los esquemas como open lo y aquí está eh María eh o o los sandboxes pueden ser esquemas útiles para este efecto Por qué Porque son como laboratorios de prueba pero

que no tienen que ser dirigidos exactamente por alguien sino que todos los que estamos en la mesa intervenimos de una forma digamos eh democrática si se permite ese término y y luego llegamos a conclusiones en conjunto sin que sea algo que esté Impulsando en específico un actor desde el gobierno en fin a mí se me ocurre eso puede haber más salidas y puede haber más salidas pero por lo menos que es un Punto de partida que es decir si inviertes un peso público en tecnología Quiero saber si esa tecnología es invasiva en materia de derechos

humanos o y ya O sea ya no hablamos de evaluaciones de impacto a la privacidad no o de evaluaciones éticas no eics Impact assessment Human Rights Impact Assessment Las evaluaciones de impacto como platicamos ahorita con Francia por lo menos que sean vinculantes No porque si hacen una Pía una privacy Impact assessment y luego solo son recomendaciones que no tienen consecuencia alguna pues aunque esté en la ley son como llamadas a misa no muchas gracias muchas gracias silv Cómo cómo lo ves En país porque luego ayer justo estábamos hablando de este como efecto Bruselas que también

lo planteó Jonathan no de que No necesariamente gdpr tiene que utilizarse para todos y o sea todos los gobiernos pero a veces los gobiernos desafortunadamente más los latinoamericanos miran hacia Europa no qué opinas Gracias prisila e justo ayer como menciona prisila estábamos hablando un poco en el panel que tuvimos también sobre que a veces no es necesario sobrer regularlo lo que Tenemos o Buscar que todo esté regulado o en ley pero en Casos como países como Guatemala y algunos de Centroamérica que les mencioné El Salvador Honduras el hecho de no tener una ley Entonces tampoco

tenemos una base verdad Entonces si es por lo menos necesario regular lo básico porque es un Punto de partida que nos puede servir y y bueno en cuanto a lo que mencionaba también eh Jonathan eh necesitamos pues mecanismos de Transparencia verdad Guatemala a pesar de que no tiene ley de protección de datos personales o o algo que regule las tecnologías emergentes no significa que no utilice sistemas automatizados verdad eh Ya sea directos o o sea que que fueron adquiridos por el estado o que fueron una donación Guatemala al ser un país de paso hacia México

y y de tránsito hacia Estados Unidos con un flujo eh bastante marcado de migrantes también utilizan E sistemas automatizados Eh Esto han venido desde el 2014 acuerdos que han mantenido con Estados Unidos México El Salvador y Honduras luego desde el 2019 también a raíz de esos acuerdos han recibido sistemas automatizados por los cuales Pues procesan un millón de datos de de los migrantes verdad esto con la justificación de de seguridad Nacional de evitar Criminales que estén pasando por las fronteras pero también están vulnerando derechos de de las personas migrantes verdad están eh vulnerando a personas

que históricamente han sido vulneradas verdad Entonces Eh Pues el hecho de de contar con estos sistemas automatizados poco se conoce eh organizaciones que han liderado eh solicitudes de acceso a la información pública y que tampoco han Tenido respuestas por ejemplo desde el 2019 tengo entendido Eh Esto es de la coalición que vuelvo a traer el tema que veridiana nos acompaña el día de hoy pero la electronic Front foundation y también a Now han llevado esta coalición de emigrar sin vigilancia ellos también han solicitado o sea informes de transparencia y demás y que no han obtenido

información e desconozco si por ejemplo el gobierno Actual será un poco más transparente o accesible verdad Pero deberíamos partir también de que necesitamos esos mecanismos de transparencia como mencionaba Jonathan saber qué tecnologías está utilizando el gobierno Cuáles han sido adquiridas por ellas por ellos y Cuáles han sido donadas verdad e también Necesitamos saber qué tan necesarias son si son proporcionales y Y si realmente están cumpliendo con su Cometido o solo están vulnerando a estas personas verdad y bueno por ahí me quedo Muchísimas gracias creo que tienes toda la razón porque depende mucho de los contextos

en los países de los cambios también eh políticos No porque no se institucionaliza digamos la parte de la agenda digital no es algo prioritario digamos no O sea Lo pasan como a un segundo tercero o hasta cuarto término y y desafortunadamente lo que empieza cuando empiezas a discutir empiezas a Aportar luego hay un cambio de gobierno no O no es la iniciativa que supuestamente ibas a construir pues muchísimas gracias yo me gustaría Dejar abierto el el espacio para ver si tienen comentarios dudas sugerencias sí Muchas gracias yo tenía una también en Romina pero creo que

la perdimos Sí vale entonces hag una pregunta a Jonathan y si y si los demás quieren también Comentar e Bueno me llamo veridiana soy de la electronic Frontier foundation y trabajo con los países de la región en temas de derechos de tecnología y quisiera justamente hacer una pregunta teniendo en cuenta lo que has mencionado en tu intervención sobre el papel el rol de la prevención e y y nosotros desde nuestra región vemos distintos esfuerzos y políticas en el marco de la transformación digital Con mucha inversión para lo el despliegue cada vez mayor de estas tecnologías

pero no solemos ver con la misma efectividad eh un la creación de una infraestructura al lado de esto de protección de derechos que siga e la implementación de la infraestructura de los sistemas de Inteligencia artificial y y decisiones automatizadas Entonces desde desde tu perspectiva de una autoridad de protección de datos pero también de Acceso a la información que yo diría que son dos temas cruciales en términos de haber una infraestructura de protección de estos dos derechos en las distintas esferas federativas de los estados que despliegan esas tecnologías Cómo ves Ese escenario y cómo e cómo

piensas que que sería la mejor manera de desplegar eh esfuerzos de transformación digital que comprendieran que las cosas debían deberían caminar juntas también en términos de Inversiones de los estados en garantizar autoridades de protección de datos autoridades de acceso a la información distintas unidades federativas con responsables de protección de datos para lidiar con las solicitudes de las personas y instancias de participación social también en la discusión de estos temas y todo esto También necesita de diversión pública no muchas gracias Priscila Gracias por la pregunta Eh sí Estoy totalmente de Acuerdo en que debería haber alguna

acción eh o por lo menos alguna obligación que estableciera que todo este desarrollo tecnológico y toda esta evolución que hay en temas de innovación estuviera aparejada de medidas para resguardar libertades y derechos fundamentales Pero cómo lo estructurar yamos Porque si tú prohíbes si lo metes como si lo incorporas como una prohibición Entonces eso es una obstrucción a temas de economía digital Y de comercio electrónico y Y eso desincentiva la inversión en el país y afecta eh a nivel económico si no lo regulas Entonces se vuelve lo que por lo menos en mi país se dice

tierra de nadie o sea no hay ninguna certeza o seguridad de lo que pueda suceder en torno al uso de estas tecnologías Insisto reitero que quizás desde la parte de acceso a la información si hay una oportunidad para poder obligar cuando haya inversión del Estado en desarrollos tecnológicos que pertenecen a a la industria o a la iniciativa privada que hay una vinculación entre esto no estoy hablando de develar información este de personas privadas porque eso iría en contra de la protección de los datos personales estoy hablando de eh empresas que desarrollan tecnología que contratan con

gobierno o que gobierno contrata con ellos que que ejercen recursos públicos ahí puedes tener un primer filtro por lo Menos de de control para cumplir con determinadas medidas que tengan que ser previas a la implementación de o sea les voy a poner un ejemplo no de México eh el tema de neurotecnologías y de emo y del tribunal supremo en Chile emotive es un dispositivo que va por afuera del de la cabeza que detecta la actividad eléctrica del cerebro seguramente todo el mundo ha escuchado de ellos y entró por ahí guido giraldi que era un legislador

activista de porque dónde Guardan su información si está en la nube si está anonimizada no está anonimizada si es reversible esa anonimización Okay ya está hasta en la Constitución chilena regulado el tema de la actividad eléctrica del cerebro en el artículo 19 desde 2021 19.2 Okay saquemos el producto del mercado ya no se puede Esa es la resolución del tribunal supremo de justicia en Chile ya no se vende el producto en nuestro país hasta que Cumpla con estos determinaciones incluyendo algunos temas que tienen que ver con seguridad de la información o sea está bien pero

el daño Ya está hecho no O sea ya lo comercializaron ya Y eso pasó en chile y se hizo famoso en chile y por eso vino toda una conversación de neuroderechos neurod datos neurotecnologías pero pasa en todos lados porque ese dispositivo lo puedes comprar en Amazon o bueno Cualquier servicio digital no eh es muy Fácil y te llega yo he visto en México me quedé sorprendido hace un par de semanas que fui justo una empresa que ve temas de marketing etcétera que lo están utilizando como si fuera un estudio de Mercado o sea como si

le preguntaras a las personas este para poner palomita o o negativa respecto de Si les gusta o no un producto eso pero conectado al cerebro para ver cuáles son las sensaciones imagínense Cuáles pueden ser Los impactos o sea coincido contigo solo habría que encontrar el balance para no desincentivar el tema de economía eh digital e insisto comercio electrónico pero sí tener algún mecanismo que sea hay una palabra que es clave en todo esto efectivo si las cosas no son efectivas no sirve que esté en ninguna ley o en ninguna Norma o sea y para que

sea efectivo tiene que ser de posible cumplimiento si tú le Pones a alguien a una mi pyme obligaciones que le generan costos que son muy altos pues va a optar por no cumplir porque eso no es una inversión por para ellos es un gasto o sea le tienes que poner la obligación pero también las herramientas para que puedan cumplir Pero te refieres a nivel Estatal o a nivel gubernamental Ah no definitivamente a niveles o sea yo veo la vinculación con la industria porque quien desarrolla más Tecnología no son los gobiernos Generalmente si no son este

las empresas privadas pero si ellos desarrollaran tecnología tendrían que tener este desarrollos para digo obligaciones para el desarrollo responsable de esa tecnología O sea no veo que hagan mucho código o que desarrollen mucho algoritmo en los gobiernos más bien compran lo que ya está hecho con las partes positivas y negativas que tiene eso pero si fuera un país en el cual se desarrolla eh Tecnología no sé quizá la India o se me ocurre ahorita no sé quién más podría ser Pues quizá ahí sí podría establecer desde la desde la ley obligaciones pero hacia el sector

público no Ah yo voy a hablar de espacio pero en portugués Okay Eh a pergunta ser para cualquer un que se sentir confortável para responder bastante vínculo liga que acab de perguntar a su última resposta porque Cuando ten background em prote de dados pessoais é ISO que eu trabal e quando a gente para para refletir sobre transparencia ele é um tema que por si só se torna complexo porque muito se debate o próprio conceito de transparencia especialmente falando de intelig artificial mas també porque a gente tem que tomar cuidado aquela ideia que do que eu

informo e como eu informo muito buscando essa de efetividade també quando a gente pensa emitos titulares Etc pessoas hif que teri nem condi de compreender o que está sendo falado eas tipo eando a gente tra de transparencia algorítmica especialmente tecnologias Deep learning que s opacas de modo pelo menos tem funcionamento obs latente porque até que ponto eu explicar como funcion algoritmo efetividade termos de compre e autodetermina paraas aí Pando o gano que acab de responder se a gente par prupo que aor parte dos estados desenvolvedores de tecnologia Consumidores até que ponto aquela barreira Doo comer

queo cons transparencia losad Es una muy buena pregunta yo creo que eh Tienes que sacrificar parte la gran justificación sobre todo otra vez en el sector privado para no develar la información relacionada con el knowhow del algoritmo es que compromete temas de propiedad intelectual yo o sea yo quiero Cumplir con transparencia y explicabas éticos digitales y con transparencia algorítmica pero no te puedo decir cómo funciona Porque el código es mío o sea yo lo desarrollé Cómo si ahí es donde está mi negocio No pero si el código es abierto A lo mejor ahí cambia un

poquito la situación yo no sé hasta qué punto los gobiernos tendrían que llegar al nivel de poner imponer una obligación hacia la industria de mayor transparencia para Comprar ese tipo de tecnología no es tan absurdo pensarlo eh o sea en realidad si no tienes un parámetro para comprar tecnología y compras lo que se te pone en frente pues al mejor que sea de de libre acceso no y y te quitas los problemas de knowhow e impulsas temas de transparencia y explicaba puede ser una posible solución No sé Muchas gracias Lía quieres eh aportar algo sobre

este punto Me encantaría pero si me repiten La pregunta en español porque mi portuñol no funcionó Oye lam a ver te hago una traducción porque yo tampoco sé portugués pero de lo que le entendí lo que te puedo decir es que él lo que cuestiona es eh Hasta qué punto eh este tema de propiedad intelectual y de knowhow en los algoritmos puede ser una justificación para no transparentar eh digamos el uso de la información personal y no personal cuando se Contratan eh sistemas de Inteligencia artificial o se usan algoritmos en los gobiernos Bueno si si

se ve el punto de vista de la Inteligencia artificial Al momento de desde el punto de vista de la propiedad intelectual y yo te voy a referir más o menos a cómo se daría en el caso de Panamá y creo que no dista de mucha diferencia con respecto a otros países de la región en materia de propiedad intelectual o registros de Derechos de autor y demás Cuando uno comparte e eh un registro de se has creado al lo mejor un programa de ordenador o software o demás para para para poder garantizar que no se violen

los derechos de propiedad intelectual no se presenta en su totalidad se presentan una parte o parcial de lo que es el código o en este caso el algoritmo que porque presentarlo todo se accederían todos los derechos a un tercero Igualmente también hay algo una figura Que se llama como el contrato de screw que es como un contrato de de depósito en materia de propiedad intelectual para software en la cual hacen una garantía que tú estás depositando el código en este caso el algoritmo en su totalidad pero que la persona que lo utiliza o que lo

está teniendo a disposición no podrá hacer ningún uso contrario para lo cual lo está teniendo entonces creo que en materia de propiedad intelectual sería muy interesante muy interesante la Pregunta muy profunda Pero hay alternativas que se pueden tomar en cuenta para para poder resolver esto Muchísimas gracias Pues eh algo ya nos queda estamos sobre el tiempo pero nada más me gustaría como con qué quisieran cerrar igual un minuto para que todos puedan este compartir algo que les gustaría cerrar Si quieres empezamos contigo Lía bueno agradecerles muchísimo por la Organización del panel a CP de patán

por organización del evento que por tres años consecutivo me lo pierdo presencialmente y decirle que que sí que no dejamos de no dejemos de ver los temas de Inteligencia artificial como temas que únicamente competen a los especialistas del sector técnico y ha lados a un tema de protección de datos o protección de la información eh tener estrategias nacionales de de Inteligencia artificial tener sandbox Tener principios éticos para su uso y demás si no están alineados con la regulación actual o los estándares actuales en materia de protección de datos va a ser muy difícil que realmente

su aplicabilidad sea la correcta o adecuada e Bueno pues gracias a a la audiencia que nos acompañó el día de hoy fue un gusto compartir con usted y sobre lo que quisiera decir es que creo que es necesario siempre cuestionar e cada Medida que sea implementada ya sea desde el sector privado o público que tn eh necesarias o e necesarias son cada una y que tan proporcionales y siempre verificarlo con un con los Derechos Humanos Pues porque al final creo que ello nos ayudaría a a no violentar a las personas no no mucho más ya

hable mucho agradecerles mucho la invitación desde luego siempre estoy eh Muy abierto al diálogo a seguir reflexionando y Aprendiendo estos temas las legislaciones de datos personales son neutrales aplican aspectos físicos y digitales a Ambos estamos hiperconectados interconectados somos dependientes digitales tenemos que formar parte de estas conversaciones no es ajeno a nuestra vida cotidiana Gracias Muchísimas gracias a todos y todos por estar aquí gracias an