Hola muy buen día a todos Yo voy a estar moderando este panel Mi nombre es bueno primo el nombre del panel estándares interamericanos de Derechos Humanos Inteligencia artificial una articulación entre derechos humanos retos regionales y directrices globales mi nombre es Mercedes elcar soy profesora de la Universidad de San Andrés en Argentina y voy presentar a las personas Que van a estar exponiendo en este panel primero tenemos a Fabio eon de la UNESCO que coordinó el proyecto mg Ram readiness assessment methodology global a eics andance observatory en Brasil entre otros proyectos después tenemos a Renata mieli
en online del Ministerio de ciencia y tecnología de Brasil y de la comisión de gestión de inteligencia de de internet de Brasil Perdón que sigue la discusión sobre Inteligencia artificial en el Marco del g20 por parte del gobierno brasileño después tenemos a mi derecha jamila venturini que es de derechos digitales y que está coordinando Las investigaciones y acciones de incidencias de organización de en temas de Inteligencia artificial y Derechos Humanos Y por último pero no menos importante tenemos a veridiana a alimonti de la e que es responsable de trabajos en temas de derechos y tecnologías
en América Latina Veridiana coordinar la investigación sobre la aplicación de estándares interamericanos de Derechos Humanos el uso por gobiern de sistemas de ia y automatic decision making en América Latina la investigación será publicada en el segundo semestre de este año as que la vamos a poder tener todos eh si les parece vamos a hacer una primera ronda preguntas donde cada expositor va a contestar una pregunta y después tenemos tal vez preguntas como un poco Más bueno lo que vaya surgiendo en la charla obviamente y preguntas más generales también para seguir un poco lo que vamos
a hacer es los desafíos o retos y cómo después lo vemos para el futuro Así que vamos a seguir un poco esa estructura y cualquiera que tenga una consulta una pregunta eh levante la mano y no hay problema eh Entonces vamos a empezar y la primer pregunta para jamila es cómo es explorar los estudios en el Caso de derechos digitales en la región cómo está el tema Cuáles V que son los principales desafíos hoy en día Tal vez las lo más difícil como que si nos hac cuesta arriba Muy bien gracias Mercedes buen día a
todas y todos por acá como mencionabas derechos digitales ya hace 4 años viene haciendo ación sobre temáticas de Inteligencia artificial en América Latina con una preocupación muy grande en Cómo informar el debate internacional pero también el Debate nacional con evidencias concretas de cómo se vienen utilizando esas tecnologías y cuáles son sus impactos en los países y en la región hicimos seis estudios de Caso identificamos tendencias a partir de esos estudios de Caso están todos disponibles yo no me voy a profundizar en cada estudios de caso voy a hablar más de tendencias acá pero ustedes lo
pueden encontrar en ia derechos digitales.org hay cuatro estudios de Caso más que estamos por Lanzar además de otros materiales que estamos discutiendo a lo largo de estos dos días entonces son muy bienvenidas de de acompañar esa página también Quizás lo primero que compartir sobre ese tema es que los países en los últimos años no han dudado en anunciar iniciativas de Inteligencia artificial eh Más allá de la ausencia de un marco regulatorio comprensivo sobre el tema o incluso muchas veces de Marcos regulatorios habilitantes en esa materia Y voy a hablar un poquito más de eso después
no eh Incluso en algunos casos vemos que se contratan proveedoras o se utilizan sistemas que ya fueran cuestionados o que ya fueran interrumpidos en otros contextos en otras regiones del mundo por temas relacionados a derechos humanos lo que también es ya una preocupación inicial muchas veces la justificación para la adopción de estos sistemas es una idea de eficiencia Estatal o de promoción de Bien común de bien social Pero quizás una primera reflexión que hacer acá es que ningún derecho puede ser garantizado a Costa de otro derecho y cualquier política mediada por tecnologías eh tiene que
garantizar aunque sea para la entrega de servicios esenciales o beneficios esenciales tiene que garantizar que eh No ofrece un riesgo al ejercicio de otros derechos y pas por un test previo que garantice que no hay ningún riesgo de este tipo y eso no es Lo que observamos en la práctica Eh muchas de las iniciativas que hemos analizado tienen un Público prioritario de poblaciones en condiciones de extrema vulnerabilidad eh las iniciativas no cuentan con un análisis de necesidad y proporcionalidad y Eh Al contrario condicionan el acceso a servicios y derechos básicos como la salud la educación
entre otros como mínimo a la entrega de datos personales y digo como mínimo porque sabemos que Ese puede ser un primer elemento para la intrusión en una serie de otros derechos también no eh las intervenciones eh Generalmente no son conocidas por las poblaciones que son públicos de estas intervenciones eh ellas no pueden dar un consentimiento válido primero porque no hay información segundo porque Eh no sería un consentimiento del todo libre en el caso de que fuera una condición obligatoria para el acceso a un servicio Esencial y eh Como decía muchas veces INS suficientes salvaguardas legales
contra cualquier tipo de abuso y estamos hablando de incluso la ausencia de leyes de acceso a la información o la ausencia del Marcos normativos de protección de datos aprovechando el tema de de esta conferencia eh Y si las personas muchas veces siquiera son de que hay decisiones que están siendo tomadas sobre ellas eh con auxilio de Sistemas automatizados es mucho más difícil ustedes pueden imaginar Cuánto es difícil cuestionar el resultado de algunas de esas decisiones un caso que analizamos fue el caso del programa de auxilio emergencial durante la pandemia en Brasil cuando no había una
vía administrativa para cuestionar o para solicitar la revisión de una decisión de negativa de acceso al beneficio social y Eso no solo generaba una un bloqueo en la garantía de un derecho que en aquel momento era muy muy esencial como también generó una sobrecarga del sistema judicial debido a la cantidad de cuestionamientos que fueron llevados eh al sistema judicial quizás para concluir esa primera intervención quisiera Resaltar algunas tendencias que vimos de estos seis estudios de Caso la primera es que más allá de la existencia de leyes de acceso a la información en los Países que
analizamos en los cuatro países que analizamos persisten severas limitaciones eh a la transparencia y no estamos hablando de transparencia algorítmica estamos hablando del acceso a la información sobre un sistema eh Cuál es su proveedor eh información muy básica sobre la política pública y una ausencia de instancias de participación pública en los procesos de toma de decisión sobre la adopción de estos sistemas sin hablar de la Participación de las poblaciones afectadas también son iniciativas marcadas por alianzas público-privadas y la colaboración directa entre entes estatales y empresariales o académicos sin consideraciones sobre necesidad legalidad y proporcionalidad como
yo decía en muchos casos o más bien en ninguno de los casos que analizamos hubo un proceso de contratación pública abierto y con criterios transparentes para el acompañamiento de la Sociedad en ese contexto de Alianza público-privada las excepciones en normativas de protección de datos sobre el uso gubernamental de datos personales el uso de datos para políticas públicas no dan cuenta de ofrecer una protección contra posible uso abusivo o uso discriminatorio de estos datos en situaciones en que puede haber una transferencia de datos con terceras partes sin criterios transparentes o mecanismos de Supervisión Y por último
una ausencia muy generalizada de estudios de impacto previo como yo decía y siquiera evaluaciones periódicas o mecanismos de supervisión que avalen la política pública o el uso de tecnología mediando la política pública y eh que además de impedir el control de la sociedad afecta su credibilidad y su confiabilidad social también porque no se sabe el porqué de la continuidad o de la interrupción de determinada política en Esos casos e nos parece clave que las discusiones regulatorias que se están dando sobre Inteligencia artificial en la región consideren los impactos del uso de ya por la administración
pública nos parece que eso aún no está en el centro del debate pero que sería muy importante retomar criterios y mecanismos para dar cuenta de que de los riesgos que exist estén ahí en particular yo voy a parar por acá y seguimos la segunda Muchas gracias Jamila y muy cierto porque muchas veces el estado exige pero cuando le toca no cumple y es muy peligroso también porque es cuando la gente las personas muchas veces están más indefensas tienen menos formas de como reclamar frente a un estado que no cumple tal vez Entonces es muy importante
y esto de la transparencia también porque si uno no sabe Tampoco puede hacer cumplir Así que muchas gracias eh Pues seguimos con Fabio eh si te Parece Fabio si nos podrías hablar de los hallazgos de tu reciente investigación eh queo la UNESCO En qué países cómo lo ves en América Latina y también los desafíos que que ves relacionado a eso Ahora sí Oh bueno Gracias Mercedes bueno la UNESCO como agencia de de de Educación ciencia y tecnología siempre por supuesto Tuvo una preocupación con la Ciencia que fuera ética ciudadana con propósito eh Por eso la
comisión de ética en ciencia en tecnología de la UNESCO comisionó a la UNESCO a que producieron un estudio sobre ética en Inteligencia artificial y eso Ah bueno con con el pasar de los años después se cambió en un una recomendación que es la recomendación de ética en Inteligencia artificial eh Mucha gente conoce la UNESCO como una agencia del sistema Ono para educación ciencia y cultura pero también tenemos un papel normativo dentro del sistema Naciones Unidas producimos convenciones declaraciones recomendaciones convenciones por supuesto tienen una fuerza mayor porque son aprobadas por los congresos nacionales pero recomendaciones como
esa también tiene su fuerza no porque a pesar de no ser en posas influencian los Sistemas legales muchos juices en todo el mundo están utilizando la recomendación de la UNESCO para evasar sus decisiones eh en muchos países miembros de la UNESCO los 194 países están usando la recomendación para crear sus Marcos legales de de Inteligencia artificial en caso de Brasil fue un poco distinto porque en Brasil ya había una estrategia brasileña de diencia artificial pero en países en desarrollo la recomendación fue muy influente Porque ayudó esos países a a crear sus propios instrumentos sus propias
políticas no eh ahora en qué momento estamos estamos en el momento de implementar la la recomendación la recomendación fue todo un proceso muy largo de 2 años de construcción inicialmente reunimos 24 expertos de todo el mundo en incluso de Brasil que han participado en la relación del Draft inicial el morador inicial E eso fue discutido ampliamente De manera participativa con toda la sociedad hasta que fue aprobado en la conferencia general de la UNESCO después de un proceso de 2 años no y ahora estamos en el proceso de implementar la recomendación para que no sea solo
un papel no que no sea solamente una idea entonces eh Cómo estamos implementando la recomendación con un instrumento que fue creado que se llama Ram rapid assessment methodology que nada más es que un cuestionario muy simple muy Sencillo que tiene cinco dimensiones no queene tiene una dimensión jurídica regulatoria una dimensión social cultural un capítulo científico educacional un cuarto que es una dimensión económica Y por último un capítulo sobre infraestructura entonces La idea es que la UNESCO haga este diagnóstico en todos los países miembros eh que podamos ver cómo los países están implementando O si están
preparados para implementar Políticas programas de Inteligencia artificial eh qu identificamos como puntos que son muy comunes en todos los países bueno que hay una simetría muy grande eh principalmente de género No eso es algo que la UNESCO ya viene produciendo hace mucho tiempo entonces hemos producido muchas publicaciones datos especialmente sobre género no Entonces por ejemplo las mujeres solo 4% de las startups son manejadas por mujeres no y 10% de de la área de Tecnología de información es manejada por mujeres 30% de la pesquisa y desarrollo del mundo es manejado por mujeres no entonces hay que
cambiar este cuadro de de desigualdad no Entonces es algo que apuntamos en en nuestro informe no y otra cosa que defendemos siempre es que es necesario regulación no entendemos que regulación no está en desacuerdo con Innovación no no son antagonistas entonces hay que simular La regulación hay Que hay que crear leyes sobre sobre Inteligencia artificial para que tengamos un ambiente más civilizado más propicio para su desarrollo no y y bueno Y también hicimos una serie de sugerencias a varios países algunas que son comunes incluso a Brasil y nuestro informe como el banimento de de sistemas
de reconocimiento facial en la en la área de de seguridad pública Ah estimular e programas que enfoquen en la soberanía nacional para que se se se Quiebre la dependencia externa en la área de Inteligencia artificial y también otros instrumentos ligados a la cooperación internacional que quizás yo pueda hablar más tarde cuando hablemos de los retos de lo que la UNESCO está haciendo en términos de de perspectivas futuras No gracias Mercedes Bueno muchísimas gracias Fabio Y sí creo que también Muchas gracias por tu exposición y las recomendaciones son como un primer camino a generar Regulación también
específica de los países Entonces eso está buenísimo y mismo también que en muchos otros paneles se ha hablado de como generar una misma no una misma Revolución pero como una simbiosis entre La regulación de toda la región entonces como que eso creo que favorece un montón y ayuda a a empujar esa regulación y que y que se generen esas esas leyes as que Bueno muchísimas gracias e Renata no sé si no estás escuchando Cómo Estás Bueno Renata te queríamos pedir si nos podías hacer como tu exposición sobre el diagnóstico de Inteligencia artificial que hizo específicamente
el estado de Brasil para el g20 y bueno lo mismo también un poco la misma premisa que como Qué desafíos se imaginan o han identificado para el futuro Gracias Mercedes un gusto hablar con ustedes mismo que en la por la distancia Acá un gusto hablar con Fabio veridiana jamila eh Me gustaría empezar diciendo que la Inteligencia artificial al mismo tiempo tiene el potencial de impactar positivamente la economía y muchas otras dimensiones sociales porque eh Generalmente cuando hacemos las discusiones siempre hablamos de las cuestiones negativas de los riesgos y a mí me gustaría de puntuar que
eh A partir de Brasil y del gobierno Brasileño reconocemos la importancia y los potenciales positivos del uso de la Inteligencia artificial pero también eh reconocemos su potencial de profundizar desigualdades producir riesgos y afectar negativamente la sociedad por tanto parto de la perspectiva de que no debemos nos posicionar ante este nuevo salto tecnológico ni de manera optimista ni apocalíptica ante la pregunta que me hicieron recientemente hace unos meses Eh sobre si la ia tenía realmente la potencial el potencial de acabar con la humanidad respondí con mucha convicción que no porque es la propia humanidad La la
que se encarga de eso si tenemos que nos acabar con la humanidad será la propia humanidad que lo será Pero eh Y en el caso de ya esto se ocurrirá únicamente si si continuemos a desarrollar las tecnologías de ferramentas de Inteligencia artificial Únicamente con Fines orientados al or bitación de poder sea político o económico sin considerar el interés público los derechos fundamentales el bien común por lo tanto Considero que todos somos responsables de los jumbos que daremos a la ia y de cómo la Mode haremos para un futuro más inclusivo eh O quizá distópico eh
quizá la ficción esté ahí para divertirnos de lo que no queremos y no debemos hacer Eh entonces hablando eh habiendo puntuado que reconozco los peligros pero También los potenciales como el tiempo es curto voy a centrar mi intervención como nuestro gobierno el Ministerio de ciencia tecnología Innovación han abordado la cuestión en los Marcos del g20 y las discusiones nacionales a finales de este mes el plan brasilero de ia conferencia Nacional de ciencia tecnología y el plano también refleja la visión brasileña nos hemos guado por la ferte cuál es la visión o que nos tiene guiado
es la fuerte defensa de la Soberanía digital es decer definir mecanismos internacionales y locales para superar la dependencia tecnológica de los países del Sur del sur glob global la concentración económica en torno a la cadena productiva de yaa genera un esenario de alta dependencia y relación con infraestructuras físicas básicas capital humano cualificado disponibilidad de datos incluyendo datos locales poder computacional y capacidad de investigación esto tiene como Consecuencia el hecho de que la ia principalmente los lar Language models que tienen alcance global no reflejan la diversidad lingüística cultural demográfica e geográfica de los países en los
que se implementan y utilizan esto plantea preocupaciones significativas sobre la representatividad inclusión seguridad y confiabilidad de estos sistemas que por diseño y entrenamiento producen sesgos de todo tipo que tienen como Consecuencia la violación de Derechos Humanos el agravamiento de prejuicios y la ampliación de desigualdades de vulnerabilidades establecer mecanismos de gobernanza sobre el uso de datos para formación eh de los modelos deia es estratégico en el debate sobre soberanía pero también sobre regulación y garantía de derechos Como jamila ha dicho a poco por tanto evidenciar este escenario de desigualdad en torno del dominio de la tecnología
son medidas concretas para Superarlas son una de las prioridades de Brasil en la dirección del g20 para materializar esta visión presento de de forma muy resumida para seguir para el final de mi de mi eh posición acá eh que estamos desarrollando eh en el grupo un kit de herramientas del g20 para preparación evaluación de la capacidad de ia centrado Precisamente en el levantamiento de las asimetrías entre los países incluyendo la dimensión social y cultural con respecto por Ejemplo a las cuestiones de diversidad representación de género inclusión e igualdad para el desarrollo implementación de sistemas de
ya de forma ética el enoli momento de diferentes comunidades de minorías que son impactadas por la tecnología eh lo que podemos perceber hasta ahora es que existen e y ya sabemos pero lo constatamos que existen grandes disparidades entre los países del g20 en el despliegue de infraestructuras que Permitan el desarrollo de la ia incluida la disponibilidad de centros de datos servicios basados en la nube Y capacidad informática las disparidades también afectan la inversión en investigación y desenvolvimiento en términos de resultad de innovación y incluidas las patentes concedidas que están concentradas todas en el norte Global
en el campo de la producción científica tanto en número de publicaciones como indicaciones y disparidades en términos De formación de recursos humanos para finalizar gustaría de decir que Debemos entender que estas desigualdades no surgieron con laa ellas reflejan la acumulación histórica de dependencia de Naciones que fueron colonizadas de cuyos recursos naturales fueron saqueados naciones que fueron colocadas en el tablero geopolítico como subd desarollados por lo tanto actuar a escala internacional y nacional para superar estas desigualdades es algo que Va más allá de la cuestión particular de la ia esto requiere un ordenamiento político internacional una
mirada integrado a los profundos desafíos estructurales que tenemos equilibrar las prioridades nacionales como combatir el hambre la pobreza garantizar derechos básicos basados en servicios que deben ser ofrecidos con calidad por el estado Salud Educación por ejemplo con la exigencia de realizar inversiones masivas En tecnologías digitales para Superar la condición que tenemos hoy de consumidores de esta tecnología por tanto eh Tenemos que tener en vista que esto leva tiempo requere esfuerzo coordinado y la comprensión de que se trata de un proceso pero que se debe empezar desde ahora Gracias esto por encuanto Muchas gracias Renata eh
Y sí pues Estoy totalmente de acuerdo que la ía no nos va a matar somos nosotros mismos y que también es nuestra Responsabilidad que esos si bienen el desarrollo de esos sesgos y esas discriminaciones desaparezcan no es únicamente con la Inteligencia artificial Así que nada muchísimas gracias y eh Por última la última pregunta de esta primera ronda vamos a hablar con veridiana cómo lo que te queros preguntar es cómo este diagnóstico de los retos se desafían o se alinean con los estándares de derechos humanos y Nada cuál es tu opinión respecto de las gracias bueno
como como ha mencionado Mercedes al inicio desde la eff la electronic Frontier foundation estamos trabajando en una investigación de la aplicación de estándares de derechos de estándares interamericanos de Derechos Humanos a la utilización por el sector Público de herramientas de sistemas de Inteligencia artificial y decisiones automatizadas y siguiendo lo que eh el Diagnóstico que que ha compartido yamila y también e las cuestiones que nos han traído Fabio y renate en términos de potencialidades y procesos para esta aplicación en este contexto cuando pensamos estas determinaciones o utilizaciones de ya por gobiernos estamos mirando eh haciendo una
mirada amplia en términos de utilización de de estas de este sistemas para servicios de seguridad social seguridad pública en el sistema de justicia y También en automatización de procesos que puedan impactar derechos Como por ejemplo la utilización de las cortes para definir qué decisiones van a fallar o qué casos van a fallar entonces eh Cómo cómo vemos cómo deberíamos ver los estándares en este contexto y es importante tener en cuenta que en la región la gran mayoría de los países de los estados han son parte de la convención americana de Derechos Humanos una buena parte
también es parte del Protocolo de San Salvador y la mayoría también ha reconocido la jurisdicción de la Corte Interamericana de Derechos Humanos entonces eh lo que tenemos de este sistema ya nos nos trae una base importante de dónde deberíamos partir cuando los estados eh Piensan en Cómo impulsar la utilización de esa tecnología para garantizar derechos no porque como decía Renata los estados tienen sí la La la misión de garantizar derechos prestar servicios públicos y muchas veces la utilización de esas tecnologías vienen como una gran solución en este contexto pero sin el el análisis y la
evaluación necesaria a partir de las obligaciones que los estados tienen delante frente a a sus compromisos también con el derecho internacional Nacional de Derechos Humanos y ahí en este sentido eh es importante partir del básico que los estados deben respetar y Garantizar que todas las personas puedan ejercer los derechos libre y plenamente y eso eh entre en en el sistema interamericano se eh subraya la necesidad de organizar el aparato Estatal para esto no con las estructuras adecuadas para la garantía de estos derechos Entonces es importante tener en cuenta de que a junto a la infraestructura
cuando se piensa en utilizar est este sistemas junto a la infraestructura necesaria para para la Utilización de de estos sistemas por el estado debe establecer o existir previamente pero en el caso de América Latina creo que de hecho debe establecerse una infraestructura de protección de los derechos de las personas en el marco de la utilización de estos sistemas y esto quiere decir para nombrar algunos aspectos una infraestructura efectiva y significativa de transparencia y acceso a la información con relación al acceso a Estos derechos con autoridades de supervisión por ejemplo independientes con relación a los a
los a las peticiones de acceso a la información y estructuras adecuadas para la revisión de negativas legislaciones adecuadas de acceso a la información en este contexto un otro punto protección de datos un marco legal estructurado de protección de datos autoridades de protección de datos que tengan competencia para hacer su rol Responsables de protección de datos en los niveles federativos que utilizan los datos de las personas estructura de seguridad de la información y personas capacitadas para garantizarlo la capacitación y experiencia de los equipos y funcionarios de gobierno tratando de estos temas también hacen parte de este
aparato Estatal y claro los mecanismos los espacios y los procesos de monitoreo supervisión pública y participación social para que Sean adecuados y significativos todo es esto toda esta es una infraestructura de protección de derechos que debería venir junto a todo el proceso de implementación eh de este sistemas y esto como decía yamila no lo desafortunadamente no lo vemos en la región o vemos de manera muy puntuales en algunas iniciativas en cuestiones específicas no Entonces esta mentalidad o esta lógica es muy importante que que la tengamos en el sentido de que hace Parte de la de
la eh obligación de respetar y garantizar los derechos del Estado las obligaciones de prevenir investigar sancionar y reparar cualquier violación y principalmente la de prevenir este deber es fundamental y cuando los estados empiezan a implementar esta este sistemas eh las el análisis previo el análisis de impacto el análisis del sistema que van Ah la auditoría de estos sistemas todo este proceso hace parte de del deber de Prevenir la violación de Derechos Humanos e también hace parte de esto El Deber de adoptar las medidas legislativas o otras medidas internas internas que tienen que ver con organizar
el parato Estatal e para dar efecto a las normas de la convención No Entonces cuando hablamos de la importancia de que los Marcos legales garanticen los derechos de las personas en el contexto de la utilización de estos sistemas por el Sector público esto también hace parte del proceso de adaptar sus normativas internas y también desde la parte del judiciario el control de convencionalidad entonces delante hacia o frente a legislaciones o iniciativas o políticas que no estén de acuerdo a los estándares eh de Derechos Humanos que vienen de de nuestro sistema interamericano también eh hace parte
de la actuación del judiciario hacer esta adecuación No Y ahí de manera muy eh Rápida eh es importante como decía yamila eh tener en cuenta que aunque sí la utilización de esas tecnologías y de sistemas también puedan servir a impulsar eh la garantía de determinados derechos y esto a que se verificar en el proceso de análisis de impacto previo también antes de su implementación como esto se da específicamente también con grupos más vulnerabilizados pero también es importante tener en cuenta que su implementación en sí misma implica Restricción o limitaciones de derechos Entonces por esto que
sea el derecho a autodeterminación informativa y a la privacidad no eh entonces por eso también debe seguir los principios y los requisitos de los Derechos Humanos para la restricción y limitación de derechos que pasa por legalidad fin legítimo objetivo legítimo necesidad proporcionalidad y en este sentido e esta investigación que estamos haciendo desde la electronic Frontier foundation Desarrolla este análisis a partir de este test tripartito como es conocido pero también Mira a estándares específicos e y nos enfocamos en eh derechos y estándares relacionados a participación política acceso a la información igualdad y no discriminación debido proceso
autodeterminación derecho a la vida privada y autodeterminación informativa incluyendo autonomía sexual y reproductiva derechos de la familia y y de las niñas esp almente frente a Casos que involucran la separación de las niñas de sus familias liberdad de expresión asociación y reunión y los derechos económicos e sociales y culturales en el marco de la concepción del derecho a una vida digna con más atención a la seguridad social salud y derecho a beneficiarse y participar en el progreso científico y tecnológico entonces seguimos hablando acá pero también los que tengan interés de conocer más sobre esta investigación
Debemos publicarla en septiembre y estoy a dispos para charlar Muchísimas gracias veridiana eh Muy muy interesante y ya estamos ansiosos de ver publicado el paper y leer la investigación e no sé si alguien tiene una pregunta en público si no podemos seguir a una segunda ronda eh Como ya como una mirada más de futuro y de un poco Esto es lo que hoy nos ocupa por decir una forma o lo que hoy deberíamos modificar o para Mejorar eh tal vez ver cómo cómo podríamos hacerlos o los alguno de los expositores eh Qué herramientas podríamos implementar
mismo a nivel regional o a nivel organizaciones en la región para fomentar un mejor uso por parte del Estado de la Inteligencia artificial porque en Argentina por lo menos muchas veces pasa que siempre la revisiones expost Y tal vez por una organización de derechos humanos o ha pasado entonces capaz poder prevenir eso Y evitar el no remendar lo después y no evitar el el daño desde cero gracias Mercedes como yo decía al inicio derechos digitales ha intentado hacer ese tipo de investigación y diagnóstico de modo a informar Las decisiones sobre el tema y hemos llevado
recomendaciones a distintas instancias de discusión sobre lo que se llaman gobernanza global de la Inteligencia artificial que me gustaría compartir algunas de ellas con ustedes no Eem lo primero creo que hemos hablado extensivamente sobre la importancia de que la idea de regular Inteligencia artificial no oculte la importancia crucial de que los países adopten Marcos normativos de protección de datos lo que aún no es una realidad en el contexto latinoamericano no y en nuestro caso nos parece importante pensar que estas leyes tienen que revalidar principios internacionalmente reconocidos como de Legalidad finalidad proporcionalidad minimización y transparencia como
mínimo y con base en nuestras investigaciones considerar que recolectados para fines de políticas públicas no deberían ser automáticamente redirigidos para entrenamiento de Inteligencia artificial Creo que este es un nudo clave cuando pensamos del tema de soberanía digital que nos traía Renata y tenemos que seguir pensando un mecanismo que sea justo y que sea equitativo y protectivo De derechos cuando pensamos este tipo de usos no y creo que las las leyes existentes aú no dan cuenta de ese aspecto el otro yo lo mencioné brevemente la importancia de una par pasión significativa de sociedad civil en los
procesos de toma de decisiones sobre Inteligencia artificial a cualquier nivel nacional regional y global eh otro punto importante también como muy Son puntos muy remarcados en las recomendaciones de UNESCO que que Cumplen un papel clave en informar esa discusión y creo que tenemos también que buscar formas de seguir promoviendo esas recomendaciones en las distintas instancias es la importancia de eh los estudios de impacto en Derechos Humanos a lo largo del ciclo de vida de los sistemas de Inteligencia artificial o sea pensar esas distintas instancias e y en un contexto de desigualdad como mencionaba Renata nos
parece interesante pensar comoo esos estudios de impacto También deberían garantizar que las inversiones que se haga en instrumentos tecnológicos en en herramientas tecnológicas para la entrega de políticas públicas no deberían desviar recursos que son necesarios una infraestructuras aún muy básicas de Salud Educación y varias otras como sabemos que es una realidad en la región que siguen siendo muy precarias no Entonces ese estudio de impacto también como dicen las recomendaciones Interdisciplinario y multi eh abordando los múltiples niveles de afectación a derechos y no solo los llamados derechos eh civiles y políticos no pensar también como los
distintos derechos económicos sociales ambientales pueden ser afectados en ese contexto y quizás ya eh llegando al final algo que me gustaría reforzar en línea con lo que mencionaba también eh la UNESCO sobre ese tema el tema de eh Cómo garantizamos que haya un control Sobre la circulación de estos sistemas que son sistemas que no solo circulan a nivel transfronterizo pero que también son resultado de una cadena de producción eh transnacional Cómo hacer con que hayan criterios entonces la necesidad urgente de que hayan criterios a nivel global que permitan ese análisis de cumplimiento de esos productos
con estándares de derechos humanos y mecanismos de monitoreo supervisión y certificación También a nivel global que puedan auxiliar los estados en garantizar que ciertos sistemas que no cumplan con esos estándares no sean utilizados en particular dentro de la administración pública como yo decía eso ha pasado en la región hemos visto casos en que se contratan proveedores que eh han sido cuestionados por posibles abusos a derechos en otros contextos y sabemos que eso se debe muchas veces al desconocimiento no podemos esperar que Un estado como Brasil pueda tener el conocimiento transversal de cómo se han implementado
sistemas en distintos países del Mundo eso sería imposible inviable para un gobierno específicamente pero pensando en esa arquitectura global nos parece que sería una prioridad pensar cómo operacionalizar esos criterios Y ahí sí dar forma a esos instrumentos de moratoria o prohibición de ciertos sistemas que no cumplen esos estándares Y lo último que quisiera mencionar que nos parece importante también es cómo pensar la cooperación internacional el rol de la cooperación internacional pero no solo como un habilitante de infraestructura que pueda permitir el despliegue de Inteligencia artificial pero también como un garantidor de que sean observados Los
criterios de Derechos Humanos que verdiana mencionaba al inicio Entonces cómo pensar la responsabilidad de los Bancos de desarrollo de los organismos internacionales en ellos también implementar estudios de impacto previo y cumplir con estándares de transparencia participación y rendición de cuenta cuando apoyan este tipo de proyecto en los países eh Muchísimas gracias eh Fabio querías Gracias Mercedes Bueno desde el punto de vista de la UNESCO eh obviamente lo que nos interesa más es seguir adelante con la implementación de La la recomendación eh Para eso estamos involucrados en algunas frentes la la primera es la la creación
de un observatorio de gobernanza y ética en Inteligencia artificial que está en línea entonces invito a todos que visiten nuestra página unesco.org donde hay no solo la la página del observatorio pero también otros contenidos otras publicaciones que pueden acceder eh pero el observatorio La idea es que Tengamos un repositorio con datos de todos los países no solo del del estudio que hablé hace poco del Ram no pero también de la legislación que los países tienen sobre Inteligencia artificial datos bueno estadísticas etcétera Pero la idea es que tenamos un repositorio global donde podemos comparar lo que
los países están haciendo Entonces ese es el primero punto que quería comentar el segundo es Que como decía yamila estamos muy involucrados en traer a bueno los tomadores de decisión para esa discusión lo que es siempre muy difícil no y para nosotros como organización internacional que hacemos la diplomacia en el día a día es siempre complicado Fíjate que la la la recomendación de la UNESCO cuando la construimos algunos países nos pidieron que pusimos en el preámbulo que la recomendación no se se refiere al uso Militar lo que es algo un poco un poco increíble no
eh eso está en el texto justamente lo hacemos para regular eso no vamos a decir exactamente entonces en la recomendación decimos claramente que la recomendación Es sobre el uso civil de la Inteligencia artificial lo que es una lástima no e en ese momento tan distópico que vivimos no eh eh hace poco la la guerra moderna se daba con un un chico en California con Jo stick que pilotaba un drone no pero ahora vivimos En una situación aún más grave no porque tenemos drones que en en poco tiempo serán pilotados de manera Autónoma y tiramos el
el elemento humano de la ecuación y así tenemos la imputabilidad y bueno una serie de que son éticas muy muy muy graves que que que están adelante no el uso de la Inteligencia artificial en la elaboración de armas químicas biológicas y un montón de cosas que sabemos que están aconteciendo ahora pero bueno esa es la realidad eso es lo Que pusimos hacer del punto de del punto de vista diplomático y es parte del juego no Entonces lo lo que hacemos como UNESCO es intentar hacer consensos internacionales conferencias de ministros de países hicimos una en Santiago
año pasado una en eslovenia eh eh vamos a apoyar una ahora en agosto en Colombia de ministros de de bueno de temas involucrados a Inteligencia artificial el 8 y 9 de agosto entonces La idea es Siempre estimular esos encuentros para que tenemos una troca de buenas prácticas no otra frente que también estamos intentando desarrollar es engallar más el sector privado no entonces también creamos un Forum del sector privado no un business council para Inteligencia artificial que tiene como chs Microsoft telefónica Estuvieron muy presentes en nuestro encuentro que hicimos sobre ética e Inteligencia artificial en eslovenia
fueron Signatarios también así como Google y otras compañías para que puedan también participar más activamente de esa discusión eh yo me recuerdo que cuando lanzamos un informe que fue muy popular hace algunos años sobre las asistentes virtuales que se llamaba bl que era la respuesta padrón de de Siri no cuando la Bueno cuando hacíamos una pregunta muy muy indelicada no eh y nuestro Informe en la época mostraba eso todas las asistentes virtuales cill le etcétera En su mayoría tenían voces femininas tenían respuestas muy sumisas etcétera no Y eso es lo que estamos defendiendo en la
UNESCO que tengamos más diversidad en la Inteligencia artificial que tenemos más pluralidad que tenemos más Ah bueno que reflejamos más lo que la sociedad oferece desde el punto de vista cultural más acentos no que no sea Solamente el inglés la lengua flanca de de de de la Inteligencia artificial Entonces eso es lo que queremos bueno sensibilizar las grandes Big Tex no y me acuerdo que en esa época inmediatamente nos llamó Google No yo incluso no sabía que había un un officer en Google no y nos llamó porque se quedó muy preocupado con el movimiento que
en la época lanzamos que se llamaba update my voice no que fue un movimiento muy Mediático también para que las bigtech pudieran cambiar sus asistentes virtuales no entonces Esta es otra frente no el business council que estamos intentando implementar Y por último un Forum de mujeres no hablé bastante de género Entonces es importante también que tengamos más mujeres en ese liderazgo entonces creamos también un grupo que se llama for Ai eh que es un grupo de expertas en Ai que se reúnen periódicamente que Están haciendo un poco ese rol de advocacy del punto de vista
internacional y quizás puedan también bueno sensibilizar otros países para que tengamos más mujeres en cargos de lideran de de de de de de gestión porque eso es lo que falta en la en el business ya no tenemos muchos hombres infelizmente hay una simetría muy grande entonces es lo que estamos intentando hacer Mercedes Gracias Perfecto muchísimas gracias Fabio Renata si quieres comentar algo Mercedes gracias yo empecé hablando del carácter estratégico de haceros inversiones En infraestructuras soberanas porque yo creo y lo creemos en el gobierno brasileño que un primer paso para garantizar los derechos es tener control
sobre todo el ciclo de vida de las herramientas de ya el uso de soluciones de ya ya preparadas en otros países del Norte para el sur eh reduce muchísimo nuestra capacidad de garantizar derechos esto es una cosa pero también estamos eh También tenemos la preocupación e este es otra de la afición de Brasil e otro de lo de la de nuestra abordaje en g20 es necesario decir que nuestro knowledge Partner parcero de conocimiento es UNESCO en nuestro ejo eje de Inteligencia artificial eh otra dimensión que que estamos trabajando en este momento Son como la necesidad
de que los sistemas de ia que son utilizados por el por los gobiernos en sus políticas públicas en sus servicios públicos sean diseñados de forma ética desde la concepción desarrollo entrenamiento implicación implementación a partir de parámetros de privacidad seguridad con mecanismos de explicaba para garantizar el respeto a los derechos fundamentales de todos como ya dice acá veridiana jamila en este sentido nosotros Consideramos por tanto que eh es muy importante que además de todo esto eh tengamos una mirada muy particular para los conjuntos de de datos que son utilizados e para el entrenamiento de este sistemas
y que est datas setes reflejen la nuestra diversidad en caso de Brasil pero en caso de los otros países su diversidad cultural lingüística Social para que esto también tenga como una consecuencia la reducción de los eh riesgos que pueden eh generar Este sistemas eh pero eh También estamos indicando en la discusión eh del g20 y y y en todos los debates que eh estamos haciendo acerca de la utilización de ya en los servicios públicos que es necesario tener mucha responsabilidad principalmente por parte del poder público sobre eh este uso para debe estar orientado a la
inclusión e mejora de la prestación de los servicios a la población eh o lo que exige mecanismos Adecuados de privacidad protección de los ciudadanos para garantizar que eh est sistemas no generen nuevos nuevas disparidades riscosos en agrave las existentes eh pero eh nuevamente quiero puntuar que reconocemos que hay una variedad de aplicaciones que pueden ofrecer oportunidades para mejorar los tipo la calidad la cantidad de servicios que son disponibles a los ciudadanos que sí Puede reducir costos organizacionales apoyar la personalización de servicios centrados en el usuario ayudar a reducir las asimetrías Eh entonces eh tenemos que
cuidar para que estos sistemas eh eh cumplan con estos objetivos entonces en términos del g20 estamos desarrollando el mapa de adopción DEA para la mejora de los servicios públicos teniendo cuenta la oportunidad los desafíos de caminos para Hacer eh eh medir su adopción en en los Estados eh Para eh que tengamos soluciones eh públicas alimentadas por ia eh que garantizan por tanto la equidad eh que sean sistemas con transparencia como ya eh eh como veridiana jamila y también Fabio ya dicieron acá que sean transparentes explicables la importancia de las de que haya supervisión humana sobre
las decisiones y sobre este servicios para Que la población eh pueda garantizar eh la risión de decisiones tener más inform informaciones claras sobre eh estos procesos automatizados eh existen en términos actuales muchas iniciativas para analizar y mitigar el impacto de ya También estamos preocupados con los grupos minoritarios em marginados de la sociedad es necesario asegurar que los beneficios se distribuyan de forma Equitativa y esto incluye eh la necesidad del fomento de la investigación y desarrollo sobre una ya responsable y ética y también Marcos regulatorios que estan basados en equidad transparencia privacidad inclusión y es también
muy importante algo que no no no profundizamos acá en nuestra conversa la necesidad de medidas de proyectos para de literacia digital para que eh tanto los servidores públicos que están Trabajando con los las soluciones de ap pero también para que la población tenga conocimiento y y desarrolla habilidades para saber interactuar con estos servicios e hacer las demandas necesarias eh También tengo mucho mucha mucho acuerdo con que veridiana y yamila yon acá que eh para que podamos garantizar la seguridad y ID de los sistemas utilizados en políticas públicas es muy importante que este sistema se prue
en Entornos controlados e o proyectos pilotos para evaluar su eficacia confiabilidad su impacto social antes de una implementación más amplia es importante que los gobiernos puedan identificar los riesgos eh previamente riesgos potenciales eh perfeccionar los algoritmos evaluar las implicaciones prácticas eh de de integrar la ya a determinados servicios públicos incluso tomar las decisiones de que algunos servicios no tengue no no no No no necesitan la i para ser emprestados e como el caso por ejemplo de Qui sabe la discusión en torno de la identificación facial utilizando eh herramientas de Inteligencia artificial o la cuestión gravísima
del uso de armas embarcadas con Inteligencia artificial por tanto es muy importante que se combinen las estrategias de innovación de supervisión regulatoria para que Haga puedan de facto mejorar la prestación de servicios impactar positivamente la población al mismo tiempo que haga una protección contra riesgos prejuicios viol iones y resultados que no son deseables eh es esto Muchas gracias Muchísimas gracias Renata ver rápidamente para intentar también e hablar con la con las personas que están noos siguiendo si tienen alguna cuestión o comentario pero solo dos comentarios Importantes como decía yamila de que la discusión en torno
de La regulación de Inteligencia artificial no debe no no deben noos hacer olvidar de la importancia de los marcos de protección de datos personales en la región Y yo subrayo que también en el caso de estas excepciones no como decía eh con el ejemplo de Fabio eh los marcos de protección de datos en la región están llenas de ella con relación a seguridad pública inteligencia Y lo que sea Entonces aunque los países que lo tengan que tengan estos Marcos muchas veces estos Marcos no se aplican en estos contextos que son justamente los más sensibles o
no los más pero son muy sensibles también e y para comentar Ya que estamos hablando de estándares interamericanos e la reciente decisión del caso kajar versus Colombia lo hace justo el contrario de aplicar estos estándares de privacidad autodeterminación informativa lo que sea En el contexto de inteligencia Y los países de la región deberían mirar a esto con mucha atención entonces en términos de mirar hacia el futuro y y recomendaciones para lidiar con este escenario yo creo que es muy importante subrayar como los principios básicos de cualquier iniciativa de los sectores públicos en la en el
despliegue de est sistemas es lo que puede ser obvio más que es importante recordar el principio básico número uno es que el estado es el Garante de los derechos y responsable de su promoción y protección y el segundo es de que las personas y los grupos sociales son titulares de los derechos con capacidad y derecho de exigir sus derechos y de participar en la toma de decisiones públicas esto puede parecer mu muy obvio pero no se ve eh garantizado en la práctica eh por por un lado los estados deberían en la implementación de este sistema
tener como su brújula la garantía y protección Derechos humanos y por otro lado el hecho de que las personas tienen el derecho de demandar sus derechos y de participar conlleva garantías y salvaguardias delante hacia los funcionarios públicos y deberían tenerlo en cuenta en el momento de prestar esos servicios incluso cuando esto pasa a ser un criterio o parte de una política de asistencia social de administración de la justicia Eh muchas veces vemos que Sirven a la violación de derechos y no a la garantía de derechos esto también esta capacidad de las personas de demandar sus
derechos y participar incluyen su capacidad de impugnar decisiones qu o limiten arbitrariamente sus derechos pero no necesariamente tenemos el acceso a la justicia y los mecanismos de revisión que deberíamos tener para hacer esto factible e y también claro eh su derecho de participar en este proceso de Implementación en la evaluación en el análisis del Estado sobre sé primero implementar y después si hace sentido hacerlo Cómo implementar cómo implementarlo e y es muy importante decir que este conjunto esta combinación de principios remarca que los estados son responsables y deben rendir cuentas por sus decisiones que afectan
los Derechos Humanos al implementar estos sistemas aunque los desarrolladores de estos Sistemas sean terceras partes pero la decisión de implementar estos sistemas es una decisión de política pública o de una iniciativa Estatal y los Estados responden y deben rendir cuentas por esto claro también los tradores y proveedores de sistema de ya deben diseñar sus sistemas y hacer Las evaluaciones y tener las responsabilidades que les caben en ese sentido Pero el hecho de que los desolladores son terceras personas no Quitan la responsabilidad de los estados de prevenir la violación derechos humanos y después en los casos
que ocurran remediarlos me parece muy importante remarcar lo que ha dicho jamila y también el proceso de la UNESCO en términos de evaluación de impacto como las preguntas fundamentales que se deben hacer al inicio Al momento de pensar si es el caso de integrar est sistemas en alguna política o iniciativa Estatal y No naturalizar que serán siempre interesantes o serán siempre benéficas no eh Y esto pasa por saber eh Cuáles son las restricciones de derechos y si tenemos Marcos legales para para eh abordarlas Pasa por saber si tenemos información suficiente para eh pensar un sistema
automatizado que que lid con las que que haga la toma automatizada de decisiones con base en informaciones que existen en en la realidad Cómo est sistema va a interactuar con el contexto Social de implementación en términos de grupos afectados en términos de grupos que merecen una atención especial como los funcionarios los servidores públicos o los agentes humanos de operaciónes supervisión van a interactuar con este sistema y con las decisiones que salgan de él todo esto es importante que sea evaluado mapeado y y en en una en una en una evaluación de si implementar o no
y y todo esto tiene que ver con un análisis de si es adecuado necesario y Proporcional implementar est sistemas y después claro después de su implementación todo en todo el ciclo de vida eh de monitoreo y de evaluación de impactos tener en cuenta estos estándares y ahí en este sentido Me parece muy importante remarcar lo que decía yamila en términos del rol de la cooperación internacional en este marco específicamente también en el marco de de eh de la transformación digital de los Gobiernos de América Latina no de que e este rol venga no solo con
la preocupación del despliegue de estos sistemas pero de la garantía de derechos en el marco del despliegue de estos sistemas cuando Esto hace sentido no Y en este sentido me parece que el trabajo que UNESCO viene haciendo es es muy importante en remarcar la el el la la garantía de Derechos Humanos en este contexto y ahí bueno también hacer una petición acá no sé si es el caso pero de La misma manera que hay el Foro de las impresas creo que debería haber algo también con relación a la sociedad civil para hacer el seguimiento de
este proceso y Bueno pero por acá creo que ya pasamos demasiado de nuestro Muchísimas gracias gracias veridiana no s creo que ya estamos un poco con el tiempo cumplido pero si alguien le queda alguna duda o alguna pregunta sí eh yo creo que podemos Una preguntita rápida no bueno disculpas podemos conversar después y Muchísimas gracias por venir Muchísimas gracias a los expositores y espero que lo hayan disfrutado gracias i
