I Encuentros Internacionales de Bioética - IA, discapacidad y Bioética.

Bueno, buenas tardes a los que estáis aquí, que sois los menos porque tenemos 100 personas inscritas que van a estar online desde Argentina y alguno desde Estados Unidos. Os doy la bienvenida a la sede de la Fundación Jegom Legenden. ¿Alguno de vosotros sois habituales de nuestras conversaciones de bioética? Y y quería en primer lugar agradecer a los tres ponentes, al profesor Rafael Amo y a quienes se van a conectar más tarde, El profesor Leonardo Pucheta y el profesor Michael Bagot, por haber accedido inmediatamente, casi a vuelta de correo, a participar en estos encuentros internacionales de

bioética que van a tener por objeto el análisis de el cruce que hay entre la inteligencia artificial y sus aplicaciones al mundo de la genética, pero no solo, eh, poniendo el foco especialmente en la discapacidad. Como sabéis, nuestro grupo internacional Yomleen, que tiene sedes en París, aquí en Madrid, en Córdoba y en Estados Unidos, eh se dedica al cuidado, la investigación y la defensa de las personas con discapacidad intelectual con base genética. Luego nuestro foco no va a ser hablar de inteligencia artificial en términos generales, sino ponerlo en particular desde eh poner por objeto eh

a la persona con discapacidad en cualquier estadio de su existencia y desde la perspectiva de la bioética y el Derecho. Eso es lo que vamos a hacer. En primer lugar, os quiero presentar al primer ponente para no retrasar más el comienzo. Eh, tenemos el gusto y el placer de tener a una de las personas que creo que más ha trabajado o al menos desde hace más tiempo, lo comentábamos antes, el tema de la inteligencia artificial y la bioética. El profesor Rafael Amusanos es director de la cátedra de bioética de la Universidad Pontificia de Comillas desde

El año 2019, profesor propio adjunto de la Facultad de Teología de la Universidad Pontificia de Comillas. Doctor en sagrada teología y doctor en filosofía por la Universidad Rey Juan Carlos en el programa de bioética y Biojurídica. Eh, doctor en sa teología decía y en filosofía y autor de numerosas publicaciones, entre ellos dos libros recientes, Inteligencia artificial y bioética e identidad y bioética, eh si No me equivoco. Eh eh, más o menos, sí, es que la de inteligencia artificial a veces más. Bueno, pues discúlpame si me he equivocado en el segundo título y me ha dicho

que están preparando otro que está en el horno que va a salir. Rafael, muchísimas gracias por estar aquí con nosotros. Tienes la palabra para hablarnos de discapacidad en la era de la inteligencia artificial, desafíos éticos y sociales. Bueno, pues en primer lugar eh eh muchas gracias por la invitación. Siempre es un placer venir aquí. Por eso eh por eso siempre casi a vuelta de correo suelo suelo responder a las invitaciones porque siempre es un reto también intelectual. los temas que planteáis siempre supone que nosotros también tenemos que que seguir pensando. Y bueno, eh con este

título de La discapacidad en la era de la inteligencia artificial, desafos Desafíos épicos y sociales, pues intentaré abordar un poco la cuestión que me planteáis. No sé si esto. Ah, pues tampoco. A ver si es que no está encendido, ¿eh? A ver si Ah, sí, no hacia abajo, perendido. Bueno, mientras se arreglan estos problemas del directo, eh la tesis más o menos que que yo quiero Mantener en esta en esta tarde es esta, que la inteligencia artificial eh transforma las técnicas diagnósticas con una tendencia a la estandarización, lo que genera problemas bioéticos que afectan a

la justicia y a la dignidad. Digamos que esta es un poco la tesis final de lo que quiero de lo que quiero decir. Y es que, como veremos, y ya voy adelantando un poco los acontecimientos, el la inteligencia artificial, tal y como funciona, la que conocemos, la que Manejamos, que es la subsimbólica, e tiene un fenómeno que es que estandariza, tiende a estandarizar todo lo todo aquello que toca. Y si hay algo contrario al respecto al respeto ético de la discapacidad es la eh la estandarización. Eh porque la discapacidad siempre es eh la singularidad, siempre

es una singularidad, siempre es una originalidad, ¿no? E el discapacitado precisamente por el prefijo dis, Es original, eh que la inteligencia artificial tiende a estandarizar las cosas. corremos el riesgo al usar estas herramientas de olvidarnos de los discapacitados o de dejar o de tratarlos injustamente. Entonces, esta es un poco la tesis final que yo querría sostener en toda en toda esta intervención que quería hacer. Pues me ahora no sé si he sido yo. Bueno, e lo que voy a tratar entonces va a ser en este en este orden. Voy a hacer Un pequeño repaso a

las aplicaciones de la inteligencia artificial en diagnóstico genético. Eh, voy a explicar qué es esto de la estandarización y cómo la inteligencia artificial tiende a estandarizar las cosas con la consiguiente, problema social y problema ético. y haré una referencia a la bioética de la estandarización, a los dos principios bioéticos que se ven más afectados por este por este hecho, que Son la justicia y la dignidad. Bien, así las cosas. Eh, en primer lugar, como digo, ¿qué aplicaciones de la inteligencia artificial en diagnóstico genético y preimplantatorio prenatal existen? y es concreto sobre discapacidad y qué impactos

podría tener sobre la discapacidad intelectual y la discapacidad física. Em, la inteligencia artificial, como digo, está transformando también, entre otras Muchas cosas, como digo, transforma todo lo que toca, transforma el diagnóstico genético, el del la implantación y el prenatal, pero no como una técnica aislada, no es que exista una aplicación de inteligencia artificial que eh digamos transforma el diagnóstico genético, sino que es una infraestructura transversal. que afecta en todo el proceso clínico, desde la obtención de los datos hasta la decisión médica. En concreto, La inteligencia artificial, las aplicaciones de inteligencia artificial en el diagnóstico genético

eh preimplantatori y prenatal eh pueden garantizar, pueden ayudar eh pueden colaborar, porque a veces no ayudan, colaborar a que los datos que se obtengan sean fiables, puede ayudar a detectar las anomalías, puede interpretar su significado clínico y puede, en último lugar, contribuir a la decisión médica. Este, digamos, son los cuatro eh las cuatro momentos del diagnóstico genético, preimplantatorio y prenatal, donde la inteligencia artificial puede y de hecho interviene con distintas aplicaciones. En primer lugar, como digo, la inteligencia artificial nos ayuda a saber si los datos que tenemos en un diagnóstico son fiables. mejora al actuar

antes del diagnóstico mejora la señal y el control de la Calidad, asegurando que la información biológica sea interpretable. estas tecnologías eh del ADN fetal en en sangre materna, el diagnóstico genético no invasivo o las técnicas genómicas. Eh, estas tecnologías, digo, usan, pueden usar tecnología de inteligencia artificial para mejorar el diagnóstico genético. El ADN en sangre materna puede la en él, en ese proceso, la inteligencia artificial ayuda a saber si la cantidad De ADN del bebé en la sangre de la madre es suficiente, evitando así resultados poco fiables. Eh, el diagnóstico genético no invasivo separa el

ADN del embrión del de la madre. reduciendo errores en el diagnóstico. Y ya en la genómica, herramientas como Deep Variant identifican mejor las mutaciones reales. Así, en conjunto, la inteligencia artificial no decide por sí sola, pero mejora la precisión y puede orientar las Decisiones clínicas como para repetir pruebas para usar otras pruebas más seguras. El segundo momento del proceso donde la inteligencia artificial puede intervenir en el diagnóstico genético preimplantatorio, prenatal, es en si existe en la detección de de elementos anormales, es decir, la detección y clasificación de anomalías. La inteligencia artificial actúa entonces como sistema

de reconocimiento de Patrones, que es lo que mejor sabe hacer. identifica anomalías y clasifica su tipo. Estas aplicaciones como la ecografía fetal, o sea, la ecografía fetal ayudada de inteligencia artificial, eh otras pueden ayudar, como digo, a los médicos a detectar problemas antes del nacimiento. En la ecografía fetal, sistemas como Sononet identifican automáticamente las imágenes importantes y pueden señalar posibles anomalías Mejorando la capacidad diagnóstica. El NIT con inteligencia artificial utiliza datos genéticos para detectar trisomías, síndrome de Down, con mayor precisión. Y el el la PGT basado en imagen, la inteligencia artificial estudia la forma del

embrión y estima sus posibilidades de desarrollo. En el conjunto, estas pruebas no sustituyen al médico, pero aumentan fiabilidad y apoyan la toma de decisiones clínicas. En un tercer momento del proceso, eh la inteligencia puede artificial puede ayudar a saber si estos datos son relevantes para el paciente. Es el nivel más crítico porque es donde pasamos del nivel de los datos al nivel del significado clínico de los datos. ¿Y qué puede hacer la inteligencia artificial? pues prioriza variantes genéticas, estima la patogenicidad y relaciona genotipo con fenotipo. Estas herramientas Ayudan a interpretar mejor la información genética. En

el análisis de variantes, sistemas como Rebel o Sply estiman si una mutación puede causar una enfermedad. En las variaciones estructurales, modelos como XCNV señalan cuáles podrían estar relacionados con la discapacidad intelectual y además la inteligencia artificial puede combinar síntomas del paciente con datos genéticos para sugerir diagnósticos más probables. En conjunto, como antes, estas tecnologías no sustituyen al especialista, pero facilitan la interpretación de datos complejos y mejoran la precisión del diagnóstico. Y en último lugar, en cuarto lugar, en este proceso de de aplicación de inteligencia artificial en herramientas para el diagnóstico de de inteligencia artificial, encontramos

la estandarización de informes y la decisión y decisiones. La Inteligencia artificial interviene en la fase final, en la comunicación y en la decisión clínica. Y es aquí donde vamos a encontrar el mayor de los problemas o el primer problema hacia el camino de la estandarización. Estas herramientas utilizan inteligencia artificial para apoyar al médico en la interpretación y en la toma de decisiones. En la clasificación de variantes como sistemas como auto CNV ayudan a determinar si una alteración genética es patológica, Incierta o benigna. En los informes clínicos, la inteligencia artificial traduce resultados complejos a un lenguaje

más comprensible para profesionales y pacientes. Y además, los sistemas de soporte a la decisión clínica sugieren acciones como repetir una prueba, realizar amnocentesis o seleccionar un embrión. En conjunto, la IA no decide, pero mejora la claridad, la eficiencia y la orientación clínica. Y es aquí donde está y donde empieza el primer problema o el problema hacia la estandarización, el primer paso hacia la estandarización en los usos de inteligencia artificial en estas pruebas diagnósticas, porque la inteligencia artificial aquí ya está estructurando, ya está clasificando, ya está comunicando además una clasificación. Por tanto, no se limita a

ofrecer una información neutra, sino que configura activamente el marco en el que se toman Las decisiones clínicas y personales. Como hemos visto, interviene en varios niveles. Filad, corrige sesgos técnicos, prioriza variantes genéticas, sugiere diagnósticos probables mediante la integración fenotípica y, finalmente, orienta acciones concretas a través de sistemas de soporte a la decisión clínica. Este encadenamiento genera una arquitectura de decisión en que en el Que las opciones disponibles ya no vienen preseleccionadas, jerarquizadas y dotadas de un determinado grado de plausibilidad estadística. De este modo, aunque la formalmente la decisión siga cayendo en el clínico o en

los progenitores, en la práctica queda mediada por las recomendaciones algorítmicas que delimitan el campo de lo razonable. La inteligencia artificial no impone, pero inclina, no decide, pero Condiciona. En contextos altamente sensibles como la detección de anomalías vinculadas a la discapacidad, esta influencia adquiere un peso ético significativo porque puede traducirse en decisiones que eh van que van inclinándose, digamos, hacia la priorización de lo que se considera estándar, de lo que se considera normal. Y ahí hemos llegado al al kit de la cuestión, al kit al que yo querría eh Dedicarme este tiempo, porque en el fondo,

como digo, lo que ocurre con estas eh aplicaciones de inteligencia artificial es que tienden a estandarizar, tienden a considerarlo todo de una determinada manera que consideran normal, la probabilidad estadística más alta. Estandarizar significa eh establecer criterios homogéneos para evaluar situaciones diferentes. Y en muchos ámbitos la estandarización es muy Positiva porque reduce errores, aumenta la reproductibilidad, facilita la comparación entre casos, permite decisiones consistentes. Por eso la eh la estandarización ha sido considerada siempre como buena. Y es que la inteligencia artificial que manejamos funciona así, funciona con la estandarización. Voy ahora a intentar explicar cómo funciona un

poquito la inteligencia artificial subsimbólica, que es la que Usamos. Y voy a poner un ejemplo de estandarización para que esto sea un poco más sencillo de comprender, porque hasta ahora ha podido parecer complicado, pero eh si hablando de estandarización, si hay algo que no se estandariza es Spotify. Los gustos musicales de Spotify al fin y al cabo están nos está estandarizando hacia lo mismo. Y lo pondré el ejemplo ahora. Y eso mismo que se hace, que hace Spotify con nuestros gustos musicales es Lo que han podido hacer estas aplicaciones o lo que pueden hacer estas

aplicaciones hacia la el hacia el diagnóstico genético preimplantatorio y prenatal que tienden a estandarizar, que es todo lo contrario de lo que es el respeto a la discapacidad. Esta es la clave última de pensamiento filosófico y bioético que yo querría desarrollar hoy aquí. La que manejamos actualmente o la que tenemos en el chat GPT que todos tenemos O en Copiloto, en el resto de aplicaciones es, digamos, eh la IA que llamamos subsimbólica. ¿Cómo funciona la IA subsimbólica? La IA subsimbólica funciona de abajo a arriba, es decir, necesita muchísimos datos para buscar patrones. la inteligencia artificial.

En el fondo, cuando se empieza a hablar de inteligencia artificial por los años 50 con el test de Turing, lo que se intenta es, digamos, Crear sistemas artificiales, sistemasicos que sean capaces de imitar la mente humana. En un primer momento se pensó que la mente humana funcionaba como funcionaba la lógica aquella que aprendimos todos en el bachillerato. Si P, entonces Q, si Q entonces R, con una serie de normas e intentaron introducirlas en un sistemas informáticos y se dieron de bruces con la realidad Porque esos sistemas informáticos acabaron por no funcionar porque la realidad es

reductible a fórmulas IP. Entonces, Q y como no es reductible, pues no funcionó. En el único ámbito que funcionó fue en el ajedrez, el Deep Blue que ganó a Casparov. Eh, ¿por qué? Porque la ajedrez sí que es pura lógica y sí que es reductible a normas a lógicas, pero la realidad no es no es así. La realidad no funcionamos siempre con normas lógicas y se Desarrollaron sistemas de inteligencia artificial que se han dado en llamar subsimbólicos, que funcionan precisamente al revés, es decir, buscando eh datos singulares y buscando patrones comunes en datos singulares. Se

había intentado al principio, pero esto no funcionaba bien. empezó a funcionar bien en el momento en el que hubo miles de millones de datos que permiten a la inteligencia artificial manejar, buscar esos patrones. Por eso el big Data es el dato previo y necesario para poder acceder a esta subsimbólica. Cuantos más datos tenga, más patrones comunes busca y más eh eh y mejor funciona. Los sistemas de lenguaje que ahora manejamos, los LLM, CH GPT que hablas con él y parece que mantiene un lenguaje natural, él no sabe lo que está diciendo. solo maneja sintaxis, solo

maneja patrones, no maneja ni semántica ni pragmática. Es decir, aunque nos parezca que nos entiende y dice cosas Coherentes, lo único que hace es buscar los patrones de lenguaje más comunes, un poco más complicado con los pesos de las palabras, pero lo más parecido a cómo funciona una y subsimbólica es el predictor de texto de WhatsApp, que tú le pones una palabra y predice cuál va a ser la siguiente. ¿Por qué? Porque en los miles de millones de datos que maneja, detrás de la palabra casa suele venir la palabra blanca. Entonces, te va a sugerir

blanca. Y así funciona con más O menos peso los sistemas de lenguaje. Pero como podéis empezar a deducir, esos modelos estadísticos de referencia son modelos que buscan la estandarización, que buscan lo estándar, que buscan patrones promedio de comportamiento y clasifica las hace clasificaciones buscando siempre la estandarización. Por eso, eh, para la inteligencia artificial, la normalidad, la normalidad es lo estadísticamente más Probable. Lo normal, lo estándar, es lo estadísticamente más probable y por eso se entiende como la inteligencia artificial tiende siempre a buscar esos patrones de estandarización y a buscar la lo normal, lo estándar. Esto

eh lo podemos poner con un ejemplo muy claro que son los algoritmos de recomendación. Eh, los algoritmos de recomendación y estandarización cultural. Os ponía el ejemplo de las plataformas musicales. Las plataformas de música, Spotify, entre otras, usan IA para recomendarnos canciones. ¿Y qué ocurre? que nos van a recomendar lo más probable dentro de nuestro campo. Van a tender a homogeneizar nuestros gustos y a modelizar los gustos musicales. Analizan, por ejemplo, grandes cantidades de datos, miles de canciones escuchadas, la duración de la escucha, Las listas creadas, el comportamiento de los usuarios. si te pone una canción

y la pasas o si te pone una canción y la escuchas hasta el final y detecta detecta patrones estadísticos de preferencia y te va a recomendar entonces la siguiente canción te va a recomendar la más probable que te vaya a gustar conforme a tus actuaciones y a la de miles de personas que han actuado como tú. La consecuencia es que las Recomendaciones tienden a concentrarse a artistas populares, a estilos dominantes, a canciones con más engagament. Esto produce una convergencia progresiva de los gustos musicales. Y el Creo que me he pasado, sí, te ha pasado. Bueno,

y el resultado cultural es que se reduce la diversidad musical explorada. Se refuerzan las tendencias culturales, se crean burbujas. Si los algoritmos tienden a estandarizar algo tan personal como los gustos musicales, es razonable pensar que también pueden estandarizar la forma en que evaluamos las capacidades humanas, la salud y la discapacidad. Por eso los algoritmos no solo predicen lo que te gusta, terminan influyendo en lo que acabamos acabamos escuchando. Por es un algoritmo de recomendación, los algoritmos pueden ser algoritmos de recomendación o algoritmos de decisión Cuando están automatizados y los sistemas de de decisión, por ejemplo,

un dron autónomo, ¿vale? Aunque práctic en Europa prácticamente no tenemos porque están prohibidos en casi todos los sistemas, ¿no? Pero y lo que manejar normalmente manejamos son algoritmos de recomendación, ¿vale? Esos algoritmos de recomendación en el fondo dejan tienen un punto más, no solo recomiendan, sino que estandarizan, influyen lo que acabas escuchando, porque te van limitando tu Campo epistemológico. En la música es como se más se ve. No te recomiendan solo música, te acaban recomendando solo la música más estandarizada, más común. Claro. Esto eh eh ¿qué va a hacer? va a provocar que se, digamos,

que se acentúe algo que ya veníamos ya venía ocurriendo en la medicina moderna. La medicina moderna basada en la evidencia ya había producido o introducido normas de Estandarización, las guías clínicas, los protocolos diagnósticos, las escalas de evaluación, los criterios de clasificación, ya son estandarizaciones por defecto. Eh, ¿para qué? para reducir la variabilidad entre profesionales. Por tanto, la inteligencia artificial, digamos que no inventa ese proceso, pero lo intensifica y lo automatiza porque no lo que ocurre, y eso es lo importante, lo que va haciendo es que te Va limitando tu campo de visión. Te va limitando

tu campo de visión, te va eh estandarizando todo. Hm. Eh, ¿qué ocurre cuando la entra la discapacidad? Creo que pasa otra vez dos, ¿no? Para e por tanto, uno de los ámbitos donde esta transformación es más visible es en la evaluación de las capacidades humanas. Hoy se utilizan sistemas digitales para analizar movimientos corporales, funciones Cognitivas, el lenguaje, la interacción social, la autonomía en actividades cotidianas. Y estas herramientas producen medidas comparables entre individuos. ¿Para qué? Para estandarizar. Para estandarizar. ¿Y qué ocurre entonces con la discapacidad? La discapacidad en sistemas de evaluación estandarizados eh aparece la la

discapacidad en estos Sistemas aparece como una desviación respecto al patrón medio de funcionamiento humano. Como digo, esto no es nuevo. Las escalas clínicas ya funcionaban así, pero lo que ocurre es que amplía este proceso porque lo amplía utilizando más grandes de datos, más bases más grandes de datos, automatizando la comparación, produciendo clasificaciones más eh sistematizadas. Pero Vuelvo a repetir, no solo estandariza así, sino que va limitando la posibilidad de que veamos la la la singularidad, lo distinto, lo dis y va unificándonos simple y llanamente a ver solo lo normal. La discapacidad desaparece, desaparece de los

patrones, desaparece de la medición. La tendencia a la estandarización que introduce cualquier la inteligencia artificial adquiere una especial Densidad ética cuando se aplica al campo de la discapacidad. Las tecnologías que hemos analizado desde el PGT hasta las sistemas de apoyo diagnóstico clínico operan sobre grandes volúmenes de datos con el objetivo de identificar patrones, optimizar decisiones y reducir la incertidumbre. Sin embargo, en ese mismo proceso tiende a consolidar modelos normativos implícitos, desde lo que cuenta como salud, como normalidad, como vida Deseable, anclados en regularidades estadísticas y no en la singularidad de las trayectorias humanas. En el

caso de eh condiciones como el síndrome de Down, esta lógica se hace particularmente visible. La mejora en la capacidad de detección precoz potenciada por la inteligencia artificial no es neutral, sino que inserta en círculos en circuitos de decisión que se inserta, perdón, en circuitos de decisión que pueden favorecer dinámicas de selección, Anticipación o evitación. Así, la estandarización no solo afecta a los datos, sino a las expectativas sociales sobre la vida con discapacidad. refuerza así una visión reductiva en la que la diversidad funcional se interpreta prioritariamente como desviación de un patrón. El riesgo, por tanto, no

reside únicamente en posibles errores técnicos, falsos positivos, sesgos de datos, opacidad algorítmica sin una Transformación más profunda. progresiva sustitución del juicio prudencial por sistemas de clasificación automatizados que cuando van ganando autoridad pueden estrechar el marco de lo pensable y de lo aceptable porque van estrechando el marco de la normalidad y van excluyendo cada vez más la diferencia. La personalización que promete la inteligencia artificial es simplemente una personalización dentro del sistema. Dentro del sistema. Desde una Perspectiva ética y social, el desafío consiste en evitar precisamente esa deriva de la estandarización de la vida humana, sobre todo

en contextos de vulnerabilidad. Esta es la verdadera cuestión que yo querría eh tratar hoy, tratar hoy aquí, tratar hoy aquí el riesgo de la normalización eh tecnológica, ¿vale? Una estandarización puede generar y de hecho genera eh una presión cultural hacia la Normalización funcional. Cuando las capacidades humanas se miden constantemente aumenta la comparación entre entre individuos, se refuerza el ideal del rendimiento y las desviaciones pueden percibirse como fallos que deben corregirse. Y esto, sin duda, influye en la manera en la que la sociedad percibe percibe la discapacidad. Es algo que se sale del sistema. La discapacidad

es un algo que se sale de los patrones y con la inteligencia Artificial lo que puede pasar es que llegue a no verse siquiera, no ya que la discrimines, que podría darse, sino que simplemente desaparece porque la inteligencia artificial no la encuentra. no la encuentra porque solo busca el patrón, no busca la diferencia, no busca lo distinto. Y es y este es el verdadero kit de la cuestión, el el el problema, digamos, tecnológico que se transforma en un Problema, en un reto social y en un reto ético. Y eso es lo que vamos a intentar

desarrollar ahora, que son los riesgos éticos y los riesgos, perdón, los riesgos sociales y los riesgos éticos del uso de estas aplicaciones de inteligencia artificial aplicada al diagnóstico. Vamos a empezar por la justicia, por el principio de justicia. Decía el piano la versión clásica, que la justicia es la Constante, perpetua voluntad y perpetua, perdón, la constante y perpetua voluntad de conceder a cada uno su derecho. A cada uno su derecho. E la estandarización puede mejorar la gestión, pero solo hay justicia cuando la decisión reconoce la dignidad y la singularidad del cada individuo. a cada uno

su derecho, no a no al patrón estadístico, a cada uno. Por eso la IA tiende a Cargar a tratar casos como instancias, como como instancias de categorías. Sin embargo, la justicia trata a las personas en la irreductible, o sea, irreductibles a una categoría. Una persona no entra dentro de un patrón o no debería entrar dentro de un patrón. Por eso se puede confundir la eficiencia algorítmica con la justicia. La inteligencia artificial es muy eficiente, pero no tiene no es necesariamente justa. Hm. Porque Precisamente como no eh intervengas sobre ella y le dejes actuar, va a

tender a estandarizar, va a tender a lo común, no a la singularidad. Em, la IA clasifica patrones estadísticos, optimiza decisiones en función de lo frecuente y lo predect y tiende a homogeneizar. Y la justicia es todo lo contrario. Tiende a reconocer la singularidad de la persona, a dar a uno discerniendo lo que le Corresponde, implica voluntad ética, no solo un cálculo. No solo un cálculo. Pero todavía podemos entrar más en la cuestión porque depende también en que comprendamos las teorías de la justicia. Si entendemos la justicia de forma, yo solo he traído aquí dos por

no extenderme mucho, si entendemos la justicia de forma liberal o digamos de forma eh de forma un poco más imparcial, para las posiciones más neoliberales, la Justicia es la libertad individual. Un sistema es justo cuando respeta mi libertad, eh, y cuando nadie interfiere en mi persona. Por eso el Estado debe tener un papel mínimo, ¿no?, en los sistemas neoliberales. Eh, ¿y qué ocurre? que esto hace predominar las lógicas de mercado, la eficiencia, la optimización, la personalización en personalización por por entendida de esa otra manera y son sistemas que responden a Preferencias agregadas, a la suma

de preferencias. E los algoritmos agregan comportamientos individuales, generan patrones que terminan en homogeneización de elecciones. La libertad como independencia la libertad como independencia puede derivar en la estandarización invisible mediada por el mercado. Dicho de otra manera, si dejamos a la inteligencia artificial en el libre mercado, en la Mano invisible de Adam Smith, va a acabar en la estandarización, va a acabar en en en la libertad, en el respeto a la libertad, pero eso acaba en una estandarización, no en no en el que se queda fuera del sistema. No en el que se queda fuera del

sistema. Si utilizamos la teoría de la justicia del Raus, donde busca eh nivelar la justicia, la libertad con la imparcialidad, él sabéis que tenía dos principios dentro de su principio de Justicia, ¿no? La igualdad básica para todos, la igual libertad para todos, pero si hay desigualdades, hay que dar igual oportunidades. Los sistemas algorítmicos benefician a los más vulnerables. Si tú dejas a la inteligencia artificial que actúe como sistema de recomendación sin una corrección, ¿va a beneficiar al másable? No, no, porque siempre existe el sesgo de dato inicial. Los las la inteligencia artificial corre siempre el

riesgo del Sesgo en la alimentación de datos. Y claro, el más vulnerable nunca alimenta los datos, el más vulnerable siempre se queda fuera de los sistemas. Por eso es la inteligencia artificial siempre está alimentada con los datos de la mayoría estándar, no de la minoría singular, no de la minoría singular, porque la vulnerabilidad siempre va asociada a a a la singularidad y esa vulnerabilidad siempre va asociada a la pobreza, a la marginación y esos no alimentan los Sistemas. Por eso la estandarización reproduce y amplifica todavía más las las desigualdades. La inteligencia artificial justa no solo

debe ser eficiente, sino imparcial y orientada al a los menos aventajados, ¿no? En definitiva, una inteligencia artificial justa debería respetar la dignidad y la singularidad, buscando, eso sí, la equidad y la inclusión y evitando que la eficiencia Algorítmica sustituya al juicio ético. La inteligencia artificial, la justicia de la inteligencia artificial debería consistir en corregir la estandarización mediante principios éticos que aseguren en cada persona, especialmente los más vulnerables, que reciba verdaderamente lo suyo. ¿Y qué principio ético es el que debe corregir a la justicia? En este caso, el principio de dignidad. El principio de dignidad. Eh,

hoy traigo aquí a Jaermas, eh, que Además está recientemente fallecido, porque, eh, lo que puede pasar también con inteligencia artificial es que su la tesis de la eugenesia liberal, ya sabéis que Javermas hablaba de la eugenesia liberal en ese libro sobre el futuro de la naturaleza humana, es decir, que la eugenesia ya no va a venir aplicada por los grandes sistemas estatales, ¿no? como el plan acción T4 de los nazis, ¿no?, que esterilizaba a los discapacitados. Ahora, la eugenesia puede venir por el simple mercado porque la gente vaya de una manera u otra libremente eligiendo

eh un tipo de persona, ¿no? E salto esa. ¿Qué es la Eugenesia liberal? Como digo, eh, dice Javermas en el futuro de la naturaleza humana, una ingenesa liberal es aquella que deja que sean las preferencias individuales de los participantes en el mercado la que elijan los objetivos. Por tanto, los Rasgos de la eugenesia no vienen impuestos por el Estado, vienen guiados por decisiones privadas que difumina terapia y mejora. Pero claro, cuando utilizamos algoritmos de inteligencia artificial que orientan las decisiones, como hemos dicho al principio, no solo te aconsejan, sino que te van limitando porque te

van determinando qué es lo estándar y qué no es lo estándar, te va condicionando. De tal manera que la inteligencia artificial reforzaría una Genesia sin coerción, pero estructuralmente dirigida por ese algoritmo que va buscando lo estándar, que va buscando lo normal. Bueno, lo normal, el que va buscando el patrón estadístico, ¿vale? Em, por tanto, decía Javermas cuando hablaba de Eugenesia liberal, "¿Es compatible con la dignidad de la vida humana ser engendrado con reservas después de un examen genético?" Podríamos, decía, "Puede ser, sea, sería digno tratar a Alguien habiéndolo seleccionado de alguna manera." Dice, "En inteligencia

artificial, la vida se convierte en un objeto de evaluación probabilística y el la discapacidad, el riesgo de reducir la persona a su perfil genético o funcional, de reconocer la vida, a validarla técnicamente. Ese es el problema central, ¿no? El problema viene dado por ahí, que Dejar a la inteligencia artificial como sistema de recomendación que te vaya recomendando con esa estandarización en el fondo vaando contra contra tu dignidad. E Javermas se oponía de dos maneras a las a la eugenesia liberal. A ver si ahora lo consigo. Eh, pues no funciona. Dale al vale. Se oponía por

dos razones a la eugenesia liberal. Primero, por el Respeto a la autonomía. Decía, la la intervenciones eugenésicas fijan a la persona afectada a intenciones de terceros, impiden comprenderse como autor de la propia vida. Cuando alguien me ha seleccionado por una genesía liberal, en el fondo está limitando mi autonomía. H, eso es lo que venía a decir y por eso se oponía a la eugenesia liberal. O sea, eh Javer más lo que se ponía en en el futuro de la naturaleza humana era a cualquier Intento de diagnóstico prenatal para seleccionar, ¿no? Claro, esto es perfectamente aplicable

porque entonces sí que ya no es un tercero el que te hace la selección, es la propia inteligencia artificial la que te va condicionando la biografía incluso antes de existir. Y se puede decidir qué vidas merecen ser vividas por un algoritmo que busca lo común. La inteligencia artificial determinaría que lo estándar, lo Probablemente estadístico, eso es lo que es digno de ser vivido. Por eso la inteligencia artificial puede convertir la vida en un proyecto diseñado por otros, más bien por la mayoría estadística. H segundo lugar, otra de las razones por las que se oponía Javermas

a la al uso de la eugenesia liberal era por eh la falta de igualdad y la no instrumentalización. decía que si se aplicaba esa eugenesia liberal surgía Una relación asimétrica, un paternalismo y se instrumentalizaba la vida humana por las preferencias de terceros. Es evidente cuando esto lo aplicamos a la inteligencia artificial. Ya no es ya no es solo la preferencia del tercero, es el dato estándar, ¿vale? Y refuerza la capacidad, la idea de vidas menos valiosas. Y por último, también se oponía a la idea de la inteligencia. Ay, perdón, es que esto a veces salta

dos y a veces Salta uno. E se oponía eh decía, porque si utilizamos la inteligencia, perdón, si utilizamos la eugenesia liberal, decía Javermas, se pone en juego una autocomprensión ética de la especie. Eh, aquí estaríamos dejando a la inteligencia artificial si la aplicamos eh sin ningún sin ninguna corrección y sin ninguna supervisión, sobre todo si nos dejamos llevar por esa tendencia a la estandarización de la inteligencia artificial, nos estaría redefiniendo qué Es el ser humano. La inteligencia artificial estaría diciendo que el ser humano es lo estadísticamente estándar en todo. Claro, excluye la diferencia del horizonte

humano, normaliza la selección y reduce la diversidad humana. ¿Vale? Por eso el riesgo no es solo técnico, sino es antropológico. Seguimos reconociéndonos como iguales o autónomos o como productos optimizados. Por último, así las cosas. La inteligencia artificial optimiza Decisiones, está claro, pero exige límites éticos. el de la dignidad, el del respeto a la singularidad. El dis es simple la singularidad y por eso la justicia también debe prevalecer porque si dejamos a la inteligencia artificial actuar, como digo, aunque sea esto un final poco científico, podemos puede pasar con la especie humana lo que pasa con los

gustos musicales de Spotify, que acabamos siendo todos exactamente iguales porque tiende a estandarización Y todo es porque la inteligencia artificial funciona así, no es que la inteligencia artificial esté programada para buscar eh esa estandarización, o sea, es programada, digamos, intencionalmente por alguien para buscar malévolamente la estandarización. Es que funciona así la inteligencia artificial que manejamos. Por eso que tenemos que estarles atentos y corregir eh eh esas esas decisiones, pero es muy difícil porque en el fondo eh como nos va Limitando el campo epistemológico, nos va limitando el campo que que vemos, es llega un momento

en el que es muy difícil saber cuándo hemos caído en la estandarización. Por eso tenemos que estar muy atentos siempre en en el caso que nos ocupa a la discapacidad, a la diferencia, incluso promoverla, porque es que es la única manera de liberarnos de la de la reducción a la que nos trae la inteligencia artificial. Bueno, no sé si ha quedado claro, pero por lo menos lo he intentado. Muchas gracias. Muchas gracias. Gracias al profesor Amo por su intervención, por su ponencia y por ayudarnos a pensar en esta cuestión de la estandarización que he de

reconocer que Jona la tenía eh digamos en el punto de mira a la hora de hablar de inteligencia artificial, bioética y discapacidad, ¿no? y la Reflexión que has hecho en torno a ella, ¿no? En torno a la importancia de la dignidad, la singularidad y la justicia. Y lo bien traído que está Javermas, recientemente fallecido en su crítica la eugenesia liberal, que para quienes no lo conozcan, estamos hablando de un autor que era agnóstico. Es decir, esa crítica que hace la hace desde una perspectiva eh no religiosa y esto me parece también muy interesante y muy

y muy valioso. Muchísimas gracias, Rafael. De tenemos 10 minutos de coloquio eh entre los presentes aquí y los que están online. Primero voy a dar la palabra a alguien aquí. Eh, el profesor Losada. Eh, muchas gracias. una una conferencia muy interesante, pero me planteaba una una duda, digamos, al principio general de lo que ha expuesto y es que llevándolo al extremo, eh el azar, por decirlo de alguna manera, que es el que hace la selección eh natural de quién de qué ser humano viene a la vida o no, eh El azar, si consideramos, digamos, desde

un punto de vista completamente ente sin considerar ninguna referencia religiosa. Hay eh hay circunstancias que hace circunstancias naturales que hacen que un individuo pueda llegar a desarrollarse y otro que no. Eh, de alguna manera podría ser comparable esa selección natural de, llamémosle la naturaleza, ¿no? Esa selección con la selección que hiciera en este caso la Inteligencia artificial. creando ese siempre que no estuviera influida por un sesgo de el dueño de la inteligencia de ese de ese de esa inteligencia artificial o los creadores, sino que fuera simplemente eh ese esa característica de estandarización que tiene. Al

final la inteligencia artificial lo que estaría buscando es lo mismo que busca la selección natural, entre comillas, ¿no? Bueno, a ver, varias cosas. Eh, una cosa Que a lo mejor no he dicho al principio, yo he dejado fuera, o sea, la estandarización no tiene nada que ver con el sesgo, eh, el sesgo puede ayudar a la estandarización, pero el sesgo es otra cosa. La estandarización es como funciona. Entonces, a lo que dices, eh, primera cosa, la selección natural en el fondo, más puro estilo biológico, la selección natural busca la diversidad biológica porque necesita, o sea,

la diversidad Biológica es una garantía de de genética de poblaciones, es una garantía de que sobrevivamos más. Si la población, o sea, la selección natural estandarización, todo lo contrario, tiende a la diversidad. a la a la a la pluralidad genética, porque si fuera así, eh, ¿qué ocurre si a una población de determinada gen adquiere una enfermedad? Morirían todos. La naturaleza necesita biodiversidad. Por eso la selección natural en el fondo Tiende, aunque parezca que tiende a la a la estandarización, tiende a la diversidad. Pero bueno, aunque tendiera la estandarización, dice Sandel en otro en otro orden

de cosas, pero lo dice, dice Sandel que lo aleatorio es lo más justo. Cuando él habla de la mejora humana, le preguntan por la mejora humana y dice, "Bueno, oiga, pero eh no sé, dice, mira, la lea es lo más justo porque es algo que no puede controlar nadie." La inteligencia artificial en el fondo, ¿no? Aunque no la determines tú con tu algoritmo porque hay algoritmo caja negra, no determines todo el algoritmo, pero bueno, en el fondo la hemos usado los humanos, la hemos creado los humanos y la estamos usando, ¿no? Decía Sandel, en el

fondo lo más justo, puesto que tiene que haber desigualdad, pues es el aleatorio. Eh, más o menos. No sé si he contestado, eh, bueno, sí, muy interesante todo lo Que has comentado y yo creo que sirve para seguir profundizando. Yo matizaría alguna cosa, alguna recordar que la inteligencia artificial ni es lista ni es humana. Entonces, esto me parece que es importante no olvidarlo porque no deja de ser un instrumento más o menos elaborado que nos está ayudando. Entonces ahí es donde yo dissiento un poco porque creo que hay que aclarar qué entendemos por diagnóstico. Si

el diagnóstico es una selección, pues Entonces estoy de acuerdo con todo lo que has dicho. que el diagnóstico es una herramienta que utilizamos para optimizar los recursos y mejorar aquello, pues entonces no puedo estar de acuerdo porque los protocolos nos han ayudado a mejorar la asistencia, sobre todo en el campo de la salud a muchos pacientes porque han eliminado pues variabilidades que a lo mejor no tienes en cuenta y entras en un protocolo. Por eso me parece que es Importante aclarar qué entendemos por diagnóstico, porque el término diagnóstico siempre tiene una estrategia que tiene un

fin, que es beneficiar a alguien. No le pongo una etiqueta para decir, ¿qué es esto? o si lo quiero o no lo quiero, porque eso es otra cosa, eso es selección, que eso es lo que valdría, pues si hablamos del diagnóstico preimplantatorio, porque tú tienes una intención clara y si no te gusta, pues entonces dices, "Este no le quiero." Y Ahí sí que estoy de acuerdo con todo lo que has dicho. Pero en la segunda parte, que es el diagnóstico prenatal, ahí yo creo que entran otras cosas, no solamente la selección, sino que es que

a veces estoy haciendo cosas para beneficiar, ese protocolo me ayuda, me sirve para identificar problemas precozmente y hacer diagnósticos mucho más fiables y más eficaces. Sí, sí, sí, de acuerdo con lo que dices. Sí, el yo siempre he hablado diagnóstico en esos términos. decir que es verdad que luego he cargado las tintas sobre el riesgo de la Pero es verdad que la inteligencia artificial puede ayudar en en la medida en la que ayuda a a aunque solo sea para ayudar a identificar lo común y lo distinto te lo estás dejando, pero pero ayuda a a

poder establecerlo. Sí, sí. Lo que pasa es que bueno, me he ido porque si no lo otro la conferencia dura muy poco, o sea, qui no Tiene mucha donde está el riesgo ético es en el otro lado, no en ese no. Yo querría decir una cosa respecto al primer aspecto, es si la inteligencia, desde luego comparto con usted que ni es verdadera inteligencia artificial, ni es verdadera inteligencia ni es humana, no le hemos dedicado, eso necesitaría un análisis adoc de una crítica de la misma terminología. Yo personalmente no la comparto, es decir, eliminaría la expresión.

es una máquina que realiza, No sé de mecanismos automatizados, ¿no? Pero eso lo hicimos en otra en otras conversaciones de bioética donde hablamos de este tema y tratamos ese tema y desde luego estoy de acuerdo con usted en el tema que el diagnóstico puede tener un valor positivo. No quiero demonizar el uso de la inteligencia artificial como ha dicho el profesor Amo, digamos, hemos sobre todo centrado, puesto el foco quizá en su uso más discriminatorio, ¿no? Claro, nos hemos Entrado en los riesgos, eh, porque el título era riesgos éticos y sociales. Claro, en lo otro

es que no hay riesgo ético, ninguno, todo lo contrario. Por eso no sea, a lo mejor debería haberlo dicho al principio, que con más claridad, que me centro más en los riesgos, pero estoy de acuerdo con lo que dice. Efectivamente, mientras, o sea, el riesgo solo está en el riesgo de la estandarización y y el y el olvido de la de lo diferente en lo en el uso de la Inteligencia artificial para para mejorar el diagnóstico y aplicar terapias, por supuesto, es un uso bueno. Es Claro, claro. Eso es una una herramienta muy potente, pero

de hecho uno de los campos donde más está produciendo la inteligencia artificial es el campo de la salud. Una cosa que querría decir, Rafael, creo que habría que señalar el aspecto de la decisión prudencial del médico, es Decir, una vez que la inteligencia artificial ayuda en un diagnóstico, es el médico quien decide, es decir, nunca dejar a la máquina la herramienta que tome la decisión. Lo has mencionado muy pasada. Bueno, es que eso está prohibido por la ley europea. La ley europea prohíbe que la que son de riesgo cuatro, entonces de nivel cuatro riesgo. Entonces,

en las aplicaciones de salud nunca puede haber decisión autónoma de la inteligencia artificial. Nunca. Es Por en Europa no puede haber. O sea, tú no puedes dejar a una inteligencia artificial que decida qué tratamiento y aplicar el tratamiento. Eso está prohibido por la por la legislación por la legislación europea. Buenas tardes. Tenemos una un par de preguntas eh de los asistentes online. La primera es cuando una inteligencia artificial toma decisiones, por ejemplo, en un triaje médico, ¿quién es el responsable del error? Es un lío, es que e en principio no toma decisiones sobre triaje, pero

bueno, puede orientar porque son algoritmos de recomendación, ¿vale? Entonces, el tema del del error, el tema de la responsabilidad y del daño es un es un tema complejísimo, complejísimo, porque eh en el fondo hay una especie de responsabil se habla de una responsabilidad híbrida entre el que diseña, el que aplica y el que y el y el que ejecuta, ¿no? Es Decir, digamos, eh eh el la inteligencia artificial, precisamente por los algoritmos, por la caja negra de los algoritmos, está estableciendo, está modificando el concepto de responsabilidad. Esto es un puro derecho, eh, no es esto

es puro derecho. Y se está empezando a hablar de responsabilidad híbrida. Y precisamente por ese tema tan complejo, la Unión Europea en su ley de inteligencia artificial ha dejado niveles donde no se Puede dejar eh nunca actuar. a la inteligencia artificial por el nivel de riesgo y por el daño, porque llega un momento en el que nadie no sabes eh quién es el responsable de ese daño y es que no hay manera de de de decidirlo, o sea, de de de diseccionarlo. Es que es desde Argentina, muy probablemente esto no es así en otros países.

Claro, claro, claro. Bueno, es que en otros simplemente no hay legislación. Entonces ahí tendrá que ir la jurisprudencia ir decidiendo quién es el quién es el responsable. Pero Europa, precisamente por eso, aunque nos acusen de legislar demasiado, precisamente por eso está eh ha legislado dejando que los sistemas autónomos, o sea, que no haya el sistema autónomo es cuando el sistema de inteligencia artificial actúa por sí mismo. O sea, claro, para eso tiene que ser un sistema que vaya robotizado o motorizado con algo, ¿no? Porque el CHGPT no decide por sí mismo, o sea, te dice

lo que tienes que hacer y tú lo haces o no lo haces. Vale, aún así ahí habría una responsabilidad híbrida en quién es el responsable de eso, eh, pero pero al fin y al cabo siempre queda la última decisión de quien lo ha aplicado. Pero cuando actúa por sí mismo el sistema autónomo, ahí es imposible saberlo. O sea, la el concepto de responsabilidad y de daño ha cambiado radicalmente. Otra pregunta que nos hacen también desde Madrid es e como farmacéutica, la persona que nos pregunta y estudiante del máster de bioética de la de la cátedra,

eh nos dice eh la IA y la genética pueden detectar discapacidad, la discapacidad cada vez antes. ¿Cómo evitamos que esto cambie la forma de mirar el valor de las vidas de esas personas? Y sobre todo si existe el riesgo de de que el poder eh prever la discapacidad, la sociedad deje de Aprender a entenderla y acogerla. Claro, por eso la justicia y la dignidad. Eh, tienes que ahí donde más tenemos que insistir en la justicia y la dignidad, aunque yo creo que el problema es que la, o sea, como he dicho, es verdad que las

herramientas de inteligencia artificial pueden ayudar a predecir la la discapacidad o encontrarla antes, pero también la pueden obviar, que es lo grave. O sea, porque que la que ayuden a detectarla Antes, bueno, pues ahí con justicia y con dignidad, pero eso es un problema ético de toda la vida. O sea, en el fondo casi no hemos cambiado. Sigue siendo lo que pasa que nos adelantamos antes, ¿no? Eh, el problema de la inteligencia artificial, que es lo que yo he querido dejar ver, es que como tiende a estandarizar, va a haber un momento que no vamos

a encontrar la discapacidad, que no la vamos a ver porque no la buscamos, porque no la Busca, porque como solo busca lo común, obvia lo diferente. Entonces, ese es el verdadero riesgo social y el verdadero riesgo ético. Lo que está comentando la que hace la pregunta en el fondo es simplemente adelantar lo que teníamos hasta ahora pues unos meses antes, por decirlo de una manera un poco un poco así llanamente, ¿no? Pero la éticamente sería lo mismo, insistiendo en dignidad y justicia. El problema está en que la Estandar la la tendencia de la estandarización va

a hacer olvidar eh es es se parece mucho, sin serlo, a un sesgo de alimentación. Se parece mucho, aunque no lo es, pero pero se parece mucho a un sesgo de alimentación. A un sesgo de alimentación se cuando la inteligencia artificial no está bien alimentada, no detecta determinadas cosas. Aquí se parece mucho el resultado, aunque no es lo mismo, porque puede estar muy bien alimentada, Pero claro, va buscando lo común. Una última pregunta justo está relacionada con esto que acaba de decir usted al final, que es toda eh e lo que hace que la inteligencia

artificial tenga ese sesgo estadístico, ¿no? Y la pregunta dice, ¿qué retos plantean los sesgos en las empresas detrás de los algoritmos y qué influencia cree usted que podrá tener la progresiva implementación subversiva de estos algoritmos en la práctica clínica Habitual? No acabo de entender muy bien. ¿Me la repites, por favor? Es que sí eh eh dice, "¿Qué influencia cree que tendrá la progresiva implementación subversiva de los algoritmos en la práctica clínica habitual?" Yo creo que viene pues si metemos, introducimos sesgos en el Claro. Bueno, pero es que los sesgos hay que detectarlos porque los sesgos

son errores sistémicos que tú no ves. O sea, Precisamente por eso hace falta entrenadores de inteligencia artificial y y gente que los vea. O sea, yo no, a ver, es que no soy muy poco conspiranoico. Entonces, esto de las interpret interpretaciones subversivas puede haberlas, pero o sea, ya la inteligencia artificial por sí mismo tiene sus problemas como para que como para que encima busquemos las cosas subversivas, ¿no? Es decir, eh el sesgo el sesgo es un problema que la que la Propia inteligencia artificial, aún fuera de la ética, la propia los propios técnicos de inteligencia

artificial intentan subsanar porque el sesgo conduce a errores y y entonces no es eficiente. O sea, olvidando ya la ética, el problema del sesgo es un problema que tiene una derivada ética, que es de la que yo me ocupo, pero es que tiene una derivada técnica y es que eh si tiene sesgos no funciona. Entonces, por eso el primero que tiene Que luchar contra los sesgos es el propio diseñador, desarrollador de una inteligencia artificial. Luego ya los la versión ética tenemos nuestros problemas, pero pero siempre una derivada técnica y eso yo creo que la primera

parte de la pregunta iba justamente en eso, pensando en informáticos que están aquí también, ¿qué papel puede tener un desarrollador de algoritmo, por ejemplo, en sanidad o en productos médicos para intentar Corregir no ya el sesgo, sino también la estandarización? ¿Es posible? Bueno, se podría para que no desaparezca. Ya, ya, ya sé lo que dices, hombre. Eso es el lo que se llama algorética, ¿no? Los principios de la algorética. Es decir, tiene que buscar la explicabilidad, la robustez, eh el da eh todos los los famosos principios de la algorética. E e claro, en el desarrollador

y diseñadores, ¿dónde está gran parte de La cuestión? Porque pero es que es un problema de la del funcionamiento de la subsimbólica, que es la que mejores resultados ha dado y es con la que funcionamos siempre. Eh, mayoritariamente, sí. O sea, porque los intentos, hombre, ahora hay ahora ya yo no soy ingeniero, pero por lo que puedo leer hay intentos de ir corrigiendo la simbólica con algunos cuestiones más con algunos e capas neuronales y redes Neuronales que van intentando digamos hacerla pensar un poco más así porque como bien ha dicho se hace. Yo es que

ya hemos aceptado todo el término inteligencia artificial, que no es inteligente ni es artificial, pero pero bueno, es así. El problema es que la mente humana no funciona así, o sea, no funciona por por patrones estadísticos, tampoco funciona por pura eh por pura simbólica, ¿vale? sino está lo que se llama el la abducción, o sea, ahora Mismo donde están atascados los grandes sistemas robóticos es en la abducción. La abducción es el concepto, es el conocimiento por osmosis cultural. O sea, eh ahí con sistemas de robótica tienen problemas porque de repente intentan atravesar paredes. Claro, a

nosotros nadie nos ha enseñado que una pared no se atraviesa. Sí, te lo han enseñado, pero no ni lógicamente ni ni por estadística. Ha aprendido por adopción, por por Aprendizaje cultural. Y eso es lo que la inteligencia artificial no alcanza. el aprendizaje, pues eso, esto una pared, una habitación se sale por la puerta, pues nadie nos lo ha enseñado, eh, pero sin embargo está ahí, ¿no? Entonces es verdad que la inteligencia artificial nunca va a poder alcanzar el el el nivel humano porque esa abducción es algo que se adquiere por corporalidad y como no tienen

cuerpo es imposible que lleguen a adquirir la Corporalidad. O sea, nunca van a poder ser inteligentes al modo humano, nunca, porque nunca tienen cuerpo. Entonces, esas esa esa abducción que se aprende por la corporalidad y por la relacionalidad no la van a tener. Entonces, eh eh eh podemos ir corrigiendo los problemas de la subsimbólica con algún elemento, pero por eso que sean autónomos, ese es el riesgo de los sistemas autónomos, cuando tú le dejas actuar todo. Muy bien. ¿Quiere preguntar? Sí. 20ente. La la pega con des el punto de vista ético me parece que es

que la inteligencia artificial parte de unos algoritmos que no se conocen y que alguien los ha hecho y que tiene unas premisas de partida. Yo estoy elaborando esto para esto. Quiero seleccionar a estas personas y excluyo a los que no tienen este patrón y entonces doy unas recomendaciones porque estoy Excluyendo, pero yo soy el que pongo las premisas. ¿Y cuál cuál es el problema? que no es transparente. O sea, tú estás aplicando un programa que te dice una serie de cosas, pero no sabes de dónde parte, quién es el que ha puesto esas premisas y

por qué las ha puesto. Entonces, todo el tema de la transparencia y la inteligencia artificial me parece que es el dilema ético más importante. Es decir, ¿qué estás buscando tú con esto y cuáles son Los criterios de selección que has ido elaborando? Porque está claro que estandarizas, pero estandarizas siguiendo unos criterios. ¿Cuáles son los criterios? que es de raza blanca, que es eh con un cociente intelectual por debajo de tanto. Entonces, tú estás metiendo todos esos datos, utilizas unos algoritmos en los que manejas esos datos. La transparencia en todo eso es lo que yo creo

que tiene la carga ética más importante. O sea, dime cómo has Construido esto, porque las consecuencias de lo que tú me estás diciendo a través de una persona que dices que es inteligente, pero que es artificial es lo que tiene carga ética, me parece a mí. Vamos. Sí. Y lo que pasa que la explicabilidad no es exactamente eso. Es decir, la explicabilidad y la transparencia, que es una de las condiciones, uno de los elementos que forman parte de la Explicabilidad, la transparencia es que hay algoritmos, los algoritmos de caja negra que no que el algoritmo

llega a conclusiones estadísticas, a patrones que el humano no ha visto, no las ha introducido el humano, simplemente no las ha visto. Por eso, o sea, todo el tema de la estandarización y la tendencia a la normalización no es algo solo inicial, que puede serlo, puede serlo en el sesgo de alimentación, eh, puede serlo, pero aunque esté bien Alimentada tiende a la estandarización, pero y tiende sin por falta de transparencia, porque precisamente no lo descubres, pero eh aún suponiendo que esté, o sea, no no la inteligencia artificial, el problema no es solo el que la

diseña, el que la desarrolla, sino el propio la propia mecánica de funcionamiento que tiende a la estandarización. Hm. O sea, no todo depende del de las condiciones iniciales. Aunque las condiciones Iniciales fueran perfectas, también tendería a hacer desaparecer la diferencia. Claro, pero es que es un poco a lo que voy. O sea, depende para qué. O sea, si tú lo que estás buscando es seleccionar personas, ¿no? Bueno, si partes ya de ese hecho, sí, pero pero por eso digo que la estandarización ahí sí que me parece que es algo que tiene que hacernos pensar para

que Utilizamos la inteligencia artificial y el riesgo que tiene, pero si no es para eso, pues la inteligencia artificial es que tiene muchas ventajas y la estandarización creo que aporta muchos beneficios. Claro, para qué, o sea, para qué lo utilizas. Eso, eso creo que es claro, pero si tú estás buscando con esto quiénes son los que van a seguir viviendo y quiénes no, pues entonces está claro que entonces estamos metiendo un sesgo de normalidad que es los Listos, los buenos, los que tienen tanta altura, son los que son. Entonces, efectivamente me estoy cargando la diversidad

humana y además lo estoy haciendo de una manera con una selección que es completamente artificial, pero para eliminar personas. Pero es que el diagnóstico no solamente es eso. Por eso insisto que es que es que si parece que estamos demonizando la inteligencia artificial cuando ha hecho grandes avances en proyectos justo más en Discapacidad, o sea, no en el diagnóstico preimplantatorio, que siempre parte de un sergo importante que es yo quiero lo mejor. ¿Y qué es lo mejor? Pues esto es mi mejor que me lo dice la inteligencia artificial o me lo dice la sociedad. Pero

eh pero es que en el diagnóstico prenatal a veces lo que te está dando es orientaciones que son muy beneficiosas para esa persona que es discapaz, pero le estás dando unos unas ayudas desde Que eres capaz de identificar que tiene un problema de corazón y que le vas a hacer una intervención precoz con lo que esa persona con ese trastorno eh genético que no solamente lleva un problema de corazón, sino también un problema de capacidad intelectual, pero va a tener una calidad de vida muchísimo mejor, precisamente porque tú has conseguido identificar con esa estandarización, claro,

pues una anomalía que te permite darle una Calidad de vida mejor. Por eso es que yo me resisto a que utilicemos el término diagnóstico y lo asociemos a inteligencia artificial como algo que parece, bueno, sí está claro. Si tú lo vas a utilizar como excluyente, entonces todo lo que significa estandarizar tiene unos riesgos éticos enormes. Pero si no es excluyente, si no es, voy a intentar ver qué características tienes tú y cómo te puedo ayudar en eso, es que la Inteligencia artificial es un salto cualitativo importante que parte precisamente de la estandarización, o sea, que

no es mala la estadarización, al menos desde esa perspectiva. Sí, yo estoy de acuerdo, pero me han invitado a hablar de los riesgos éticos y sociales, ¿no? De los estándar. Yo es cierto. Pensar que la inteligencia artificial no nos aporta nada. porque estandariza Cuando justo en los diagnósticos prenatales que tú haces, que no son solamente para eliminar a los que tienen triosomía 21 o 14, sino para aquellos que vemos que tienen un problema y le vamos a dar una venta. Claro, pero entonces es que yo creo que no podemos quitarle importancia que la inteligencia artificial,

por mucho que estandarice, justo lo que nos está dando son claves de solución. Sí. Lo único que es verdad lo que dice El profesor Amo, hemos venido a hablar de las cuestiones éticas que plantea. Estoy de acuerdo con usted. No hemos hablado de los beneficios de la inteligencia artificial en el diagnóstico. Quizá hubiéramos podido dedicar una ponencia a este aspecto, pero no lo hemos hecho. Entonces, estoy de acuerdo con usted y desde la cátedra como presidenta le puedo decir que hay un buen uso diagnóstico de la detección precoz de un síndrome de Edwardas, de Una

no nos cabe duda ninguno. Ahora bien, también es verdad, y esto hay que decirlo, que la desaparición gradual del síndrome de Down por una cuestión diagnóstica es clara y patente, es decir, hay estadísticas que lo demuestran. Por eso queremos, digamos, prevenir y corregir también esa esta éticamente más adelante pueden echarte en cara que no hayas utilizado un sistema de inteligencia artificial para detectar precozmente un problema que se Ha tratado más tarde. Sí, si no estamos diciendo que no se detecte éticas también, ¿no? Por supuesto, hay que informar, ¿no? No hay que desinformar ni no decirlo,

hay que informar y que se tomen las decisiones cada uno a las que corresponde. Pero no podemos obviar ese hecho que hay una tendencia, y esto se lo puede decir como fundación, lo conocemos, a la eliminación, a la Detección precodia, la eliminación y eso nos preocupa porque atenta contra el principio de de discriminación de las personas. Y repito que estoy de acuerdo con usted, eh, y y quizás después hablaremos y hablaremos de los aspectos positivos, pero eh hemos puesto, digamos, el foco en los aspectos, digamos, los riesgos éticos que atentan contra la justicia y la

dignidad porque vemos que es un riesgo que se está dando y es increendo La tendencia. Muchísimas gracias, Rafael. Excelente. Eh, voy a proceder a presentar al segundo ponente y disculpad que he cortado el coloquio porque nos hemos en el inicio y creo que ahora mismo no procede tampoco mayor discusión también para que el resto de personas que nos escuchan online puedan puedan escuchar y participar. Vamos a pasar a la segunda de las intervenciones, donde vamos a hablar de los desafíos jurídicos Para la discapacidad intelectual. Eh, y aquí digamos en la h perspectiva desde la cual

el profesor Pucheta, Leonardo Pucheta, que nos habla desde Argentina, va digamos a enfocar el problema desde una perspectiva distinta a como lo ha hecho el profesor Amos. Paso, procede a presentar al profesor Pucheta. Es profesor de derechos humanos y bioderecho en la Facultad de Ciencias y de Derecho del del perdón, Ciencias Médicas de la Pontificia Universidad Católica de Argentina. Es miembro del Centro de Bioética persona y Familia de la Pontificia Universidad Católica de Argentina. Además, ejerce su profesión como subgerente de innovación tecnológica aplicada a los riesgos del trabajo en Buenos Aires, Argentina. es también miembro

de la Academia Pontificia para la vida. Quiero dar la bienvenida al profesor Pucheta, que creo que ya está online. Encantada de de verte, Leonardo, aunque sea en la Distancia. Gracias por aceptar estar aquí esta tarde para vosotros mañana. Perdón. Eh, buenos días para vosotros y adelante. Eh, tienes la palabra. Muchas gracias, Elena, un gusto verte, un gusto verlos a todos. En primer lugar, bueno, me tomo unos breves minutos para agradecer a la fundación, a la cátedra internacional por la invitación. Ciertamente, como comentaba Elena más temprano, eh bastaron un ido y vuelta de mails rápidos como

para eh Evidenciar la relevancia y lo interesante del evento. Así que para mí es un gran honor estar hoy compartiendo algunas eh ideas, algunas consideraciones con tan distinguidos profesores y con todos ustedes aquí conectados digitalmente y algunos allí presenciales en Madrid. Eh, no puedo eh dejar de agradecerle a Elena particularmente porque es para muchos de nosotros una referencia obligada en el ámbito académico y además eh a quien Siempre tenemos muy presente eh incluso la distancia como ella destacaba por su generosidad y su calidad personal. Yo brevemente, terminando los agradecimientos de estilo, quería agradecerle a Lucas,

a Luz, a toda la gente de la sede de la ciudad de Córdoba en Argentina por la asistencia estos días. Y bueno, voy a como primera advertencia para los no argentinos, intentaré aminorar un poco el ritmo de mi acento porteño. Yo soy nacido en Córdoba, de hecho, pero el acento lo he perdido rápidamente y he adquirido el acento típico de la ciudad de Buenos Aires, que es por momentos eh muy rápido. Así que intentaré desacelerar un poco para que las ideas se comprendan del mejor modo posible y desde luego quedaré atento a sus comentarios y

a disposición en lo sucesivo para lo que estimen corresponder. Hoy nos convoca un tema de época que eh sin perjuicio de su plena actualidad y su vigencia eh nos Permite volver sobre cuestiones éticas y jurídicas clásicas. demostrar además una vez más la vigencia de la propuesta personalista ontológicamente fundada y del pensamiento de Jerónom Breen, que hoy de algún modo nos nos cobija a todos. Voy a compartirles una eh breve presentación. Ustedes creo que lo van a ver allí en el en el televisor. Denme un segundito a ver si lo logro. Perdón para los organizadores, la

Función de compartir pantalla dice que está deshabilitado. Yo no sé si se podrá habilitar de modo remoto o si prefieren que se se se active desde allí, desde la sede de Madrid. Ustedes me dirán. Perdón por la desproligidad. Disculpen a todos. Ah, lo están activando, Leonardo. Perfecto. Gracias, Elena. A mí me llama la atención, siempre nos reímos aquí con algunos compañeros Porque aprovecho estos segundos de de transición para para explicar esto. Cada vez que yo me dedico, como bien marcaba Elena, más allá de la vida académica, a evaluar tecnologías emergentes disponibles para mejorar mecanismos de

cuidado de la vida y la salud de las personas en el ámbito del trabajo. Y giramos mucho en torno al concepto de tecnología 4.0. Y la verdad es que cada vez que intentamos una comunicación digital, virtual de estas Características, que ciertamente no es 4.0, es mucho más atrás desarrollo tecnológico, siempre nos falla algo. Así que eh estaba esperando la falla porque siempre nos pasa. Así que de mi lado también les pido disculpas por ello. Aquí tengo la función activada. Vale, ahora sí creo que ustedes están viendo ahora en pantalla completa la el PowerPoint. Sí, la

estamos viendo. Perfecto. Bueno, eh como les decía eh la La intención, la verdad es que no sabíamos más allá de lo de los tópicos que anunciaba a cada expositor eh con el profesor Amo, quien me presionó el uso de la palabra y el profesor que vendrá luego. La verdad es que no nos habíamos puesto de acuerdo en los temas, en los énfasis a realizar por cada uno y sin embargo, lo que pasó hasta hace muy pocos minutos eh complementa perfectamente lo que tenía pensado compartirles. Eh, hay muchos Puntos que tocamos tangencialmente de modo concurrente y

otros que por ahí yo profundizaré un poquito más. Lo cierto es que como parte del auditorio me quedé con ganas de seguir escuchando el intercambio con los eh allí eh los concurrentes, pero también del profesor y de Elena. Fueron todos comentarios muy muy edificantes. Por lo pronto, para iniciar eh habrán visto que el título de la exposición es La arquitectura de la dignidad. La intención de aludir a Arquitectura me pareció sensata como disparadora. En primer lugar, en tanto nos permite representar el sustento y las estructuras dispuestas para la preservación de la dignidad humana como fundamento

de los derechos humanos y en lo que hoy nos ocupa específicamente las personas con discapacidad. Tomar conciencia de esta arquitectura que supone principios, normas y presupuestos antropológicos, entre otras cuestiones, permite afrontar la Evaluación de tecnologías emergentes y convergentes. Estas innovaciones, que como se dijo hace muy poquito, prometen utilidades sin precedente, utilidades ciertamente muy atractivas y a su vez que implican una serie de riesgos ciertos que merecen nuestra atención, en este caso desde una perspectiva jurídica. Como verán, el foco eh que hemos decidido eh asignarle a esta presentación tiene que ver con los desafíos jurídicos específicos

que Genera la inteligencia artificial para el colectivo de personas con discapacidad intelectual. fue de algún modo alguna de las decisiones que hemos ido adoptando en la confección de esta presentación para cenir una problemática que lo contrario llevaría mucho más tiempo del que tenemos y aparte la intención es que de este coloquio, de este intercambio, surjan al menos algunas definiciones, algunas cuestiones concretas que podamos tomar como base Para continuar nuestros estudios y nuestras investigaciones. Primero, una breve aclaración. Lo que compartiré es una aproximación biojurídica a la problemática que les relaté recientemente, la que, como verán, se

nutre necesariamente de consideraciones técnico, de principios filosóficos, de cuestiones de orden médico y también de una valoración del contexto cultural global en el que vivimos. En el mundo se han revivado Reavivado tensiones entre quienes pretenden regular la inteligencia artificial fundamentalmente como un mecanismo de prevención de daños y por el otro lado, quienes sostienen que regularle implicaría un freno al desarrollo tecnológico. Lo cierto es que tanto las propuestas de regulación como las de desregulación expresan una ponderación ética subyacente, una toma de posición respecto del escrutinio de los aspectos Positivos y los negativos de la inteligencia artificial.

Sobre este punto intentaré volver al final de la exposición, pero por ahora me interesa señalar que la aspiración reguladora propia del derecho expresa un punto de contacto esencial con la bioética. Me refiero al rol prescriptivo de ambas disciplinas. Bioética y derecho son disciplinas que no se limitan a describir situaciones dilemáticas, sino que aspiran a prescribir el deber ser de Esas situaciones, como enseñaba en su momento el profesor Esgrecha. Pues bien, consideremos entonces algunas innovaciones tecnológicas basadas en IA planteadas como soluciones para personas con discapacidad intelectual y esto lo vamos a contrastar con los valores que

deben respetarse para su adecuada implementación. Para ello, haciendo explícitos los principios de razonabilidad, de proporcionalidad y, como se destacó más temprano, Fundamentalmente de la prudencia que exige la evaluación de soluciones tecnológicas emergentes. En definitiva, evaluaremos la conveniencia de medios tecnológicos disponibles o presumiblemente disponibles en el corto plazo y su contribución a la dignidad de las personas con discapacidad intelectual. Oscilaremos ahora, como ven en pantalla, en la zona sombreada en gris entre todo lo que es técnicamente posible, el ser y Las reglas que expresan el deber ser. Bien, esto como primera aproximación, porque aunque parezca un

poco eh superficial, yo percibo que en las aproximaciones netamente jurídicas suele disociarse este esta esta distancia que puede existir entre la realidad biotecnológica contemporánea y el deber ser, el modo en que esa tecnología debería implementarse para ser consecuente con los intereses, los valores, los derechos involucrados. Ahora, e la base de nuestro edificio, para decirlo de algún modo, de esta arquitectura de la que venimos hablando, el presupuesto sobre el que nos plantamos para levantar nuestras columnas es la dignidad de la persona humana, como también se destacó más temprano, sobre la base del reconocimiento del valor individual

de cada ser humano, independientemente de cualidades accidentales como la edad, el Origen de su gestación, la presencia de patologías o condiciones limitantes de determinadas operaciones, el sexo, por ejemplo, partimos como cimiento del andamiaje jurídico, que brevemente aludiría a continuación. Es a partir de esa base que empezamos nuestra construcción. Ahora, esta afirmación no es solo una posición personal, como saben, sino que además se deduce, por ejemplo, el artículo primero de la Convención sobre los derechos de las Personas con discapacidad, el que define como propósito promover, proteger y asegurar el goce pleno y en condiciones de igualdad

de todos los derechos humanos y libertades fundamentales por todas las personas con discapacidad y promover el respeto de su dignidad inherente en la retórica del Sistema Internacional de Derechos Humanos, vale decir, eh del sistema moderno instaurado formalmente a partir de Mediados del siglo pasado. La alusión a la dignidad humana como fundamento de los derechos humanos es una práctica habitual y sostenida. Si bien hay debates en torno a a la operatividad de dicha alusión, o sea, se discute mucho la real eficacia de esta alusión a la dignidad humana eh en términos prácticos, principalmente asociadas estas críticas

a la falta de una explicitación de un fundamento metafísico del orden moral y jurídico. Pero basta a los efectos de esta de este encuentro destacar que la comunidad internacional recepta con cierta de modo relativamente pacífico la consideración de un valor particular que distinga los individuos de la especie humana de las cosas y que por tanto justifica un tratamiento especial de todos sus integrantes sin ningún tipo de distinción. Lo cierto es que a partir de esa base es posible iniciar la construcción de los Pilares de nuestro edificio, de las columnas, de un andamiaje jurídico eficaz, firme,

que resista los embates y los desafíos de las tecnologías emergentes. En esta ocasión, en honor a la brevedad y también fue una de estas elecciones que yo les comentaba anteriormente, en honor a a tratar de de precisar un poco el foco de estas reflexiones, me pareció prudente destacar cuatro pilares: autonomía, consentimiento, privacidad y Acceso a la justicia. Cada uno de estos pilares bienes jurídicos dignos de protección en función de esta dignidad intrínseca de cada individuo, cada individuo de la especie humana que les decía más temprano. Ahora, considerando que este es un encuentro internacional, intentaré evitar

referencias al derecho argentino o a otros ordenamientos locales, procurando una aproximación de tipo global. Esta mirada global, de hecho, me parece importante porque no Solo pone de manifiesto el carácter planetario de la problemática, sino fundamentalmente, disculpen, la necesidad de anclar nuestras posiciones en un fundamento trascendente de tipo universal, de alcance ahora sí, ciertamente global. Esto ameritaría mayores precisiones eh como otras que quedaron pendientes en el en el módulo anterior, eh porque el tópico de la biótica global en sí mismo puede dar lugares algunas confusiones, Incluso de posicionamiento, pero dejo a disposición del auditorio, de la

fundación, eh quizás eh profundizarlo en otra ocasión y profundizar también un poco respecto de de las distintas acepciones del concepto bioética global. Por lo pronto, para favorecer esta aproximación eh digamos que trascienda las fronteras de de mi propio ordenamiento jurídico, del que utilizo y con el que trabajo todos los días, me parece imprescindible aludir nuevamente A la Convención eh sobre derechos de las personas con discapacidad. En el artículo primero, de hecho, nos ofrece una delimitación espacial útil al definir a las personas con discapacidad, aquellas que incluyen, perdón, aquellas que tengan deficiencias físicas, mentales, intelectuales o

sensoriales a largo plazo, que al interactuar con diversas barreras puedan impedir su participación plena y efectiva en la sociedad en igualdad de condiciones con Las demás. Esto supone entonces la el reconocimiento a priori de la existencia de barreras que dificultan o inhiben la participación de algunas personas en las mismas condiciones que los demás. barreras para informarse, para tomar decisiones autónomas, para trabajar, para trabajar de modo seguro, para educarse, etcétera. Estas situaciones, la convención las define las define como discriminación por motivo de discapacidad en el Artículo segundo, señalando que se entenderá como tal cualquier distinción, exclusión

o restricción por motivos de discapacidad que tenga el propósito o el efecto de obstaculizar o dejar sin efecto el reconocimiento, goce o ejercicio en igualdad de condiciones de todos los derechos humanos y libertades fundamentales en los ámbitos político, económico, social, cultural, civil o de otro tipo. Esto incluye, afirma el mismo artículo, Todas las formas de discriminación, entre ellas la denegación de ajustes razonables, instituto sobre el que voy a volver en unos pocos minutos. Estas barreras, naturalmente, se asocian al efectivo goce de los cuatro derechos que ven en pantalla, nuevamente, autonomía, consentimiento, privacidad y acceso a

la justicia. Voy a hacer un muy breve recorrido ahora de algunas referencias normativas. Les prometo que para los no abogados que esto va a ser breve porque Entiendo que es la parte que que más aburre, pero también era importante poner de manifiesta la recepción normativa de estas cuestiones que estoy destacando y no presentarlas simplemente como reflexiones marginales, sino que esto tiene recepción normativa del más alto nivel a nivel global. A la autonomía destacada ya desde el mismo preámbulo de la convención, se la reconoce eh como un valor central, reconociendo la importancia que para las Personas

con discapacidad reviste su autonomía e independencia individual, subrayamos, incluida la libertad de tomar sus propias decisiones. Esto es el preámbulo, ¿no?, que en términos de interpretación de un instrumento de tipo convencional es muy importante como pauta hermenéutica. decir, si tuviésemos dudas respecto del contenido, alguna previsión específica, muchas veces el preámbulo es orientativo y permite eh interpretar el texto de modo más Acabado. Ahora, ya en el articulado, en el artículo 3 específicamente, donde se presentan los principios generales, se destaca en primer término el respeto de la dignidad inherente, la autonomía individual, incluida la libertad de tomar

las propias decisiones y la independencia de las personas. En el artículo 16, más adelante, en este caso destinado a tratar la protección contra la explotación, la violencia y el abuso, la norma consigna que la Recuperación e integración tendrán lugar en un entorno que sea favorable para la salud, el bienestar, la autoestima, la dignidad y la autonomía de la persona y que tengan en cuenta las necesidades específicas del género y la edad. Ahora, mirando hacia un segundo pilar, diremos que la convención también alude al consentimiento. En el artículo 15, al señalar que nadie será sometido a

experimentos médicos o científicos sin Su libre consentimiento. en el 23, cuando promueve que se reconozca el derecho de todas las personas con discapacidad en edad de contraer matrimonio a casarse y fundar una familia sobre la base del consentimiento libre pleno de los futuros cónyuges en el artículo 25 al establecer que exigirá a los profesionales de la salud que presten a las personas con discapacidad atención en la misma calidad que las demás sobre la base de un consentimiento Libre e informado, entre otras formas, mediante la sensibilización respecto de los derechos humanos. la dignidad, la autonomía y

las necesidades de las personas con discapacidad. Como ven, autonomía consentimiento y los valores que luego destacaremos están íntimamente asociados entre sí. La convención cuando apunta a al tópico importante de la privacidad destaca en el artículo 22 que los estados partes deben proteger la Privacidad de la información personal y relativa a la salud y a la rehabilitación de las personas con discapacidad en igual condiciones con que las demás. En el artículo 31, por su parte, establece que para la recopilación de datos y estadísticas deben respetarse las garantías legales establecidas incluidas la legislación sobre protección de datos,

a fin de asegurar la confidencialidad, otro pilar Importante, y el respeto de la privacidad de las personas con discapacidad. En este punto, como como escucharon recién, la convención remite a una normativa especial sobre la protección de datos. En Argentina, por ejemplo, esto está contenido en legislación de alcance nacional, la ley 25326, por ejemplo, y sus normas reglamentarias. en legislación local a nivel provincial, lo que en España serían las comunidades Autónomas, por ejemplo, en la ley 14214, la provincia de Buenos Aires y en reglamentos especiales como el sistema o un subsistema la seguridad social donde yo

me desempeño que es el sistema de riesgo de trabajo. Aquí dejo un pequeño paréntesis o un asterisco planteado para para más adelante, si nos queda tiempo, si alguno quisiera profundizar, ahí tenemos una experiencia práctica de esto que yo les voy a relatar quizás en un plano más teórico y además eh en por Ejemplo es ineludible eh tratando de buscar cuál es la normativa especial que aborda estas cuestiones, aludir a normas de tipo convencional, que en este caso rigen a nivel europeo, que tienen una influencia ciertamente global, aunque con límites propios del derecho, nosotros le decimos

derecho blando, el de soft law, son normas que producen una fuerte influencia en el ámbito académico, por eso la consideramos al momento de formarnos en el ámbito de la Investigación y también les aseguro que tiene una fuerte influencia en al momento de dictar normativa interna ya con la fuerza y con el imperium propio de la legislación local. Este, en este caso, por ejemplo, el Reglamento General de Protección de Datos Europeo es a nivel global una referencia obligada. Volviendo a los pilares, la convención finalmente también hace referencia al acceso a la justicia, específicamente en el artículo

13, donde afirma que los Estados aparte deben asegurar que las personas con discapacidad tengan acceso a la justicia en igualdad de condiciones con las demás, incluso mediando mediante, perdón, ajustes de procedimiento. Esto eh recuérdenlo, ajustes de procedimiento. Vamos a volver sobre esto. Adecuados a la edad para facilitar el desempeño de las funciones efectivas de estas personas con participantes directos e indirectos, incluida y hay lista una serie de eh Momentos procesales, declaración de como testigos, procedimientos judiciales, incluso en etapa de investigación, otras etapas preliminares. Yo les prometí que iba a desacelerar mi acento por teneno y

cuando tomo conciencia de la velocidad con la que estoy hablando, eh, me tomo conciencia que debo frenar. Así que también les pido que con total libertad me avisen si estoy yendo demasiado rápido. Disculpen que no logré Pasar la diapositiva. Les pido disculpas. Aquí, bueno, hasta que pueda resolver mi tema informático, van a ver en pantalla eh una algo que me pareció interesante destacar como contexto, porque esta discusión que estamos eh iniciando en torno a los pilares autonomía y consentimiento principalmente, no se dan de modo aislado de una tendencia. Eh, aquí yo traté de graficarles de

modo muy sucinto una tendencia global, pero que Nosotros, por ejemplo, nuestro país hemos evidenciado con mucha fuerza del año 2015 en adelante cuando se reformó nuestro Código Civil y se unificó con el Código Comercial de la Nación. Eh, me refiero a una tendencia eh que dejó atrás eh el régimen clásico de capacidad eh en favor de otro que prioriza eh la autonomía. Eh, autonomía y consentimiento, claramente, como les decía, son institutos que están íntimamente relacionados. El ejercicio De la autonomía, en el caso concreto, es el presupuesto de validez material del consentimiento. Y el consentimiento, por

su parte, es la expresión formal de la autonomía. o puede ser expresión formal de la autonomía. Subrayo el formal porque lo que se discute en general en la casuística tribunalicia es si materialmente el consentimiento como documento es expresión de un ejercicio real de la autonomía. Diremos aquí creo Que hay un consenso bastante unánime, que en la faceta formal, el consentimiento es el vehículo a través del cual se expresa la autonomía de un sujeto. Además, autonomía y consentimiento se vinculan con el instituto de la capacidad jurídica, vale decir sintéticamente la aptitud para realizar actos jurídicos válidos.

Y en este punto es interesante entonces destacar esta tendencia que como les digo es global del régimen clásico que Oponía el albinomio eh capacidad e incapacidad casi sin matices, es decir, en el que la persona era declarada incapaz, perdón, la persona declarada incapaz era representada necesariamente por un tercero. Había distintos tipos de representación, pero esta representación era ineludible y quien decidía por los intereses de la persona incapaz era siempre el representante. Ahora, lo cierto es que se está virando Hacia esquemas que priorizan la capacidad como regla con un régimen de apoyos que asisten a la

persona para celebrar actos jurídicos concretos específicos. En el Código Civil argentino, yo se lo destacaba recientemente, reformó en el año 2015, por ejemplo, establece que mediando un proceso judicial en el que se determina la necesidad de uno o varios apoyos especializados, puede ser un apoyo para celebrar actos jurídicos que impliquen Eh que comprometan el patrimonio de la persona o el acompañamiento y apoyo para realizar actos médicos o un apoyo específico para desenvolverse en ámbitos concretos como puede ser el ámbito laboral. Lo cierto es que mediando este proceso judicial donde se determina la necesidad de uno

o varios apoyos, se reconoce la aptitud de de la persona con discapacidad para realizar actos jurídicos de modo autónomo. Los realiza Siempre con el apoyo. Estoy aquí siendo un poco rápido en esta descripción que ameritaría algunas precisiones eh mayores, pero eh me parece destacable eh que aunque la figura de la interdicción de la incapacidad de derecho propiamente dicho se mantiene en nuestro derecho local o en el derecho colombiano, que ahora me viene a la mente, se mantiene como excepción, siendo la regla, el principio, el reconocimiento de esta aptitud de la persona, incluso con Alguna dificultad

de tipo intelectual. A mí me pareció interesante incluir en esta diapositiva que esta tendencia señalada eh es concordante con un fenómeno que quienes estamos involucrados en la cuestión de la ética aplicada o la bioética, veníamos constatando tanto en la relación médico paciente como en el ámbito de las relaciones de derecho privado per sé. en el ámbito de la salud. Eh, creo que a nivel global hemos evidenciado eh o al Menos en Occidente hemos evidenciado una avanzada de la autonomía del paciente respecto de lo que antes conocíamos como el sistema paternalista o médico paternalista clásico, que

de algún modo anulaba al paciente. y el que coincide esta avanzada de la autonomía en la relación médico paciente con una avanzada de la autonomía de la voluntad, que es un presupuesto del derecho contractual por sobre las normas que nosotros definimos como de orden Público. Son cuestiones que antes estaban ajenas a la libertad contractual y que ahora comienzan a ingresar en la órbita de la de la libertad de las partes que contratan. Para no perder eh el hilo y volver a a nuestro edificio, diremos que el desafío radica hoy en el planteo de una relación

médico paciente equilibrada, donde la autonomía y la libertad de ejercicio profesional estén las dos presentes, cada una con sus propios límites y objetivos. y en el Terreno del derecho garantizar la libertad contractual como principio, sin desatender institutos de orden público que expresan los valores constitutivos de nuestras sociedades. Me refiero, por ejemplo, al valor de la vida de cada ser humano, desde la fecundación hasta la muerte natural. El establecimiento de vínculos familiares estables, por ejemplo. Aquí entiendo que a muchos les voy a generar dudas con lo que estoy afirmando. Lo dejo planteado para el Momento de

las preguntas. Si quieren podemos profundizar y si no para seguir en contacto más adelante. En este escenario, entonces, volviendo al eje, conscientes de la centralidad que la autonomía personal posee en el derecho contemporáneo, surgen preguntas respecto de la conveniencia de emplear tecnologías basadas en IA como apoyo. Veremos algunos ejemplos concretos a continuación. Estamos en condiciones, entonces ahora De de evaluar, al menos superficialmente, algunas soluciones concretas. en materia me pareció gráfico eh clasificarlo por utilidades, ¿no? Entonces, en el en el ámbito de la comunicación y el desarrollo autónomo, por ejemplo, existen modelos de lenguaje eh chat

chipt cloud, pero esto es una lista muy pequeña y una gran cantidad de modelos de lenguaje que ya ofrecen interesantes utilidades en términos de Reescritura de textos que puede ser genéricos o de orden técnico. en lectura fácil, la adaptación de contenidos digitales. Eh, existen herramientas que permiten traducir información legal compleja a un lenguaje claro y comprensible, facilitar la formulación de preguntas y el acceso a información contextual, interpretar señales no verbales cuando la comunicación verbal no es posible. O incluso eh esto yo les confieso que eh comencé a explorarlo a Partir de la invitación a este

encuentro. interfaces personalizadas que permiten a las personas con discapacidad intelectual interactuar eh o utilizar de algún modo IA generativa. Yo no tenía conciencia de este tipo de herramientas y la verdad que por ahora va quedándonos en el plano la descripción de la potencia de estas herramientas eh llaman la atención. Recordemos que entre las definiciones contenidas en el artículo 2 de la Convención se consigna que la comunicación incluirá los lenguajes, la visualización de textos, el braile, la comunicación táctil, los macrotipos, los dispositivos multimedia de fácil acceso, así como el lenguaje escrito, los sistemas auditivos y el

lenguaje sencillo, los medios de voz digitalizada y otros modos, medios y formatos aumentativos o alternativos de comunicación, incluida la tecnología de la información y las comunicaciones, Perdón, comunicaciones de fácil acceso. ¿Por qué lo señalo? Porque todas las herramientas tecnológicas que les mencioné recién se asocian a priori con todos los objetivos de la convención, con estos objetivos al menos vinculados a la comunicación. Pero lo cierto y aquí tratando de hacer un equilibrio, el que se reclamaba más temprano es que todas estas utilidades también poseen riesgos asociados que, como verán, no solo afectan a personas Con discapacidad,

sino que en diferentes medidas nos alcanza a todos. A mí me pareció eh razonable eh aludir específicamente a dos, a la sobres simplificación o mala traducción de textos originales, que esto puede ciertamente incidir directamente en el proceso de obtención de un consentimiento informado, por ejemplo. Y por en segundo lugar al riesgo de la opacidad algorítmica, que algo destacó el doctor Amo en su en su ponencia, el Desconocimiento de cómo operó la inteligencia artificial para arrojar el resultado deseado a partir de la información eh acompañada o al prompt emitido. Esta suerte de caja negra algorítmica ciertamente

puede impactar, entre otros, en el derecho a la información. Si bien estas soluciones anuncian que el proceso lógico detrás de una decisión queda registrado para evidenciar que fue informada y autónoma, la comprensión realo en que opera la IA Resulta para muchos de nosotros todavía oscura. En términos de de vida independiente, quizás la máxima expresión de nuestra autonomía. Existen asistentes de voz personalizados, por ejemplo, para patrones de habla no estándar, eh, que pueden asistir para tareas domésticas o para proceder eh guiar nuestro proceder en en entornos complejos o o con algún componente de estrés adicional, como

puede ser un aeropuerto, un hospital, una oficina eh Estatal donde hay que realizar un trámite. También existen asistentes que permiten recordar, estos no son tan de vanguardia, pero la cierto es que la IA está ofreciendo también mejoras en estas prestaciones para recordar medicamentos o hábitos cotidianos, como podría ser, sin ir más lejos, el higiene personal. Lo cierto es que a pesar de ser muy prometedores en algunos casos estos mecanismos de asistencia cotidianos Pueden aumentar la dependencia tecnológica y de hecho disminuir el ejercicio real de la autonomía. En rigor de verdad, reemplazarían el accionar paternalista de

otro humano por el accionar paternalista de un constructo artificial, sea por la guía de un apoyo humano o de un apoyo digital. La dependencia de un tercero podría tornarse constante. Esto es un riesgo que debemos considerar. El desafío en este punto parece ser que el Apoyo asista, pero no reemplace al accionar independiente de la persona. En términos jurídicos estrictos, estos dispositivos generan también controversias en materia de responsabilidad por daños. Algo también surgió en la ponencia anterior. ¿Quién responde si la IA da un consejo erróneo a una persona vulnerable? el que desarrolló la tecnología, el usuario.

Aquí me voy a inhibir un poquito de reaccionar a lo que se estuvo Discutiendo previamente porque es un tema central y muy interesante, es la responsabilidad por daños generados por constructos autónomos, pero sí simplemente destacar como título que a nivel europeo también existen recomendaciones a los estados parte de la Unión eh en el sentido de reconocer o de como mínimo evaluar el establecimiento de una eh en términos eh literales hablan de personalidad electrónica como un centro de Imputación. Esto viene a resolver, al menos en el en desde la perspectiva de sus promotores, los las dudas

que surgen en materia de responsabilidad civil, responsabilidad por daños. Yo ahora me voy mucho del tema si lo profundizo, pero lo dejo también a disposición para ver en otra ocasión. También, así como hay dudas atendibles en relación con la responsabilidad por daños, también existen debates en torno a la cantidad de datos que deben eh Recolectar para cumplir su función este tipo de soluciones tecnológicas. El consenso mayoritario es que asistentes de voz y sensores de guiado deben recolectar el mínimo de datos necesarios y no deben grabar conversaciones privadas, salvo que sean estrictamente necesarias para el cumplimiento

o la satisfacción de la prestación contratada. Ahora, e continuando con estos ejes donde entiendo que hay soluciones que Que merecen nuestra atención, también comienzan a hacerse disponibles soluciones de inclusión laboral, evaluadores de habilidades técnicas o de soft skills, de habilidades blandas, de personas con discapacidad intelectual para la identificación de puestos de trabajo apropiados. Aquí estoy usando objetivos eh poco asertivos. Eh, a propósito, luego probablemente surja del del de intercambio alguna precisión adicional. Lo cierto es que al turno que Desnudan un problema de fondo real, que es la falta de acceso al empleo formal, ciertamente un

tópico multicausal, estas herramientas también ponen de manifiesto el riesgo de perfilamiento por sesgos algorítmicos que replican o pueden replicar prejuicios excluyentes. Las dificultades para el acceso al trabajo se vinculan directamente con el principio de no discriminación y por su impacto en la vida independiente, como dijimos, con el principio de autonomía. Otra herramienta en el ámbito del trabajo eh o y también de la educación es el empleo de simuladores que permiten recrear y ensayar situaciones sociales o laborales como una entrevista de trabajo, el uso de transporte público o el desarrollo de una tarea productiva per sé

en un entorno seguro donde la inteligencia artificial adapta la dificultad de la interacción según la respuesta del usuario. En ambos casos, las herramientas de inclusión laboral y De simulación demandan un tópico central que hoy también por cuestiones de tiempo solo destacaremos superficialmente, que es el de la supervisión humana. Cada persona tiene derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado que produzca efectos jurídicos o la afecte significativamente. Esta es una exigencia que rige a nivel europeo y que muchos de los ordenamientos jurídicos locales como el argentino lo tomaron por Analogía.

Para ello, en un proceso de selección de personal, por ejemplo, es deseable la intervención humana para validar eventualmente la recomendación de la inteligencia artificial para evitar que un sesgo algorítmico descarte un candidato con discapacidad en forma invisible. Yo aquí hago un breve paréntesis para aludir algo que está antes que el sesgo de la IA y es el sesgo humano, ¿no? Porque yo tengo la Suerte de tener en el equipo de trabajo a a un compañero con discapacidad intelectual que cumple sus labores perfectamente, pero cuando pasó por el filtro de la oficina de recursos humanos del

lugar donde trabajo, nos llamaron preocupados desde nosotros habíamos acercado eh el currículum de esta persona porque nos lo habían recomendado. nos pareció apropiado su al equipo, pero no lo conocíamos, no sabíamos cómo iba a Ser su desempeño, no sabíamos cómo iba a ser su nivel de comprensión de nuestros procedimientos, que tienen un componente técnico relativamente elevado. Eh, pero en definitiva eh nuestros dudas y y temores tenían más que ver con nuestra ignorancia sobre la discapacidad que con la real capacidad eh de Leandro. Lo cierto es que cuando Leandro fue entrevistado, nos llamaron desde recursos humanos

diciéndonos que eh vulnerando un poco el procedimiento Habitual de selección de personal para indicarnos que tenían la intuición firme de que no iba a poder adaptarse al entorno porque le había costado comunicarse en el momento las entrevistas. Nosotros corrimos un riesgo en términos de productividad, estoy siendo muy sincero con esta este relato, y decidimos que ingrese igual. Y la verdad es que así como la IA puede fallar replicando sesgos y filtrando de modo inadecuado a una persona eh con Algún tipo de de limitación de tipo intelectual, en este caso el sesgo fue humano, porque Leandro

puede cumplir sus tareas perfectamente. De hecho, ha superado y supera diariamente las expectativas que teníamos para él y para el equipo y nos transformó todos. Así que me pareció interesante destacarlo porque eh a veces eh en el ámbito del intercambio académico, de la investigación eh eh complejizamos y problematizamos en torno tópicos de Época, temas nuevos que son los que más nos atraen, los que los que creemos que están en la vanguardia del pensamiento, pero por ahí subestimando eh otros otros asuntos dilemáticos desde la perspectiva jurídica, social, médica, eh y que que están muy presentes en

nuestras las culturas. En mi experiencia, en los ámbitos donde se está usando ya para selección de personal en la región, la supervisión humana es aún aspecto a mejorar, ya que en general por la Potencia analítica y la celeridad de esta de estos sistemas se aumenta también el riesgo de pereza por parte de las personas y de las instituciones usuarias, independientemente de que además puedan ser vislumbradas como herramientas eh muy interesantes y muy virtuosas de la perspectiva de la mera productividad y la mera operatividad a la gente. Si incluso cuando se las quiere usar bien, sin

intención de sesgar, sin intención De discriminar, sin intención de construir barreras, lo cierto es que la pereza posterior a la potencia la se está evidenciando como un fenómeno preocupante. Y en este sentido, esto merece un análisis bioético per sé. Eh, los insto a leer si no lo han hecho aún, el discurso que el Papa León 14 le dirigió a a los participantes de la décima Jornada Mundial de las Comunicaciones Sociales, porque en este caso él eh partiendo de una problemática Concreta que es la el desarrollo de sistemas de comunicación masiva, apunta a esta cuestión de

el uso apropiado de la IA, ¿no?, a desalentar eh la pereza que aparentemente está eh apareciendo de modo muy claro en muchos de nuestros ámbitos de trabajo. Yo tengo compañeros abogados que no saben escribir y y les está costando escribir, les cuesta hablar, les cuesta comunicarse. Entonces, estamos hablando de gente que trabaja con las palabras y que ya parece No saber usarlas. Eh, este fenómeno que se venía evidenciando por falta de formación eh pareciera estar hoy potenciado por herramientas que de algún modo también nos relajan. Ahora, volviendo al eje, disculpen el excursus, eh les vamos

a continuar con algo que por suerte el profesor Amo lo dijo con claridad y mucha contundencia, así que yo podré tocar solo tangencialmente. Hasta este punto eh pudimos diferenciar Distintos tipos de soluciones tecnológicas basadas en IA. Vimos algunas potencialidades y alguno de sus riesgos. Ahora, lo cierto es que para que estas herramientas resuelvan las necesidades de la población con discapacidad intelectual de modo consistente con sus derechos, debemos asumir una actitud preventiva abordando la problemática desde el desarrollo mismo de la solución. Esto pone de manifiesto, se pone de manifiesto, Perdón, porque gran parte de los productos

de IA que utilizamos puede poseer un vicio de origen, un seco que excluye del total de la población mundial a los extremos o segmentos marginales. En este punto, ensanchemos por ahora nuestra mirada más allá de las personas con discapacidad intelectual y consideremos cualquier sección de la que el Papa Francisco nombraba como periferia existencial. adultos mayores, Personas con discapacidad, personas de bajo ingreso, los descartados. En definitiva, si alimentamos a los algoritmos con datos que aportan solo quienes responden a la lógica productiva, utilitaria y economicista propia de las dinámicas de mercado, corremos el riesgo de invisibilizar estadísticamente

a los excluidos. En la práctica, ello supone que las soluciones tecnológicas sesgadas resulten ajenas a la realidad, entre otros, de las Personas con discapacidad. o en el mejor de los casos, si no los invisibiliza, puede reforzar estereotipos, por ejemplo, infantilizados, ¿no? Este es un tópico clásico eh que vuelve a resurgir y a ponerse de manifiesto con la potencia de las herramientas de inteligencia artificial. Ahora, para la inclusión de personas con discapacidad intelectual en procesos que impliquen la recolección de datos, el Instrumento del consentimiento, que destacamos antes como uno de los pilares de nuestro edificio, es

central, no como mera formalidad, como les dije, sino como un proceso mediado por los apoyos que en cada caso sean necesarios para aseverar la concurrencia de la voluntad de la persona y la participación consciente en el proceso, tratándose de discapacidad. Estamos ante categorías especiales de datos según el artículo 9 del Reglamento General de Protección de Datos Europeo, lo que prohíbe su tratamiento a menos que exista un consentimiento explícito. De este mismo reglamento se deduce que el responsable del tratamiento de la información debe asegurarse de que la persona, independientemente de su condición, perdón, comprenda a qué

está accediendo y que si una persona tiene discapacidad que afecte su comunicación o comprensión, el responsable el Responsable debe proveer los medios para que esa voluntad inequívoca pueda expresarse, por ejemplo, mediante interfaces adaptadas o de lectura fácil. De allí que determinados desarrollos tecnológicos tendientes a favorecer el proceso de consentimiento sean visualizados como un presupuesto necesario del goce de los derechos a la salud o al trabajo. Por ejemplo, frente a efectores de salud, investigadores, empleadores, compañías de seguro, eh Entidades bancarias, un consentimiento robusto permite preservar la autonomía efectiva de la persona con discapacidad intelectual. El desafío

radica entonces en que el contenido del consentimiento per sé complejo para cualquiera de nosotros en este escenario super tecnificado, sea accesible para todos. ¿Qué datos se obtienen? ¿Dónde se almacenan? ¿Quién puede acceder? ¿Para qué? si hay o no posibilidad de uso secundario, etcétera. Ahora, eh vamos a brevemente aludir al cuarto de nuestros pilares, que es el del acceso a la justicia, porque así como la IA podría robustecer el proceso de consentimiento, determinadas soluciones podrían operar también como una suerte de facilitador procesal. es un instituto que en varios países está discutiendo con una suerte de apoyo

virtual en el ámbito administrativo y judicial. También luego les puedo comentar alguna experiencia local eh Para graficarlo. En línea con con esta posibilidad, como vimos anteriormente, el artículo 13 de la convención prevé ajustes de procedimiento que bien podrían incluir herramientas como las relatadas. Recordemos brevemente que el artículo establece, los estados partes asegurarán que las personas con discapacidad tengan acceso a la justicia mediante ajustes de procedimiento y adecuados a la edad para facilitar el desempeño y sus funciones efectivas en Cualquier contexto de tipo eh procesal o de procedimiento administrativo. En el artículo 2 de la misma

convención, de hecho, se define como ajustes razonables a las modificaciones y adaptaciones necesarias y adecuadas que no impongan una carga desproporcionada o indebida, cuando se requieran en un caso particular para garantizar a las personas con discapacidad el goce o ejercicio en igualdad de condiciones de todos sus derechos y libertades Fundamentales. también se define y puede tener relación con esto y sobre todo con esta mirada preventiva que yo les destacaba de abordar estos dilemas desde la faceta del desarrollo mismo de la tecnología. define la norma diseño universal como diseño de productos, entornos, programas y servicios, todo

aplicable al universo tecnológico que puedan utilizar todas las personas en la mayor medida posible sin necesidad de adaptación ni diseño Especializado. Se aclara que este diseño universal no excluirá las ayudas técnicas para grupos particulares de personas con discapacidad cuando fueren necesarias. Por todo lo dicho, frente a el la opacidad del riesgo del disculpen, frente a la opacidad del sistema judicial convencional para cualquiera de nosotros, comienza a evaluarse el uso de herramientas de reescritura en lectura fácil y guías procesales paso a paso Como mecanismos concretos para favorecer la actuación lo más autónoma posible de las personas

con algún tipo de limitación de tipo intelectual. Ahora, eh algo, no recuerdo la la persona que que o una de las personas que preguntó antes, pero de algún modo saludía a a lo cultural, ¿no? Para dependiendo de para qué usemos la herramienta, el diagnóstico eh o la tendrá valores destacables desde la perspectiva Diagnóstica o será más bien riesgosa. Lo cierto es que yo ahora les propongo, tomando eso en cuenta, volver un poco para atrás a la idea inicial de nuestra arquitectura. La arquitectura planteada para preservar los derechos de las personas con discapacidad. Eso es lo

que custodiamos dentro de nuestro edificio. Hablamos de la base de nuestra estructura, la dignidad humana. Hablamos también de algunos de sus pilares, autonomía, privacidad, consentimiento y Acceso a la justicia. Y ahora volvamos un poco atrás en el proceso de construcción para pensar brevemente en el sustrato de nuestra estructura, en el terreno en el cual queremos edificar. Este es el terreno de la cultura contemporánea. Desde ya, desde nuestra perspectiva y naturalista y en el ámbito de la bioética, eh tomando en consideración los principios y y la doctrina, el personalismo ontológicamente fundado, la Dignidad humana es un

valor objetivo que no depende de ponderaciones subjetivas. Sin embargo, en orden a que este planteo y a que podamos pensar en normas éticas y jurídicas eficaces, reales en nuestras cultur nuestras sociedades, debemos tomar como input el dato sociológico, no nuestra posición particular. Y entonces la pregunta que discutía con mi esposa cuando le compartía esta presentación es, ¿qué significa la dignidad humana en nuestra Cultura actual? Esta es una pregunta que excede por mucho mi conocimiento y por y mucho más aún el tiempo disponible. Por eso, para no perder el hilo, expondré sucintamente dos enfoques bien definidos

que desde mi mirada permiten vislumbrar posiciones drásticamente opuestas sobre lo que significa la dignidad humana y sobre lo que significa la discapacidad. Y creo que cualquiera de nosotros nos va a sentir eh o o va a poder pensar en autores que que se Asocien a cada una de estas posiciones, a a argumentos que se esgrimen en los medios de comunicación. En definitiva, estamos tratando de escribir una cultura, ya no en términos sociológicos estrictos, sino más bien eh desde una mirada individual de cada uno de nosotros, que es ahora tratando como de eh traer a colación

estas impresiones que nos generan las decisiones de nuestros compañeros de trabajo cuando hablan de que van a a conseguir Extracorpóamente con toda la capacidad eh o con toda la potencia tecnológica que tienen las herramientas de selección de la descendencia y las que empiezan a vislumbrarse vinculadas a la edición de o la ingeniería de la descendencia para traer uno de estos tópicos o como decía Elena con muy precisamente más temprano, eh trayendo colación esta eh esta conciencia que tenemos de que a partir de quizás como un fenómeno correlativo, no sé si necesariamente como un fenómeno De

causación, pero a medida que aumenta el poder diagnóstico también ha aumentado la eliminación de personas con síndrome Down. Entonces, aquí tenemos una conducta, algo que es más bien del ser, que no sabemos muy bien a qué responde. Entonces, nosotros eh en orden a describir esta cultura, por un lado, graficamos una visión de tinte utilitarista muy cercana a los postulados del trans y el posthumanismo que asocian el valor del ser humano a la Mera operatividad, a la posibilidad de poner en acto determinadas capacidades potenciales, ¿no?, físicas o intelectuales. En este esquema, la persona vale si es

funcional a la maquinaria productiva y por lo tanto la discapacidad es valorada como un defecto que debe corregirse por cualquier medio disponible. Acá me inigo un poco más estando la doctora Elena presente porque el trance de posthumanismo es un tema que cruza Transversalmente quizás cualquier tópico biojurídico actual. Eh, pero este es un tema ciertamente que amerita profundización. Ahora, en el en el polo opuesto tenemos una visión centrada en la dignidad que parte del reconocimiento de una cualidad inherente de la persona humana y que encuentra en la discapacidad una condición accidental que no implica merma alguna

en la dignidad de los individuos. Nótese que en este escenario la dignidad es Reconocida y no atribuida externamente. Desde la mirada o desde la perspectiva jurídica, esta distinción es sustancial. Noten, y ahora cada uno podrá pensarlo en el ámbito de sus de sus países y de sus provincias, considerando la legislación que rige en cada uno de esos lugares. ¿Cuántas de las normas que están vigentes asignan el valor a la persona en vez de reconocer un valor preexistente? Este es ciertamente un riesgo de época, quizás Potenciado por esta cultura que prioriza la operatividad, la capacidad, la

fuerza. Estos dos modelos son opuestos de son puestos de manifiesto, perdón, ya que la solidez de la regulación éticojurídica que edifiquemos para el desarrollo de las tecnologías basadas en IA dependerá fundamentalmente este complejo entramodo cultural que subyce. Es decir, si el terreno sobre el que apoyamos nuestro edificio es pantanoso, la estructura Será endeble y por lo tanto no será suficientemente firme o resistente para aguantar los embates de los nuevos desafíos. Podrá agrietarse fácilmente permitiendo brechas inseguras. Ahora, si en cambio el terreno es firme, claramente la firmeza está dada por el reconocimiento de este valor objetivo

independiente y anterior al derecho positivo, el terreno será firme y la base y los pilares también serán inconmovibles. Esto nos permite llegar a eh la última diapositiva y luego voy a quedar a disposición para que ustedes estimen pertinente. Estamos llegando al final de la propuesta y tenemos que ahora intentar dar este salto que anunciamos en la primer diapositiva, ¿no? Del ser al deber ser. Sabemos que e hay tecnología disponible que trae muchas ventajas y que trae una cantidad de riesgos asociados. Nosotros tenemos Como ventaja en el contexto de que que propone la cátedra internacional de

bioética Jerónom Brenén, que nuestro marco teórico, al menos el de muchos de nosotros, eh nos aclara un poco el panorama en cuanto al deber ser. Nuestra dificultad estará entonces primero en comprender cómo funcionan técnicamente los dispositivos y evaluar en concreto, ya no en abstracto, si contribuyen o no al respeto y la dignidad de cada individuo De la especie humana. El foco de esta presentación pretende ser jurídico, biojurídico y ello supuso un recorrido similar en parte al propuesto por quien me presedió en la palabra y probablemente quien venga luego, porque las todas estas disciplinas, como dijimos,

son prescriptivas, no se reducen a describir los hechos, sino que apuntan a como punto de llegada a la prescripción, al descubrimiento del deber ser. Reflexionamos entonces Partiendo de la IA como un hecho de nuestra vida cotidiana, de sus utilidades y potencialidades para las personas con discapacidad intelectual, destacando también algunos riesgos y amenazas. Probablemente no podamos concluir este encuentro con una prescripción normativa, pero explicitando nuestro marco teórico, ciertamente influido por el pensamiento, vida y la obra de de Sherem, quizás podamos adoptar ciertos Posicionamientos respecto del tema. Sin dudas uno de los temas más convocantes de la

actualidad. Sabemos que hay tecnologías disponibles que conllevan tanto utilidades como riesgos y por tanto superando el estupor inicial que para muchos genera este tsunami tecnológico contemporáneo, debemos avanzar hacia reglamentaciones inteligentes y acordes a la complejidad de los dilemas actuales. Lo dicho implica tomar posición entre extremos Que de algún modo implícitamente surgieron antes en el intercambio. Por un lado, los ludismos renovados que ven en cada adelanto tecnológico una amenaza a la humanidad y por el otro el tecno o los tecnooptimismos que subestiman los riesgos inherentes a las tecnologías emergentes y convergentes. No es ni una cosa

ni la otra, como suele suceder. Para posicionarse en medio de estos extremos sí es sensato asumir una actividad, una actitud eh proactiva, Preventiva y anticipatoria. quizás en línea con de algún modo con la ética de la responsabilidad de de Hansonas, que de algún modo tiene eh relevancia también en este contexto, insiguiendo ya desde el diseño mismo de la solución basada sin inteligencia artificial y además creo sensato ensanchar la base de participación social en el desarrollo de las propuestas normativas. Aquí me voy a detener solo unos segundos porque esto Por ahí para los no abogados puede

ser un poco eh alejado a su cotidianidad, pero es relevante. Aquí creo que hay que explorar en esto de ensanchar la participación social para desarrollar normas razonables, tendríamos que explorar experiencias comparadas de diferentes eh países y regiones. Eh, ciertamente aquí eh el caso europeo es emblemático. Me estoy refiriendo específicamente a las experiencias del llamado sandbox Reglamentario, una suerte de ámbito de sandbox en inglés que a todos nos representa la idea de un arenero donde juegan los niños. Lo suerte es que el sandbox, en este caso con una este este arenero reglamentario, es dispuesto como un

ámbito seguro de prueba en el que concurren tanto desarrolladores tecnológicos, órganos de control, autoridades legislativas, organizaciones especializadas y aquí muy importante personas con discapacidad para el ensayo De soluciones adecuadas. Este enfoque eh expresamente participativo de los sandbox puede representar un camino conveniente para acercar posiciones entre los ludistas y los tecnooptimistas. Todos los entornos de prueba pilotos regulatorios permitirían probar tecnologías, permiten probar tecnologías novedosas, el descubrimiento de aspectos operativos, estándares técnicos y buenas prácticas a considerar, acelerando el Desarrollo, no inhibiéndolo, y el crecimiento del sector tecnológico, pero siempre de un modo consistente con los intereses de

las personas involucradas. A nivel comparado es interesante destacar eh el reglamento 2024 1689 de la Unión Europea, que como saben entrará en vigencia ahora o o inicia a regir a partir del 2 de agosto en pocos pocos meses de 2026. Este reglamento tiene como finalidad, Estoy viendo, me están haciendo una advertencia de tiempo, así que voy a voy a a acotar. Eh, tiene como finalidad, les decía, este reglamento, eh, mejorar el funcionamiento del mercado interior mediante la unificación del marco jurídico en particular para el desarrollo y puesta en servicio y la utilización de sistemas de

IA en la Unión Europea, promoviendo la adopción de una inteligencia artificial centrada En el ser humano y fiable, garantizando un nivel alto de participación y de protección, perdón, en materia de salud, la seguridad y los derechos humanos involucrados, la protección del medio ambiente, entre otras de sus finalidades y la aplicación eh o o la prevención de sesgos algorítmicos a fin de evitar sus efectos perjudiciales. La norma prevé entonces la obligatoriedad de accesibilidad cognitiva en sistemas de alto riesgo, Esto lo destacó el doctor Amo Más temprano, y prohíbe explícitamente la explotación de vulnerabilidades por discapacidad. Y

aquí lo que me parece interesante destacar o más importante es que en relación con la realización de pruebas de concepto o pruebas de campo establece que los proveedores o proveedores potenciales podrán realizar pruebas en condiciones reales con sujetos pertenecientes a colectivos vulnerables, mediando y volvemos a Mecanismos de protección adecuados. Entonces, los ajustes y todas estas herramientas que antes les destaqué que pueden servir en el ámbito procesal tienen una gran utilidad también en estos entornos de prueba que van a de algún modo acercar posiciones entre los que ven en la tecnología emergente una amenaza infranqueable y

los que subestiman totalmente sus riesgos. Como conclusión, cada uno de los pasos que que fuimos Dando y que demos como sociedad al establecimiento de reglas justas, eh entiendo que será fructífero si lo planteamos sobre la base del respeto al valor de cada individuo de la especie sin dejar a nadie afuera. Y como de algún modo traté de sintetizar en el slide que ven en pantalla, en definitiva, la IA será una aliada si sus códigos y algoritmos son escritos en el lenguaje de la dignidad humana. Creo que es una afirmación que dejaría satisfecho A Jerón Bleyem

como cierre. Espero que que estas breves consideraciones hayan sido de su interés. Eh, les agradezco mucho la atención y desde luego quedo a su disposición. Muchas gracias. Muchísimas gracias al profesor Pucheta por su intervención, por esta arquitectura en torno a la discapacidad y esa frase final con la que ha cerrado su intervención, ¿no? Eh, ojalá el algoritmo tuviera el lenguaje de la dignidad. El problema es cuál es el Lenguaje, ¿no? Y de qué manera buscar ese equilibrio que del que has hablado, ¿no? Sin lugar a duda, hm como antes ha sido dicho, la utilidad de

la inteligencia artificial para las personas con discapacidad nadie la p la pone en duda, ¿no? Pero, ¿cómo evitar esos extremos desde el punto de vista del derecho? Esa anticipación para que realmente se ponga al servicio del más vulnerable y no genere aún mayor discriminación. Vamos a dar espacio a un Par de preguntas. rápidas, por favor, y concretas, de manera que recuperemos el retraso que llevamos. ¿Hay alguna intervención? ¿Hay una online? Sí. Buenas tardes, profesor. Nos preguntan online, yo creo que usted lo puede ver también en en el panel, eh hasta qué punto la inteligencia artificial

puede cambiar como entendemos, quién es el sujeto de derechos y qué implica eso para la dignidad humana y la autonomía, Teniendo en cuenta que el derecho positivo, que es el más utilizado actualmente, no termina de responder bien a estos riesgos. Gracias por la pregunta, muy interesante. Me me hace acordar a un compañero de universidad aquí en Argentina que en ocasión él de ser docente eh hacía preguntas del estilo, bueno, hábleme de Dios hasta agotar el tema. Era ciertamente una pregunta imposible de contestar. Esta es una Pregunta muy amplia, muy interesante. Creo que pone de manifiesto

eh uno de los de los temas de época que es el de la crisis y el derecho positivo, tanto a nivel local como a nivel convencional, a nivel internacional. la toma de conciencia de que las reglas que veníamos considerando eh, por ejemplo, para el reconocimiento del estatus de la persona por nacer eh nos vino conduciendo a resultados no deseables. Eh, y quizás en en ámbitos como el de la Discapacidad el tema es más fácil de tratar. Ahora, yo comparto que hay una dificultad práctica operativa de que luego de que las normas establezcan estándares, por ejemplo,

hay críticas que le caben a la Convención Europea, perdón, a la Convención de Derechos de las personas con discapacidad que que rige a nivel global, pero sin embargo eh hay una cantidad de afirmaciones que a nosotros nos resultan del todo satisfactorias Desde nuestra perspectiva personalista. Sin embargo, en la práctica uno ve que esos estándares no se cumplen necesariamente. Por eso yo creo que eh el reverdecer de ciertos posicionamientos más cercanos a la yuz naturalismo, que es ciertamente superador del positivismo extremo que que hasta hace pocas décadas reinaba, porque eh yo fui formado, yo tengo 40

años y hace 20 años terminé mi formación como Abogado y y en la Universidad Católica Argentina y y era quizás el único lugar en mi ciudad donde se nos presentaba el naturalismo como alternativa. El positivismo era la regla. Eso creo que está en crisis en gran medida eh por el, como les decía más temprano, el reconocimiento de que los ordenamientos jurídicos no han no han ido resolviendo ciertas inequidades. Eh, y creo que, a ver, estoy tratando de de decir algo porque la pregunta me llegó por muchos Lugares mientras la escuchaba. Eh, yo creo que la

afirmación de la calidad de la de esta de este condimento inherente de la persona humana, la dignidad humana, el el la partir del reconocimiento de este atributo como algo dado y no como algo creado por el derecho es muy potente y de eso debiera derramar una protección efectiva de todos los derechos de la persona en general, también la persona con discapacidad, Porque en este punto no no hay distinción alguna que valga la pena, eh, incluido el de autonomía que se destacaba el interrogante. Ahora bien, yo trabajo con personas con discapacidad, como les comenté más temprano,

que son promotores en primera persona de la del ejercicio autónomo de sus derechos. Y aún así, y a pesar de su gran capacidad eh laboral, social, eh uno percibe todo el tiempo la limitación De esa autonomía real. Uno uno evidencia la necesidad del acompañamiento, uno evidencia la necesidad del apoyo y ahora para no irme tanto de lo jurídico, me parece que este es un aspecto que debemos profundizar y y y estudiar un poco más a fondo, es qué tipo de apoyo tenemos disponible hoy. Y la novedad hoy es la tecnología. Eso es, me parece, es

el elemento distintivo que no teníamos antes y que nos permite acercarnos al ideal del ejercicio autónomo de la Persona con discapacidad. Yo creo que entonces la el diálogo entre lo que es técnicamente posible y lo que es jurídicamente deseable es ineludible hoy más que nunca. Hoy la distancia entre lo que se puede hacer y lo que se debe hacer es cada vez mayor. La potencia y la velocidad del desarrollo generan muchos de nosotros duda y asombro porque día a día nos enteramos de nuevas potencialidades, de nuevos cambios. Por lo tanto, creo que un aspecto, uno

de Tantos que se pueden profundizar para aseverar que el ejercicio de la persona es autónoma en este contexto biotecnológico es el el instrumento del apoyo, apoyo humano y quizás en algunos ámbitos y debidamente diseñados apoyos de digitales o o artificiales para determinadas acciones de la vida cotidiana. Muchísimas gracias, Leonardo. Creo que nos hemos ido demasiado de tiempo y vamos a dejar aquí, vamos a dar paso al Siguiente ponente. Gracias por estar aquí con nosotros esta mañana. También quiero agradecer a la Fundación Yomleyena Argentina, a Luz Morano, a su directora, que sé que está online, el

habernos ayudado en la organización y difusión del acto. Gracias, profesor Pucheta, por su intervención. A ustedes. Muchas gracias, Elena. Hasta luego. E a continuación creo que tenemos ya en línea al profesor eh Michael Bagot. Aquí Está. Le estoy viendo. Muchísimas gracias por estar aquí con nosotros, profesor. Es un honor tenerle. Entre nosotros el profesor Bagot. Es profesor agregado de bioética en la Facultad de Bioética del Ateneo Pontificio Regellina Apostolorum de Roma, con un enfoque en ética de tecnologías emergentes, transhumanismo e inteligencia artificial. obtuvo su doctorado en bioética sobre una tesis sobre transhumanismo y tomismo. Es

profesor Del Catholic Institute of Technology de Estados Unidos. Él es estadounidenses, la cuota estadounidense de nuestro encuentro internacional, aunque va a hablar, si no me equivoco, en español, profesor, le hemos pedido, aunque las diapositivas van a ser en inglés, ¿no? Ha sido también research escolar de la cátedra UNESCO de Bioética y Derechos Humanos y ha publicado últimamente distintas libros y artículos justamente sobre la intersección de la inteligencia Artificial con las tecnologías emergentes en distintas revistas como Estudia Bioética, First Things, National Catholic Biotis Quarterly and Medicine, eh y en muchas otras revistas ha trabajado sobre inteligencia

artificial y florecimiento humano. e en torno a estas cuestiones. Profesor Bagot, tiene usted la palabra. Muchísimas gracias por estar aquí. Muy bien. Pues gracias por la invitación y es un honor eh compartir un poco de Tiempo con ustedes reflexionando sobre estos temas tan importantes. Eh, realmente quería enfocarme en algunos desorrollos. Sabemos muy bien, hemos escuchado hoy varias buenas aplicaciones de la inteligencia artificial, eh, y buenas posibilidades para realmente servir, ayudar eh las personas en en su vulnerabilidad. Eh, sabemos que la inteligencia Artificial en el mundo sanitario está ayudando y a mejorando eh la capacidad de

de anticipar algunos de las los problemas en en la salud y estamos pasando cada día a un una cura que es más personalizada, más precisa eh más preventiva Y entre estas buenas aplicaciones hay posibilidades de servir la vulnerabilidad humana, servir la persona, respetar la dignidad y también con algunas Herramientas como de transcripción con la inteligencia artificial, podemos incluso aprovechar de estas posibilidades para dar una cura más una relación entre el médico y la paciente que es incluso más centrado en la persona, porque sabemos bien que muchos eh que trabajan en el mundo sanitario tiene que

dedicar un montón de tiempo a a transcribir todas las conversaciones, todos sus encuentros y con las herramientas de la Inteligencia artificial En principio pueden y ya están reduciendo el tiempo a este trabajo para poder también dedicar más atención en el momento, más enfoque en la persona presente. Entonces, en este contexto, afirmando todas las buenas aplicaciones, querían dedicar tiempo también a temas que son más preocupantes, sobre todo en el uso de la inteligencia inteligencia artificial en el contexto del análisis de los Embriones. Ya sabemos que hay todo una industria de de la selección de los embriones,

eh toda una industria que busca proporcionar a los padres la posibilidad de concibir y también la posibilidad de, por así decir, recibir un producto según su gusto según sus deseos. Al inicio, la eh el invitro empezó realmente para proporcionar eh el niño del deseo, pero poco a poco ha también prometido El niño como el deseo de los padres. Entonces este ya existía, pero ahora con algunas de las herramientas de la inteligencia artificial tenemos compañías que prometen aún una precisión eh grande en el análisis de la probabilidad de del éxito del transferimiento del embrión y También

algunos están prometiendo Más posibilidades de niños con una cierta inteligencia, una cierta altura, particular color de los ojos y también, obviamente de la posibilidad de elegir con más precisión el sexto del del embrión del y del niño. Entonces, en este contexto tenemos compañías como de eh Nucle Genomex y dentro del Nucle Genomex hay toda la parte de núcleos embrio. Y en este compañía, un joven que tiene 25 años, Ran, ha fundado una organización que por la primera vez es explícita en su deseo de ofrecer a los padres eh niños con las cualidades más deseadas y

con la ayuda de la inteligencia artificial. todo en el nombre de la autonomía. No, no voy a eh poner el video por entre este tiempo, pero si si van al sitio de Nucle Genomex, pueden ver eh su video explicando el proceso se puede notar las referencias constantes a la autonomía. Dicen que esta es una elección de los padres y que también favorecen la autonomía de los niños que van a través de su compañía, porque ellos tendrán más libertad, más posibilidades, porque no van a sufrir de defectos, no van a sufrir de ningún tipo de enfermedad.

Genética y van a tener más fuerza, van a tener más inteligencia, van a tener más oportunidades sociales. Entonces, según ellos, según esta mentalidad, todo el proceso, todo el uso de la inteligencia artificial en el contexto de la reproducción es para favorecer la autonomía de todas las personas. Y Nucle Genomex es probablemente hoy en Día la compañía más famosa que es más eh explícito eh más explícita en su propuesta, pero existen varias varias compañías que que buscan este precisión en la predicción de las cualidades de de la del futuro generación y quieren evitar cualquier tipo de

discapacidad y cualquier tipo de enfermidad. Obviamente muchos van criticando Eh estas compañías pela genética, pero en general Ran de Nucle Genomics y otra otras compañías dicen que no es la genética porque eh otros grupos como los Nazis querían imponer una visión del ser humano, una visión de la raza superior y querían quitar la autonomía, la libertad de los padres. En cambio, estas compañías dicen que quieren dar espacio a la libre elección de los Padres y la libertad de los niños producido e en este tipo de de proceso. Entonces ellos no les gustan el término eugenética,

pero algunos al menos aceptan que es un tipo de genética liberal y no es como la imposición del gobierno, no es la imposición de de un grupo de poder, sino la libre elección de de los padres. También en este mundo de la inteligencia Artificial y la reproducción, hay un tipo de movimiento de genética digital que habla de el próximo especie como la la versión de la humanidad. que debería suplir el ser humano del día de hoy. Hablan de la necesidad de pasar de una existencia biológica A una que es más digital. Y según ellos este

es el futuro. Es el futuro de la conciencia. Es el futuro de la inteligencia. Y dicen que los hombres de hoy, los hombres biológicos, seres humanes biológicas, son como el inicio de este proceso de evolución. son como algunos hablan de del bootloader, es decir, el bootloader es el código en Una computadora para iniciar eh el programa. tiene su su finalidad al inicio del proceso, pero después no hace falta el el bootloader. Entonces, según algunos somos nosotros como el bootloader de este próximo paso de la evolución. Hay un ensayo sumamente interesante escrito por Sam Altman, fundador

de Open AI. de Chatt en el año 2017. Eh, y él habla explícitamente de esta posibilidad que somos nosotros el bootloader biológico, es decir, el inicio del paso a a la próxima fase de la evolución. Él habla también del merge. Todo el ensayo se llama The merch y según él este eh visión del merge es semejante a las singularity. Este punto de de la explosión, de la inteligencia, este punto donde la inteligencia artificial llega a la capacidad de de como mejorarse eh incluso sin la dirección de el guía de los humanos y va a ser

como el punto posiblemente de una integración más profunda de la máquina y el hombre. Y Altman prefiere el término merge a singularidad, porque el singularidad da la impresión de un momento, pero según Altman y otros es un proceso m que va más lentamente hacia esta explosión de la inteligencia y del de la capacidad de la inteligencia artificial de de mejorarse eh más o autónomamente. Y en este ensayo del merch, Altman está proyectando, está viendo la posibilidad de este próximo paso de de la humanidad y ahora está invirtiendo muchísimo Dinero en este proyecto. tiene una compañía

del Merch que ahora es una compañía dedicada a el interface entre eh el cerebro y la inteligencia artificial. Es un proceso, es un sistema menos invasivo en comparación con Neurotec, Neurolink de Elan Musk, pero va en este línea de una integración de la inteligencia artificial en el cerebro o al menos en el proceso Cognitivo de de la persona humana. E hay otros que realmente quieren dejar completamente el aspecto biológico. Ah, era al menos en aquel tiempo la postura de Larry Page cuando él era encargado de Google que quería superar eh este fase de de la

biología. parecen bastante de película, pero hay gente con poder y dinero que están pensando seriamente en movernos a esta próxima fase, incluso O o incluso eh el hecho de de la imposibilidad de llegar a este tipo de de realidad. La visión atrás realmente afecta el tratamiento de las personas biológicas hoy en día. Porque si la biología es fundamentalmente un obstáculo a la realización personal, a la posibilidad de avanzar la conciencia, de llegar a niveles más altos de inteligencia, Pues las personas con discapacidades, las personas más débiles, las personas con una neurología divergente. Todas estas personas

son realmente un peso para la sociedad y como un obstáculo a este progreso. Hay un movimiento también de tech pronalismo, promover el nacimiento de más personas, de más niños. Pero siempre con un control más grande, Siempre con un análisis más precisa de la calidad de los embriones. Tengo aquí una imagen de la familia Malcolm, que son realmente eh una pareja muy activa en promover este visión. También Elon Musk ha hablado de este necesidad de promover el nacimiento de más personas, pero según este visión es un nacimiento, es es un reproducción siempre guiado por la tecnología

y hoy en día con el análisis de la inteligencia artificial. Según algunos en esta escuela es tan importante por por el problema deinear nuestros sistemas de inteligencia artificial con nuestros valores. Ellos tienen miedo de sistemas de tanta autonomía que van contra o al menos fuera el control de los seres humanos. Y para afrontar este problema, según ellos, tenemos que asegurar una generación más inteligente, Una generación superior a lo que tenemos hoy en día. Entonces urge realmente elegir bien el tipo de embrión y la calidad del futuro generación, porque si no, como eh raza humana, como

eh humanidad, no tendremos las capacidades de guiar bien la inteligencia artificial. Entonces, paradójicamente, precisamente por eh los riesgos de sistemas avanzados de inteligencia artificial, tenemos que usar más la Inteligencia artificial en el análisis y el diseño de la próxima generación de seres humanos. Y hay muchas compañías como eh como Orchid que propone ayudar en este proceso de mejorar la la próxima generación de de seres humanos. Creo que el eh la filosofía atrás de muchas de estas propuestas es una filosofía bastante eh desarrollada en el pensamiento de Julien Sabalesco. Hace bastantes años propuso él un principio

de de procreative beneficence, es decir, un principio de la responsabilidad que los padres tienen para elegir los embriones que tienen la mejor posibilidad de la mejor vida en el futuro. Es decir, no es simplemente posible y éticamente eh lícita usar Las tecnologías como el invitro para elegir positivamente en favor algunos embriones y negativamente contra embriones que tienen defectos o posibilidades de enfermedades o discapacidades, sino una responsabilidad moral. Sería casi una falta de de sería realmente una falta de responsabilidad, no aprovechar de los medios tecnológicos que tenemos. Hay hay otro pensador, eh, Hen Krily, Que es

un experto de la genética en la Universidad de Stanford en los Estados Unidos, que ha escrito todo un libro diciendo que realmente debemos dejar los actos conyugales, sexuales, tradicionales, por así decir, a una actividad recreativa por pura placer. La reproducción, según él, debería ser exclusivamente hecha con la tecnología, que puede ser en vitro o otros medios, porque así Tenemos más control, tenemos más posibilidades de dar la los niños las capacidades que queremos. y sea inteligencia, fuerza, etcétera. Y es bastante común este perspectiva. Entonces, la filosofía no es tan nueva, pero ahora las la sistemas de

inteligencia artificial al menos parecen darnos más control, más capacidades de análisis, más dirección para la próxima Generación. Y obviamente podemos hacer muchas críticas eh de este postura. Yo diría, por ejemplo, que este eh principio pueden eh llevar algunos padres de promover ideas de sexismo o racismo, ¿no? Porque los mismos padres son de esta ide. Es decir, no porque son Sexista o racista, pero porque quieren dar sus hijos los mejores posibilidades en la vida. Quieren quitar de sus hijos obstáculos en la sociedad. Entonces ellos a veces podrían decidir que en una sociedad que injustamente eh dan

privilegios, por ejemplo, a hombres en comparación con mujeres, sería mejor elegir activamente un hombre, un embrión que es masculino, en vez de un embrión, una mujer. E de nuevo pueden realmente rechazar el sexismo, pero la presión de dar lo mejor, la presión de dar más posibilidades a su sus niños podrían como presionarlos a hacer este tipo de elección. También con el tema de la raza pueden ser padres perfectamente abiertos a a todo tipo de persona que podrían por presión cultural decidir de elegir activamente un embrión de una cierta raza para dar estas posibilidades a sus

Niños. Y obviamente la presión social es fuertísimo de evitar cualquier tipo de defecto, cualquier tipo de discapacidad y no hay una un aprecio por las virtudes que se pueden cultivar precisamente en la cura y el apoyo y la relación con personas con ciertas vulnerabilidades o necesidades. E también quería decir que eh tenía un encuentro hace un año y medio, casi 2 años con el mismo Sabolescu, Eh, y él estaba hablando en un evento, era un evento público. Entonces, creo que puedo compartir esta experiencia y estaba describiendo su decisión de tener un niño con su mujer.

Y después de varios varias semanas de embaraz de embarazo, eh los médicos dijeron a a él, a su mujer, que el niño tenía una condición Con altas posibilidades de discapacidad e mental. y físico y era una noticia muy fuerte y difícil para ellos. Y él estaba pensando qué hacer. fue a su su guía, su mentor, eh el filósofo Peter Singer, que estaba presente en este evento ahí en la primera fila ah cuando Julian estaba contando esta historia y Julian pidió Peter que qué debería Hacer, qué debo hacer ahora y él sin pensar mucho decía, hay

que aportir. Pero Julian dijo al grupo, a nosotros en la conferencia que para él era muy difícil para su mujer matar a su niño porque ya llevaba bastantes semanas de embarazo. Entonces, psicológicamente era demasiado difícil hacer esa elección de matar al niño y y no tenía problemas usar este tipo de lenguaje de matar el Niño, porque como ustedes saben, hay una diferencia entre una eh un ser humano que es persona un ser humano que no es persona. Entonces, para ellos no era matar una persona, pero sí un ser humano. Sí. Eh, entonces él decidió de

decidieron de ir eh adelante y gracias a Dios eh se dio a la luz eh la mujer y gracias a Dios el niño no tenía ningún tipo de de problema físico mental, pero según su filosofía creo que hubiera Sido eh más coherente con su filosofía, con su principio de beneficio procreativa, seguir el consejo de Peter Singer, es decir, aportir, pero en aquel momento actuó mejor que su filosofía, es decir, lo decidieron correctamente de ir eh adelante con el embarazo y dar este niño la posibilidad. Entonces, eh Quería terminar un poco este breve, sumamente breve presentación

eh con este hecho real para ayudarnos eh darnos cuenta de nuevo que la búsqueda del control sobre la reproducción eh no toma toma en cuenta todas las sorpresas, todos los factores fuera de nuestro control. Y también sabemos muy bien que cada niño, cada nueva vida es un misterio y es una riqueza. Y incluso en las situaciones cuando Encontramos eh discapacidades, cuando encontramos eh enfermidades, nos dan la oportunidad de servir mejor, de curar mejor, de crecer en la paciencia y en la entrega y podemos florecer. No a pesar de las vulnerabilidades humanas, pero precisamente a través

de de nuestras vulnerabilidades y las vulnerabilidades de las personas que nos toca eh cuidar y ayudar y Servir. Entonces si a todas las aplicaciones de la inteligencia artificial que nos ayudan servir, ayudar mejor, pero no a las filosofías que nos dan la falsa eh ilusión de un control total sobre la próxima eh generación. Muchas gracias y espero poder responder al menos a una o dos preguntas eh después de seguramente una mañana o Tarde muy intensa de estudio. Gracias. Entendido un momento. Perdonad. Sí, lo he encendido, ¿verdad? Muchísimas gracias, profesor Bagot, por estar aquí con nosotros

esta tarde y por explorar esa tendencia, ¿no?, que es que usted ha mencionado y que conoce usted muy bien, la tendencia transhumanista y y digamos del creciente uso de la tecnología con una finalidad eugenésica. Eh eh yo también le oí contar esta anécdota a Julian Sabulesco, que para quienes no lo Sepan, eh fue durante mucho tiempo el director del Centro de Ética Aplicada de la Universidad de Oxford, es decir, estamos hablando de un discípulo de Peter Singer con muchísima relevancia, ¿no? Pero ahí le pudo, ¿no? Le pudo, como usted dice, eh razón extra científica, ¿no?

Eh me ha gustado mucho su intervención y a mí me daría pie para hacerle muchas preguntas. sabe que eh he estudiado durante muchos años la cuestión del Transhumanismo, pero me gustaría hacerle una pregunta y es la siguiente. ¿Usted cree que sabemos que el transhumanismo que nace en los 50 eh viene de una matriz eugenésica? Eh eh cree que la tendencia del uso de las ciencias convergentes que usted ha estudiado durante años eh va en esta misma dirección o tenemos razones para ser optimistas, es decir, para hacer un uso de la inteligencia artificial realmente a beneficio

de las Personas con discapacidad. ¿Cómo ve usted, digamos, eh denos una big picture de cómo ve usted en la visión de futuro. Gracias. Sí, gracias por esta pregunta. Yo creo muchísimo depende de la cosmovisión de las personas que están utilizando la las tecnologías. Es decir, entiendo por qué muchos que trabajan con una visión secular, que piensen que este es el único mundo y Que somos los, al menos por ahora, los seres más inteligentes del mundo, que pues entiendo bien porque sienten este necesidad de controlar y dirigir la próxima generación. entiendo porque para ellos vivir con

discapacidad o h introducir en el mundo personas con estas discapacidades es una tristeza y y casi una pérdida y y que es es como entiendo por qué piensan que hay hay personas que realmente no deberían vivir porque tienen una visión muy reducida de Del mundo y de la persona. Entonces, hay que romper, hay que realmente expandir este eh visión. No hace falta una razón abierta que tome en cuenta otras realidades que van más allá de este mundo, que va más allá a la vida eh material. Eh, pero estoy convencido que hay, en cambio, muchas personas

que se dedican a al mundo biotecnológico, se dedican al mundo de la medicina, la inteligencia artificial, precisamente Con el deseo de servir, de ayudar, de preocuparse por el bien de los otros. y y también muchas veces tenemos como eh intenciones mezcladas, ¿no? Y y y hay personas que que no tienen una visión perfectamente clara de cómo es la persona o o cuáles son eh los bienes principales o las virtudes principales en el mundo. Entonces, yo creo eh la inteligencia artificial y los desarrollos es nos permitan y nos exigen realmente un Análisis más profunda de las

filosofías, de los cosmos visiones eh que están guiando las aplicaciones, porque si no vamos a a terminar con las ideas falsas. eh de que hay vidas que que valen la pena y y otras que que realmente serían mejor terminar. Le doy las gracias, profesor Bagot, y ya nos acercamos a las conclusiones de la jornada para no eh retrasar el cierre. Y en primer lugar, ya que están aquí los Dos presentes, al profesor Pucheta, al profesor Bagot y el profesor Rafael Amo, que han estado con nosotros, les quiero agradecer las aportaciones que ha hecho cada uno

desde una perspectiva distinta, ¿no? Y creo que ha sido enriquecedora. Es verdad que no pretendíamos abordar todos los aspectos relativos a la inteligencia artificial, a la bioética, ni siquiera los aspectos positivos que nos puede dar la inteligencia artificial. Les quiero decir que todas Estas intervenciones junto con la jornada que ha habido en París el día 14, donde sí que se abordó la visión filosófica de lo que se entiende por mal entiende por inteligencia artificial, van a estar grabadas posteriormente en nuestra web. Y voy a hacer a modo de conclusión de cierre eh algunas palabras desde

lo que entendemos desde la cátedra internacional de bioética Yegle Legend debería ser un uso eh adecuado, ético y Correcto de la inteligencia artificial eh en para ayudar a las personas con discapacidad. En primer lugar, quiero reseñar y señalar a lo que ha salido en distintas intervenciones, subrayar la importancia de la dignidad de la persona humana, la persona como no objeto y por tanto no sujeto de optimización ni de selección, sino como un ser vivo, fin en sí mismo, con derechos inalienables, desde el origen de su existencia hasta su muerte. La inteligencia artificial no Debería, por

tanto, instrumentalizar ni legitimar decisiones que la utilicen, que le consideren como un objeto y ni siquiera que se hable de calidad de vida humana en cuanto que todas tienen igual dignidad, igual valor. En segundo lugar, consideramos que todo tipo de tecnología, incluida la inteligencia artificial, debe servir al bien integral de la persona, dando prioridad al juicio humano ético sobre el algoritmo, que podría sesgar o discriminar la Diversidad humana o incluso llegar a eliminarla y vulnerar, por supuesto, también la autonomía de la persona con discapacidad. En tercer lugar, queremos hacer una crítica a la estandarización aplicada

a criterios de selección de la vida humana, a la lógica estadística de la inteligencia artificial que pudiera generar sesgos, homogeneizar, ignorar la singularidad personal y cometer, por tanto, actos injustos hacia personas discapacitadas y vulnerables. En cuarto lugar, la bioética personalista que propugnamos desde esta cátedra apuesta por una ética del algoritmo que respete a la persona, la justicia, la dignidad, la libertad de la persona y que no sustituya la relación médico paciente ni tampoco la deliberación ética prudencial. las decisiones prudenciales en cada situación una vez que se haya utilizado la inteligencia artificial y no dejar la

última palabra Al algoritmo, sino a la inteligencia humana. Quisiera concluir con unas palabras de Legén que eh él repitió varias veces y que me gustan especialmente, ¿no? Y son las siguientes: la ciencia es acumulativa, eh la sabiduría no seremos cada vez tendremos más conocimientos científicos y por ello tendremos más poder para hacer el bien y el mal. Pero no por ello, decía Legen, seremos cada vez más sabios. Creo que es importante y Fundamental, y desde esta cátedra, desde luego, intentamos hacerlo, el propión ética prudencial en torno al buen uso de la inteligencia artificial aplicada a

la persona y en particular a la persona con discapacidad. No me queda más para cerrar el acto. Agradecer a todos los asistentes, a los ponentes, emplazarles a las próximas conversaciones de bioética a nuestro Congreso Internacional de Bioética que tendrá lugar el próximo 7 y 8 de mayo del año Que viene, del 27 en Roma, como ya saben, sería nuestro cuarto congreso internacional de bioética y suscribirse a nuestra newsletter para estar atentos a todo lo que sacamos sobre estas cuestiones. tenemos intención de escribir un informe del uso de la inteligencia artificial en la discapacidad. No nos

olvidaremos de los buenos usos positivos, eh, que a veces es verdad que quizá hemos puesto el acento sobre los riesgos éticos, no Vamos a olvidar los usos positivos que tiene la inteligencia artificial para ayudar a las personas con discapacidad, ampliar capacidades, ¿no? Eh, y probablemente a lo largo de este año 2026 tenemos intención de hacer este informe, lo haremos público y lo publicaremos también en nuestra web. Muchísimas gracias a todos. Eh, profesor Pucheta, profesor Bagot, asistentes online desde Argentina y desde distintas latitudes. Ah, quiero agradecer también A la Fundación Legyen Argentina, a la Fundación Legén

en Estados Unidos y en Francia, que hicieron una jornada en francés el sábado 14 de marzo, vuestra asistencia y por eh digamos contribuir en cierto modo a la reflexión en torno a la inteligencia artificial eh aplicada a la discapacidad humana. Muchísimas gracias a todos y hasta pronto.