Señoras y señores bu día señoras y señores buen día por favor pueden sentarse apaguen los coloquen los celulares en modo silenciosa vamos a dar inicio al seminario impactos de la Inteligencia artificial en el constitucionalismo contemporáneo que discute como la Inteligencia artificial influencia el sistema constitucional la democracia y los derechos en el contexto jurídico Actual amos que el registro de presencia está disponible a través del QR code que está en la entrada del Auditorio uno de los ponentes hará su presentación en español para los que lo deseen están los radios receptores de traducción componen la mesa
de honor los excelentes señor ministro Luis Roberto Barroso presidente del supremo tribunal federal y del Consejo Nacional de Justicia su excelencia el señor ministro tribunal Federal su excelencia señora eh Señor bastos consejero de Justicia ministro del stf y su excelencia la señora ministra sustituta gilene Lobo del tribunal superior electoral también le agradecemos la presencia de magistradas y magistrados señoras y señores ponentes abogadas abogados funcionarios y funcionarias cuerpo docente y dicente señoras y señores en este este momento tiene la palabra el excelentísimo señor ministro Luis Roberto Barroso buen día a todos es un placer y una
alegría estar aquí y compartir esta mesa con el decano el ministro a la derecha el ministro del tribunal superior electoral y consejero del Consejo Nacional de justicia guillo bastos y tamb del tribunal electoral lobo todos tenemos el honor de estar en su Presencia también quiero saludar a los moderadores ponentes turing camón larer MZ fera Méndez Federico Franco alpin Gutiérrez Carlos amado y las autoridades presentes el ministro del superior tribunal de Justicia La subprocuradora general de la república doctora Raquel Dodge es un placer También la presidenta de la asociación de procuradores de la República ubiratan caseta
elizabe Master consejera para asuntos de cultura y educación de la Embajada de Estados Unidos El cnj Paulo barreto todos bienvenidos los quiero saludar a todos los presentes y sin más demoras voy a comenzar Mi presentación como expliquer los colegas tienen el compromiso en San Pablo voy a tener que sal a las 10:30 y no deja de ser un alivio que ustedes yo voy a hablar poco y ya les voy a pedir disculpas desde Ya iban por la calle un padre un cura un ciudadano derecho y un ciudadano y el ángel de la muerte le dije
los voy a llevar cada uno tiene derecho a un último deseo y el cura dijo Quiero rezar la última misa concedido profesor de derecho dijo Yo quiero dar la última clase concedido el ciudadano dijo quiero que me lleve antes de que estos dos empiecen a hablar estamos viviendo estábamos viviendo la tercera Revolución industrial de revolución tecnológica o digital la primera fue la del vapor la la la cuando cambió el del siglo XX la combustión interna la tercera la revolución tecnológica caracterizada por la sustitución de la tecnología analógica por la tecnología digital esto de a poco
permitió universalizar los computadores de los usuarios los smartphones y sobre todo la internet que Conecta millones de personas en todo el mundo desarrollamos un nuevo de hecho un nuevo vocabulario eh para este nuevo mundo de la tecnología de la información la biotecnología nanotecnología impresión en 3D computación cuántica internet de las cosas algoritmos esto todo esto cada vez más Se volvieron conceptos importantes de nuestro tiempo y esta Revolución tecnológica cambió el eh rumbo a tal punto que las empresas valiosas que se decía cuando eh Cuando Éramos más jóvenes decía General Motors fabricaba automóviles general electricas fabricaban
grandes equipos hoy en día niun de ellas figura entre los eh las empresas más valiosos como por ejemplo Facebook Microsoft y ellos hacen los semiconductores que alimentan a esas empresas estamos viviendo esta Revolución tecnológica que ha permitido la eh que no se utilice más las que se cada Vez se utilicen más las plataformas digitales en todo el mundo antes para llegar al espacio público eh Como regla general había que usar los mecanismos de la prensa tradicional los medios de comunicación tradicionales la internet democratizo el acceso el acceso al espacio público y también disminuyó mucho el
control editorial mínimo que las empresas de comunicación hacían sobre lo que llegaba del espacio por lo tanto la internet al Mismo paso que democratizo el acceso a la información y el espacio público también abrió las la Estrada a la desinformación para los discursos de odio las teorías conspiratorias de lo cual surgió esta necesidad de discutir la reglamentación porque el modelo de negocio de las plataformas digitales se funda en dos Pilares uno es la colecta de datos la recolección de datos eh hubo que hacer una ley de protección de datos Para que no se utilizaran en
forma indebida y el otro Pilar es la participación que porque ellos viven de viven de los clics del acceso es lo que les da la publicidad a los medios digitales y por lo tanto para obtener esta participación lo que demuestran las encuestas trágicamente Es que la desinformación la mentira el sensacionalismo produce más participación que la la Búsqueda de la verdad las aciones moderadas y como los incentivos no son buenos es necesario traer algún tipo de reglamentación para adecuar y que el mundo no Se proyecte en un abismo de invisibilidad de desinformación de groserías de ataques
Esa es la discusión que vamos a tener hoy sobre la reglamentación de en las plataformas digitales tiene que haber una ación amplia y Estatal para que Existan los incentivos correctos y adecuados es necesario que les diga que la Grande novedad desde el punto de vista del constitucionalismo es que surge en el mundo Romano germánico sobre todo simbolizado a través de la Revolución Francesa como un mecanismo de limitación del Poder del estado y de protección de los Derechos individuales frente al Estado el constitucionalismo se concibió como un estado del centro de Gravid de gravedad limitar El
poder del estado y garantizar los derechos eh individuales la gran novedad que vivimos en este mundo es el surgimiento de estos poderes privados que son las plataformas digitales muchas de ellas tienen una facturación superior al producto interno bruto de la mayor parte de los países del mundo un una facturación como de de del priv de Alemania que uno de los países más ricos de Europa Entonces nosotros estamos desde el punto de vista Constitucional estamos luchando contra un poder privado que sustituye en términos de riesgo a diversos dominios como la dominación del poder económico riesgos más
grandes de lo que ofrece muchas veces el propio estado en esta forma estamos eh lidiando con la necesidad de eh de limitar el poder privado y de de luchar por nuevos derechos fundamentales Como por ejemplo la inclusión digital de un niño hoy que no tiene acceso a la internet que no Tiene acceso a un mundo de conocimientos que ofrece la internet va a estar defasada y no será competitiva en el mercado Hay nuevas reglas que protegen la Constitución brasileña que protegen los datos personales y surge un nuevo debate para proteger la libertad cognitiva de las
personas porque las plataformas digitales son capaces de monitorear nuestra nuestro movimiento la navegación en internet y dictar nuestros Intereses y gustos si yo busco un precio de pasaje en San Pablo mi internet empiezan a aparecer anuncios de hoteles en San Pablo entonces la internet identifica nuestros intereses y los nos dirige las publicidades y las noticias de acuerdo al interés individual de cada uno esto no sería un gran problema en sí salvo los riesgos de tribala del internet sin embargo lo que se dice hoy es que con el avance de los estudios sobre ciencias la Neurociencia
la capacidad ya no es solo detectar lo que nosotros queremos sino crear lo que deseamos y nos gusta haciendo una manipulación cerebral de las personas esto es un ramo que aún está surgiendo que es la comprensión de cómo funciona desde el punto de vista constitucional surge esta novedad Antes de hablar específicamente sobre la Inteligencia artificial hablamos sobre la tecnología General Necesito hacer una observación muy interesante como resultado de un pasaje H de que si una joven o un joven tiene dos pretendientes y está en duda sobre cuál escoger Google es capaz de tomar la decisión
mejor que la propia interesada solo cruzando las informaciones que tiene sobre los pretendientes y pretendidos aunque esto sea una frase una así graciosa algo de verdad tiene que es la posibilidad de que en el Mundo algunas de las deciones más importantes de nuestras vidas se pueden tomar en forma más eficiente fuera de nosotras heterónima y esto cambia completamente uno de los pilares de la sociedad occidental que es el libre albedrío la idea de la autonomía individual cada persona hace sus elecciones existenciales dentro de lo que es posible a partir del momento en que las decisiones
más importantes de nuestras Vidas se las podemos tomar fuera de nosotros se destruye uno de los Pilares de los en los que nos basamos en los que nos educamos hay muchas cosas nuevas inclusive desde el punto de vista ético que surgen en el mundo contemporáneo como ese conjunto de novidades no es suficiente a ahora tenemos la Inteligencia artificial la Inteligencia artificial ya es eh es antigua impacto eh últimamente es el impacto perceptible lo que se discute la Degenerativa la generativa perdón el chat gpt que es capaz de generar contenido texto sonidos imágenes y esto fue
una transformación muy profunda la Inteligencia artificial diciéndolo simplemente es un conjunto de software de programas de computadora que transfieren a los computadores y a las máquinas la capacidad cognitiva y decisivas humanas básicamente es lo que hace Solo que hoy en día en el estado de arte que estamos La Inteligencia artificial no tiene conciencia de de sí misma no sabe lo que es bueno y lo que es malo ni siquiera tiene un sentido común la Inteligencia artificial se alimenta totalmente íntegramente a través de los datos y las instruc y los objetivos que proporcionan las personas humanas
y trabajan con algoritmos que es una palabra nueva y fea y que ahora está presente en todos lados en nuestras vidas de una forma muy simple es el conjunto de instrucciones Que se le dan a los programas para operar la Inteligencia artificial qu es de innovador del punto de vista positivo tiene un conjunto importante de beneficios para la vida humana por ejemplo mayor capacidad de toma de decisiones porque la Inteligencia artificial eh es capaz de almacenar más informaciones del que el cerebro humano y procesarlo mucho más rápidamente La Inteligencia artificial sí será capaz de Tomar
decisiones con más competencia Y capacidad que la propia condición humana Esta es la primer gran ventaja el rasgo positivo el segundo es una automatización más sofisticada y por lo tanto muchas actividades humanas de riesgo o repetitivas eh van a ser realizadas a través de la Inteligencia artificial eh desde remover una mina terrestre eh Hasta colocar un cable en el fondo de los Que se puedan ser desempeñadas a través de la Inteligencia artificial que puede trabajar 7 días por semana las 24 horas y no no no nos va a procesar nos va a poner un juicio
de trabajo que pueda hacer también puede trabajar con la Inteligencia artificial la tercera transformación extraordinaria es la que se refiere al lenguaje a la capacidad no solo de comunicación sino que quien ya usó los programas actuales de Traducción Jeep Google Translator el propio chat gpt es extraordinaria la capacidad de las traducciones que hoy realiza y que hasta hace poco era imposible yo mismo en julio estuve en un congreso sobre Inteligencia artificial en China y una profesor chin hablaba en chino y había una tradición simultánea para en inglés a través de un robot con una calidad
que yo les diría de un 80% pero estamos llegando al punto en que voy a poder hablar portugués aquí y Juan Va a poder entender en español y el compañero chino va a poder escuchar este en China una china una traducción simultánea independientemente de la intervención humana por lo tanto la transformación que esto va a tener en el lenguaje pamentos lecturas de imágenes la medicina para la lectura del cerebro vamos a tener una profunda Revolución en la medicina de la Inteligencia artificial Con potencial en el uso de la educación los problemas éticos que van a
surgir para hacer una declaración de amor a la novia y tal el chat gpt Se presenta fraudulentamente como si fuera una una persona real hay muchas explicaciones todas esas utilidades que tenemos el Uber todo lo maneja la Inteligencia artificial es que también ofrece un riesgo enorme el mercado de trabajo el uso para fines bélicos la Masificación de la desinformación a través del potencial de circulación de la desinformación de la maldad sobre todo en ambientes electorales y ahora con el Deep fake es la posibilidad de colocar hablar de cosas que nunca dije sin que sea posible
detectar que esto está sucediendo esto es muy grave y compromete la libertad eh A todos nos enseñaron a creer en lo Que vemos y en lo que escuchamos el día que no podamos más creer en lo que vemos y escuchamos eh habremos perdido totalmente el sentido por lo tanto la Inteligencia artificial ofrece un riesgo de violación de discriminación algorítmica la propiedad intelectual tiene una acción en hay una acción en curso del New York Times contra el open que discute e la operación del eh ch gpt con material del New York Times que decían Que era
material protegido con derechos autorales la decisión va a marcar la diferencia Yo creo para el mundo de la Inteligencia artificial de eh generativa Porque depende esencialmente del volumen de datos que recibe y la calidad de esos datos si hay una restricción o un costo grande para esa alimentación la alimentación de los datos va a reducirse por ese conjunto de razones se habla de la Inteligencia artificial hay Proyectos en curso en el congreso eh Laura y el ministro cueva participaron y la gran dificultad es regulamentar regular algo sobre lo que viene pero hay valores que no
podemos perder de vista los derechos fundamentales como la privacidad la libertad de expresión eh mezclado con la libre iniciativa que es un valor importante está la protección a la democracia con riesgo de desinformación Y de ataque es eh contra la democracia y la una reglamentación sobre la gobernanza para que haya inteligibilidad transparencia un mínimo de control humano sobre la actuación sobre la operación de la Inteligencia artificial Este es un momento que vivimos se acaba de aprobar una reglamentación básicamente midiendo las actividades el nivel intensidad del riesgo representado por cada herramienta De la Inteligencia artificial se
fue Se hizo se colocó a consulta pública a través de la UNESCO O sea que el mundo está discutiendo Cómo hacer para tener una reglamentación de la Inteligencia artificial y hacer que sirva a la causa de la humanidad y no la apropi los actores finalmente una última palabra eh lo que estamos haciendo aquí en Brasil hasta y 20 está bien cómo la Inteligencia artificial en el supremo nosotros tenemos tres Grandes programas que funcionan tres grandes proyectos de sistemas e natalla es nuestra secretaria en tecnología de la información tenemos un el programa Víctor el programa un
sistema que identifica entre los recursos extraordinarios que llegan los que ya fueron objeto de repercusión general para los cuales por lo tanto hay una solución a través del supremo ni siquiera hay que subir solo enviar Eh que el tribunal aplique la tesis hay otro que es tenemos la paridad de género Victoria Victoria es un programa que agrupa los recursos a través de temas para que sepamos qué tema tiene mayor incidencia en repercusión general para disminuir la litigiosidad de la materia [Música] lo dejamos un poco ambiguo es una [Música] andrógino Rafa identifica y cada uno de
los recursos que admitimos identifica como los objetivos de desarrollo sostenible del milenio trabajan entonces sabemos En qué área los objetivos del milenio estamos actuando en el Consejo Nacional de Justicia hay tantos proyectos sistematizados voy a citar solo los más importantes que Anoté de memoria Entonces tenemos junto con el pud el programa de desarrollo de las Naciones Unidas Tenemos una gran plataforma que se llama plataforma digital del poder judicial es un gran paraguas que dentro de esa plataforma tenemos innumerables herramientas algunas están en desarrollo porque está siempre todo en desarrollo las eh No nos prometan del
año pasado el año que viene Pero algunas llegan y cuando se llega todos estamos más Felices por lo tanto el primer gran proyecto importante de la plataforma digital en el poder judicial es la unificación de los sistemas por una circunstancia de coordinación los tribunales han desarrollado sistemas diferentes el proceso brasileño hoy los nuevos el 100% son procesos electrónicos y los que están en trámite en más del 90 por. los estados y los tribunales desarrollaron sistemas diferentes y por Lo tanto algunos estados usan pje otros eproc y otros eh otros siglas y no conversan entre sí
es un problema grave que enfrentamos y yo tengo en el yo juré de que fines de año antes de diciembre vamos a poder unificar estas nuevas plataformas cada uno puede quedarse con el sistema que quiera pero para el usuario la interfaz va a ser la mis misma eh yo dije que se van a tener que arrodillar sobre el maíz si no lo Hacen van aer conectar todos los tribunales del país es un avance importante y estamos desarrollando brevemente y va a funcionar un portal de servicios con todos los operadores jurídicos Para que entren en el
sistema y accese cualquier proyecto en tramitación en el país y los que están habilitados incluso pueden pedir en esos procesos y va a ser posible hacer intimaciones con estos sistemas este portal único de servicios eh Ya Eh hicimos funcionar un domicilio eh electrónico todas las eh se citan a través del sistema electrónico hay que registrar a través de un registro propio la dirección electrónica donde se reciben eh las comunicaciones es una transformación importante del papel de los oficiales de justicia y de lo que estamos estudiando es cómo reaprovechar en otras actividades del sistema judiciario la
fuerza de trabajo que son los oficiales De justicia y para que no demorar tanto estamos desarrollando una herramienta llamada Sniper los jueces sobre todo de ejecución la investigación investigan los bienes se realizan a través de distintas bases de datos las bases de datos del sistema financiero inmobiliaria de vehículos y aeronaves y hay que entrar en cada una eh se pierde mucho tiempo y nosotros estamos unificando esta base de Datos con una herramienta llamada Sniper donde uno entra y a través de la identificación del deudor ya podemos saber la situación financiera inmobiliaria la por ejemplo personas
que tengan barcos u otros ítems de riqueza y todo esto lo tenemos también en el cnj una comisión de trabajo que estudia Cómo editar actualizar en realidad normas éticas para usar para el uso de la Inteligencia artificial a través del judicial o Hay mucho muchas cosas que están sucediendo con respecto de la Inteligencia artificial en todo el mundo y Brasil está eh liderando No solo la la investigación sino el uso pocos países en el mundo tienen el nivel de digitalización que tiene Brasil porque hay pocos países en el mundo tienen 80 millones y tanto de
procesos 83 millones de hecho de procesos en en que en trámite de acuerdo con la Justicia tiene China tiene 45 un número menor que nosotros Nosotros tenemos el doble que China y que a su vez tienen 120.000 jueces la vida del judicial nosotros tenemos 18 es mucho más dura algunas estas algunas reflexiones sobre el tema de la Inteligencia artificial el impacto que tiene el derecho constitucional y las dificultades Que hacia una transición hacia el derecho constitucional para proteger el estado y tenemos que proteger también ahora los particulares los nuevos derechos tenemos nuevos derechos fundamentales y
la Inteligencia artificial que abre fronteras y genera dificultades y no sabemos muy bien Qué vendrá después de mañana lo único eh se Verdad que es la condición humana los valores siguen siendo los mismos el bien La justicia y la dignidad humana como dije Gracias a [Aplausos] todos voy a quedar más unos minutitos para el inicio de la presentación del ministro yumar Méndez después voy a salir o si no no consigo llegar a mi compromiso s Paulo ahora yum ya fue nosotros Almorzamos dos veces cenamos dos veces mantener el peso es difícil Pero aprendí una cosa
observando la vida brasileña hay dos tipos de despedida la salida a la francesa como se dice para las personas no se den cuenta y salida a la brasilea que la persona se despide y no Sale entonces uno tiene queo veces despide todavía se queda en la puerta ese es un fenómeno brasilero por favor ahora en este momento tiene la palabra señor Ministro yumar menes buenos días a todas y todos saludo al ministro Barroso por esta Iniciativa tan importante y también por esta importante ponencia saludo a la colega del panel saludo a la colega guillerm caputo
basto y a todos los oradores y todos las personas presentes y decir que de verdad como ya fue dicho por el ministro boso nosotros tenemos en Brasil una preocupación muy grande con el tema de La regulación de los de los medios sociales y por supuesto ahora con la Potencialidad mayor de la llamada Inteligencia artificial generativa nosotros que no hace mucho tiempo vivenciamos aquel episodio del 8 de enero para que se olviden una de las defensas contra el poder absoluto es la memoria el recuerdo de de algo que no puede ser olvidado esta reunión entonces hecha
y que Resultó en la invasión de los tres poderes en Brasilia fue hecho con un pequeño código que se llamaba la reunión Vamos a la fiesta de por lo tanto a partir de este momento se reunirían Y harían entonces aquella tragedia que nosotros vimos todo que conseguimos ver las marcas que quedaron en la plenaria de supremo del supremo Por supuesto Que preocupa hoy como ya fue dicho el potencial eh de transformación para el bien y para el mal la Inteligencia artificial está convirtiéndose en una fuerza transformadora en nuestros en nuestra gente con muchos impactos en
la economía y también en la vida cotidiana de los ciudadanos su potencial para impulsar la innovación aumentar la productividad y mejorar la calidad de vida es Innegable desde aplicaciones en la la salud donde algoritmos puedan ayudar en el diagnóstico temprano de enfermedades hasta el sector financiero donde sistemas optimizan inversiones detectan fraudes la tecnología está remodelando industrias completas hace poco tiempo tuvimos un almuerzo ministro boso con la doctora ludimila con todos los ministros del supremo y ella Habló de la revolución hecha no en atención a La salud en India a partir de usos que se hacen
de la Inteligencia artificial e y de de un Modesto los exámenes y pues pueden ser hechos los exámenes sin embargo junto con esas oportunidades surgen retos significativos que exigen una regulación cuidadosa el impacto en el mercado de trabajo por ejemplo es una preocupación presente y que está Creciendo ministro Barroso jugó con el ministro caputo quizás salga una liminar [Música] un prohibiendo el uso en el mercado del trabajo mientras algunos empleos pueden ser automatizados nuevos tipos de trabajo también surgir y están surgiendo Entonces cómo gerenciar esa transición de una manera justa e equitativa equitativa ministro Barroso
habló del tema de los oficiales de Justicia seguro tenemos varias actividades que van quedando cada vez más que van desapareciendo en función de esta Revolución además el uso generalizado de ia presenta temas importantes sobre la privacidad protección de datos los sistemas DEA frecuentemente dependen de grandes volúmenes de datos personales para funcionar de manera eficaz eso crea riesgos potenciales de violaciones de privacidad y uso indebido de Informaciones sensibles Otro aspecto muy importante es el potencial de la ia para amplificar prejuicios que existen o crear nuevos tipos de discriminación algoritmos capacitados con datos con sesgos pueden perpetuar
o hasta aumentar desigualdades sociales eso es particularmente preocupante cuando ia es usada en procesos de toma de decisión que afectan directamente la vida de las personas como concesión de crédito contratación de funcionarios o hasta Decisiones judiciales los avances tecnológicos en el campo de la aa generativa junto con la velocidad y la escala sin precedentes de la adopción de nuevas herramientas para consumidores y aplicaciones para empresas capturaron la imaginación de todos nosotros la posibilidad de palancar Inteligencia artificial para mejorar nuestras vidas quizás parezcan menos ficticias sea ayudando a las personas a alcanzar nuevos estándares de Creatividad
y productividad reforzando el desarrollo industrial o descubriendo soluciones para retos compartidos en los dominios de la salud y de los cambios climáticos sin embargo también parece más probable que nunca que esas mismas herramientas puedan ser usadas de manera Abusiva eh destruyendo las libertades individuales perjudicando los medios de subsistencia reforzando la desigualdades y perjudicando las normas en Instituciones creadas para defender los valores democráticos y proteger los Derechos Humanos el interes un interesante documento de la oficina de las Naciones Unidas para los Derechos Humanos sobre la taxonomía de los Derechos Humanos impactados por la ia generativa vimos
algunas reflexiones sobre los riesgos para la libertad de expresión de la Esfera pública y acceso a la información cuadro por ejemplo de la Violencia política como ya fue observado amplificación de la desinformación la ia generativa puede ser aprovechada por agentes malintencionados para crear contenido falso pero pero convincente que es transformar en arma para direccionar y para amenazar la libertad de expresión por ejemplo el uso de desinformación creado por ia generativa para sediar periodistas o oponentes políticos las mujeres han sido un Alvo por acos online la producción de contenido creado con herramientas de ia generativas se
desinformación pueden entonces perjudicar o dejar o dejar sin eh explicación las informaciones en línea basadas en evidencias o no amenazando el derecho de los individuos y de las comunidades de acceder la información las consecuencias incluyendo la erosión de confianza del público los medios y las Noticias y en los procesos políticos pueden afectar negativamente a varios otros derechos y también la gobernabilidad democrática de manera más amplia otro punto también observado en este documento es el problema de isonomía y pluralidad la tendencia de los resultados de los modelos de ia de representar a grupos culturalmente hegemónicos puede
resultar puede resultar en una falla en la producción de una diversidad de opiniones e Informaciones sobre minorías o grupos históricamente oprimidos la escasez que resulta de esas informaciones en espacios en línea representan un riesgo para el derecho de acceso amplio a las informaciones ese contexto la creación de estructuras de gobernabilidad de es sistemas es una de las prioridades de la agenda política internacional y nacional la asamblea general de las Naciones Unidas aprobó de manera unánime la primera resolución Global sobre Inteligencia artificial el 21 de marzo de este año los estados miembros son estados que protegen
los derechos humanos y los datos personales y monitorean y a En búsqueda de posibles daños para que la tecnología pueda beneficiar a todos la adopción unánime de la resolución de la Organización de las Naciones Unidas liderada por Estados Unidos bajo la promoción de sistemas de Inteligencia artificial seguros Protegidos y confiables que también beneficiarán el desarrollo sostenible para todos debe ser y es un esfuerzo global histórico para garantizar el uso ético y sostenible de la Inteligencia artificial la resolución de la ONU fue aprobada Después de varios otros documentos internacionales importantes como adopción de las recomendaciones de
la UNESCO sobre ética de la Inteligencia artificial en 2021 y de los principios de la ocde sobre Inteligencia artificial En 2019 y la reciente aprobación de una ley de inteligencia oficial de la Unión Europea Brasil esas discusiones están siendo lideradas por el parlamento a través de pl 2338 proyecto de ley de autoría del presidente Rodrigo Pacheco y sobre y bajo la relatoría del senador Eduardo Gómez es muy importante lidiar con los riesgos impuestos por la ia al Ecosistema de información y comunicación es urgente en 2024 pues 3000 millones de personas en todo el mundo votarán
en elecciones en todo el mundo procesos democráticos las implicaciones para los procesos democráticos en los sistemas de ia en este contexto todavía está siendo evaluado y discutido internacionalmente los riesgos acá analizados muestran la de un marco Regulatorio interesante que pueda equilibrar el fomento en la innovación con la protección de los derechos fundamentales La regulación de aano debe ser vista como un obstáculo al proceso tecnológico pero sí como facilitador del desarrollo responsable Y sostenible de esa tecnología estamos hablando del momento presente y también de nuestro futuro estamos hablando de un tema que afecta a Brasil pero
también afecta la comunidad Internacional estamos hablando principalmente de la garantía de los Derechos previstos en la constitución federal y que merecen y necesitan ser protegidos mismo bajo las condiciones tan diferentes como las que vivenciamos con la transformación digital es necesario garantizar la dignidad de la persona humana fundamento de la constitución federal y los derechos individuales como la capacidad del ser humano de Autodeterminarse los derechos de personalidad la libertad de expresión de comunicación y de información el debido proceso legal el derecho a la igualdad y también la privacidad y la protección de datos personales el futuro
de la ia en Brasil dependerá de nuestra capacidad de interpretar la Constitución Federal y de crear un ambiente regulatorio que fomente la innovación proteja los derechos de los ciudadanos y promueva el uso ético y responsable de esa Tecnología transformadora como un abordaje equilibrado y flexible Brasil tiene todos los tiene todo el potencial Para aprovechar estas tecnologías de manera eficaz En beneficio de nuestra sociedad de nuestras empresas y de nuestros ciudadanos una vez más tse ministra jeleni salió primero en este tema de una regulación todavía mínima del uso de la ia en las elecciones Prohibiendo el
abuso el uso indebido en este proyecto Cómo cómo dijo un una un de los grandes unos de los grandes nombres de la protección de datos en el mundo la innovación sucede no solo en el plan de la tecnología pero también en las estructuras sociales y también el derecho el propio proceso de desarrollo jurisprudencial puede ser visto como una verdadera Innovación del derecho como vimos acá en el supremo el debate Realizado sobre el derecho la protección de datos anticipando en algunos años la decisión Del propio legislador Constituyente un documento de la ministra rosan mostró que la
Constitución ya protegía los datos como algo que sería una protección de los derechos fundamentales abriendo entonces las nuevas circunstancias que están Para disminuir los conceptos de los parámetros traídos por el legislador y muchas veces adaptando para los nuevos paradigmas tecnológicos o de cambios sociales importantes Estoy seguro que la Constitución de 1988 posee los instrumentos necesarios para que podamos seguir interpretando en el sentido de una constitución viva garantizando derechos considerando los nuevos retos Tecnológicos y tengo la plena convicción de que los que están acá presentes están actuando con mucha dedicación en esta noble misión dentro de
ese espíritu deseo a todos un feliz un excelente evento Muchas gracias [Aplausos] tiene la palabra señora ministra egen lobu Buenos días Buenos días a todas las personas aprovecho la gentileza la Generosidad de los dos ministros que ya se refirieron a todas las personas y a las autoridades acá presentes y voy directamente al punto también recibiendo la buena orientación del ministro boso recordando de mi conteo que decía que discurso bueno es corto si es corto ni necesita ser Bueno Entonces voy limitarme a algunos aspectos quizás en una mirada como estoy desarrollando en mis escritos e con
mis compañeros y compañeras de Investigación voy a presentar algunos temas algunos un poco ácidos ministro yumar caputo porque yo veo que alguna inflexión aquí que yo sé que ha orientado y preocupado a todas las personas que están presentes principalmente al supremo pero tengo que colocar Aquí más o menos el dedo en la herida porque la pregunta que llega a partir de todas las lecciones generosas gigantes de esas dos ponencias es que nosotros necesitamos hacer un recurso Táctico teórico para preguntarnos al final qué nosotros queremos con la Inteligencia artificial ya fue dicho aquí y parece que
esa es la parte principal entonces esa es la traducción de la palabra cibernética cibernética en realidad significa chimiro como se dice en portugués Entonces los derechos fundamentales son muy importantes por eso que cuando yo recibí esa invitación tan generosa y que quio agradecer a Todas las personas que oportunizar que yo estuviera aquí tratando este tema que me encanta tanto yo recibí la invitación para hablarnos de los impactos de la Inteligencia artificial en el constitucionalismo yo inmediatamente Rebelde yo soy recordando de aud Lara Ella decía que todavía soy la misma producto de La Rebeldía que me
trajo aquí entonces ministro yomar cuando yo recibí la invitación con el título pensé No yo veo que no son los impactos de la Inteligencia artificial del constitucionalismo parece que es diferentes contrario los impactos del constitucionalismo en la Inteligencia artificial y y ahí yo sé que esa es la orientación del título es una provocación a ese nuestro pensamiento entonces parece que ese momento táctico teórico científico jurídico político necesita ser hecho incia ial evidentemente como Construcción humana necesita dirigirse para los humanos para ayudarlos el destino de ella la Inteligencia artificial debe ser servir a la sociedad servir
a los derechos fundamentales operar principalmente en el sur global contra las desigualdades muchas de ellas ministro yumar en el un punto específico muchas de ellas la mayoría concentradas en una gran mayoría que son las mujeres negras Entonces eso es muy Importante porque necesitamos entonces reconocer que no estamos más acompañando la revolución tecnológica nosotros estamos dentro de ella por lo tanto ese paso atrás no veo que es posible en el sentido de la negación no es posible más decirnos que rechazamos cualquier posibilidad en ese Nuevo Mundo estamos todos dentro de esa gran transformación y aquí podemos
hablar de La vivencia en el post mundo estamos mismos frente a una realidad y en ese aspecto hago un paréntesis para registrar que yo veo que hay un cuidado de la hipercom y en esta dirección el cultivo para intentar inhibir controles entonces esa hipercom no sirve para este objetivo ese propósito de la protección de los derechos fundamentales sí la aplicación de ese gran conjunto Tecnológico potencializado por la Inteligencia artificial no es explicado no es comprensivo no sirve porque nosotros amos entender comprender Cuál es el impacto de esas grandes construcciones humanas con ese modelo tan bien
trabajado tratado por los ministros que efectivamente presentaron entonces digo que ese debe ser el punto principal la orientación cibernética de los derechos Fundamentales y principalmente comprendiendo en los derechos fundamentales luchan para supervivir estamos hablando Todavía de un modelo capitalista que no vive sin el colonialismo colonialismo que no vive sin el racismo esa puntuación crítica es fundamental yo veo porque y como muy bien dijo el ministro yumar Nosotros sabemos conocemos los sesgos los sesgos Que reafirman una tradición de exclusión estoy hablando de Brasil pero nosotros podríamos referirnos al mundo Entonces esa construcción humana ella de verdad
necesita ser aplicada para que podamos hablar de este enfrentamiento a esas desigualdades políticamente construidas cuando hablamos de la violencia política muy bien recordada por el ministro yumar Nosotros sabemos que es una construcción cuidadosa para captura del poder polí Ese tribunal recientemente enfrentó una una materia que es de impresionar cuando nosotros recibimos la decisión Del supremo en la dpf 779 donde ese tribunal decía no se puede aceptar que en siglos y siglos de uso del derecho nosotros todavía tengamos que convivir con la tesis de la legítima defensa de la honra para justificar el asesinato de las
mujeres en Brasil y cuando yo veo aquel juicio transportando para este debate sobre Inteligencia artificial aplicado a Los derechos fundamentales nosotros necesitamos enfrentar la perpetuación del asesinato en el plan físico para el Exterminio de las mujeres en el plan virtual Entonces el aporte de las mujeres la violencia política insistentemente ejecutada contra mujeres negras el cancelamiento la pornografía de entre tantas otras acá de funcionalidades para usar una palabra más sencilla para Tratar esa tragedia que estamos observando potencializada por la Inteligencia artificial Entonces ha esa pequeña hago esa pequeña introducción y prometí que respetando acá yo sería
rápida me preocupa Y a partir de ahí importante teneros eventos como este capitaneados en la casa Suprema de la justicia brasileña me preocupa mucho Cuál es el destino que nosotros daremos a la Inteligencia artificial aplicada a la Justicia conversaba con el doctor Daniel avelar un poco antes de entrar en esta sala y yo le decía lo que yo escribo todos los días y tengo como referencia que la justicia para Más allá del poder justicia para Más allá de la estructura física con el título de foro o de tribunal escrito en la pared nosotros necesitamos por
lo tanto tratar del sistema de justicia de la impactación de la Inteligencia artificial al sistema de Justicia para Preocuparnos con justicia en esa realidad que yo recién mencioné una realidad que excluye una realidad racista una realidad machista entonces comprendiendo por ejemplo que la aplicación de sistemas inteligentes ha propiciado economía para la justicia y Supongo que sí mucha economía nosotros seguro tenemos que pagar menos por las estructuras físicas es necesario que eso Esté en los servicios ofrecidos en la punta para los ciudadanos gracias Necesitamos hablar entonces de eso en los costos judiciales necesitamos hacer con que
eso esté en una ampliación del acceso de las personas principalmente las personas vulnerables más pobres en a un sistema de Justicia cuando nosotros hablamos y vemos tantas noticias importantes que el ministro Bajo su trajo siempre bajo la observación del ministro yumar cuando ha cuando vemos Sistemas tan interesantes con nombres tan diferentes es necesario que la construcción y el desarrollo salgan entonces de la gestión de la administración del poder judicial el sistema de justicia y aquí estoy hablando de varios componentes de él además de las personas que integran la magistratura el sistema de Justicia necesita participar
de ese desarrollo y de esa construcción es necesario que se sepa Qué está siendo producido en los tribunales Cuáles son esas construcciones algorítmicas aplicadas a la distribución de la justicia en Brasil para que por ejemplo nosotros coloquemos en práctica aquello que sería el principio que no puede ser retirado que es el principio de la explicaba y un otro aún más importante de la auditabilidad las personas necesitan comprender cómo es que esos sistemas que esas construcciones Computacionales de la ingeniería cómo son usados esos sistemas en su vida en su cotidiano Necesitamos hablar de acceso a la
innovación tecnológica para Más allá del acceso a los sistemas del tj del epr Deli y otros Necesitamos hablar de incapacitación de las personas para efectivamente que sepan utilizar esa herramienta tan importante Ne estamos hablar incluso de la ocaca que está envejecida que no consigue más producir para Más allá de aquellos Documentos tradicionales con alguna evolución una computadora usada junto con la impresora y que tiene dificultad de acceder varios sistemas entonces observen que esa gran construcción creación humana que trae tantas cosas importantes para la vida humana acá en el sistema de Justicia Yo veo que merece
esas correcciones esas inflexiones que yo aquí traigo de una manera muy sencilla para nuestra conversación diría incluso que esas Transformaciones importantes para el sistema de Justicia ellas necesitan para la ia para el campo de la formación de las personas todas las personas no solo los que son llamados operadores y operadoras del derecho nosotros necesitamos hablar de la iniciación para la vida digital Necesitamos hablar de la educación para ese admirable mundo nuevo que a veces repite fórmulas viejas y Necesitamos hablar de acceso a un derecho fundamental en esa Constitución antes de esa disrupción que nosotros acompañamos
recientemente que es el derecho fundamental de acceso a la innovación tecnológica incluso ministro yumar m escribe sobre eso y produce también ese acceso como la garantía de que las personas todas las personas eh No se transformarán solo en consumidoras de aparatos electrónicos y personas que usan bien la banda hacha de internet como si es mostrara un índice de inclusión como Nosotros hemos visto Desde el punto de vista formal estamos hablando de inclusión digital el acceso a la innovación tecnológica Más allá del acceso a los smartphones de Última Generación el uso de la internet de banda
ancha necesitamos que la gente tenga puedan comprender Cuál es el destino y el uso de esta herramienta que este admirable mundo nuevo nos aporta la realidad Tenemos que hablar de los matices que el ministro jumar mencionó Tenemos que trabajar con la Inteligencia Artificial para enfrentar los sesgos que la misma cría Tenemos que hablar de las construcciones tecnológicas tan avan adas para enfrentar viejos antiguos problemas como el racismo la misoginia y la homofobia hay algunos ejemplos simples y yo ya estoy terminando que sirven para usar la tecnología al servicio de la implementación de los derechos fundamentales
y enfrentar esos sesgos creo que el protocolo tan importante o este protocolo tan Importante de juzgar a partir de una perspectiva de género tiene que recibir una ampliación hacia la perspectiva de raza tratando estos sesgo que es la alimentación de la Inteligencia artificial con datos productos de una sociedad eh que ya tienen estas tendencias Tenemos que hablar de la tecnología al servicio de las propiedad de la sociedad haciendo que las construcciones sirvan para enfrentar Antiguos problemas como dije el racismo el machismo como los dos principales puntos Yo creo que es esto la tecnología al servicio
de quien realmente debería estar y yo Les propongo dos sugerencias eh él habló sobre algo muy práctico y responder ciertas críticas sobre la reglamentación de la Inteligencia artificial y él fue uno de los grandes integrantes de la corte electoral que trató la el tema la resolución del tse que habla sobre el acceso del pueblo al Derecho fundamental de orientarse a través de las políticos a través de la propanda electoral eh trae contribuciones interesantes para regular la Inteligencia artificial y acá les estoy hablando de género y no de especie para decir básicamente que la Inteligencia artificial
puede y debe utilizarse para potencializar el acceso de el pueblo a la propaganda de buena calidad sin desinformación sin tendencias o desvíos y que esta Innovación es bienvenida siempre que no sirva para manipular o desinformar o construir realidades paralelas que no eh orienten que no guíen que no permiten no permiten la libertad Entonces cuando vemos eh los aciones del tse es una respuesta para que el sistema para el sistema política como un todo es necesario es posible que hablemos como el Grande alemán que hizo que dijo que mencionó el ministro es la autorregulación regulada Tenemos
que Trabajar la reglamentación a partir de la paridad porque la reglamentación a partir de los actores privado ya existe el mundo digital está fuertemente regulado a través de los dueños de las tecnologías lo que tenemos que discutir Es sobre la reglamentación estatal que está en la línea de lo que el ministro Barroso mencionó sobre hablar de la Barrera de los actores del poder extremo de los actores privados tenemos elecciones como Dijo el ministro jumar con más de 3 millones de personas y las plataformas que conocemos son estas que forman el acrónimo conocido tiene más de
más de 1000 millones y medio de usuarios que tienen accesos a datos mucho más profundos que el gobierno de India con un 1 millones y medio de personas de china con casi el mismo número y de Brasil con 220 millones de personas e en la sociedad Yo quiero concluir Diciendo que las buenas ideas las buenas propuestas parten especialmente de los diálogos como estos yo sugerí para terminar que tenemos para enfrentar la violencia política contra las mujeres necesitamos dos eh providencias Muy simples la resolución tse 326 trató de esto eh o sea la necesidad de un
plan de integridad de las plataformas para hablar sobre exactamente sobre estos desvíos y yo les digo que las plataformas pueden y deben entregar Sistemas que rastrea violencias políticas en el ámbito digital los algoritmos de seguimiento que sirven algunas plataformas que hacen entrevistas de trabajo muy bien podrían utilizarse para identificar y permitir al sistema de justicia y a la fiscalización algún alguna medida preventiva nuestro gran problema es trabajar en la represión y que no haya daños al lado de esto las las comisarías Virtual de la policía para enfrentar la violencia en el mundo digital en el
mundo de la política contra las mujeres estas dos medidas asociadas a otras ya adoptadas por el tse me parecen que es un gesto de buena voluntad que señalan alguna inflexión en este escenario para hacer que los estos números tan perversos que presentan la fotografía del poder político en de Brasil de las Mujeres las mujeres negras fuera de los esp los espacios de los usuarios que cambie algún día Muchas [Aplausos] gracias con termino declaro terminada eh está este seminario en el vamos a deshacer la mesa y invitamos a la las autoridades para tomar asiento en las
hileras y dentro de instantes Vamos a continuar con este seminario con el primer panel del día la Inteligencia artificial derechos y democracia Ch al tudo B perito dando inicio Prim pel bienvenidos al primer panel del tema Inteligencia artificial derecho y democracia y componen la mesa como moderador el doctor Víctor coordinador del combate desinformación del supremo tribunal federal y como oradores el doctor Pablo do carmon profesor de la historia de ingeniería de Harvard la Doctora Laura shte profesora de derecho del instituto brasileño de enseñanza en desarrollo e investigación de la Universidad de la doora Campos Melo
secretaria de altos estudios investigación y formación del supremo tribunal general y el doctor Federico Franco alv asesor de combate a la desinformación del tribunal supremo Federal en este momento tiene la palabra el doctor vítor Durig Hola buen día a todas y a todos los que están presentes es muy bueno este auditorio lleno este panel quería saludar a las autoridades presentes el ministro mar Méndez las otras autoridades que están con nosotros y quiera saludar a nuestros panelistas de primera categoría caum la profesora Laura MZ perrone y el querido amigo Tenemos en esta mesa como tema La
Inteligencia artificial derechos y democracia y ten es una excelente oportunidad para profundizar sobre los desafíos los impactos las consecuencias de la Inteligencia artificial que nos trae como derechos fundamentales y humanos el los derechos de democracia en el mundo y este debate será realizado m disciplinariamente derecho mundial con otras áreas del conocimiento especialmente por la Presencia de nuestro profesor Flavio calmon profesor de ingeniería eléctrica de la Universidad de Harvard eh dado el tiempo disponible de los oradores voy a pasar la palabra al profesor Flavio dupin calmon es profesor de la eh facultad de ingeniería Y ciencias
aplicadas en la universidad de Harvard tuvo su eh phd ciencias de computación en la universidad de Massachusets y eh en un en la universidad de Thomas Edison de Nueva York tiene un es bacharel en derechos de redes de computación por la universidad de Brasilia el profesor es profesor y autor de más de 80 artículos científicos eh de conferencias eh periódicos ciencia de la computación matemática de 11 y este y posee 11 patentes pertenece al grupo de investigadores de la Universidad de Harvard con nuevos abordajes sobre la Inteligencia artificial aprendizaje de máquinas y teorías de la
información en Julio de eh del 2024 recibió el un premio por el instituto de ingeniería eléctrica electrónica y fue el primer eh investigador latinoamericano que lo reci también recibió el premio nss carrier en Estados Unidos y premios en Google IBM Amazon y la universidad de Harvard en 2021 el profesor recibió el título de honor al mérito de la Universidad de Brasilia y fue el primero exalumno del área de ciencias exactas de ingeniería que recibió esta este honor profesor Flavio Muchas gracias por la introducción me gustaría saludar a todos los que están aquí saludar también a
los se señores ministros Muchas gracias por las los discursos tan inspiradores y quería decirles que estoy muy feliz y un poco emocionado incluso de estar acá aquí yo soy de Brasilia crecí en lesan orchi y para mí es una oportunidad muy buena hablar con ustedes hablando de trabajo que el grupo ha desarrollado quiero facilitar y Agradecer a los organizadores voy a hablar hoy eh Cuando aparezcan los slides sobre los desafíos contemporáneos de la Inteligencia artificial la discriminación arbitraria edad y privacidad Este es un tema muy complejo es un un tema que podríamos hablar 30 horas
de aula eh sobre las cuestiones técnicas del impacto social de esa tecnología pero yo voy a hoy quiero darles una visión panorámica sobre el Tema y hablar sobre algunos puntos que mi grupo de investigación en Harvard en lo que están trabajando en esta agenda es la agenda de lo que voy a trabajar ahora desafío sobre el uso de la Inteligencia artificial que es fundamental para el Estado democrático de derecho arbitrariedad y privacidad antes de llegar le voy a ped pasar la primera mitad de mi presentación hablando sobre el contexto Histórico por detrás de la tecnología
y como ingeniero mi objetivo es desmenuzar lo que hay por detrás de la Inteligencia artificial y hablarles sobre cómo la tecnología se ha evolucionado y hay que entender ese panorama histórico y eh este panorama que hoy vivimos de Inteligencia artificial hay que contextualizarlo como un avance natural de la tecnología en las últimas décadas y la evolución de la Inteligencia artificial Está apenas comenzando ya se habló mucho en los discursos anteriores sobre algunas de las oportunidades de las aplicaciones de la tecnología parece que cada vez que hablamos que abrimos el diario o buscamos internet hay un
nuevo reportaje sobre la Inteligencia artificial en la educación que va a revolucionar el área de la salud de los servicios públicos etcétera y yo creo que es importante preguntarnos por qué esta Revolución está sucediendo ahora Desde que existen los las computadoras se habla de Inteligencia artificial Entonces por qué este momento de generativo sucede ahora en 2020 para entender el contexto histórico tenemos que volver atrás vamos a volver hacia 1998 y les voy a hablar sobre Cómo era el panorama de la Inteligencia artificial en ese momento el el los slides de fondo negro no era Moda
los celulares eran así el mayor nombre del área de tecnología era Microsoft se hablaba mucho del proceso contra Microsoft hoy se habla del proceso de antitrust contra Google que cambió en 1998 Esta es la página inicial de Google en ese año otro otra cosa que sucedió en 98 un paper mu importante que se escribió grading aprendizaje basado en gradiente aplicado a reconocimiento de Documentos e tuvo el premio touring equivalente al Premio Nobel en el área de ciencias de la computación y en este paper lo que preguntaron era Cómo se puede enseñar las computadoras a reconocer
padrones es una patrones es una pregunta que se hacía hace mucho eh Y que eh se usaba la red neural y que hoy existe en su el teléfono de ustedes y se enseñaba las a las computadoras a escribir dígitos eh usando datos en vez de tratar de Programar las computadoras teníamos un círculo un cero si había si era una una línea Era uno ha sea la computadora tenía que reconocer eh reconocer los patrones directamente a partir de los datos del modo en que se hizo eh cómo lo hicieron creo se creó lo que se llamaba
el reconocimiento de entrenamiento a través de miles de ejemplos escritos a manos se creó un gran banco de datos con un ejemplo de cada texto y el rótulo Real de que podía ser un cero o un 1 dos 3 etcétera y a través de estos datos se podía hacer un proceso que se llamaba que era eh entrenar un algoritmo de aprendizaje de máquina de Machine learning y de cómo se hizo de la forma en que se hizo había un nivel alto era muy simple uno tenía el modelo y elegía aleatoriamente un ejemplo ofrecíamos ese ejemplo
como entrada de el modelo Cuál era la previsión que hacía el modelo si esta previsión era igual al Rótulo Real el modelo previamente correcto no decíamos nada Y si ofrecíamos otra muestra y el modelo hac una previsión errada lo que hacíamos era entrenar el modelo actualizamos los pares los parámetros tocábamos un poco el modelo para ser más cercano a la salida real este proceso se repite centenas de miles de veces hasta que Converge eh se llega al nivel de precisión media tolerable este proceso de entrenamiento es algo que ustedes vieron en matemática en segundo grado
es el ajuste de los parámetros de una función extremadamente compleja es una regresión linear lineal en algún momento en matemática ustedes ya lo vieron es una recta con una serie de puntos de dos es un modelo de aprendizaje de máquinas una función no solo en dos parámetros Una función extremadamente más compleja y las funciones que usamos hoy se llaman redes neurales están parametrizables con millones trillones de parámetros que representan esta relación muy compleja de datos de entrada y datos de salida y estas redes tiene que reconocer patrones en forma automática y hacer algo como lo
que este está en slide que aprende a organizar estos dígitos y reconocer patrones por ejemplo representar el seis todo juntos los Cuatro los nueve juntos Eh Esto es un nueve un cuatro y poder crear estas áreas donde observando una nueva muestra se hace una clasificación correcta para entrenar el algoritmo de eh de Inteligencia artificial necesitamos tres factores tres componentes que ya conocíamos en la década del 90 la primera es necesitamos una arquitectura una descripción de esa función extremadamente compleja recuerdan hablamos hablábamos De regresión lineal es algo muy simple es una forma de expresar esta relación
compleja necesitamos una métrica que previera las calidades la salida de este modelo y esta esta métrica se calcula a través del promedio nos lleva promedia a a la discriminación porque no significa que eh sea bueno para todos los datos de entrada en algunos casos todas las personas y el tercer factor eh tenemos una métrica de calidad del modelo Necesitamos un algoritmo de entrenamiento un algoritmo para ajustar los patrones y usar la métrica eh para obtener un desempeño Cómo cómo es una red neural Cómo el algoritmo de Inteligencia artificial es ese proceso que yo describí es
un proceso complejo del modelo está representado en un slide es este es el código que necesitamos para complementar todo el proceso de entrenar el modelo que reconozca los dígitos yo no espero Que nadie entienda lo que cómo es pero quiero desmitificar cuando hablamos des regular la Inteligencia artificial estamos hablando de un código que está ejecutándose y hoy tenemos paquetes de Software que los mantienen empresas como Google Facebook meta que hace que estos modelos sean simples y que podemos escribir un código de un alumno ciencias de la computación puede implementar varias arquitecturas de redes neurales que
se usan hoy ya las Conocíamos en la década del 90 ya lo sabemos hace mucho qué es lo que cambió y para entender por qué estamos haciendo esta Este cambio vamos a 2010 y teníamos tres componentes tres factores esenciales que todos deben conocer que son fundamentales para esta explosión de la ía generativa el amplio uso de la Inteligencia artificial el primer factor que se Mencionó antes es la amplia disponibilidad de datos hoy tenemos empresas cuyo modelo de negocios está enteramente basada en recopilar datos a escala global y minar losos para ofrecer servicios como propaganda y
otros la cantidad de datos que tenemos es sin precedentes el segundo factor es el poder computacional excesivo y barato y yo les quería traer una una referencia Si vemos eh la computadora más rápida del 2000 Era IBM eh AC White que estaban en los laboratorios de investigación del gobierno americano eh es una sala que costaba millones de dólares el poder computacional de dos teras o sea hacía 7.2 millares miles de millones de sumas multiplicaciones divisiones eh Hoy podemos comprar una placa de video que tiene unas 20 veces el poder computacional que el computador la computadora
más poderosa del año 2000 es una placa que uno pone un Data Center y cuesta cerca de 000 Si vemos el poder computacional que se usa para entrenar los modelos como gpt eh gemi el poder de la computación es muy grande tenemos una referencia que es un modelo que se hizo basado en el Facebook llamado llama 3 es un modelo que tiene 140 millones de parámetros y se determinó en eh 24,000 gpus el poder computacional 500,000 veces mayor que el la más grande supercomputadora del año 2000 cuando hablamos del gpt estamos hablando de 1 2
millones veces más poder computacional el crecimiento es exponencialmente grande el tercer factor que no se discute mucho es lo que llamamos de reproductividad sin e fricción la investigación computacional es de código abierto y artículos publicados enos depósitos que se pueden reproducir y acceder en el área de inteligencia Artificial tenemos un patrón de publicaciones de códigos online que hace que la investigación pueda ser reproducible con mi grupo tenemos un nuevo modelo Cuando tenemos un nuevo meta Los investigadores de Google rápidamente pueden implementar estas innovaciones y viceversa el nuevo modelo de Google de opi podemos eh probar
estos modelos en nuestros laboratorios Y qué Cómo reduce la fricción de Desarrollar investigaciones existentes estamos viviendo esa Revolución en gran parte por la investigación en la academia la investigación financiada por el gobierno y la investigación dentro de las empresas de las grandes empresas de tecnología comparemos lo con otras áreas de ciencias médicas por ejemplo para desarrollar un nuevo remedio lleva mucho tiempo y podemos eh probarlos innovar los modelos existentes rápidamente estos eh tres factores Eh de computación reproductividad tien una tasa de innovación eh quien Mira de afuera parece que el genio salió de la de
la de la botella eh Y son extremadamente poderosos pero no es es una evolución natural de los métodos de la cantidad de de investigaciones del poder de computación y la cantidad de datos disponibles eh tenemos la sensación buscando en este área eh lo que Arquímedes hablaba que el de un punto de Apoyo y una palanca y yo voy a mover el mundo y tenemos la sensación de que el poder computacional y tal vez podemos modelar o aprender en el mundo y yo creo que una de las áreas donde lo más lo sentimos actualmente es el
eh la ruptura de la Barrera del lenguaje que vemos hoy si vemos los modelos de 1998 antes de 25 30 años atrás estos modelos tenían unos 60,000 parámetros y hacían tareas de clasificación simples dándoles una entrada ellos veían una Propiedad de esa entrada eh si era cera o era uno y qué los modelos generativos hacen es más o menos lo mismo lo transforman es más complejo eh eh los modelos por detrás del gpt tiene un trillón de parámetros pero resuelven problemas de previsión les damos un pedazo de texto de entrada y prevén cuál es la
próxima palabra el pedacito de palabra entonces podemos ponerlos como entrada por ejemplo Brasil es un país y vamos Eh la entrada le damos por ejemplo país de país de tal cosa Entonces es así como funciona el chat gpt él completa la frase país Brasil es un país país rico de diversidad natural conocido por sus paisajes hospitalidad calurosa una visión muy extranjera muy gringa de lo que es nuestro país eso es formado observando la próxima palabra cuando Interactúo con esos modelos es difícil no pensar en Machado yasí y particularmente que el narrador de Don casmurro habla
que la Vero semejanza a veces es la verdad y aquí están estos modelos que crean esta salida que es semejante pero muchas veces no son la verdad pero parece ser y el desarrollo de la Inteligencia artificial trae varias nuevas oportunidades oportunidades que ya fueron discutidas pero el desarrollo de La Inteligencia artificial también genera varios nuevos retos a la medida que la Inteligencia artificial se desarrolla rápidamente surgen varios nuevos desafíos que necesitan ser abordados para proteger y preservar los principios y valores del estado Estado democrático de derecho y en los 10 12 minutos que tengo voy
a hablar un poquito de esos tres retos voy a traer un punto de cada uno de ellos de nuevo ese es un tema muy Complejo voy a hablar un poquito de discriminación arbitrariedad y privacidad en modelos de Inteligencia artificial cuando usted piensa en el desarrollo de un modelo de Inteligencia artificial y los sesgos que pueden existir en esos modelos la primera cosa que viene son los datos los datos tienen muchos sesgos y esos modelos tienen llevan sesgos para sus datos pero en el desarrollo de esos modelos existen varias otras opciones que son hechas por Un
científico de datos un científico cuál tipo de modelo usted va a usar la cantidad de datos que usted va a usar cuál el número de parámetros de este modelo hasta el algoritmo de entrenamiento el uso de los parámetros y modelos para usted conseguir prever eso dependiendo de como usted inicial ese problema de optimización de una manera usted va a llevar va a llegar a una solución diferente que corresponde a un modelo diferente con propiedades Diferentes y muchas veces esos modelos son desarrollados de una manera no transparente Pero todas esas decisiones son cuantificadas dentro de un
modelo post capacitación y eso puede llevar a un comportamiento sorprendente que no se espera esos modelos eso ya es una cosa ampliamente documentada esos modelos pueden mostrar sesgos y discriminar presentando el desempeño desigual entre diferentes poblaciones qué quiero decir que usted en algunas tareas usa esos Modelos y el desempeño de esos modelos cambia para diferentes poblaciones un ejemplo fue lo que ocurrió en Inglaterra hace algunos años donde el gobierno británico usó un algoritmo para dar nota a los alumnos para el enin porque la prueba no podía ocurrir por el cov Ese algoritmo fue demostrado que
tenía varios sesgos particularmente discriminaba alumos que venían de de regiones con menos ingreso otro uso donde sus Modelos trabajan el reconocimiento facial ese es un caso ampliamente discutido documentado eso es muy importante cuando esas tecnologías son usadas para la seguridad pública qué mi grupo de investigación tiene en Harvard hace es que estamos desarrollando nuevos métodos para intentar reducir esas diferencias de desempeño en modelos preditivas para los corajosos que quieren ver los detalles técnicos tuvimos un paper recientemente en la Mayor conferencia de Inteligencia artificial del mundo donde proponemos un método casi es casi como colocar un
huevo de ajuste a las salidas adaptando para ese desempeño muchas personas piensa que intervenir en sus modelos para intervenir en estándares de discriminación van a reducir el desempeño del modelo en el promedio Eso no es verdad no es lo que nosotros observamos conseguimos desarrollar métodos eficientes que mejoran el Desempeño del modelo sobre diferentes poblaciones sin disminuir el desempeño mediano esos algoritmos pueden entonces Mostrar algoritmos de Inteligencia artificial también pueden decisiones apoyadas por modelos de Inteligencia artificial pueden ser arbitrarios y para mostrar este punto voy a hablar rápidamente de una experiencia que hicimos en su laboratorio
y que presentamos junto con coo él es uno de los primeros autores de este paper Y qué hicimos vimos uno de los grandes modelos de lenguaje para reconocimiento de contenido tóxico esa es una tarea hecha por ejemplo en una plataforma en línea para determinado para ver si un post si una publicación es tóxica o no entonces vemos varias informaciones y observamos los modelos donde se recibe una parte del texto en la entrada y en la salida observamos las características y Como yo mencioné antes hay varias decisiones que un científico de datos que está desarrollando Este
modelo necesita hacer por ejemplo hasta definir Cómo usted va a inicializar el generador de números por detrás de este entrenamiento va a ser un número 35 número 46 son decisiones absolutamente arbitrarias llamamos eso de una inicialización aleatoria del modelo Solo Que hicimos la siguiente prueba usamos exactamente el el mismo tipo de modelo y vimos 40 modelos diferentes simplemente cambiando esa inicialización por ejemplo observando un dato coloco modelo y viene otro dato y así acabamos con 40 modelos diferentes para identificación de contenido tóxico y todos esos modelos más o menos la misma performance más o menos
el peor y el mejor modelo Tiene una performance mediana con 2% de diferencia una cosa Que es estadísticamente insignificante ese efecto donde usted tiene varios modelos para la misma tarea es una cosa conocida en el área de aprendizaje de máquinas conocido como efecto de hashm hason es una referencia a una película de Akira kurosawa de la década de 50 donde diferentes personas describen el mismo crimen de diferentes as y así se presenta el mismo desempeño mediano en una tarea de clasificación o generación Pero cuál modelo escoger cuál Modelo usted va a usar y el reto
que surge con esa existencia de múltiples modelos es que pueden discordar Entonces por ejemplo si yo tengo un modelo un ejemplo van a tener más o menos el mismo desempeño pero cuando considero uno de esos modelos será que ese texto es tóxico cada modelo puede individualmente tener una decisión diferente ese fenómeno llamamos de multiplicidad preditiva fue fenómeno que yo y colaboradores introducimos algunos Años atrás modelos con el mismo desempeño pueden producir conflictos para la misma para el mismo dato de entrada y esa es una cosa que vemos en varios otros escenarios también y observamos en
este caso más A menos 34 de sus datos tenía por lo menos dos modelos que o sea Si usted fuera usar un algoritmo de eso para para ver el contenido si es tóxico o no puede depender del número que un científico de datos escogió en el Inicio de la capacitación era una decisión arbitraria no solo eso en es arbitrariedad no está la misma cosa todas las muestras el contenido que se dirige a personas que son lgbtq tiene mayor probabilidad de tener una decisión arbitraria que algunos otros grupos o sea hay una discrimin de la incidencia
en esta arbitrariedad y los impactos de la multiplicidad preditiva son varios Y eso es algo importante porque ocurre en Virtud de esas decisiones silenciosas y no transparentes hechas durante el desarrollo del modelo Si eso no es considerado las decisiones apoyadas por modelos de merching learning y de ia pueden depender de opciones arbitrarias hechas durante el el la capacitación por ejemplo la inicialización del modelo y ese es un problema particularmente cuando usted tiene levat algoritmos ese es un algoritmo que controla el acceso a una sociedad una oportunidad crítica Para la sociedad un ejemplo de un potencial
algoritmo fue que el Ministerio de Educación anunció 2s años atrás la intención de usar ia para dar nota en el en la redacción del enin pero usted puede imaginar que es un algoritmo que controla acceso a una oportunidad crítica educación superior imaginen su nota en el en si es 10 o 20 puntos diferente porque cómo alguien inicializo ese algoritmo y otro Ejemplo hay varios otros ejemplos quiero tener acceso a crédito en Estados Unidos hay tres algoritmos que son usados en mis datos cada algoritmo me da una nota Y esa nota es usada para determinar si
tengo acceso al préstamo o no Entonces yo busco la búsqueda es más un ejemplo el último ejemplo que voy a mencionar un la de la la privacidad voy a hablar rápidamente sobre privacidad Y ese es un tema muy complejo y creo que de esos tres retos es ese es el más difícil voy A traer un tema para ustedes modelos de Inteligencia artificial tienen informaciones sobre los datos generando riesgos para la privacidad y para demostrar eso voy a darles un ejemplo de un paper reciente de investigadores de la Google donde ellos demostraron que si usted llega
al chat gpt y pide para repetir la palabra Company para siempre qué sucedía es que el modelo repetía Company Company Company muchas veces y eventualmente empezaba a colocar datos Usados en la capacitación incluso datos que tenían aviso de copyright y el reto aquí es que aún no tenemos una forma técnica hasta donde yo sé de hacer un modelo desaprender el dato no tenemos una manera de borrar un dato post Capacitación La única manera que nosotros tenemos para hacer eso no eficiente es es capacitar nuevamente el modelo Entonces cuando usted está hablando de un modelo que
tiene un gasto Muy alto el costo es muy alto para borrar un dato Entonces el último mensaje que voy a pasarles ya ya recibí un aviso que mi tiempo se acabó es que soluciones para retos discriminación ariedad y privacidad Inteligencia artificial tien necesitan un diálogo y una comparación entre varias áreas son problemas técnicos pero son problemas que requieren un diálogo entre la ciencia de la computación ingeniería y estadística Y también un derecho a políticas públicas éticas educación Son problemas que están surgiendo rápidamente usted realmente va a necesitar un diálogo entre la parte técnica las personas
desarrollando Este modelo y la parte legal y regulatoria y esas soluciones para la arbitrariedad discriminación y privacidad y otros riesgos muchas personas dicen que ellas limitarán el desarrollo de la Inteligencia artificial y yo no estoy de acuerdo digo que es diferente esas soluciones son fundamentales para garantizar que esas futuras esas futuras tecnologías de Inteligencia artificial sean útiles y funcionen para todos para tener Inteligencia artificial útil en escala necesitamos abordar esos problemas y voy a terminar aquí mi contacto está aquí estoy a disposición de cualquier uno que necesite para contestar preguntas y si Quieren preguntar algo
envíen un correo y gracias por la [Aplausos] invitación Gracias profesor profesor Flavio gracias por sus palabras excelent muy bueno poder recibirlo acá de Harvard pero su ciudad es un gusto el supremo está aquí con usted directamente aprovecho para llamar a nuestra próxima ponente doctora Laura feira mes la profesora es abogada directora del centro de derecho internet sociedad De idp acá de Brasilia coordinador de maestría profesional en derecho en el idp profesor de derecho digital Derecho civil derecho np y derecho civil en la universidad de Brasil es doctora en derecho privado por la universidad de Berlín
habiendo publicado su tesis so protección de datos en Alemania maestro en derecho estado y Constitución por la unb una de las autores del antiproyecciones Datos en la persecución penal usted tiene la palabra Gracias doctor quería en primer lugar felicitar al supremo por esa excelente iniciativa por realizar este seminario quería felicitar aquí a Víctor nuestro moderador Patricia alini ministro boso por ese fantástico programa quería también saludar a nuestros colegas de la mesa profesor que hizo una excelente ponencia y espero poder pensar más al Respecto de sus palabras Espero no perderme en mi reflexión también saludo al
doctor frederico vin y a todas y todos acá presentes especialmente ministra lobo que habló muy bien en el inicio y trajo reflexiones muy importantes sobre derecho electoral quería empezar haciendo quizás un comentario profesor Flavio usted trajo reflexiones muy importantes principalmente para Brasil usted habló de arbitrariedad de Discriminación vemos que yaa ha sido usada cada vez más en nuestros procesos de decisión sea en el propio poder judicial Y esa es una gran discusión incluso está en discusión un grupo de trabajo en el cnj la discusión de reconocimiento facial tiene un dato importante sobre el observatorio de
seguridad pública coordinado por nunes que muestra que 90 por de los presos con monitoreo facial en Brasil son negros ese es un punto muy Importante cuando hablamos de discriminación yo usted habló de latan algoritmo nosotros vemos que las empresas han usado cada vez más esos sistemas para tomar decisión sobre muchas veces promoción O sobre el sueldo de sus colaboradores y yo supe recientemente que la universidad de Brasilia iría usar Incluso un algoritmo para definir Cuántos vacantes van para cada uno de los departamentos Cuántos profesores Cuántas vacantes de profesor Irán para cada departamento lo que demuestra
como el tema es actual y al mismo tiempo sensible y creo que de sus palabras quería abordar más algunos asuntos primero me recuerdo de la profesora que dijo que muchas veces el sistema de Inteligencia artificial no son ni exactamente Inteligencia artificial como imaginamos ni exactamente artificiales entonces creo que su presentación muestra claramente eso por un lado necesitamos Sí varias decisiones humanas durante toda esta cadena durante todo este ciclo de la vida de la Inteligencia artificial para definir Cuáles son los datos que entrarán y alimentarán esos sistemas el modelo estadístico que va a basar este sistema
y como fue muy bien dicho muchas veces son modelos estadísticos diversos que van a generar un resultado muy diferente entonces creo que eso es importante recordando también que además de recursos humanos recursos naturales Son usados por esos sistemas por lo tanto ya no es tan artificial como nosotros imaginamos y por eso también sus resultados no son tan objetivos muchas veces como nosotros imaginamos a veces e muchas ve veces encontramos otros otras evaluaciones estadísticas y otras puntuaciones entendiendo que ellas son objetivas en el sentido de que serían más Verdaderas o necesariamente mejores que una decisión humana
creo que es fundamental comprenderemos que ese ciclo comprender que ellos necesitarán y todos esos resultados estadísticos ellos necesitan si pasar por una evaluación humana muy detallada especial cuando estamos hablando de impacto sobre derechos fundamentales cuando estamos hablando de seguridad pública de decisiones que van a afectar derecho de ir y venir sobre Libertad de expresión trabajo de las personas ese es un punto fundamental para tratar aquí acá también por eso felicito el tema del seminario cómo los sistemas impactan en nuestros derechos fundamentales en el día a día entonces ese es un punto muy importante y aquí
viene de alguna manera algunos mitos que necesitamos acabar primero que no necesitaríamos hacer nada ni regular con una simple inercia llevaría Al desarrollo Innovación de en nuestro país como una especie como si fuera algo que iría suceder entonces aquí usted trae de una manera mu Clara Cómo necesitamos recursos computacionales poderosos Cómo necesitamos una cantidad de datos y una calidad también de datos impresionante y cómo nosotros necesitamos recursos humanos con conocimiento para que tengamos un buen resultado Y eso muestra Yo creo esa ecuación muestra cómo es desafiador por un lado nosotros como país innovar y también
teneros capacidad de desarrollar ia de manera soberana y yo digo eso porque eso es un gran tema en Brasil como siempre aquella discusión de que La regulación podría impedir o impactar en innovación y creo que cuando observamos que los recursos necesarios para este desarrollo para esta Innovación son enormes creo que queda claro que necesitamos una Regulación y más que una regulación también necesitamos un nacional para que podamos desarrollar también soberanamente esos recursos y eso claramente va a ser un largo camino pero para más allá necesitamos sí de una regulación para que podamos de una manera
muy equilibrada proteger los derechos fundamentales que hoy Son impactados por ese sistema Esa decisión es una decisión importante son tantos los casos que podríamos mencionar si pensamos en el impacto para la educación de cuando estamos usando un sistema de Inteligencia artificial para reemplazar o evaluar alumnos y la educación que tiene como misión exactamente superar desigualdades que aclaro también como necesitamos regular esos sistemas y aquí yo quería hablar rápidamente ya que es un tema de nuestra Mesa Víctor sobre el impacto para la Esfera pública digital y aquí yendo directamente para el tema de nuestra mesa ese
tema es tan desollador que podríamos hablar de varios asuntos los impactos del trabajo en las en las relaciones de consumo los impactos en la economía Pero quería hablar quizás de este punto es un punto que me Fu fue hablado en la apertura cuando pensamos en los impactos para la democracia en la esa pública digital y ahí me Recuerdo de una persona que ganó el premio Nobel de la paz en 2001 que dijo que sin resultados no es posible haber confianza y sin confianza no tenemos una realidad compartida ni democracia y eso Deja casi imposible lidiar
con los problemas existenciales de nuestro mundo y eso está relacionado al hecho de que cuando pensamos en la Esfera pública digital sabemos que esos espacios ampliaron la información la posibilidad De expresión y al mismo tiempo ampliaron la cantidad digamos de desinformación y ampliaron también lo que ya fue mencionado aquí incluso por la ministra jeleni el potencial de discriminación y de violencia política o sea tenemos un espacio por un lado todos podrían hablar desde que esas personas también no fueran amenazadas Entonces cuando hablamos de libertad de expresión y es es un aspecto un derecho fundamental muy
Importante tantas decisiones del supremo necesitamos pensar Cómo que debemos proteger esa libertad de expresión Cuál es el concepto adecuado a la libertad de expresión en este nuevo mundo y me gusta mucho una expresión incluso de la doctora cuando ella dijo que del mundo donde no hay escasez de información pero de atención surgen nuevas formas de censura basadas en ataques personales campañas y Estrategias de internet y qué es interesante en este proceso es que si no bastara el desafío de establecer una gobernabilidad democrática y que todavía Brasil no consiguió encontrar una solución si en el ámbito
constitucional o en su ámbito normativo regulatorio nosotros fuimos de alguna manera recibimos mucha información de la ia Y eso mejora el contexto que nosotros ya teníamos de desinformación y de violencia en esos espacios sabemos que Ia generativa cambia todo el flujo de la información del flujo de la información desde su creación Porque esos sistemas facilitan prácticamente yo consigo crear una desinformación de la misma velocidad con el mismo coste que hacemos un correo que escribimos un correo entonces tengo una facilitación muy grande de esta de este proceso pero también yo cambio la distribución a través de
robots que facilitan esa distribución pero también La recepción de esta información o sea la creación la distribución y la recepción y con eso yo veo que nuestro país él tiene un desafío mayor porque no solucionamos ni yo diría un primer gran problema que es el primer gran eje que es el eje de La regulación de las plataformas que es el eje de Cómo podemos tener una gobernanza democrática de esas plataformas de esos gran espacios que de alguna manera no son intermediarios son grandes curadores y Que pueden si influenciar en todo ese flujo de la información
pero también no solucionamos Y ese es un tema nuevo no solucionamos cómo garantizar una una accountability Cómo garantizar una transparencia durante todo el flujo de la Inteligencia artificial y cómo tengo solo 5 minutos quería solo eh consolidar veo que nuestros retos están en tres grandes esferas los retos en esas dos grandes áreas tenemos un déficit institucional un déficit normativo y También yo veo un déficit relacionado a la autorregulación entonces para consolidar y hacer y haciendo un resumen grande Yo diría que un un déficit institucional Y eso para la Inteligencia artificial y también para la gobernanza
de plataformas no tenemos todavía un lugar en el gobierno que coordine todos estos temas es solo observar yo estuve en algunos otros eventos con varias otras personas del gobierno y yo me di cuenta que hay por Lo menos 15 ministerios con áreas específicas de del tema digital pero no existe todavía una área que coordine todo ese espacio y eso quizás ya muestra las dificultades de crear y coordinar políticas para este ambi Porque si yo no tengo un local de coordinación yo no tengo también muchas veces una tengo dificultad para formular o coordinar entonces creo que
ese déf institucional es importante necesitamos Como país pensar en cóm solucionar eso y segundo lugar yo veo que hay un normativo también y él es muy evidente en esas dos grandes áreas creo que es importante hablar Brasil avanzó mucho Si en su regulación protección de datos con su autoridad Nacional de protección de datos avanzamos mucho también exactamente hace 10 años cuando el marco civil fue promulgado en 2014 y allá fueron colocados de verdad bases estructuras importantes para el Desarrollo de los últimos 10 años pero neces estamos avanzar y hoy tenemos un déf normativo y está
muy claro sea cuando hablamos de plataformas sobre repartición de responsabilidad en el ambiente digital Cuál es la responsabilidad de cada uno de esos actores de las plataformas y de otros actores también en es ecosistema Cómo garantizar transparencia me gusta un texto de la profesora Janet Hoffman que ella habla Que no es solo no son solo problemas de transparencia cuando hablamos de el flujo de información de formación de las plataformas es un problema más de observación nosotros no sabemos ni cómo sucede ese flujo y si pensamos de cuáles informaciones recibimos en cada una de nuestras redes
sociales puedo saber que yo recibo pero yo no sé que vctor recibe que Flavio recibe que Patricia recibe o sea cómo entender cómo ese flujo sucede sin un acceso a la información para Investigación sin una transparencia mayor para moderación de contenido sin el debido proceso legal sobre cómo cada una de las decisiones de esas plataformas son tomadas con base nuestros usos y un punto muy importante de cuáles son los riesgos sistémicos que es ritmos muchas veces pueden realizar generar Y ese también es un punto muy importante yo yo yo veo y pensando en la Inteligencia
artificial falta para Nosotros un una visión principalmente de ese ciclo de vida de ya tenemos una regulación de protección de datos personales sí Pero sabemos que los datos que alimentan esos sistemas muchas veces no son datos personales y por lo tanto solo una regulación de protección de datos no a solucionar no solucionaría la contabil la necesidad de comprender también la división de las responsabilidades de todos esos actores involucrados desde Aquel que desarrolla el sistema que capacita su sistema Y aquel que puede alimentar y enriquecer con nuevos datos esos sistemas hasta la punta aquel que va
usar en un hospital que compra por ejemplo un sistema y va a usar para hacer el diagnóstico Entonces yo veo que nosotros tenemos un déficit normativo en esas dos áreas Y eso eh es fundamental que e que nosotros podamos avanzar y acá teníamos un proyecto que estaba una discusión que estaba abanada 2630 Y que Ahora creo que está un poco difícil Cuáles serían los caminos que por Cuáles caminos esa discusión de regulación de plataformas va a seguir pero es fundamental que ella siga en el caso de La regulación de ya tenemos una pl que fue
mencionada aquí yo tuve el honor de ser la relatora de la comisión de juristas del senado federal y el presidente Rodrigo Pacheco propuso é es autor de este proyecto de ley 2338 que hoy incluso es relatado por el senador Eduardo Gómez parece que necesitamos realmente avanzar en los dos frentes el último déficit que les quería comentar es normativo en las dos áreas es de autorregulación no es posible pensar en La regulación de esas tecnologías sin la ición de las empresas esto es fundamental pensar No En el sentido si es espontánea al contrario es fundamental pensar
que los sistemas regulatorios que se están elaborando y se están discutiendo piensen en el papel De las empresas Y cómo estas deben ser más proactivas y cómo podrán participar en esta regulación o regulamenta Brasil discutió mucho este tema tenemos que avanzar en los tres déficits y para ir terminando porque termino mi tiempo es importante pensar que la trayectoria de la Revolución tecnológica de la ia incluso no es inevitable ni es unidireccional es fundamental que nuestras Eh decisiones puedan orientar la evolución de todas las tecnologías y lo hagan hacia una dirección responsable y en especial como
se dijo en una para proteger y garantizar nuestros derechos fundamentales Muchas gracias por la oportunidad y por la [Aplausos] invitación Gracias profesora Laura excelente sabemos Cuál es el papel central que has tenido en el debate en Brasil es muy bueno contar con tu Presencia Ahora quiero pasarle a Patricia eh el tercer discurso la profesora Patricia eh es profesor de derecho constitucional y de mestrado de doctorado del Centro Universitario de Brasilia tiene una maestría postdoctorales también en el mik institute sobre International Law en Alemania eh trabajó sobre el archivo de Inteligencia artificial y reglamentación con el
ministro del stf Muchas gracias buen día a todos y Todas es una alegría formar parte en este evento quiero saludar a mis colegas de panel a las autoridades presentes a los profesores en la persona del ministro gumar Méndez y quería agradecer especialmente de corazón al doctor Víctor y la doia guimar que son alma de este seminario el objetivo de mi ponencia es hablarles sobre los neod derechos la relación de los neuroderechos en la Inteligencia artificial y hacerles un panorama de Cómo conectar en la neotecnologías en este tema qué qué se llaman qué quieren decir los
neuroderechos Estos son los nuevos derechos o las nuevas lecturas de los derechos fundamentales de los Derechos Humanos que ya tenemos y que buscamos darles una nueva abarcar losos más para proteger la dignidad humana frente a los avances de la neurociencia y la neurotecnología la neurociencia tiene como objetivo estudiar el funcionamiento Del cerebro con los fines de diagnóstico y tratamiento los vectores es que sabemos que nuestro cerebro funciona con base en redes neurales en que determinadas áreas del cerebro son responsables por algunas de algunas actividades y otras de otras actividades y son estas de estos descubrimientos
que permitieron que los técnicos de Inteligencia artificial pudieran desarrollar un aprendizaje profundo de las Máquinas Qué qué es lo que tratan de hacer reproducir la estructura biológica que tenemos en el cerebro mientras que tenemos una red de procesos biológicos e informaciones la Inteligencia artificial utiliza una red de procesamientos matemáticos de informaciones la neurotecnología es un conjunto de técnicas de procesos que tiene el objetivo de monitorar Registrar y alterar cambiar y manipular el funcionamiento del cerebro gracias a la neurotecnología podemos o Dentro de poco tiempo recuperar el movimiento de miembros perdidos y enfrentar enfermedades neurodegenerativas como
el alzheimer el parkinson una serie de enfermedades mentales depresión recuper la visión la audición entonces la neurotecnología se puede usar puede usar Recursos más o menos invasivos más invasivos desde el punto de vista físico que puede ser la y la implementación de un chip con eh dispositivos eléctricos dentro del cerebro de una persona para controlar los movimientos involuntarios en determinadas enfermedades neurológicos Y saben sabemos que est estímulos pueden ayudar al control y cambiar la identidad también de la persona un ejemplo de estímulos menos Invasivos es el uso de algoritmos de Inteligencia artificial para la interferencia
sobre el comportamiento humano y un ejemplo de esto y vamos a demostrar que no es pasado ni futuro es pasado es el caso de de analítica que con la base en el monitoreo del comportamiento de las personas en Facebook pudieron diseñar el perfil psicológico de las personas y identificar una vulnerabilidades y bombardear bombardear lasas con Informaciones o con desinformaciones y que puedo interferir en el en su comportamiento en el voto para inclusive creyeron que ese mecanismo tuvo influencia para elegir a Donald Trump y eh que salga el Reino Unido de la Unión Europea es una
tecnología muy buena excepcional pero que impone grandes desafíos Cuál es el panorama general de la neurotecnología la nueva y próxima frontera entre derecho y neurotecnología Y tecnología entre 2014 y 2021 en un periodo de 15 años hemos registrado un aumento de 700 por de inversiones en desarrollo de tecnología entre el 2000 y el 2020 tuvimos un aumento de 20 veces el número de patentes que se presentaron como registro estas presentes esta presentación no es homogénea entre los países basta decir que cas 50% de estas Patentes son de propiedad norteamericana en primer lugar Estados Unidos con
47 de las patentes Corea del Sur 11 por China 10% y después Japón Alemania y Francia seis empresas con un 100% de las patentes de neurotecnología en el mundo o sea una gran concentración de poder en términos de de neurotecnología sobre algunos países desarrollados los campos en las que la Tecnología se expande tampoco son homogéneos hay un registro de un aumento de 355 por entre 2015 y 2020 en la inversión y obtención de patentes de neurotecnología en materia de cenci de la computación segundo mayor avance de la neurotecnología es la tecnología médica con un aumento
de 92 por solamente muestra que hay una imbricación Importante entre la neurotecnología y la inteligencia ial con un potencial de generación de instrumentos tecnológicos que favorecen el monitoreo y la manipulación del comportamiento humano Cuáles son los riesgos del uso de estas herramientas de neurotecnología los riesgos son privacidad y basta pensar que los pensamientos y los sentimientos que la tecnología puede identificar posiblemente son los Pensamientos y sentimientos más íntimos que tenemos y eventualmente podíamos no revelar hay otro desafío de consentimiento que personas no conscientes no pueden ser monitoreadas y qué Se informa cómo hacen para saber
efectivamente Cuáles son las consecuencias y cómo se usarán estos datos hay un riesgo de la confidencia idad de los datos de que puedan este ser divulgados lo cual puede ser muy dañino la el la divulgación del pensamiento y La autonomía decisoria de las personas Porque estos datos pueden permitir la manipulación de los comportamientos el riesgo de la integridad personal estímulos neurológicos invasivos y que sean capaces de cambiar las estructuras neuronales y generar sufrimientos físicos en las personas porque no reconocen sus comportamientos en su propio yo el propio self hay un riesgo en términos de igualdad
igualdad entre países países que dominan la Neurotecnología de los países que son dominados igualdad entre personas ese tipo de tecnología No sirve solo para superar problemas neurológicos sino también para ampliar la capacidad cognitiva de las personas podemos crear superhumanos que no tiene acceso a tecnología jamás va tener condiciones equitativas eh con relación a esas personas y hay un riesgo de la Democracia porque la democracia presupone Un libre albedrío la Democracia presupone una libre elección y quien tiene libre elección los representantes eh tienen que responder a la voluntad popular hay riesgos significativos en la neurotecnología con
respecto a a a además de tener un potencial eh potencial de de uso debates existe un debate regular estos derechos detalladamente o vamos los Derechos Humanos que tengan relación suficiente para enfrentar los desafíos la Comprensión de que los Derechos Humanos tenemos cubren una defensa preliminar preliminar de los Derechos hay una necesidad de detallar necesidad de afirmar nuevos derechos En fase de frente a cada uno de estos riesgos más que la necesidad de afirmar derechos existe la necesidad de instrumental de garantizar la transparencia la explicaba Garantizar la gobernancia en términos de neurotecnología y realización de la
implementación de estas tecnologías para que estos derechos sustanciales que tenemos en la práctica sean efectivamente concretos a nivel internacional a partir del 2019 hubo un principio de reglamentación de o esfuerzos preliminari en elaborar directrices y principios generales reguladores del Desarrollo en el uso de la tecnología el cde produjo una nuevo una una reglamentación la Unión Europea la oea en 2023 inito internacional chile es el primer país que incluye la protección de los neuros Derechos en la Constitución a seguido por España que produjo una carta española sobre neuroderechos también en 2021 Francia produjo una carta sobre
neuroderecho sobre desarrollo Responsable de neurotecnologías la Unión Europea produjo actos regulatorios de Inteligencia artificial que no habla sobre neurotecnología directamente pero prohíbe la utilización de tecnologías que manipulen la capacidad conectiva de las personas si ellas pueden generar daños a las personas y en Brasil tenemos un proyecto un proyecto de integridad física frente a las nuevas tecnologías y de la existencia de Transparencia de transparencia algorítmica hay también un intento de regular los neuroderechos en el proyecto de nuevo código civil y en la Ley General de protección de datos como dijo la profesora Laura faltan normas faltan
en todo el mundo falta aquí también normas nos faltan instituciones y de al y alto regulación estamos eh si la Inteligencia artificial estamos lejos en el neuroderecho más aún la neurotecnología es Fascinante y puede abrir grandes ventajas a la humanidad curar enfermedades aún no pudimos que no podemos superar pero es una tecnología con un gran potencial de riesgo puede alterar y hoy comprendemos que es ser humano podemos cambiar nuestra identidad cambiar nuestra mente interferir sobre la democracia hace no hace necesario que los gobernantes seran tengan den respuestas a nuestras expectativas porque después de todo Nuestra
autonomía se puede manipular Entonces es una tecnología que necesita una reglamentación material para proteger la privacidad consentimiento informado para proteger entre otros muchos derechos que ya de los que ya hablamos y también desde el punto de vista instrumental que establecer reglas de transparencia de gobernanza y reglas de Fiscalización estos son los aspectos fundamentales para que la neurotecnología se desarrolle realmente en favor de las personas y no contra las personas para que los beneficios de la neurotecnología efectivamente se puedan realizar en forma equitativas entre las personas y los países en palabras de la ministra egil leni
colocar las tecnologías al servicio de quien Realmente debe estar gracias Gracias doctora Patricia ahora la palabra es al otro panelista Dr frederico Franco Alvin asesor de la coordinador de combate en el stimo Tribal Federal asesor jefe de enfrentamiento a la desinformación en el tribunal supremo tribunal Federal asesor especial de la presidencia doctor en ciencias jurídicas y sociales doctorado en ciencias políticas en maestría en derecho autor De diversos libros entre los cuales abuso del poder eh guerras cognitivas e Inteligencia artificial y elecciones de alto riesgo Gracias Víctor buen día a todos y todas yo tengo la
intención de hablar sobre la Inteligencia artificial como un medio socio técnico y no específicamente como un medio tecnológico o sea es hora de discutir que la Inteligencia artificial no solo como un ento nuevo de tecnología sino especialmente un Instrumento disruptivo que transforma la sociedad e impacta profundamente los procesos sociales más sensibles inclusive los procesos electorales y quiero explicarles estos nuevos desafíos para las sociedades democráticas a partir de un análisis histórico y y conjuntural que se enfoca en las transformaciones a lo largo del tiempo si observamos las campañas electorales como se desarrollan históricamente es Claro que
cada nueva Posibilidad de comunicación entre las personas y cada vez que un medio de tecnología surge estos procesos de transforman de una en una forma muy proeminente muy importante vemos desde 150 de los 150 años hacia acá grandes evoluciones que dieron origen a cuatro periodos muy dearc en el proceso electoral Si vemos al inicio cuando no teníamos internet teníamos radio y televisión los pocos medios de Comunicación no llegaban teníamos un público iletrado Prácticamente la comunicación social se daba desde una perspectiva de una o de uno para pocos en este contexto no es lo que llamamos
des o como si el discurso no existiera es porque no implicaba riesgos sociales sistémicos con dificultades estructurales de circulación y hacían que este ciclo y Consecuentemente el punto de vista Cuantitativo cuando el radio la televisión llega y en ese momento pasamos de las campañas premodernas a las campañas modernas la comunicación eh Para a todos puede ser posible puede ser que veamos algunos dramas desde el punto de vista de la comunicación Pero algunas personas se se comunica ha toda la comunicación en el contexto pasada por el filtro de la empresa seria de la prensa pero cuando
Tenemos uno para todos y solo en un contexto controlado Este contexto controlado por la la curaduría hacía que las ideas incendiarias con pamentos extremistas en la teoría deir de Conspiración no llegaran a las personas en este momento histórico teníamos una separación de la información útil y vadia que que llegaba a mucha gente lo que llama lo que llamamos de basura informativa a lo largo del tiempo surge la internet y con esto pasamos a las Campañas modernas a partir de este momento la comunicación de todos para todos es posible ahora es posible hacer que las ideas
que no pasaban por los portones de la gran los grandes medios puedan llegar a todas a toda la población Dentro de este nuevo contexto se crea un mercado que en primer en primer lugar es un mercado que está saturado porque las ideas y opiniones de hecho pasan a surgir desde múltiples instancias Y a Partir de muchos orígenes tenemos un crecimiento exponencial del flujo de información desde el punto de vista cuantitativo y obviamente no tenem no lo acompaña un crecimiento cualitativo en la medida que por la fuerza del nuevo ecosistema que se crea elum de informaciones
inválidas que compite con el las informaciones el punto de vista democrático Tienen alguna utilidad y se invierte y esto porque a partir de este Momento la el los propios medios compiten con otras instancias del ecosistema mediático a partir del momento que la internet en cualquier persona del grupo pueda empezar a participar en la industria de la comunicación en un primer momento teníamos los medios profesionales compitiendo con nuevos eh canales de comunicación que hacía que esas visiones negacionistas y conspiracionistas que no participaban en la comunicación ahora Puedan participar Lo que sucede es que existen grandes influenciadores
políticos con un abordaje tan extremista y tan radical que incluso no pueden entrar dentro de los medios que producen informaciones en otros canales a través de un periodismo individual y emprendedor y absolutamente polémico o polemista y radical que es el segundo paso en la industria de comunicación si si terminara ahí tendríamos suerte pero hoy En las redes sociales grandes influenciadores que se colocan la posición de periodistas empezaron a difundir también esas ideas extremistas lo que llamamos medios alternativos El problema es que no solo esta nueva reconfiguración de los medios aporta un aspecto negativo en el
crecimiento de informaciones polémicas y va a competir con la cobertura jn periodística seria con la que estábamos acostumbrados con criterios de Verificación y de Fuente sino que el problema es que cuando la Inteligencia artificial aporta o llega al territorio de los medios sociales tenemos un el desarrollo de una nueva industria publicitaria que impacta fuertemente en el modelo de negocios de los medios tradicionales los medios empiezan a reducirse hasta el hasta cada 10 años 700 grandes periódicos se cierran en el mundo ese escenario donde teníamos buena Información disponible a mucha gente tenemos mala información con grandes
dificultades y porque en el ámbito de la creación de este periodismo disminuimos por supuesto la industria de la desinformación parte del principio de que es necesario romper la jerarquía de las fuentes yo puedo mentir con capacidad de convencer si primero elimino la credibilidad y laino la confianza bombardeo la confianza de las Personas de los grandes eh los grandes nombres de la seriedad Dentro de este escenario de la conversión de del bombardeo digital atacar a los periodistas a las instancias científicas y académicas etcétera para crear este escenario de una posverdad que las personas para que porque
las personas no creen más nada porque no creen más en las instituciones y al mismo tiempo son capaces de creer en cualquier cosa en el mundo de lo que se desparrama de lo que Se difunde en los medios digitales la los medios profesionales enfrenta no solo una crisis de modelo de negocios como consecuencia de los ataques sistemáticos los medios eh tradicionales sino una crisis de credibilidad El Instituto reuters publicó una investigación una encuesta que involucraba a Brasil y en el escenario brasileño que tenemos hoy es que en los últimos 9 años el volumen de personas
que creen en la prensa Tradicional disminuyó un 19 por en el escenario brasileño de acuerdo con esas informaciones solo el 43 por de las personas creen en estas instituciones democráticas eh de garantía en el escenario en el escenario inverso en el barómetro de confianza llegó a la conclusión de que el 68 por de las muestras muestra que la prensa miente deliberadamente para engañar a la población la prensa digital Con la entrada de la Inteligencia artificial en las redes sociales tenemos la tercera revolución de las campañas electorales a partir del momento en que este espacio de
las medios pasa a ser el espacio por excelencia de la plaza pública dond se discuten las cuestiones políticas y formamos nuestra opinión sucede que con la entrada de la Inteligencia artificial en primer lugar tenemos la posibilidad de eh modificar los los climas de la de La opinión pública Nosotros somos conformistas cada vez que una información parece estar apoyado por una capacidad tenemos el impulso inicial de creer en las narrativas porque parece que hay mucha gente que cree es el primer el primer problema es que gran parte de los usuarios de las redes sociales son automatizados
Existen estudios que dicen que entre el 13 y el 17 por de las contentas de Twitter son robot son robot puede Parecer poco pero en realidad estas cuentas son eh eh publican mucho Y entonces participan en el debate eh mucho más eh mucho con mucha más frecuencia que las usuarios humanos al contrario de lo que se imagin en un primer momento en internet que nosotros habíamos decretado el fin de los filtros vemos que en este momento histórico se pasó eh mucho a los canales y de televisión tenemos un nuevo Guardián porque las redes sociales determinan
Qué tipo de Pauta y agenda política y voz va a tener la la visibilidad social y eso eh claramente puede generar muchos problemas desde el punto de vista de la Democracia porque los algoritmos de las redes sociales privilegian a lo que genera participación Y esto no es la comunicación basada en la racionalidad todo lo contrario son los discursos que trabajan con los sentimientos Básicamente morales y emotivos a partir del momento en que las personas abren una red social y que y esperan encontrar una ventana la realidad esta realidad es solo la realidad de las personas
que grita más alto eh Nosotros sabemos que quien grita más alto es raramente quien tiene razón y lo peor es que tenemos un gran flux fluxo de datos que nuestros comportamientos digitales lo que hacemos en internet y vuelve posible que esos datos se En análisis y prejuicios hasta este momento una persona que creaba una narrativa generalista eh pasaba las preocupaciones de mucha gente pero si tenía si yo tengo los datos puedo proporcionarles mentiras personalizadas que van a dar un gatillo en tu mente en la esa comunicación s robotizada permite que las creen mentiras de una
en una forma Personalizada para hablar sobre temas que generan más preocupaciones dentro de la el intelecto de la otra persona y finalmente la Inteligencia artificial eh rompe el paradigma e que nos acostumbramos a consumir la información teniendo registros fotográficos y videos como prueba de alegaciones hasta entonces eh todos los que querían mentir pod podían probarlo Pero estas pruebas ahora se pueden eh clonar hacer clonaje de imágenes y hacer Que las mentiras lleguen a un nivel de verosimilitud eh inédita Por supuesto La Grande preocupación relacionada con la Inteligencia artificial tiene que ver con el hecho de
toda esa facilidad de los medios que se están popularizando y nunca se vio antes esto y la Inteligencia artificial básicamente Lo que puede hacer es automatizar la injusticia todo lo que antes tenía un un costo económico y cognitivo tenía que tener como mínimo trabajar en mi inteligencia eh hacer una historia bien contada para manipular una imagen sin tanta facilidad de uso y a partir de ahora todo eso se realiza en una forma automática y por lo tanto la Inteligencia artificial trae muchos beneficios que Puede traer a la evolución de la participación política y trae un
nuevo conjunto de riesgos que hacen que las instituciones tengan que moverse buscando la reglamentación sin necesidad de reglamentar esta reglamentación se articule con la idea de censura Muchas gracias ya Muchas gracias Dr frederico alvinnn paso ahora para finalizar nuestro panel me gustaría agradecer mucho al profesor Flavio a la profesora Laura profesora Patricia peoni nuestra secretaria de estudios y drct frederico alvinnn por su presencia en este panel tan interesante quería agradecer por la alianza en la organización de este seminario Dr d patri tejón y doora Teresa secretaria de relaciones con la sociedad en el supremo y
doora Lin Osorio nuestra secretaria general por el apoyo antes de acabarnos con este Dispositivo el ceremonial tiene un aviso y también tenemos un segundo panel para que todos acompañen Muchas gracias [Aplausos] pasaremos ahora el lanzamiento del documentario juris máquina dirigido por la profesora tainara jun kilio y producido por aqu producciones que aborda riesgos y posibilidades de uso de la Inteligencia artificial en el derecho es hora de aprender las luces Sobre el uso Inteligencia artificial en el derecho brasileño así como la justicia la innovación debe ser siempre servir para atender a las personas es difícil pensar
que en 20 años no va no va a ser todo Inteligencia artificial de un lado se habla de la posibilidad de esas tecnologías desen seren aliadas de la eficiencia de los procesos y procedimientos jurídicos de la posible neutralidad y objetividad de Esas herramientas tengo esperanza que la sinergía entre justicia y tecnología nos ayudará a ofrecer mejores servicios para la población con mayor velocidad y mejora de la calidad de aquello que nosotros entregamos no consigo ver hoy algún perjuicio o riesgo que impida usarmos la Inteligencia artificial en el poder judicial es una realidad que vino para
quedar es Importante sí que los abogados miren eso aprendan los riesgos relacionados como los sesgos discriminatorios de raza género o color la idea de la tecnología puede ser neutra va a seguir neutra pero ella además de ser hecha por personas ella también está lidiando con datos que muestran una determinada realidad personas negras estaban siendo identificadas de manera equivocada y pagando por crímenes que no Cometieron no creo que colocar una máquina en el lugar de ser humano va a solucionar los problemas que tenemos que solucionar la única relación directa con el uso de Inteligencia artificial sería
exactamente la clasificación que se atribuye a algunas algunos de esos usos en el poder judicial y exigirían algunos cuidados especiales existen otras iniciativas hay una resolución del tc que ya fue editada por el tribunal y también discute y a Generativa Deep Face especialmente establece una obligación de transparencia me gusta mucho este pensamiento de que puede ser diferente me gusta la idea de la esperanza y
