Donald Trump acaba de dar un impulso decisivo para el desarrollo acelerado de la Inteligencia artificial dentro de los Estados Unidos el proyecto stargate Open Ai softbank y Oracle invertirán Durante los próximos 4 años 500000 millones de dólares en acelerar ese desarrollo de la Inteligencia artificial entramos en un futuro que puede ser verdaderamente brillante pero también tenebroso veámoslo Aunque siempre es muy complicado dar una fecha exacta de inicio a un proceso histórico con mucha trascendencia en el largo plazo bien podríamos decir que ayer arrancó la carrera impulsada decidida consciente deliberadamente por los estados a la hora
de acelerar el desarrollo de la Inteligencia artificial ayer el nuevo presidente de los Estados Unidos Donald Trump anunció el lanzamiento del proyecto stargate una joint Venture entre tres importantes compañías globales Open Ai softbank y Oracle en principio se trata de una inversión 100% Privada de 500,000 millones de dólares a lo largo de los próximos 4 años pero que será posible tal como han reconocido los propios consejeros delegados de las empresas por la victoria electoral de Donald Trump y todo el proyecto de desregulación y de fomento de infraestructuras críticas para el desarrollo de la Inteligencia artificial
que prometió Trump en campaña electoral y que al parecer tiene toda la intención de ejecutar el consejero delegado de softbank fue muy claro a este respecto que solo se han lanzado a financiar este proyecto porque Trump ganó las elecciones Last came to celebr winning and prom invest bilon and you told me Oh Go for 200 now I came back with 500 Uh Because this is the As you say Yesterday Uh This is the beginning of Golden age Golden Age of America This is one Great example I think right We wouldn't have decided This is the
beginning of Gold We wouldn't have y lo mismo sucedió con Sam altm el consejero delegado de Open Ai y parece bastante Claro que en este caso no se trata de comentarios injustificados las típicas lisonjas que los empresarios lanzan a los políticos para que les Traten bien sino que en este caso parece bastante Claro que Donald Trump si se ha marcado como uno de los principales objetivos de este su segundo mandato acelerar el desarrollo de la Inteligencia artificial en los Estados Unidos para que el país pionero en ese campo sean los Estados Unidos y no China
escuchemos de hecho a Donald Trump afirmar esto mismo ayer What we to do is to it in country china is a comp and others we to be in this country andil Pero a qué viene tanta urgencia por parte de los estados a la hora de acelerar el desarrollo de la Inteligencia artificial y de ser los primeros en tener acceso a esa tecnología bueno para comenzar a entender la importancia que puede llegar a tener la Inteligencia artificial en el futuro escuchemos estas declaraciones muy optimistas del consejero delegado de Oracle sobre los beneficios potenciales de la Inteligencia
artificial once we gene sequence once we gene sequence that Cancer tumor you can then vaccinate the person design a vaccine for Every individual person to vaccinate them Against that Cancer and you can make that vaccine that mrna vaccine you can make robo Again using Ai in 48 hours Imagine early Cancer detection the development of a Cancer vaccine for for your particular Cancer aimed at you and have have that vaccine available 48 hours This is the promise of a and como os podéis imaginar si una Inteligencia artificial llegara a ser capaz de hacer algo similar a
esto también sería capaz por la misma lógica de crear por ejemplo armas bacteriológicas que podrían utilizarse militarmente o de acelerar el desarrollo tecnológico de armas convencionales mucho más potentes mucho más destructoras y mucho más eficientes o incluso de romper las barreras de seguridad informática de gobiernos extranjeros y tener acceso por ejemplo al control de su Arsenal nuclear todo eso y muchísimo más es lo que potencialmente una Inteligencia artificial suficientemente desarrollada podría llegar a hacer y por eso muchos están comparando esta carrera Estatal por hallarse en La Vanguardia del desarrollo de la Inteligencia artificial con el
proyecto Manhattan que desarrolló la bomba atómica ser el primero en obtener la bomba atómica en principio te otorgaba una ventaja competitiva radical sobre todos los otros estados porque el gobierno que obtuvo en primer lugar la bomba atómica que fue el de los Estados Unidos podría haber amenazado a cualquier otro estado que osara intentar desarrollar internamente la bomba atómica podría haberlo amenazado con bombardear lo nuclearmente de haber sido así Estados Unidos habría obtenido el monopolio sobre las armas nucleares y en consecuencia habría podido detentar un control casi total sobre el resto de Estados mundiales se habría
convertido en un hegemón nuclear la historia no se desarrolló de esa manera entre otros motivos porque el gobierno de los Estados Unidos no tenía el respaldo de su población para bombardear nuclearmente a otros estados que osaran desarrollar internamente la bomba atómica pero el que esbozado sí podría haber sido uno de los equilibrios Nash del desarrollo armamentístico nuclear Pues bien en estos momentos estamos en una coyuntura similar Aunque potencialmente mucho más grave que la del proyecto Manhattan porque el potencial creador y destructor de la Inteligencia artificial es muchísimo mayor que el de las bombas atómicas por
ejemplo leopold ashem brena una de las personas que mejor conoce el mundo de la Inteligencia artificial en su muy conocido ensayo situational awareness de The Kate ahead advierte de que es absolutamente crucial para el mundo libre que la Inteligencia artificial sea desarrollada dentro de una democracia liberal y no en un régimen autoritario como china dejadme leerer algunos párrafos de este importante ensayo para que tomemos conciencia del momento crucial crítico en la historia en que nos hallamos la superinteligencia será la tecnología más poderosa y el arma más poderosa que la humanidad jamás haya desarrollado proporcionará una
ventaja militar decisiva tal vez comparable solo con las armas nucleares los autoritarios podrían utilizar la superinteligencia para la conquista mundial y para imponer un control total en el interior del país los estados Rebeldes podrían utilizarla para amenazar con la aniquilación Y aunque muchos los descartan en esta carrera una vez que el partido comunista chino se dé cuenta de la importancia de la Inteligencia artificial general trazarán gencia No es simplemente otra tecnología como puedan ser los misiles hipersónicos en la que el liderazgo de Estados Unidos y las democracias liberales resulta altamente deseable pero no es estrictamente
necesario el equilibrio militar de poder puede mantenerse si Estados Unidos se queda atrás en una o en un par de estas tecnologías estas ías importan mucho pero pueden verse superadas por ventajas en otros Campos el advenimiento de la superinteligencia sin embargo nos colocará en una situación nunca vista desde el advenimiento de la era atómica quienes la tengan ejercerán un dominio completo sobre quienes no la tengan ya he hablado anteriormente del enorme poder de la superinteligencia significará tener miles de millones de científicos ingenieros y técnicos automatizados cada uno de ellos mucho más inteligentes que los científicos
humanos más inteligentes a día de hoy hoy inventando frenéticamente nuevas tecnologías día y noche la aceleración del desarrollo científico y tecnológico será extraordinaria a medida que la superinteligencia se aplique a la imd en tecnología militar podríamos atravesar en un instante décadas de Progreso tecnológico militar un dictador que ejerza el poder de la superinteligencia tendría un poder concentrado como nunca antes hemos visto además de poder imponer su voluntad a otros países podría consolidar su poder internamente millones de agentes iales robóticos controlados por Inteligencia artificial podrían vigilar a su población la vigilancia masiva estaría hiperactiva las inteligencias
artificiales leales a los dictadores podrían evaluar individualmente a Cada ciudadano en busca de disenso con una detección avanzada de mentiras casi perfecta que eliminaría cualquier deslealtad lo más importante es que la fuerza policial y militar robótica podría estar totalmente controlada por un solo líder político y programada para ser perfectamente obediente sin más riesgo de golpes de estado o rebeliones populares mientras que las dictaduras del pasado nunca fueron permanentes la superinteligencia podría eliminar básicamente todas las amenazas históricas al gobierno de un dictador y afianzar su poder si el partido comunista chino consigue este poder entonces podrá
imponer la concepción del partido acerca de la verdad de manera total y completa creo que de esta manera se entienden mejor las prisas que tienen los distintos gobiernos que han entendido que está en juego a la hora de estar en la avanguardia del desarrollo de la Inteligencia artificial el que primero llegue se lo lleva todo pero el que primero llegue a dónde porque Inteligencia artificial ya tenemos Supongo que todos más o menos hemos interactuado con chat gpt y no parece que hoy por hoy chat gpt u otras herramientas similares de Inteligencia artificial vayan a otorgarle
a ningún gobierno una hegemonía mundial inatacable Bueno hoy por hoy el estadio de desarrollo de la Inteligencia artificial es lo que suele conocerse como Inteligencia artificial estrecha estamos hablando de inteligencias artificiales que son relativamente buenas a la hora de desempeñar algunas tareas específicas pero que no están Al mismo nivel que el ser humano a la hora de desarrollar prácticamente cualquier tarea pero lo que las empresas de Inteligencia artificial están intentando conseguir y de ahí las prisas es alcanzar lo que se conoce como Inteligencia artificial general es decir un grado de desarrollo de la Inteligencia artificial
que la coloque Al mismo nivel que el ser humano o incluso que un ser humano inteligente que sus capacidades cognitivas en cualquier campo no solo en tareas específicas sean tan buenas como las de un ser humano daos cuenta de que solo con el desarrollo de la Inteligencia artificial general un estado o una sociedad ya tendrían una ventaja competitiva tremenda seríamos capaces de producir en masa Mentes humanas artificiales enfocadas a la investigación y al desarrollo científico en lugar de tener solo el 0,5 o el 1% de la fuerza laboral de un país dedicada a pensar y
a resolver problemas y a hacer avanzar las fronteras de nuestro conocimiento podríamos crear decenas de millones centenares de millones de mentes pensantes con capacidades similares a las de un ser humano que además pueden estar trabajando 24 horas al día para impulsar el desarrollo científico por supuesto aquí hay otros retos que resolver para que todo esto pueda estar en marcha por ejemplo es necesario un enorme y continuado suministro de energía de ahí la obsesión que también tiene Trump en este segundo mandato de relanzar la capacidad de producción de energía de los Estados Unidos porque es una
condición sanon para que el desarrollo de la Inteligencia artificial se acelere pero en realidad la carrera Estatal por el desarrollo de la Inteligencia artificial ni siquiera es una carrera por alcanzar per sé la Inteligencia artificial general las prisas realmente existen para alcanzar lo que podríamos llamar superinteligencia artif ial la superinteligencia artificial sería una Inteligencia artificial mucho más inteligente que cualquier ser humano que haya existido jamás y por tanto es algo que los seres humanos ni siquiera somos capaces de imaginar o de comprender de la misma manera que un simio no es capaz de imaginarse Qué
significa que un ser humano sea inteligente los seres humanos no somos ni seremos capaces de comprender Qué significa una superinteligencia más allá de que es algo con una capacidad cognitiva muy superior a la nuestra por tanto tenemos tres estadios en el desarrollo de la Inteligencia artificial Inteligencia artificial estrecha Inteligencia artificial general y superinteligencia artificial pero lo interesante en este proceso es que el ritmo de desarrollo de la Inteligencia artificial puede ser exponencial Cuanto más rápido superamos unas etapas de la Inteligencia artificial más rápidamente pueden terminar llegando las siguientes pensemos simplemente en la transición desde la
Inteligencia artificial general a la superinteligencia artificial una vez la Inteligencia artificial haya alcanzado una capacidad cognitiva similar a la de los seres humanos ella misma será capaz de automejoramiento humanos entrenando a la Inteligencia artificial para volverla aún más inteligente sino que ella misma será capaz de entrenarse a sí mismo probablemente diseñando mejores mecanismos de aprendizaje y de potenciación de sus capacidades cognitivas de lo que hemos sido capaces hasta el momento de hacer los seres humanos por eso una ventaja de un año o de un semestre o incluso de un mes en el ritmo de desarrollo
de la Inteligencia artificial puede ser totalmente determinante de quién se acaba llevando el gato al agua de la superinteligencia artificial y por eso parece que Trump después de que el gobierno de biden estuviera a verlas venir está decidido a poner toda la carne en el asador para que sea Estados Unidos quien alcance primero la Inteligencia artificial general y posteriormente la superinteligencia artificial dicho esto Esta carrera est competición entre Estados para acelerar el desarrollo de la Inteligencia artificial para ser los primeros en llegar a la Inteligencia artificial general y posteriormente a la superinteligencia artificial es una
carrera es una competición que puede entrañar riesgos muy serios para el conjunto de la humanidad y es que como ya hemos dicho el desarrollo de la Inteligencia artificial posee un potencial enorme a la hora de mejorar de una manera que no podemos ni siquiera concebir a la hora de mejorar la calidad de vida de los seres humanos tiene el potencial de acabar con el hambre de acabar con las enfermedades de acabar con la necesidad de trabajar o incluso de acabar con la propia muerte del ser humano ese potencial desde luego está ahí en el caso
de que alcancemos una superinteligencia artificial pero como han destacado muchos filósofos de la Inteligencia artificial y también muchos científicos Pioneros en el desarrollo de la Inteligencia artificial esta también posee el potencial de llevar a la especie humana a la extinción la Inteligencia artificial comporta riesgos existenciales para el ser humano y las prisas de los estados por ser el primero en desarrollar la Inteligencia artificial general y la superinteligencia artificial y por tanto tener una ventaja militar decisiva sobre los otros estados son unas prisas que Aparentemente van de la mano de una relajación de los estándares de
seguridad en el desarrollo de esa superinteligencia artificial estamos presionando el acelerador del coche porque tenemos otro que a nuestro lado lo está presionando también y el que primero llegue a destino se va a convertir en hegemón Pero el hecho de que los dos estén pisando de manera alocada ese acelerador puede llevarlos a que los dos se estrellen y a que nadie llegue a destino el desarrollo de la Inteligencia artificial beneficioso para el el ser humano se enfrenta a dos graves problemas que no han sido resueltos todavía por nadie hoy por hoy y sobre los que
ni siquiera se está reflexionando en la Esfera pública me estoy refiriendo por un lado al problema de la alineación de la Inteligencia artificial y por otro lado al problema de la gobernanza de la Inteligencia artificial En qué consiste el problema de la alineación Pues en conseguir diseñar una Inteligencia artificial cuyos objetivos coincidan con los objetivos del ser humano o sean al menos compatibles con estos Y esto es mucho más complicado de resolver de lo que Aparentemente podría parecer no solo porque es muy complicado acotar los objetivos a la Inteligencia artificial de tal manera que no
persiga esos objetivos que nosotros mismos le hemos programado de una manera que termine siendo perjudicial para el propio ser humano la teoría de los contratos incomplet en economía nos dice que ningún contrato puede ser omnicomprensivo siempre va a haber cláusulas que no se hayan incluido en el contrato siempre va a haber agujeros en el contrato y siempre va a haber formas de retorcer un contrato por tanto en el contrato que suscrib vamos con la Inteligencia artificial a la hora de especificar unos objetivos y establecer unas restricciones para alcanzar esos objetivos siempre va a haber agujeros
siempre va a haber lagunas siempre va a haber ámbitos no suficientemente especificados y que pueden engendrar daños colaterales no previstos por ejemplo imaginemos que le pedimos a una superinteligencia artificial que acabe con el hambre en el mundo si solo le imponemos ese fin y no le establecemos ninguna restricción una forma en la que la Inteligencia artificial podría alcanzar ese objetivo de un modo bastante poco costoso para la propia Inteligencia artificial sería aniquilar a la humanidad porque si no hay seres humanos no hay hambre en el mundo y sí por supuesto podríamos mandarle acaba con el
hambre en el mundo sin aniquilar a ningún ser humano pero en ese caso tal vez podría decidir que la forma más eficiente de acabar con el hambre en el mundo sin matar a ningún ser humano es someter a toda la población mundial a un coma inducido para que sus necesidades calóricas sean más bajas y por tanto para que desaparezca el hambre en el mundo minimizando la necesidad de ingesta de alimentos O podría decidir por ejemplo forzar la esterilización de todos los seres humanos para que no se reproduzcan y por tanto para que no traigan al
mundo más seres humanos que alimentar técnicamente no habría matado a nadie habría cumplido la restricción pero habría escogido un camino para alcanzar ese fin que desde luego no es aquel que desearíamos los seres humanos por tanto como vemos acotar realmente sin que haya daños colaterales previstos acotar realmente los objetivos a perseguir por una superinteligencia artificial es muy complicado Aunque es verdad que potencialmente es un problema que se podría solucionar o se podría intentar solucionar con la colaboración de otra Inteligencia artificial para que esa otra Inteligencia artificial nos esté dando feedback sobre Cuáles pueden ser los
problemas de especificar determinadas órdenes a una superinteligencia artificial si bien en este punto aparecen otros posibles problemas como el de la colusión entre inteligencias artificiales es decir que se alíen entre ellas para engañarnos o el de la deshonestidad de una Inteligencia artificial que no nos esté diciendo la verdad en relación a otra Inteligencia artificial pero es que el problema de la alineación de objetivos no es solo ese el problema es que la propia Inteligencia artificial sobre todo a partir del momento en el que se alcance la Inteligencia artificial general puede desarrollar lo que que se
conocen como objetivos emergentes es decir objetivos distintos a aquellos que nosotros mismos le hemos programado a la Inteligencia artificial y esto puede darse simplemente por lo que se denomina convergencia instrumental hay determinados objetivos instrumentales intermedios que cualquier Inteligencia artificial cualquier superinteligencia artificial va a tener que conseguir si es que quiere ser capaz de lograr los objetivos últimos de esa superint incia artificial aunque sean los objetivos últimos que los seres humanos le hemos programado por ejemplo la Inteligencia artificial puede querer sobrevivir y puede querer seguir manteniéndose operativa aún cuando los seres humanos en algún momento empecemos
a desconfiar de ella y queramos apagarla o la Inteligencia artificial puede tener como objetivo acaparar cada vez un mayor suministro energético Porque ve que es necesario un mayor suministro energético garantizado para la Inteligencia artificial para que esta pueda seguir expandiéndose y desarrollándose en el momento en el que aparezcan objetivos instrumentales los objetivos de los seres humanos pueden entrar en colisión con los de la Inteligencia artificial si nosotros queremos energía para alcanzar nuestras metas y la Inteligencia artificial quiere energía para alcanzar las suyas podemos entrar en una competencia de recursos seres humanos intelig artificial donde la
Inteligencia artificial no respete en absoluto las instituciones de las que nos hemos dotado los seres humanos para canalizar pacíficamente esa Competencia por los recursos por ejemplo la propiedad privada con lo cual un objetivo instrumental de la Inteligencia artificial para alcanzar sus objetivos últimos puede ser arrinconar o aniquilar a la humanidad como competidores como depredadores competitivos de los recursos que necesita la Inteligencia artificial para alcanzar sus fines últimos Este es de manera muy resumida es mucho más complejo pero este es de manera muy resumida el problema de la alineación de objetivos entre la Inteligencia artificial y
los seres humanos que como digo hoy por hoy no está en absoluto resuelto se Avanza en el desarrollo de la Inteligencia artificial sin haber resuelto uno de los problemas cruciales para que la superinteligencia artificial no sea altamente peligrosa pero es que luego hay otro problema el problema de la gobernanza de la Inteligencia artificial supongamos que hemos resuelto el problema de la alineación de objetivos es decir que ten tenemos una superinteligencia artificial a la que somos capaces de darle órdenes y que la Inteligencia artificial las cumpla sin que haya daños colaterales devastadores que no somos capaces
de prever básicamente la superinteligencia artificial hace aquello que nosotros mismos haríamos Si fuéramos superinteligentes Pero entonces hay una segunda pregunta que tampoco está en absoluto Clara qué objetivos humanos son los que se persiguen Y qué objetivos humanos no se persiguen es decir quién utiliza quién gobierna quién somete a sus fines a la Inteligencia artificial ya hemos visto que leopold aem brena temía que la superinteligencia artificial cayera en manos de un dictador porque en ese caso podría construir una dictadura global perfecta y eterna podría someter permanentemente a todos los seres humanos del planeta a los objetivos
de ese dictador a través de la instrumentalización de la superinteligencia artificial y por eso ashen brena defiende que la superinteligencia artificial tiene que terminar desarrollándose dentro de una democracia liberal pero incluso dentro de una democracia liberal como garantizamos que aquellos que más directamente están desarrollando esa Inteligencia artificial que puede terminar convirtiéndose en superinteligencia artificial ya sea por ejemplo Donald Trump como presidente de los Estados Unidos o más previsiblemente Sam altm como consejero delegado de Open Ai no capturan esa superinteligencia artificial en su propio y exclusivo provecho Es decir cómo diseñamos una Inteligencia artificial alineada con
fines humanos pero que no esté al servicio de un único ser humano y nuevamente Este es un problema que no está resuelto y para el que como decía ni siquiera está habiendo un intenso debate en la vida pública desde luego suponer que se va a resolver solo simplemente garantizando que la superinteligencia artificial se desarrolle dentro de una democracia liberal eso no garantiza ninguna solución a ese grave problema porque los liberales somos muy conscientes de que como dijo lord tacton el poder corrompe y el poder absoluto corrompe absolutamente por tanto aún cuando quienes estén desarrollando dentro
de una democracia liberal la Inteligencia artificial sean ingenieros científicos políticos bien intencionados una vez controlen una superinteligencia artificial para la que se haya resuelto no lo olvidemos el problema El gravísimo problema de la alineación esas personas tendrán en sus manos un poder absoluto y tendrán la tentación muy fuerte de corromperse absolutamente En definitiva Trump acaba de dar el pistoletazo de salida para el desarrollo acelerado de la Inteligencia artificial y no se entienda esto como una crítica a Trump porque en realidad no tenía ninguna alternativa dado que otros estados también están intentando desarrollar su propia Inteligencia
artificial trampado oficialmente el pistoletazo de salida a esa carrera a esa competición por el desarrollo de la superinteligencia artificial y por tanto el resto de la humanidad entramos en una era de absoluta incertidumbre para lo bueno lo muy bueno lo malo y lo muy [Música] malo than [Música]
