Intelligence artificielle : l'homme est il devenu obsolète - Aurélien Barrau et Asma Mhalla.

On a un dernier sujet qui est je dois dire particulièrement à la mode il s'agit de parler d'intelligence artificielle il y a deux points l'homme est-il devenu obsolète est-ce que l'espèce humaine est en train de créer les propres conditions de devenir elles-même superflu je me souviens du philosophe christian Godin qui dans un bouquin qui est sorti je crois il y a Une vingtaine d'années et qui s'intitulait la fin de l'humanité nous expliquait que bah peut-être que dans plusieurs dizaines d'années on ne mourrait pas percuté par un astéroïde ou bien par une une épidémie voire disait-il

à cause du réchauffement climatique mais tout simplement que en tant qu'espèce nous devendrions comme ces vieillard qui euh sont si fatigués et si amnésiques qu'ils en oublient leur Propre existence et puis que l'humanité allait s'éteindre doucement comme un vieillard dans son lit que ne subsisterait de nous sur notre passage sur terre que éventuellement ce que Michel ser appelait les objets monde euh les satellites et les quelques avatars de de nos de nos outil technologique et disait-il nous créons grâce ou à cause de la technologie des artefacts qui euh finissent par nous rendre non seulement obsolète

mais disait-il exactement Superflu je ne vous présente pas mais je vais le faire un peu Aurélien barreau merci Aurélien d'être là merci beaucoup pour celles ou ceux qui auraient passé les quelques dernières années sur Mars aurélien est astrophysicien directeur du centre de physique théorique de Grenoble auteur de Mout ouvrage dont le plus grand défi de l'histoire de l'humanité qui je pense résume ton œuvre et ta pensée et tes engagements mais Aussi et c'est celui qui va peut-être nous intéresser aujourd'hui entre autres choses l'hypothèse k chez grass la science face à la catastrophe écologique à tes

côtés euh non moins une star Asma Asma mala Asma [Applaudissements] merci docteur en sciences politiques cherche le hesss spécialiste en gros technologie et d'intelligence artificielle Et auteur autrice je sais pas comment tu veux qu'on dise auteureux tu serais pas un peu RAC de technopolitique comment la technologie fait de nous des soldats publiés cette année au seuil je le disais rapidement lia est le nouveau grand fantasme alors pour nous les journalistes c'est quelque chose de très cyclique on a énormément parlé d'intelligence artificielle je dirais au mi-temps des années 2010 on se poser 1000 questions et puis

face à l'absence de promesses tenu par l'intelligence artificielle on avait rangé tout ça dans une dans une case la case je dirais 2013-24 nous nous sommes fortement intéressés derrière au méaver et tous nos articles portaient sur le Maver et nous avions parfaitement oublié l'intelligence artificielle nos débats autour de Matrix de 2001 l'Odyssée de l'espace de Terminator Évidemment jusqu'à ce que vers novembre je crois 2022 surgisse l'artefact des artefacts chat GPT et là tout à coup pouf nous nous sommes à nouveau replongés là-dedans si bien que aujourd'hui nous alimentons tous les fantasmes nous-mêm autour de l'intelligence

artificielle est-ce réellement de l'intelligence est-ce que elle va vraiment nous supplanter voir comme dans 2001 ou comme dans Matrix prendre le pouvoir sur nous pauvres Individus biologiques peut-être avant de commencer à ce ma je vais me tourner vers toi tu me regardes avec un peu de suspicion beaucoup de méfiance où est-ce où est-ce qu'on en est là aujourd'hui fin septembre 2024 cette intelligence artificielle qui est accéléré par des géants du numérique comme open par exemple Microsoft a pris 49 % départ mais aussi par tout un tas d'autres Acteurs où en est-elle qu'est-ce qu'on peut faire

avec et de fait faut-il s'en méfier voire s'en effrayer alors c'est un à l'image de des objets monde c'est une question monde que que tu me poses la première chose c'est que oui mais tu tu le tu le tu le précisais très bien l'intelligence artificielle n'a absolument rien de nouveau et et et de façon assez régulière on aime à se faire peur à peu près tous les 10 ans en fait he quand on Prend un petit coup de de rétroviseur donc c'était 2022 avant ça c'était 2016 c'était deep M avec avec le jeu de Go

une start-up qui a été avalée depuis par Google et on s'était posé les mêmes questions dans les mêmes terme je je vous expliquerai la façon dont c'est pseudo problématisé et puis 10 an encore avant c'était Kasparov euh qui perdait qui était donc un un un joueur d'échec enfin le champion du monde d'ailleurs et qui Perdait face à une machine et donc de façon très régulière comme ça vraiment à peu près tous les 10 ans on a une innovation alors que qu'on peut appeler de rupture ou pas de rupture d'ailleurs je ne le crois pas et

qui et qui pose des questions mais qui sont beaucoup plus vcéralement disons existentielles qui qui est la place de l'homme la nature de l'homme face à la machine et cetera dans une vision très très apocalyptique et c'est en parti C'est récit là sur la fin de l'homme la fin de l'humanité la fin deiv ça va depuis ça va voler ça va prendre tous nos job et cetera c'est ça vient en partie en grande partie de la Silicon Valley par ces mêmes technologues qui sont en fait d'abord des idéologue et donc vous avez ou ou des

pseudo idéologues parce que même sur la question d'idéologie on pourrait en revenir mais vous avez pas de penseur de colonn vertébral et cetera mais vous Avez un récit une narration qui vient de là et qui participe de deux choses ou en tout cas don qui qui qui fait levier sur deux choses la première c'est euh un effet de sidération de prostration c'est-à-dire que quand on vous matraque du matin au soir que c'est la fin du monde par l'intelligence artificielle j'entends pas du tout par les enjeux plus disons réels de de climat ou de ou du

vivant mais quand on en fait vous répète du matin au soir par des relais Médiatiques qui sont souvent généraliste que c'est la fin de tout et qu'on est sur quel une disruption totale une rupture civilisationnelle incroyable et cetera B vous allez finir évidemment par par le croire et l'effet de sidération fait quelque chose de très simple c'est qu'en fait ça neutralise une capacité de recul et de critique et de penser avec distance à froid des sujets réputés très chaud parce qu'on les réchauffe ça c'est la première chose et La deuxième chose cet effet de prostration

fait que vous avez une vague de hype comme ça le sujet est très à la mode tu le disais et quand un sujet est très très à la mode il se passe quelque chose de très très simple c'est que vous levez des fonds vous levez beaucoup d'argent or l'intelligence artificielle n'a strictement rien de virtuel c'est une industrie et une industrie extrêmement lourde c'est une hyper industrie vous avez une chaîne de valeur Avec les algorithmes les modèles d'entraînement des Data scientists les modérateurs en général dans les pays du Sud qui sont absolument souspayés dans des conditions

psychologiques économique deslétaire en amont vous avez bah les grands groupes ou les grands les grands technologues alors c'est open a macrosoft Elon Musk et ça ça xcorp Google donc en fait tout ce qu'on appelle les bigtech les géant technologique et qui sont en fait Vraiment des des infrastructures en tant que tell et qui sont extrêmement consommatrices d'argent de fond et par parenthèse d'ailleurs les intelligences artificielles génératives parce qu'on parle de ça en ce moment Ia ça ne veut rien dire intelligence artificielle comme concept ça ne veut ça ne renvoie à rien vous avez des systèmes

algorithmiques et vous en aveit plein en fonction des secteurs des industries des usages et cetera donc là on parle des Intelligences artificielles génératif donc qui à partir d'un d'une consigne ce qu'on appelle un prompt vont générer du contenu donc celle-ci impr prompt rapidement consne enfin c'est c'est ce que vous allez mettre vous allez c'est une dicté en fait dicté bonjour chat GP salut ça va est-ce que tu s'il te plaît tu peux me traduire est-ce que s'il te plaît tu peux me générer est-ce que s'il te plaît tu peux me faire une synthèse est-ce que

s'il te plaît tu peux très Poli avec chat donner la la recette parce que sinon il m'insulte euh est-ce que mais mais c'est préprogrammé est-ce que s'il te plaît tu peux me donner la recette du fondant au chocolat sans farine enfin bon bref vous mettez ce que vous voulez dedans ou est-ce que s'il te plaît tu peux me donner la recette d'une arme bactériologique d'une cyberattaque du code ou écrire mon article parce que j'ai pas le temps ou me synthétiser tel c'est quand même bon c'est pas rien Quand même hein c'est pas alors quand c'est

une recette de de tarte àtin c'est on s'en fiche quand c'est ça a trait à des questions de sécurité nationale ça peut devenir beaucoup plus problématique mais c'est là où en fait ce sont des technologies notamment les systèmes algorithmiques ou les systèmes d'intelligence artificielle qui sont du ce sont des technologies tuales et c'est là où on a un changement si vous voulez de paradigme tout d'un coup C'est que elles sont à la fois civiles et militaires mais vous pourriez me dire ouais mais le nucléaire aussi oui mais le nucléaire n'est pas dans votre poche et

ça ça fait une différence majeure c'està dire que vous avez une industrialisation une massification des usages dont on n pas le modèle économique d'une part il n'y a pas de rentabilité d'où le besoin de lever de fond et par ailleurs il y a la question de pourquoi faire et tous ces récits et Ces narrations qui sont recyclées en main à chaque fois vous avez toujours un angle mort qui est qui les pensees sont les valeurs les billets les visions du monde qui sont encapsulé à quelle fin et est-ce que cette fin là c'est-à-dire cette intention

politique qui est si vous voulez incorporé dans l'outil a été débattu démocratiquement fait l'objet d'un consensus est-ce qu'on en a même conscience en fait Bernanos disait la liberté pourquoi faire et donc moi je Dis la technologie ok mais pourquoi quoi faire et c'est là o on a un énorme problème et où là on peut aussi avoir un un terrain de jeu avec Aurélien c'est que aujourd'hui elles sont tellement consommatrice d'énergie d'électricité mais vraiment dans des proportions où on se pose d'énormes questions sur la la soutenabilité du modèle reconnu par Altman qui est le patron d'OP

ai lui-même enfin par tous les grands disons patrons de la tech américaine que Donc on va à un moment donné devoir se poser la question de ces outils là on les met au service à la fin de quoi et ça n'est plus possible de de de de de les utiliser un peu à Tor et à travers en tout cas c'est c'est c'est une de mes hypothèses mais je suis en train de faire un tunnel donc je me tais alors moi j'ai remarqué que absolument 100 % des intervenant disent pardon je fais un tunnel je reprends

hein non pas tout de suite on est D'accord Aurélien non mais c'était bien moi j'ai tout compris j'ai tout compris ce que tu as dit j'ai répondu oui je vais t'en poser plein d'autres derrière parce que tu nous as pas dit si si tu étais d'accord ou pas mais on va y revenir déjà quand on parle on prend le micro madame oui je suis d'accord Asma est beaucoup plus poli avec chat qu'avec moi Aurélien Barau tu n'es pas un Spécialiste immédiat de Lia néanmoins tu as une opinion sur lia oui j'ai vraiment cru que tu

allais me dire non alors NON MERCI ok non écoute si tu veux bien je voudais commencer par faire deux petites remarques sur ce que tu disais en introduction la première c'est sur ces objets mondes qui resteront de nous en fait si on se projette non pas sur quelques milliers d'années mais qui sur quelques dizaines de millions d'années C'est-à-dire aux échelles de temps géologiqu la seule chose l'unique chose qui restera de l'humanité c'est l'effondrement drastique visible dans les fossiles on se sit que nous sommes la seule espèce qui a exterminé une grande partie des autres ça

sera notre signature à l'échelle de l'histoire et le deuxième petit point que je voulais faire sur tes remarques c'est le mot de métaver qui aujourd'hui renvoie essentiellement à un concept de Facebook Mais dans mon domaine en cosmologie c'est quelque chose de beaucoup plus joli c'est une théorie d'univers multiple qui est précisément très enchanté très poétique et qui est exactement le contre-pied de toute cette folie euh d'intelligence ou d'ineintelligence artificielle alors moi j'ai envie de d'aller dans le vif du sujet euh mais si tu veux bien je prends quelques minutes en introduction pour parler de ce

qui m'intéresse le moins à Savoir le bilan matériel du numérique en général et de l'IA en particulier euh il y a d'abord une matrice si vous voulez conceptuelle qui n'est absolument pas neutre et qui est euh l'idée l'idéologie extrêmement nocive et contestable suivant laquelle il y a une évolution orientée nécessairement positive de l'histoire qui est tirée par la technologie n'oublions pas quand même qu'en quelques années nous nous avons éradiqué les 2/ers des insectes en Quelques décennies les 2/ers des mamifères sauvages en quelques millénaires les 2 tiers des arbres que depuis l'année de ma de ma

naissance 80 % de la biomasse a été exterminé qu'environ 500000 personnes décèdent chaque année en Europe de la pollution que l'ONU attend 500 millions de réfugiés climatiques dans 30 ans et que un terrain de football de forêt disparaît toutes les 2 secondes donc déjà si vous voulez cette espèce de Matrice non dite évolution nécessairement souhaitable il faudrait peut-être la mettre sur la table même si à mon sens et on va y revenir dans la suite le vrai problème n'est pas celui-là mais je voudrais vous lister très rapidement en quelques minutes pardon je fais un tunnel

les quatre points fondamentaux quand même qu'il faut mettre sur la table matériellement le premier c'est ce que j'appellerai la nocivité matérielle directe de du Numérique en général la pollution vous savez qu'il y a plus de 50 Morar dans un smartphone en particulier bien sûr on peut penser au mercure à l'arsenique et au sianur utilisés dans les mines des effets rebonds systématiques c'est-à-dire que même quand vous gagnez vous perdez si vous avez une hausse d'efficacité elle est toujours surcompensée par la hausse d'usage donc vous perdez à 100 % des coûts une dématérialisation illusoire dans 60 Branches

de l'industrie qui ont fait ce ce cheminement vers la dématérialisation numérique dans toutes d'entre elles la quantité de matièrees premièr a augmenté ensuite vous voyez que la croissance du numérique est d'environ plus 10 % par an alors que pour tenir les les accords de Paris il faudrait être à - 5 % par an deuxièmement il y a ce que je noteraiis la nocivité matérielle indirecte donc l'utilisation par exemple pour les armes de destruction massive de l'IA on le Voit en ce moment ça marche remarquablement bien je le dis avec tout le cynisme du monde la

génération bien sûr de vulnérabilité c'estàdire qu'aujourd'hui tout dépend du numérique y compris le fait de pouvoir manger y compris le fait de pouvoir rentrer chez soi alors même que ça requiert l'utilisation de métaux par exemple qui ne seront plus disponibles dans quelques décennies donc c'est extrêmement incohérent l'artificialisation des Territoires la dissémination des pollutions dans les décharges qui est encore pire encore que dans les mines où c'est relativement localisé les intoxications corrélatives les eau qui sont chargé de métaux lourds et et relâché dans les nappes fréatiques des arbitrages qui sont parfois rendus par les États entre

les productions vivrières et les les productions euh de silicium par exemple généralement au profit de la seconde et puis Troisièmement il y a ce que j'appellerai les nociivité immatérielle directe donc l'addiction la précarisation l'existence des travailleurs du clic qui sont sououspayés et confrontés à des contenu ultravolent toute la journée donc le colonialisme sous-jacent lui-même associé à une très forte prédation des ressources le développement d'une économie de la ttention le développement des outils de surveillance de masse qui est d'ailleurs déjà à l'œeuvre hein le Soutien implicite à une organisation fondamentalement inégalitaire la généralisation des fake news

et l'arrivée d'une sorte de néoanimisme réficateur et enfin quatrièmement et c'est mon dernier point ce que j'appellerai la nocivité immatérielle indirect c'est-à-dire la perte du lien avec les choses avec les gens une sorte décompréhension du monde et une situation dans les modilit de monopole radical des machines c'estàd que non Seulement elles prennent tout l'espace mais on narrive même plus à imaginer comment faire 100 alors même qu'il y a 20 ans on faisait très exactement la même chose sans leur utilisation des phénomènes de s de sédentarisation de fétichisme consumériste de rapport compulsifs au contenu d'amnésie sélective

de corroboration systématique d'une vision scientiste et quantifiée et finalement de l'impossibilité même par le Fonctionnement en interpolation d'idées disruptives qui sont pourtant très exactement ce dont nous aurions besoin aujourd'hui j'en ai fini pour ces aspects factuels que j'emprinte d'ailleurs très largement à des travaux de Romain Couillet qui est peut-être présent et de Grégoire poissonnier qui sont de deux éminents chercheurs grenoblois et tout ça pour un gain qui est presque toujours nul voire négatif si on élargit un peu la matrice et qui Est toujours défavorable si vous prenez en compte le le travail en particulier des

pays du Sud et les conséquences dans les pays pauvres donc on ne peut avoir une vision globalement optimiste qu'en considérant que toutes les vies ne se valent pas mais vous remarquerez que c'est très à la mode en ce moment alors ce qu'il faut quand même bien voir et et je conclus là-dessus mon introduction c'est que au-delà de toutes ces catastrophes que je viens de citer pour L'avoir fait voilà c'est c'est dit donc on n' pas besoin d'y revenir le vrai problème à mon avis celui qui nécessite d'être pensé c'est même pas ça c'est qu'en réalité

c'est une atrophie de notre puissance d'être qui se déploie ici c'est-à-dire que être en en un sens presque trivialement sartriéen c'est être libre c'està direire que c'est pas seulement échapper à la prison et à la dictature être c'est pouvoir faire des choix c'est-à-dire être confronté au Pullulement des alternatives mais en réalité ce que tout ce bordel est en train de mettre en œuvre c'est un étiolement de ce foisonnement et de cette de cette divergence constante de ce entre quoi nous pouvons choisir autrement dit à quoi bon être libre si nous n'avons plus le choix contre

des propositions essentiellement équivalente et inintéressante et donc finalement pour moi la question c'est pas seulement comment décarboner l' a Comment amoindrir toutes les externalités négatives que je viens de mentionner mais c'est plutôt quand bien même tous ces problèm catastrophique n'existerait pas nous rend-elle heureux nous rend-elle éveillé nous rend-elle amoureux nous rend-elle émerveillé autrement dit nous rend-elle vivant et vous l'avez compris la réponse est dans la question [Applaudissements] tout à l'heure un un participant me Disait est-ce que il y aura Alain damazio j'ai dit non il y aura mieux Aurélien barreau si parce que en fait

si je te suis tu tu tu fais ce que damazio préconise c'est-à-dire prendre des des des des marteaux et des pioches et de défoncer les serveurs et de s'en prendre physiquement non mais je je plésente à peine et de s'en prendre physiquement à ce dispositif c'est-à-dire bon je je reprends un peu bah l'hypothèse de ton Hypothèse c'est-à-dire l'hypothèse k ce qui est très intéressant dans ce que tu racontes dans ce bouquin c'est que K étant je je spoile mais une forme de de cancer euh qui se décline selon plusieurs modalité c'est aussi c'est pas l'objet

du moment mais c'est aussi Kafka et donc la possibilité d'une résurgence tu tu dis que peut-être que dans le dans le dispositif métastasique qui est à l'œuvre dans L'objet technique il y a les les propres éléments de sa de son dépassement et donc d'une forme de guérison est-ce que je me trompe oui et non mais je je vois je je suis d'accord avec la manière dont tu le poses qui qui est assez fine K c'est aussi la Kain c'est-à-dire la résistance à l'envahisseur par le biais de la guerriia qui est beaucoup plus intéressante que l'affrontement

frontal parce que on a forcément perdu face à Ces adversaires là donc il faut savoir faire des pas de côté si tu veux je vais répondre par une par une une parabole mais c'est c'est c'est un peu le point fondamental c'est que GPT ça marche mais ça marche pour faire quoi moi on m'a montré des poèmes écrits par GPT en disant mais regarde c'est pas mal et c'est vrai que c'est pas mal surtout quand vous commencez aller verss des choses un peu compliquées vers l'exasyllabe ou des choses comme ça les Textes ils sont pas forcément

neux mais ce n'est pas de la poésie et ça ne peut pas l'être parce que l'art c'est pas un divertissement l'art ou l'intelligence en général est toujours doublement référentiel c'estàd qu'il faut d'une part une référence au réel et d'autre part une référence au locuteur ou à la locutrice la référence au réel c'est tout simple c'est la vérité il y a pas de concept de vérité chez GPT ça ne peut pas exister il y a un concept de D'occurrence statistique de certaines idées sur Internet compte tenu du fait bien sûr qu'on interdit généralement aux algorithmes les

idées un peu trop subversives c'est-à-dire celles qui contestent l'ordre dominant et ensuite il y a pas de référence à l'auteur ou à l'autrice ou à l'auteur tout simplement parce que dans un dans un poème ou dans un texte ou dans un roman ou dans un essai philosophique ou même dans un mot d'amour ce qui est important c'est que Tout est référentiel c'est c'est que à chaque ambron de concept de mots d'idiome d'expression vous convoquez toute une chaîne symbolique qui est en résonance avec votre passé avec votre histoire avec votre culture avec l'amour que vous éveillez

ou que vous n'éveillez pas dans les yeux de l'autre et ça GPT ne peut pas le faire il ne peut pas le faire structurellement vous pouvez multiplier par 100000 la puissance des processeurs d'openï ça ne changera rien Au fait qu'il ne peut pas le faire pour le dire de façon très triviale quand vous allez chez le médecin et que vous lisez le cont rendu d'hospitalisation vous interprétez les mots quand le chirurgien vous dit je ne suis pas très inquiet ou quand il vous dit je suis rassuré ça veut dire à peu près la même chose

mais vous comprenez qu'en fait ça ne veut pas dire la même chose maintenant les contte-rendus d'hospitalisation sont en grande partie Fait par GPT ne cherchez même pas les interpréter ça n'a plus de sens ça ne peut pas en avoir et ça c'est un étiolement considérable de notre puissance d'être et la raison pour laquelle j'insiste sur ce mot mais là je vais être plus court je te laisse la parole dans 30 secondes c'est que si vous voulez c'est ce sur quoi je crois C on ne peut pas ne pas être d'accord c'est-à-dire que certains ici peuvent

aimer les oiseaux et les plantes et D'autres aimer le béton et l'acier moi je ne peux pas contrairement à ce que certains prétendent assiner des vérités c'est-à-dire dire les oiseaux sont supérieurs au béton j'en sais rien après tout vous avez bien le droit de préférer le béton si c'est votre avis en revanche je pense qu'en tant que vivant nous ne pouvons pas renoncer à ce qui nous fabrique en tant que vivant à ce qui nous constitue et nous différencie d'un objet nous ne souhaitons pas aucun D'entre nous que vous soyez de droite ou de gauche

technophobe ou technophile nous ne souhaitons pas devenir les rouages d'un dessin in sans dessin e in d'accord qui nous utilise comme outil sinon c'est très exactement une réification c'est très exactement un néocolonialisme qui pourrait même toucher les blancs vous vous rendez compte c'est vous dire à quel point il serait insupportable bon je plaisante avec ce qui n'est pas drôle mais c'est Pour montrer l'abération en réalité de la structure idéologique dans laquelle se déploie cette pensée Asma est-ce que c'est pas une bonne nouvelle ce que vient de nous dire Aurélien à savoir que finalement il ne

faudrait prendre l'IA que pour ce qu'elle est c'est-à-dire une somme d'algorithmes enfin un algorithme qui serait une somme de calcul et que je dirais la culture technoscientifique aid dans nous prendrions conscience tout Simplement de la distinction entre ce queaurélien décrit comme le vivant et qui est communément admis et puis qui n'est qu'une forme de de de chose inertees euh oui mais ce n'est pas ce que dit Aurélien c'est bien le problème et euh j'essaie de l'interpréter de manière un peu positive mais parce que finalement à faire cette distinction entre ce qui est éveillé et ce

qui est inerte euh je je je caricature évidemment mais J'ai compris voilà non mais je veux dire et donc non il y a plusieurs choses en fait Mo taper aujourd'hui moi ouais je sais pas pourquoi tu as envie de taper je sens une allez vas-y non je souscris à tout ce que dit ou ce que vient de dire Aurélien barreau et je dirais même que son combat sa passion et ultra romantique que j'adorerais que nous soyons Légion et que le problème et et que il y a deux problèmes deux limites c'est que je ne sais

pas quand et à quel moment de l'histoire et là c'est vraiment mon inculture Crass qui parle la poésie a pu être une réponse politique massive je ne sais pas quand euh je ne sais pas si elle le peut encore et c'est auettre ce qui se joue en terme de réelle politique c'est-à-dire en terme De relation internationale et là j'attaque mon deuxème sujet ou l'angle de de de ce que de mon propos de ce que je raconte c'estàd que évidemment moi j'adorerais qu'on soit dans une une espèce de de d'instinct de survie et de dignité d'une

certaine façon de ce qu'est l'humain et donc de ce qui nous distingue de cette machine ou de cet outil ou de cet agent parce qu'aujourd'hui on ne parle même plus d'outil on parle d'agent donc d'agent Humain et d'agent machinique hein on en est là donc c'est très intéressant parce que c'est exactement comme ça que dans les armées on parle on parle d'agents humains donc on a en fait en effet un nivellement si vous voulez de de des même des hiérarchies entre ce qui est la machine et et ou les algorithmes exemple parce qu'on s'en fout

même de la ferraille qui est autour donc en fait des logiciels et et de l'homme mais le problème c'est que il y A évidemment la dimension idéologique philosophique mais surtout vous avez une dimension de puissance or aujourd'hui la la la l'intelligence artificielle comme concept en fait les intelligences artificielles à usage militaire plus précisément sont au cœur de la compétition de la concurrenceé de la rivalité géostratégique entre deux grandes puissances ou hyper puissances super puissances disons États-Unis et Chine et que de ce point de vue-là Strictement strictement rien je le crois hélas n'arrêtera cette course et

que les géants technologiques qui sont les concepteurs de ces outils qui ont l'air ludique ou dégueulasse ou peu importe sont en fait des vecteurs de quoi de soft et de hard power hard power réellement sur le terrain en Ukraine à Gaza ailleurs réellement pour planifier des opérations sur le terrain pour capter de la donnée et derère planifier pour transformer de la data puisquon a Mis en donnée le monde et donc le champ de bataille tout est mis en donnée mais la donnée en soi n'a pas tellement de valeur si vous ne la transformez pas en

information stratégique qui permettent derrière une une décision donnée ou une prise de décision et donc c'est précisément très pragmatiquement au-delà des fantasmes c'est exactement ça c'est-à-dire d'abord et avant que ce ne soit des guerres entre disons nation entre armée entre un état et un ou une Population c'est d'abord et on l'a vu très bien à Gaza c'est une guerre contre la vitesse c'est ça qui se joue avec les intelligences artificielles quand on les met dans le champ militaire c'est le premier qui a capté la donnée qui l'a transformé en information et qui a dégainé le

premier à gagner c'est ça qui se joue cette hyper vitesse là et de ce point de vue- là C'est ce qui fait aussi que on a cette tentation à déléguer les les décisions finales qui peuvent être absolument atroces à la machine parce qu'il faut aller très très vite et que l'arbitrage politique et là je parle vraiment dans le champ militaire et politique l'arbitrage politique c'est-à-dire entre lancer l'opération et le dommage collatéral est très vite vu en fait et ce sont des coups politiques qui sont parfaitement assumés qui sont Parfaitement assumés c'est très cynique ce que

je dis mais c'est la réalité des choses donc où est-ce que en face on peut mettre de la poésie si chacun en effet est complètement isolé derrière son écran et donc ce qui se joue c'est un la rivalité géostratégique entre États-Unis et Chine que deux vous avez des puissances régional qui utilise ces outilsl pour des pour du leadership ou de la suprématie ou un un gain de temps sur sur les les champ de bataille qu'on A qu'on a ouvert depuis 2022 à peu près et que qui sert d'ailleurs de terrain d'expérimentation qui sont aujourd'hui des

laboratoires à ciel ouvert de ces mêmes outils là dont on parle on le voit très bien par exemple sur les armes autonomes c'est très intéressant parce que depuis 2022 on a eu énorme ormément énormément de discussions de début de de de de vous savez ces livres blanc les guidelines éthiques alors les grandes voilà grandes lignes éthique à respecter Partout hein dans les cénacles internationaux l'ONU tout le monde s'y est mis et cetera et en fait États-Unis et Chine maintiennent très volontairement un statut qu où il ne se passe rien on dit pas oui on dit

pas non on on laisse traîner et derrière ça vous avez plein de boîtes qui sont sont des start-ups qui sont financés par ces mêmes acteurs là je pense à andouril par exemple dont vous n'avez probablement Jamais entendu parler et qui est ultra stratégique dans la projection de puissance américaine et qui développe des drones parfaitement autonomes et qui participe à ces discussions c'est-à-dire à ne pas les mener à bout à ne pas qu'elles aboutissent ou qu'elles finissent par aboutir à un consensus donné et donc on est dans ce nouveau siècle politique dans ce nouvel ordre mondial

qui est en train de s'installer où vous avez deux géants qui sont en Train de se battre pour la première place Asma pardon je t'interrompe mais on a rapidement discuter entre nous de la fameuse affaire Thierry Breton euh qui pas seul mais avec l'Union européenne avait tenté de de poser des cadres politiques juridiques notamment avec l'i Act qui qui suit un certain nombre de réglementation européenne euh bon puisqu'on en est au sujet géopolitique et j'aimerais bien evenenir un petit peu Après sur la question de la poésie disons des interstices considérant la question juridicopolitique est-ce que

là on n pas nous Européens quand même not notre mot à dire et puis finalement quelque chose à faire valoir à ces deux gros compétiteurs alors je termine rapidement sur mon idée parce que je est pas fini non je rechutter sur la question de la poésie donc en fait la résistance par la résistance par la je te jure je te réponds sur TER B Terri Breton si je te dis c'est horrible c'est une très mauvaise nouvelle euh ok c'est bon merci tu peux aller non c'est une très mavaise nouvelle pour des questions vraiment très pardon

d'être très très pragmatique mais ou très ancré dans ce qui est en train de se jouer dans les rapports de force entre disons nation mais c'était une très mauvaise nouvelle parce que c'est un gars qui à partir de 2019 avait arrêté de de de de ne percevoir l'Union européenne que comme Un énorme marché mais avait compris qu'il fallait en fait installer un rapport de force et notamment un rapport de force avec les États-Unis d'ailleurs he pas tellement euh d'abord avec les États-Unis qui sont nos principaux alliés aujourd'hui mais dont on comprend bien avec l'inflation reduction

Act et un certain nombre de de choses que un allié n'est pas toujours un ami ou pas nécessairement vous vous l'avez ça et donc et donc oui il avait entrepris un Certain nombre de choses par la norme donc les paquets réglementaires digital service Act digital market Act et a bon tous ces actesl qui en fait avaient comme signal politique de dire aux acteurs extra commommunautair donc les géants technologiques américains ou chinois d'ailleurs que puisque nous n'avions pas nos acteurs en propre dans ces tailles làin et que dès l'instant où ils opéraent en revanche au sein

de nos frontières ils allaient respecter nos Règles et le Ia Act est intéressant pour une seule chose je crois alors il y a eu tout ce débat absolument débile vraiment débile sur innovation versus réglementation vous avez toujours ces enfermements binaires où vous êtes toujours il y a toujours cette in et nous on réglemente quoi il y a toujours cette injonction euh c'est comme sécurité ou liberté cette injonction à choisir entre des deux deux deux termes de l'équation où vous n'avez Pas forcément nécessairement à choisir si vous décidez de problématiser autrement la question mais donc on

est toujours dans ces injonctions qui sont matraqué sécurité ou liberté innovation régulation mais attends un gars et si moi je veux bien les deux ça veut dire que tu es macronienne là dans ce cas-l non Macron c'était plutôt pas de régulation en l'occurrence euh mais donc il faut toujours prendre Un tout petit peu de de recul par rapport à tous ces choix qui sont très simplistes où vous devez absolument choisir entre c'est comme si je vous disais mais alors papa ou maman bah choisis lequel tu lequel tu condamnes lequel tu enfin c'est pas possible donc

c'est toujours comme ça que les questions politiques nous sont posés des choix binaires et impossibles en fait euh donc Thierry Breton il a eu cet intérêt de dire au sein de nos Frontières c'est une espèce de souveraineté défensive quoi réactive vous allez respecter nos règles nos principe l'État de droit et cetera encore que vous avez plein d'exceptions plein de de choses qui qui font que Aurélien le le le rappelait les questions de technurveillance l'usage sécuritaire régalien de sécurité nationale et bien si vous voulez amoindrir et affaiblir de toute façon C texte là mais mais il

y a L'intérêt de dire face à à à à des acteurs qui sont prédateurs et ben on va se doter d'outils pour disons leur amoindrir leur coup d' frranches donc c'était pas c'était pas c'était pas honteux de ce point de vue-là bon Thierry Breton partant on perd quand même cette cette cette voie là mais je reviens à la question de la poésie comme donc qui était ma chute et après j'arrête à la question de la poésie par rapport à ce nouveau rapport de force à À ce nouvel ordre mondial à ces inégalités à aussi au

déclassement européens là-dedans puisque d'acteurs technologique nous n'en avons point puisque de vision politique encore moins et cetera et cetera donc qu'est-ce qu'on fait avec ça la poésie bien sûr oui euh qui est une disons une éthique une philosophie un rapport au monde ne pas rester étranger à son monde évidemment mais le problème c'est que aujourd'hui on est globalement isolé Isolé derrière des écrans mais attention ce sont pas les écrans qui ont créé l'isolement c'est ces technologie là s'incère dans un système économique et idéologique qui est beaucoup plus large et qui est bien antérieur à la

question technologique Anna arent déjà disait en fait l'isolement c'est-à-dire où nous ne serions plus que non pas des citoyens ou même des êtres pensants disons mais des atomes perdus dans la masse c'était l'autoroute vers les total itarisme et C'était bien avant Elon Musk et c'était bien avant ch GPT et en fait ils ne sont que un point culminant d'un dysfonctionnement qui est très antérieur à ça qui est très antérieur et donc si on n' pas une vision systémique englobante des dysfonctionnement et donc de ce qu'on aimerait construire ou reconstruire ça va être très très difficile

parce que précisément la technologie est un peu ce ce climax de l'isolement en fait où chacun est isolé On l'avait vu pour pendant le covid et et et qu'est-ce qui a permis une espèce d'obéissance massive c'était bien les écrans parce que en fait on était tous occupés à faire un peu n'importe quoi ù regardé des séries à VGT et cetera et donc c'était bien ça en fait qui qui a permis une forme de contrôle social puisqu'il s'agit de ça de contrôle social d'obtenir une obéissance d'obtenir une neutralisation de la de la de la révolte avant

même de parler de Révolution juste de la révolte dire attends il y a un truc qui va pas donc la poésie oui mais à condition de la reconstruction du lien et donc et je terminerai là ça veut donc dire que si nos vies numériques celle de d'être seul de de la solitude extrême et la norme ça veut donc dire en creux que le réel devient la poche de résistance vous avez cette inversion là qui se fait et donc il y a peut-être un réinvestissement Du monde physique ce qu'on est en train de faire par exemple

là tout de suite aujourd'hui comme acte de résistance se retrouver se parler les lieux physiques l'école l'université ces endroitslà ces momentsl ces rituels là où tout d'un coup on se retrouve ensemble pour penser ensemble et ça c'est quelque chose qu'il va falloir réellement massifier et investir sinon la poésie seule derrière son écran ça ne marchera jamais [Applaudissements] c'était quand même pas complètement idiot de rester chez soi pendant le covid je me permets cette petite incise non sur le covid moi j'ai un énorme problème à aucun moment personne n'a mou non donc ça veut dire que

sur le covid c'était justifié mais demain pour une autre raison ok non non mais je me je me permets de relever ça bon mais c'est pas le sujet Aurélien réinvestir le réel tout à L'heure on avait le débat avec Albert mouber et et avec Florian forestier où on se disait attention à ne à ne pas euh avoir comme comme système de pensée uniquement la question technicienne euh comme alors ils l'ont pas dit comme ça mais comme il y a eu des marxistes qui étaient des des des gens englobants dans une théorie attention à ne pas

aussi faire de la technique quelque chose de d'envahissant à 100 % il existe des marges il existe des interstices euh Elles existent et Asma vient de le rappeler on on est là alors je suis pas sûr que soit le moment soit totalement poétique mais en tout cas il est très réel oui euh euh avec toute l'amitié que j'ai pour Florian et son interlocuteur et je pense qu'il a raison euh moi pour des raisons polémiques et provocatrices je dirais que la modération ça commence à me casser les couilles voilà et donc je suis pas modéré le

numérique a une bonne Solution c'est le démantellement voilà c'est c'est simple c'est clair c'est net euh et c'est en fait rationnel c'est rationnel c'est pas idéologique là encore relisez par exemple les articles de Couillet que j'aiévoqué tout à l'heure c'est extrêmement clair alors il y a quand même une matrice philosophique hein qui qui qui qui soutend tout ça heidogger qui est hautement contestable et criticable sur d'autres aspects on le sait naturellement et très bon sur la Technique ce qu'il montre finalement c'est que dans sa forme actuelle la techné n'a plus grand-chose à voir avec le

avec le dévoilement avec l'alla grec mais qu'elle devient plutôt une provocation c'est-à-dire une mise en demeure presque éuctée à la face des choses pour ne plus apparaître qu'en tant que stock et en tant que fond disponible c'est à partir de ça que stigler par exemple a montré qu'elle doit être appréhendée dans une logique De pharmacone autrement dit et derrière le mot un peu pédant qui est une référence à desidas qui est une référence à Platon ce que ça signifie c'est que tout est une question de dosage et là effectivement on peut rejoindre ce que que

disais tout à l'heure les les deux les deux interlocuteurs hein pour le dire de façon très simple quand vous êtes rachitique ça vous fait du bien de manger mais quand vous êtes obèse bah ça Vous tue c'est pas très compliqué à comprendre sauf que l'idéologie de la technique c'est que tout ce qui doit tout ce qui peut être fait doit être fait ce qui est proprement inepte et puis ensuite ilich a très bien montré pas Vladimir a très bien montré que voilà que en fait il y a deux points de bascule il y a le

point de bascule où l'objet technique permet d'enrichir son réel et il y a le deuxième point de basc où l'objet technique atteint cette Posture de monopole radical qui fait qu'il empêche de penser même toute alternative à son usage et ça effectivement c'est le moment de l'étiolement et de l'effondrement des possibles et des alternatives alors une fois qu'on a dit ça et qu'on a critiqué ce que certains nomes des technologies zombies ce que moi j'appellerai des technologies vampires parce qu'elles nous rendent en réalité exang voire des métastase parce qu'il y a effectivement Une logique qui est

extrêmement proche de celle d'un cancer qu'est-ce qu'on fait et quand je me permets d'appeler au poétique c'est pas seulement à la poésie c'est-à-dire que faut surtout pas imaginer que dans mon esprit le poétique c'est s'allonger près de la rivière et écrire des verrs encore que cette posture puisse être parfaitement louable pour moi le poétique c'est pas ça du tout c'est quelque chose en fait d'extrêmement euh fondamental et D'extrêmement omniprésent si voulez le poétique c'est le surgissement de la chose même alors que son opposé le prosaïque ça serait l'utilisation de la chose le poétique ça serait

la communion et le prosaïque la communication le poétique ça serait la création l'ébauche et le prosaïque ça serait la fabrication le poétique il serait sauvage et le prosaïque il serait domestiqué le le le poétique il serait indigène il serait imprévisible il aurait quelque chose de La définition même de la pensée de la vie de l'amour alors que le prosaïque il a à voir avec le normé avec le machinique avec le reproductible et donc quand on l'idée bien sûr ce n'est pas de se passer entièrement du prosaïque on ne le peut pas on ne le veut

pas on souhaite manger ce soir et on souhaite se chauffer l'hiver évidemment évidemment la question plutôt c'est de vassaliser le prosaïque au poétique et non pas l'inverse pourquoi au nom d'une Idéologie mais non pas du tout au nom du bon sens parce que c'est ça qui nous rend heureux parce que c'est ça qui nous définit en tant que vivant parce que c'est ça qui nous énerve de possible vous savez nous sommes les héritiers d'une vieille tradition idéologique qui est celle de la Grèce la Grèce a inventé ce concept extraordinaire qu'on appelle logos qui est à

la fois le langage et la rationalité mais le problème de logos qui est merveilleux bien sûr puisque C'est ici que se sont fondés nos sciences et cetera c'est que s' est en quelque sorte atrophié ou implosé tous les autres rapports au monde poss possible et en particulier la M égyptienne qui dans une sorte de rapport de verticalisé verticalité pense on sait aussi le cosmos non pas seulement comme le terrain de jeu des proto astrophysiciens mais aussi éventuellement comme un moyen de s'énerver d'un point de vue politique et Éthique de ce que peut-être la société ce

que je veux dire là pour être très simple c'est que comme l'a montré Descola et comme l'ont montré bien d'autres nous sommes les seuls à avoir inventé cette réfication radicale de tout ce qui n'est pas nous donc il faut surtout pas se dire que nous n'avons pas le choix que finalement il y a une sorte de principe de réalité qui fait que excusez-moi je suis malade qui qui fait que le monde comment tuas pas l'air j'ai Pas l'air oui oui mais c'est parce que je suis galvanisé par votre présence et et donc euh voilà c'est

encore mieux que le de lipran et donc euh et et donc si vous voulez l'idée c'est pas celle-là voilà c'est vraiment de de de comprendre que il y a 1000 autres manières d'habiter le monde qui ont été exploré par d'autres humains et qu'il y a donc quelque chose de fondamentalement raciste et j'emploie ce mot à dessin à croire qu'on ne peut Pas être un humain autrement que dans les topiques de l'Occident contemporain ce n'est simplement pas vrai parce que c'est invisibilisé c'est réifié toutes les autres peuplades qui ont peuplé qui ont habité cette planète avec

des des des des manières d'être à l'univers extrêmement différent des nôtres je vais vous donner la parole madame messieur je vois que ouais je voudrais réatterrir 2 secondes et de manière honteusement prosaïque sur L'intelligence artificielle j'ai juste une toute petite question non mais exuse je vais me faire taper sur les doigts genre est-ce que de ce point de vue-là c'est-à-dire du point de vue du dispositif technique global on assiste comme parfois on peut le lire à un saut quantique autrement dit est-ce que en tant qu'avatar du système technicien lia est-ce qu' n' est-ce qu' était

le plus loin dans notre dépossession et notre rapport au monde La question est pour moi ouais est-ce que est-ce que là il y a eu un truc qui s'est franchi on a dit parfois ce qu'on appelle parfois une innovation de rupture mais encore plus et et qu'est-ce que tu en penses moi personnellement est-ce que est-ce que ta vie elle a radicalement changé depuis que tu as une app de plus je je pense qu'une app de plus n'est que une app de plus mais que potentiellement à partir du moment où je Ne sais pas qui me

parle et d'ailleurs je crois que c'est dans li Act de de l'Union européenne on est maintenant sommé de savoir si on parle un humain ou un ou un bot euh donc en fait est-ce que en gros est-ce qu'on est-ce qu'on a franchi une étape même même une étape de civilisation ouais après ces petites poussettes de Michel SAR avant qu'il le renie c'est est-ce que c'est nouvelle civilisation il y a plusieurs choses révolution Évolution c'est une évolution le vrai problème c'est pas en fait le vrai le vrai problème n'est pas l'innovation technique au sens de est-ce

que c'est une rupture une disruption totale ou pas vous l' lia on l'a dit ça fait très très longtemps qu'elle est dans dans un paquet de système le monde s'est pas effondré à cause de ça ça participe à l'effondrement de de de quelque chose mais vous n'avez pas un avanten après votre vie n'a pas radicalement changé Depuis novembre 2022 il ne me semble pas la vie des profs par exemple a radicalement changé puis qu'en fait ils sont en train de se demander qui écrit non on a un problème avec l'Éducation nationale depuis bien avant bien

avant ce qui m'amène à deux choses un on a un problème de vision politique on a un problème de politique publique on a un problème de de vision et surtout on a un problème de comment dire de j'aime pas ce mot parce que on va mais j'en trouve Pas d'autres de flemme collective c'est il y a un confort on est si vous voulez nimbé dans un confort ou dans quelque chose qui nous est présenté comme un confort et donc en effet dès l'instantù vous avez des innovations qui sont davantage d'illeurs incrémentales ch GPT n'est pas

du tout une innovation de rupture ce sont des modèles qui préexistaient c'est une innovation d'usage d'expérience c'est cool c'est sympa ça vous fait Gagner du temps c'est en fait et derrière ça vient promouvoir tous les discours de la productivité de l'efficience de vous au travail de vous à la maison et c'est assez dingue parce que quand vous prenez un un métier que moi je commence à bien connaître donc celui de journaliste pour les fréquenter et surtout pour voir un peu le modèle économique des médias c'est très intéressant parce qu'on vous dit avec chat GPT ou

des génératif pas importe Lesquel vous allez gagner beaucoup de temps or le temps que vous faisiez sur des tâches répétitive rébarbative c'était un temps de respiration du cerveau c'était un temps de respiration or là ce qu'on va demander au journalist c'est de faire du de l'investigation du scouop c'estàd des choses extrêmement dures du matin soir c'est impossible en terme il y a des métiers c'est une autre forme de pénibilité ou même de santé mentale au travail oou c'est impossible Vous ne pouvez pas être au top à faire du scoop du matin ou des vrais hein

je vous parle pas des trois capsules sur les réseaux sociaux de la petite phrase du pecno du coin en non réellement c'est du du politique pechno du coin mais c'est ça enfonce-toi mais pas oui mais c'est un problème donc la question de l'efficience et de la productivité vous vous rendez pas compte c'estàd qu'en fait de plus en plus on on ce n'est pas du tout une Perte de Jobs qui est en train de se jouer c'est qu'en fait vous allez de vous êtes oré du matin au soir et ça c'est un si on ne l'a

pas bien en tête euh le vrai fantasme n'est pas de dire c'est 50 % du job qui vont disparaître ils vont pas disparaître c'est toujours la rangain qu'on entend depuis depuis leants qu'ils vont être remplacés donc c'est job ouais je crois il y a des études qui l'ont montré non vous avez des études qui Montrent strictement le contraire donc en plus vous avez toutes les batailles d'études non la vérité c'est que on va globalement enfin à part des trucs un peu à la marge mais plutôt garder les jobs mais en fait vous allez avoir vous

allez être littéralement essoré dans vos métiers parce qu'on va exiger de vous des CR critères de performance qui vont être de plus en plus élevés parce que les tâches de respiration les postclop tout ça ça va disparaître donc c'est un Peu ça aussi le sous-jacent j'ai absolument pas répondu à la question et sur la question de la réponse si tu as dit non à quoi au sa qutique non oui donc le S quantique enfin et après tu as plein d'autres innovations qui sont en train d'arriver dont on n'est pas en train de parler tout le

monde est focus focalisé sur les générative qui sont un peu le truc un peu tarte à la crème un peu sympa il y a le quantique il y a le post quantique mais vous avez aussi tout T tous les tous les ce qu'on appelle les biotthèques vous savez ce qu' le prochain champ d'ailleurs ça va ça va intéresser Aurélien ça le prochain champ c'est pas plus précisément dans dans notre biologie dans notre être c'est nos conognitions c'est les cerveaux ce qu'on va appeler dans le champ militaire les guerres cognitives les guerres d'influence les guerres enfin

les guerres de perception donc c'est ça qui est en train de se jouer dans les Laboratoires aujourd'hui et pardon si vous ne le saviez pas c'est pas du tout votre app sur votre téléphone à faire des trucs avec des gén qui sont pour moi non pas des innovations de rupture qui sont des innovations de confort mais qui en fait vont avoir des effets délétaires sur la façon dont vous allez respirer mais juste respirer juste si je peux revenir sur ce que tu dis OUI pour finir parce que après on va discuter si c'est ça qui

se passe vraiment dans les labos ça me donne envie de démissionner quand même parce que les guerres ça manque pas ouais ou ou jeais juste donner un exemple pour montrer le niveau d'indescence auquel nous sommes arrivés le plus grand mathématicien du 20e siècle vous le connaissez peut-être pas il s'appelle Alexander grotendck c'est quelqu'un d'absolument extraordinaire il A fait probablement plus à lui seul pour les mathématiques que tous les autres réunis au 20e siècle c'est quelqu'un qui avait la médaille fils mais bien plus que ça c'est le refondateur de la géométrie algébrique c'est une citadèle à

lui tout seul c'est un génie absolu c'est aussi le fondateur de l'écologie radicale c'est quelqu'un qui c'était un roi tragique et c'est quelqu'un qui avait unee vision très subtile de déconstruction de son propre domaine qui Fustigeait d'ailleurs l'arrivée de la logique binaire dans les sciences sociales qui comprenait que les mathématiques c'était un danger autant qu'un lieu d'investigation et de création qui critiquait même le développement des sciences fondamentales dans un monde où elle devenait peut-être un outil de prédation et de contrôle plus que d'épanouissement et de créativité artistique bref tout ça pour dire que céit un

penseur extrêmement Subtil qui s'intéressait beaucoup aux rêves qui s'intéressait beaucoup à la fécondité et qui était on peu plus poétique dans son rapport au monde avec en plus un engagement politique tout à fait admirable et il se trouve que depuis peu on commence à se dire qu'on pourrait utiliser les concepts de grotendck pour améliorer l'a parce qu'il apparaît que un certain nombre de données analytiques peuvent être appréhendées sous la forme D'objets géométriques qui font apparaître des invariants qui ne relèvent pas seulement des catégories mais éventuellement aussi des topos ou des topo pour le dire de

façon un peu pédante de grotendic et là vous voyez qu'on est même pas dans la trahison on est dans la traittrise absolue sérieusement grotendck chez huawaii c'est un peu malcol mix au cuclux clan quoi ça va pas ça va juste pas il faut qu'on arrête de faire n'importe quoi Parce que l'IND des sens est en train de devenir Obs [Applaudissements] mesdames messieurs c'est ça va être à vous de poser vos questions qui circule c'est c'est toi-même ah bah oui bah oui vous alors allez-y vous êtes de stage non on a commencé en retard donc on

va se donner un bon gros quart d'heure ça va merci pour tout ça la question je voulais poser après allez-y la question Que je voulais poser elle concerne euh peut-être à court terme les les risques de de l'intelligence artificielle euh dans nos vies euh vous avez vous avez mentionné ça ça ça donne des réponses qui sont très moyennes vis-à-vis de de de contenus qui ont été fait par des humains euh à à court terme moi ce qui m'inquiète c'est en fait les décisions qui sont qui vont pouvoir être faites dans nos vies quotidiennes par des

intelligences artificielles je pense à La vidéosurveillance dont vous avez parlé mais peut-être au niveau de la justice aussi ou des choses comme ça c'est-à-dire l'introduction d'outils euh où les humains vont être en fait vont être exclus et c'est les intelligences artificielles qui vont donner des décisions et qu'on sera pas à même de d'expliquer derrière parce que c'est ça aussi un des gros problème de l'intelligence artificielle c'est la façon de entre guillemets de de savoir Qu'est-ce qui a amené l'intelligence artificielle à donner ça j'ai pas envie de donner sa réponse mais donner sa son le contenu

moyen qu'elle a estimé être proche de la question donc ça dans nos vies quotidiennes à Mo court moyen terme c'est c'est ça pour moi un risque important qui veut répondre assez assez rapidement comme ça on pourra laisser parler plus de gens et y a la personne au premier rang qui va parler après on est d'accord on est d'accord euh très Très rapidement euh sur la question oui alors les les exemples que vous donnez sont très intéressants parce que vous parlez de vie quotidienne en même temps les les exemples que vous donnez sont sur du régalien

pur justice police euh c'est assez marrant c'est assez marrant de voir les hybridations et les les craintes euh sur la justice c'est très juste parce que enfin quand chat GPT est est donc sorti ça a été évidemment utilisé On a eu énormément de dérives des des hallucinations de juris prudent et on a cru que les hallucinations étaient des accidents non les hallucinations sont structurelles faut bien l'avoir en tête on va pas les corriger elles sont inhérentes au modèle et donc quand vous touchez à disons aux existences aux vie humaines donc sur du régalien c'est extr

extrêmement problématique donc ça veut dire que il y a donc il y a deux problèmes à ça mais sur lesquels il faut Être vigilant et là je vais être très prosaïque et très pragmatique puisqu'on ne révolutionnera pas les choses du jour au lendemain c'est un les outils américains embarquent avec eux une vision de la justice qui est très américaine qui est jurisprudentielle c'est la common law américaine ou anglosaxon plus exactement là où en France on a une appréhension du droit qui n'est pas du tout sur la qui qui n'est pas jurisprudentielle donc là on Va

avoir un énorme problème de dilusion en fait en gros est-ce que le droit français l'État de droit français est-il soluble dans le droit américain par les outils c'est une énorme question d'où les solutions alternatives type Mistral et cetera à voir donc ça c'est la première chose et la deuxième chose c'est plus généralement une une licorne française ouais et plus généralement alors la vidéo surv c'est un autre sujet c'est pas tellement de li génératif C'est d'autres type de logiciel don ENF la question de technurveillance ou de reconnaissance faciale plus exactement plus que la vidéosurveillance en même

eu donc c'était bien avant LESIA génératif de toute façon et après sur la question de la question de l'expertise ça suppose donc que un moment donné et c'est pour ça que je disais c'est juste qu'on va compresser la compétence plutôt qu'elle ne va exploser en réalité enfin c'est un peu mon intuition c'est qu'en fait les Juges tous ces métiers là vont devoir être encore plus experts pour faire le contrôle qualité de la machine et donc c'est un tout petit peu bizarre quoi parce que bah autant faire ton job dès le départ enfin comme tu le

faisais et sur la question de l'explicabilité c'està-dire le rettro engineering c'estd être capable de comprendre comment on en est arrivé là j'ai presque envie de vous dire que c'est une question subalterne j'ai presque envie de vous le Dire parce que un tout le monde n'a pas vocation pour plein de raisons tout le monde n'a pas vocation à data scientist le problème est que on est arrivé à de tel niveau de sophistication Queen effet ça c'est Gunter Anders qui le disait en fait si vous n'êtes plus capable de comprendre de ce qui est en train de

se jouer bah dans la mécanique oui en effet vous ne serez plus que des des agents et qui ne répondent que au désir de de de de de ces machines là donc on va avoir Un petit problème en effet de de garder le contrôle c'estàd la compréhension de ce qui se passe mais pourquoi je disais aussi dans un autre style c'est av dit une réponse courte et je termine c'est un peu un faux problème parce que j'ai c'est follow the money c'estàdire on sait très bien comment ils sont construits pourquoi ils sont construits et quels

sont les bets qui sont mis dedans c'est comme les questions de modération et cetera enfin je veux dire On peut faire du damage contrô en aval pendant encore très très longtemps mais si on n pas résolu les problématiques en amont et en amont et je termine d'un mot parce que ça c'est ma grande solution ça c'est mon grand truc c'est mon grand dada c'est mon grand truc je peux pas faire une conférence c'est le moment c'est ton moment l'OM l'Amon pour moi c'est pas du tout c'est c'est en fait les acteurs c'est les les humains

les hommes surtout des hommes d'ailleurs C'est beaucoup des hommes il se trouve qui sont derrière c'est en fait c'est la question du statut juridique de ces boîtes là elles ne peuvent plus rester des boîtes privé quand elles sont devenu des entités hybrides c'està-dire des acteurs politiques idéologiques militaires géopolitiques ce n'est pas possible on elles ne peuvent pas rendre des compes que à elles-même ou que au marché on a un problème de statut donc on a un problème sur ce qu'elles sont et Il se trouve qu'aux États-Unis on commence à avoir un débat très intéressant sur

le fait de leur donner peut-être un jour non pas les démanteler on y arrivera pas on ne le fera pas parce que ce sont des acteurs de la puissance et donc les Américains ne vont pas démeler ce qui fait leur puissance en revanche leur donner le statut de common carer c'est-à-dire de transporteurs public parce que ce sont des infr euh public en fait il a eu des Lois antiust qui ont concerné d'autres entreprises avant ell elle n'était pas systémique à ce niveau Monsieur Merci pour vos exposés j'aimerais simplement poser une question qui est grave quelle

est la singularité de l'humain devant tous ces événements il y a eu un événement grave même biblique pendant les guerres un certain moment les Hébreux étaient retrouvés très minoritaires comme souvant devant des adversaires en nombre bien plus Important et donc il il commençait à réfléchir à une stratégie donc il dénombre le nombre le nombre de chevaux le nombre d'armes et cetera arrive à un certain moment ils veulent compter le nombre des hommes une voix évidemment miraculeuse à Paris non on ne compte pas les hommes on ne compte pas les HM chacun va développer une particularité

chacun a une vision qui n'a rien à voir avec le contifiable de d'ensemble et ils se sont avérés par des stratégies Multiples mais cohérentes à gagné cette guerre on a eu le même problème avec la Révolution française rappelez-vous on n'a pas le donner le droit au groupe mais au droit au cito moyen ça veut dire que le droit doit absolument privilégier quoi qu'il arrive face au groupe l'individu et c'est cet individu là on peut pas le quantifier toujours d'une façon absurde il sera toujours quantifié d'une façon absurde par les algorithmes dire où est-ce qu'elle est

la Singularité est-ce qu'on va sauvegarder cette identité intouchable merci Aurélien peut-être là il faudrait 2 heures donc c'est vraiment pas possible je voudrais juste dire que d'abord je suis pas du tout certain qu'il faille mettre la main sur la singularité des êtres humains ou alors faut peut-être mettre la main sur la singularité de tous les êtres la singularité des des des vivants finalement et et ensuite moi pour des raisons Stratégiques et politiques je suis un peu en difficulté avec cette idée de Prima de l'individu c'est une idée qui est tellement occidentale moi je trouve que

justement ce qui serait intéressant aujourd'hui c'est de prendre un peu de distance avec ça et de considérer que l'individu n'est peut-être pas l'alpha et l'oméga de toute forme de pensée politique je je je fais une réponse là très vague mais nous sommes quand même Ceux qui euh sont aujourd'hui certains de faire face à leur propre suicide corrélativement à un niveau de prédation sans précédent et même dans cette situation nous ne parvenons pas à remettre en cause nos fondamentaux et cet individualisme structurant de la philosophie politique occidentale n'est peut-être pas pour rien dans la catastrophe à

laquelle nous faisons face je me permets de tirer un tout petit peu Le fil Aurélien et je je et j'interprète peut-être monsieur ce que vous venez de dire peut-être il y avait une critique dans sa question de de la mise en compte euh et donc comme vous avez cité les Hébreux peut-être monsieur réclamiez-vous une forme de de de vision plus talmudique des choses plus plus gazeuses euh au-delà de la question individuelle en fait je vais dévier la question vers sa dimension scientifique ce qu'elle N'était pas au départ parce que c'est plus facile notre science est

devenue ultra quantifiée moi la science des grands télescopes des satellites des grands accélérateurs de particules ell m'ennuie maintenant on a oublié que vraisemblablement la physique est née dans le poème de lucr dans le denatura rum il y a deux grandes leçons du poème de lucr d'abord c'est que c'est un poème c'est écrit en heamètre dactylique en Plus c'est pas n'importe quel rythme c'est la sacade du dactyle celle des falanges celle précisément de de de l'écr de l'écriture épique et en plus c'est que cette science est indexée à une éthique c'est très important c'estàd que ce

qui intéresse lucres dans son dans cette déviation la neplus qu minimum ce qu'il appelle le le clinamen en fait c'est de penser le local et non plus seulement les invariants globaux c'est ça est fondamental et notre Science d'aujourd'hui ultra technicisée franchement si l'IA nous permet de trouver une nouvelle particule élémentaire qu'on aurait pas vu sans son usage je m'en fous un peu en fait je trouve pas ça très intéressant et en effet j'ai dévié la question mais je trouve que c'est la dimension non quantifiable aujourd'hui qui est pertinente la physique quantique personne aujourd'hui ne la

comprend personne ne sait ce qu'elle veut dire il Y a un travail d'interprétation extraordinaire amener penser à Carlo Rovelli qui est en train de découvrir que peut-être il s'agit des esquises d'une vision relationnelle du monde en écho d'ailleurs avec la relativité générale voilà ce qui est intéressant mais très peu de physiciens et et physiciennes appréhendent cette dimension à la fois épistémique et poétique et préfèrent effectivement calculer le le terme de 28e Ort dans un Lagrangien qui sera mis en évidence par l'utilisation d'uneia sur un futur collisionneur de particules ça marche c'est efficace mais c'est efficace

pourquoi qu'est-ce qu'il y a d'intéressant qu'est-ce qu'on a compris du réel en en quoi on a ainsi augmenté notre puissance d'être en quoi est-ce qu'on a enrichi véritablement le monde dans lequel on est alors qu'en fait je suis sûr que la moitié des gens ici présents ne savent pas qu'il pourrai Devenir plus vieux que leurs propres parents et que ça c'est de la physique qui a plus d'un siècle que c'est la relativité restreintre que c'est parfaitement bien compris que ça pose aucun problème que c'est pas paradoxal que c'est pas aporétique et que c'est même pas

hypothétique mais en fait on l'apprend pas ça à l'école parce que ce qu'on apprend c'est à fabriquer des téléphones portables et donc je pense que tant qu'on a indexer la pensée à son Usage et en l'occurrence à son usage qu'on pourrait presque dire nécrophile parce que je crois que notre appétence technologique est de cette nature on rate finalement l'essentiel c'est-à-dire la beauté qui effectivement n'est pas [Applaudissements] quantifiable merci à la régie et aux organisateurs de nous avoir octroyé quelques minutes de plus ah non pas du tout il y a c'était pas le Dernier mot j'

a des questions on peut en prendre encore à les deux ça ça va dépendre de si elles sont longues ou pas et si je vous interromps trop ou pas bonjour donc ne partez pas tout de suite c'est ça que je veux dire monsieur qui part là vous croyez que je vous ai pas vu voilà j'avais une question j'avais une question concernant le les algorithmes de recommandation qui sont Unia dont on parle peu mais qui sont présentes et qui sont qui qui Conditionne en fait qui nous qui choisissent pour nous des contenus euh qui sont proposés

à nous et qui influencent des millions d'individus sur terre qu'est-ce que qu'est-ce qui est fait en terme de réglementation ou en terme de de contrôle de ces de ces algorithmes Asma toutes les questions un peu vraiment tristes et de de politiqueque c'est pour moi ok mais alors moi je je vous repose la question monsieur en quoi Est-ce mauvais c'est-à-dire je vais envoyer alors un oui donc en fait tu réponds ouais ok ouais mais mais ça va me renvoyer sur de la politique publique genre digital service Act et cetera je préfère vous le dire ça va

pas être glamour ça va pas vous mettre des étoiles dans les yeux un c'est euh en fait vous avez l'économie de l'attention en tout cas l'économie de l'engagement ou même stigler que qu'Aurélien évoquéit tout à l'heure qui En fait bien avant les réseaux sociaux quand il parlait même des médias de masse par dans son dans un bouquin qui s'appelle télécratie parlait de ça en fait c'est du capitalisme pulsionnel donc à partir de ce moment-là c'estàd que ce qui devient la matière première la ressource ce sont vos pulsions ce qui est animal donc vos émotions et

en général quand elles sont négatives donc la colère la haine le rejet la peur et cetera bon donc ça C'est ce qui créer de la monnaie de de la valeur économique derrière donc les algorithmes de recommandation sont en effet basé là-dessus puisqueils vont euh vous donner à voir à partir de toutes vos action antérieure ou non action antérieure parce que même ce que vous ne faites pas même le silence ou même l'absence devient une information en soi ce que vous ne likez pas ce que vous ne chérez pas ce que vous ne followez pas est

aussi une information donc à partir De là c'est ça donc ça c'est le point de départ c'est pour ça que je disais tout à l'heure moi j'ai un problème non pas avec ce qu'elles font ces boîtes mais avec ce qu'elles sont et donc on peut modérer mais advit etn mais on peut modérer très très longtemps encore c'est un peu débile parce que on est toujours en train de courir derrière le problème vous vous vous voyez le le et puis en plus on a un problème de temporalité c'estàdire que la viralité aujourd'hui Des contenus c'est quelques

secondes surtout sur des choses extrêmement disons sulfureuses quand en fait une procédure de de la Commission européenne va prendre 1 an 2 ans dans le meilleur des cas 8 mois et cetera donc on a même un problème si vous voulez de mise en œuvre ou d'efficacité ou en tout cas de de temps de temporalité bon ça c'est la première question après sur qu'est-ce qu'on peut faire bah il se trouve que dans ce texte digital service Act arrive L'idée de en fait vous proposer alors vous allez sur les réseaux sociaux avoir deux fils le fil avec

de la recommandation et le fil où vous vous pourriez paramétrer vos propres vos propres vos propres algos ou en tout cas avoir quelque chose savez par ordre non pas par les contenus mais par ordre chronologique donc ça c'est des choses qui sont disons prévu ou en tout cas qui commence à être anticipé par le digital service Act plus l'interdiction du Microciblage politique à partir de vos données disons très sensibles comme vos opinions politiques votre orientation sexuelle votre religion vos croyances et cetera plus et enfin l'interdiction aussi de mémoire je crois de d'exploiter les données des

mineurs donc des enfants ou des adolescents en dessous de 18 ans bon tout ça fait que on essaie mais on revient sur la question de la réglementation de de faire ce qu'on appelle pardon en très mauvais français Mais du damage controlle c'est-à-dire vraiment de de minimiser les dommages collatéraux de ces trucsl mais encore une fois si on n'est pas allé sur la l'essence l'essence du problème c'est-à-dire ce que sont ces boîtes ce qu'elles sont c'est-à-dire en fait des entités hybrides mais qui font du fric avec ça on aura on aura pas tellement résolu le problème

et donc de ce point de vue moi aussi je suis un tout petit peu lassé beaucoup lassé par les les Tous les discours sur la modération qui sont présentés comme oui l'alpha et l'oméga de de de la politique publique là en fait pas du tout et c'est plutôt du c'est un écran de fumée en gros donc je me permets tu es pas tu es pas reconnaissante envers Spotify de te dire si tu as aimé ça tu pourrais aimer ça tu penses pas que ça élargit ton spectre culturel non c'est exactement ce que disait Aurélien on

l'élargis pas on le réduit tu aimes les Beatles tu vas Écouter Donovan tu écoutes Donovan tu vas écouter les Stones et ensuite tu comm tu le réduis et tu empêche quelque chose qui est vital qui s'appelle la curiosité c'est-à-dire vagabonder la S dépend c'est j'ai jamais su RPé ce ce mot-là et aussi euh et aussi la je terminerai vraiment sur une dernière chose parce que je crois que c'est c'est c'est pas mal de l'avoir en tête vous allez avoir beaucoup beaucoup beaucoup beaucoup d'articles de journalistes de Médias de pseudochercheurs de pseudo intellectuel de plein de

gens qui vont vous expliquer que ah ben vous comprenez l'intelligence artificielle les réseaux sociaux et cette révolution technologique c'est vraiment comme l'imprimerie mais surtout pas ça n'est absolument pas du tout comme l'imprimerie l'imprimerie c'était pour diffuser de la connaissance mais à la fin des fins la préhension des textes nous revenait là vous avez des Enfermements binaires algorithmique c'est oui ou non c'est 01 à la fin des fins et donc c'est pas du tout une ouverture sur la connaissance c'est la fermeture de la connaissance à partir de biais algorithmiqu sur lesquels vous n'avez absolument pas la

main c'est le contraire de l'imprimerie alors une dernière une toute petite question question ça se passe où ah très bien allô allô oui bonjour euh merci pour vos Intervention elles sont super intéressantes euh je voulais poser une question après j'espère que ça va pas partir sur très long euh en fait je j'ai si vous le permettez je je voulais partir un petit peu au science-fiction euh parce que Isaac Azimov sur la fin il pensait que si une espèce meilleure que nous euh humain arrivé sur terre enfin notamment lui en pensant au robot euh bah il

disait bah peut-être qu'il devrait plutôt eu prendre le contrôle Donc en fait dans notre irrationalité à gver gouverner le monde aujourd'hui on peut se poser cette question donc est-ce que vous pensez que liya un jour elle pourrait s'émanciper et puis peut-être vouloir faire mieux que nous euh sur terre mais ça veut dire quoi mieux que nous tu tu veux aller où en fait en fait je comprends même pas la question quoi si tu veux les fourmis par exemple font que nous les fourmis existent depuis 100 fois plus longtemps que nous ont une Masse beaucoup plus

grande que nous et vivront bien après nous donc on a déjà trouvé notre maître les fourmis et les termites sont énormément plus glorieuses que nous à l'échelle de la vie sur Terre donc en fait quand on parle de mieux on parle de quoi tu vois il faut se donner un critère et surtout et ça n'a rien à voir avec ce que tu dis mais j'y pense maintenant donc je le dis excuse-moi je je prends prétexte c'est toi qui prends désolé ouais alors là vraiment non non C'est un non je plaisante ta question c'est sympa mais

c'est aussi s'il vous plaît arrêtez avec la connerie de la médecine quoi ça je supporte plus l'argument oui mais quand même ça a quelques applications en médecine c'est insupportable c'est le point ou appelons-le si vous voulez le point barreau de la technodébilité ça revient exactement à dire si on distribue des AK47 à tous les gamins de la salle on va quand même Empêcher quelques agressions oui c'est vrai mais on va aussi faire 100000 morts donc on va quand même pas le faire c'est exactement pareil on peut pas aujourd'hui regarder quelque chose qui est globalement extraordinairement

mortifère et se dire oui mais quand même c'est bien parce qu'il y a quelques opérations généralement pour des patients blancs ultra riche dans quelques pays ultra privilégiés qui vont se trouver améliorés cet argument est Stupide et indécent mais c'était pas le vôtre [Applaudissements] ok Asma mala merci technolitique au seuil je vous je vous INITE à lire c'est vraiment un super bouquin ça parle de politique ça parle de droit ça parle de tech merci à toi Asma merci toutes les œuvres d'Aurélien barreau et en particulier l'hypothèse qu' ou Aurélien tu t'excuse un petit peu de dire

un peu du mal de la science donc on sent ta ta Ta ta micrchizophrénie sur la question merci mesdames messieurs merci aux organisateurs c'est moi qui le dernier mot merci encore bonne soirée bon weekend à l'année prochaine