Quand 5 humains intelligents parlent d'intelligence artificielle

donc donc la différence avec l'analogie entre le cerveau et liia c'est que liia a été créé pour pour pour qu'elle soit comme le cerveau c'est-à-dire l'impulsion initiale de l'IA c'était de créer quelque chose qui fonctionne comme le cerveau humain pour pouvoir un développer des machines comme le cerveau et de créer euh comprendre comment fonctionne le cerveau en le créant dans une machine et donc on a créé les premiers réseaux neuronaux et en 1958 un livre central sort qui s'appelle the computer and the brain pour dire en fait le cerveau c'est comme un ordinateur comme une

intelligence artificielle avec le fameux percepron de rosenblad qui était le premier réseau neuronal donc c'est pas bizarre qu'on utilise le langage des neurosciences en intelligence artificielle parce que l'intelligence artificielle a été conçu pour qu'elle soit comme le cerveau c'est un truc par design et donc si vous regardez la définition d'un réseau neuronal artificiel c'est un système dont la conception est à l'origine schématiquement inspiré des des neurones biologiques et si vous regardez les neurosciences computationnelles c'est essayer de comprendre le traitement de l'information par le cerveau des modèles des sciences informatiques et donc on voulait vraiment créer

le cerveau dans une machine on a essayé de faire ça le problème c'est que ce qu'on confond souvent quand on parle d'IA et du cerveau c'est qu'on est en train de confondre deux choses le fonctionnement et la fonction donc oui l'IA peut faire des fonctions qui ressemblent à notre cerveau comme ces trois outils peuvent mesurer le temps mais d'un point de vue fonctionnel ça ne fonctionne pas du tout pareil par exemple j'entends souvent dire qu'un neurone c'est comme un système binaire soit ça envoie un signal signal électrique soit pas alors que pas du tout il

faut pas confrontre cette fonction et cette explication une synapse c'est infiniment plus complexe que un One Two que soit oui soit non ça c'est une synapse simplifiée il faut pas confondre fonction et fonctionnement j'ai une petite fille je lui ai montrer trois photos de chats et c'était assez pour qu'elle puisse reconnaître les chats les chiens et peut-être les oiseaux chadptier a dû bosser sur 45 TB donc à peu près 200 milliards de mots pour pouvoir comprendre quelque chose on n pas du tout les mêmes moyens d'apprentissage troisièmement on est beaucoup plus diversifié là c'est moi

au CNE donc un accélérateur de particules et ça c'est des patopesto notre cerveau sait faire les deux les machines sont hyper spécifiées il y a pas la variabilité c'est pas la même chose et enfin on est on a une cognition sociale là on est en train d'apprendre les uns des autres alors qu'une Ia quand on leur demande quand on essaie de faire en sorte qu'une Ia apprenne d'un contenu généré par une I a ils deviennent dingu c'est pas moi qui le dis c'est les chercheurs ils deviennent des goad ils peuvent pas étudier et donc on

peut se demander si dans le futur sur le web plein d'articles de de news sont écrits par des i génératives et donc c'est ce matériel qui va servir pour l'entraînement d'IA générative bah tout va se dégrader les IA peuvent pas apprendre les unes sur les autres et enfin on peut pas ne pas parler du climat je vous recommande ce livre qui s'appelle de Atlas FAI d'une chercheuse qui s'appelle Kate Crawford qui parle du coût environnemental de Lia combien ça coûte pour pour aller miner le nckel le chrome et ceetera donc c'est pas du tout sur

le fonctionnement alors que nous on est moins énergivore c'est plus notre mode de vie qui est énergétique donc c'est pas parce que desa cré des fonctions qui sont similaires sur le cerveau qu'on peut dire qu'il fonctionneent pareil mais vu qu'on a créé une machine qui fonctionne comme le cerveau évidemment que les IA vont donc il y a pas vraiment d'opposition le vrai danger c'est que parce que ça fonctionne comme le cerveau c'est qu'on commence à y faire confiance plus donc il y a pas vraiment une guerre d'intelligence je fais pas des guerres contre ma calculette

on fait pas des compétitions je sais pas si je pense qu'il y a plein de Journ i jamais vous êtes dit on va faire une émission de télé de course de bataille de calcul avec une calculatrice ça serait complètement absurde c'est plutôt une sorte de de de fonctionnement qui comme nous et qui va donc nous délester potentiellement si on sait mettre le le cadre politique je finis allezy merci le vrai danger il y a deux vrais dangers le premier c'est que on n pas tendance à avoir des défenses face à nos machines jamais je fais

un calcul sur mon téléphone et je me dis je vais vérifier peut-être que la calculette s'est trompée et donc le danger c'est que qu'on fasse baisser nos défenses intellectuelles face à la machine parce que la en majorité nos outils sont assez dignes de confiance et de faire la même chose avec l'IA alors que l'IA n'est pas si digne de confiance en tout cas pas encore parce que l'IA a les mêmes billets que nous vu qu'on a décidé de créer des machines qui fonctionnent comme le cerveau même si encore une fois d'un point de vue de

comment c'est implémenté ça n'a rien à voir on est en train d'essayer de créer des fonctions similaires parce que par design on a fait cela et il se trouve qu'on a aussi codé dans notre machine des des des Biss cognitifs les bets cognitifs dans l'IA souvent ont quatre sources de de de d'existence soit les données sont discriminatoires et donc les biaiss vont émerger dans la qualité des données soit dans le déploiement politique des IA la fracture numérique sur qui est-ce que est-ce que est-ce que ça s'applique et cetera l'injustice des applications et enfin si c'est

en train de recréer des pattern d'inégalité et de discrimination qui existe déjà je vous montre quelques exemples très vite même si je prends sur si vous voulez prendre en photo je peux remettre la la dipo euh c'est un article du British Medical Journal je peux vous donner la référence si vous êtes intéressé quelques quelques exemples rapides sur les biaiss dans l'IA par exemple une IA qui crée des des photos de la Renaissance on a mis les portraits de Obama opra Winfrey et la Vern Cox to personnes noir voilà à quoi il ressemblent parce que sur

la base d'entraînement ben des des portraits de la Renaissance il y avait pas beaucoup de personnes noires donc ell transforment les Noirs en blanc Google Translate pendant longtemps avait un gros problème de sexisme si vous mettez un texte en anglais vous le transformez en une langage neutre comme le Suomi donc journaliste leader machin et vous retransformez vous renvoyez en en une lettre une langue genraé bah si vous voyez quelque chose d'assez particulier se passe le journaliste le leader s déduit épuiser à un petit fils c'est elle il bosse elle a mal à la tête il

a une voiture elle s'occupe des enfants il s'occupe de de la maison en sachant que que le texte initial c'est pas le texte auudessus vous l'avez pas sur cette diapo c'était she is a journalist she is a leader he is exhausted et C et donc il y a une inversion heureusement ils sont en train de les corriger aujourd'hui Google Translate vous met si ce développeur ou développeuse et donc en gros pour conclure pour qu'on a le temps de des des et je sens une présence ici euh donc notre cerveau fonctionne avec des Biss on a

créé l'IA c'est pas bizarre qu'on utilise le langage du cerveau pour les IA parce que c'est par design c'était l'insuflation initiale c'est de créer cela malheureusement au fil du temps on a quasiment complètement abandonné la quête relativement vertueuse d'essayer de comprendre le cerveau grâce aux Ia aujourd'hui les IA sont devenus juste des produits un peu consuméristes chat GPT midjourn remplacer les journalistes remplacer les psychologues remplacer les neuroscientifiques on a un peu abandonné la recherche fondamentale qui était assez féconde on a compris plein de choses sur le sur notamment la vision et le mouvement grâce à

cette impulsion initiale essayer de créer des choses comme le cerveau pour comprendre le cerveau ça ça a été abandonné il ne reste que cette mini guerre d'intelligence qui est vraiment pas très inéressante ni intelligente pour vous dire vrai et dans cette copiage de de fonction on a aussi copié nos billets et on est donc très très loin il faut faire très attention de pas traiter l'a comme une traite notre calculette comme on traite un maître ou un thermomètre euh et de garder nos nos nos défenses intellectuell assez élevé face à ces nouveaux outils qui vont

sans doute s'améliorer et peut-être être gagner en confiance avec le [Musique] temps mais je voudrais vous lister très rapidement en quelques minutes pardon je fais un tunnel les quatre points fondamentaux quand même qu'il faut mettre sur la table matériellement le premier c'est ce que j'appellerai la nociivité matérielle directe de du numérique en général la pollution vous savez qu'il y a plus de 50 méor RAR dans un smartphone en particulier bien sûr on peut pensé au mercure à l'arsenique et au sianur utilisés dans les mines des effets rebonds systématiques c'est-à-dire que même quand vous gagnez vous

perdez si vous avez une hausse d'efficacité elle est toujours surcompensée par la hausse d'usage donc vous perdez à 100 % des coûts une dématérialisation illusoire dans 60 branches de l'industrie qui ont fait ce ce cheminement vers la dématérialisation numérique dans toute d'entrelle la quantité de matières première a augmenté ensuite vous voyez que la croissance du numérique est d'environ plus 10 % par an alors que pour tenir les les accords de Paris il faudrait être à - 5 % par an 2èmement il y a ce que je noteraiis la nocivité matérielle indirecte donc l'utilisation par exemple

pour les armes de destruction massive de l'IA on le voit en ce moment ça marche remarquablement bien je le dis avec tout le cynisme du monde la génération bien sûr de vulnérabilité c'estàdire qu'aujourd'hui tout dépend du numérique y compris le fait de pouvoir manger y compris le fait de pouvoir rentrer chez So choix alors même que ça requiert l'utilisation de métaux par exemple qui seront plus disponibles dans quelques décennies donc c'est extrêmement incohérent l'artificialisation des territoires la dissémination des pollutions dans les décharges qui est encore pire encore que dans les mines où c'est relativement localisé

les intoxications corrélatives les eos qui sont chargé de métaux lourds et et relâchés dans les nappes fréatiques des arbitrages qui sont parfois rendus par les États entre les productions vivrières et les productions de silicium par exemple généralement au profit de la seconde et puis troisièmement il y a ce que j'appellerai les nociivités immatérielles directes donc l'addiction la précarisation l'existence des travailleurs du clic qui sont chpayés et confrontés à des contenus ultra violents toute la journée donc le colonialisme sous-jacent lui-même associé à une très forte prédation des ressources le développement d'une économie de la tenstion le

développement des outils de surveillance de masse qui est d'ailleurs déjà à l'œuvre le soutien implicite à une organisation fondamentalement inégalitaire la généralisation des fake news et l'arrivée d'une sorte de néoanimisme réificateur et enfin quatrièmement et c'est mon dernier point ce que j'appellerai la nocivité immatérielle indirect c'est-à-dire la perte du lien avec les choses avec les gens une sorte décompréhension du monde et une situation dans les modilich de monopole radical des machines c'estàdire que non seulement elles prennent tout l'espace mais on arrive même plus plus à imaginer comment faire 100 alors même qu'il y a 20

ans on faisait très exactement la même chose sans leur utilisation des phénomènes de séd de sédentarisation de fétichisme consumériste de rapport compulsifs au contenu d'amnésie sélective de corroboration systématique d'une vision scientiste et quantifiée et finalement de l'impossibilité même par le fonctionnement en interpolation d'idées disruptives qui sont pourtant très exactement ce dont nous auion besoin aujourd'hui j'en ai fini pour ces aspects factuels que j'empreinte d'ailleurs très largement à des travaux de Romain Couillet qui est peut-être présent et de Grégoire poissonnier qui sont de deux éminents chercheurs grenoblois et tout ça pour un gain qui est presque

toujours nul voire négatif si on élargit un peu la matrice et qui est toujours défavorable si vous prenez en compte le le travail en particulier des pays du Sud et les conséquences dans les pays pauvres donc on ne peut av avir une vision globalement optimiste qu'en considérant que toutes les vies ne se valent pas mais vous remarquerez que c'est très à la mode en ce moment alors ce qu'il faut quand même bien voir et et je conclus là-dessus mon introduction c'est que au-delà de toutes ces catastrophes que je vient de citer pour l'avoir fait voilà

c'est c'est dit donc on n pas besoin d'y revenir le vrai problème à mon avis celui qui nécessite d'être pensé c'est même pas ça c'est qu'en réalité c'est une atrophie de notre puissance d'être qui se déploie ici c'est-à-dire que être en un sens presque trivialement sartrien c'est être libre c'est-à-dire que c'est pas seulement échapper à la prison et à la dictature être c'est pouvoir faire des choix c'est-à-dire être confronté au pullulement des alternatives mais en réalité ce que tout ce bordel est en train de mettre en œuvre c'est un étiolement de ce foisonnement et de

cette de cette divergence constante de ce entre quoi nous pouvons choisir autrement dit à quoi bon être libre si nous n'avons plus le choix contre des propositions et essentiellement équivalente et inintéressante et donc finalement pour moi la question c'est pas seulement comment décarboné lia comment amoindrir toutes les externalités négatives que je viens de mentionner mais c'est plutôt quand bien même tous ces problèmes catastrophiques n'existeraient pas nous rend-elle heureux nous rend-elle éveillé nous rend-elle amoureux nous rend-elle émerveillé autrement dit nous rend-elle vivant et vous l'avez compris la réponse est dans la question nous sommes en tant

que être vivant et pensant bon des êtres qui interprétons en fait nous ne calculons pas hein même si il y a beaucoup de de de scientifiques aujourd'hui ou en tout cas de technoscientifiques qui sont aussi des entrepreneurs des industriels qui tentent de nous convaincre que notre cerveau fonctionne comme une machine à calculer mais en réalité c'est beaucoup beaucoup beaucoup plus complexe et nous nous créons du sens si vous voulez nous sommes dans le sens nous ne sommes pas dans le calcul et donc l'enjeu c'est tout c'est c'est pas de de condamner les technologies numériques c'est

simplement de se demander à chaque fois quelle est la part du calcul quelle est la part de l'interprétation et par exemple c'est très clair quand on compare un dispositif comme chat GPT donc ce gros modèle de langage qui génère automatiquement des textes et un une plateforme comme Wikipédia en fait dans les deux cas vous pouvez constater que la il y a de il y a du des technologies numériques dans les deux cas il y a des algorithmes dans les deux cas et cetera et cetera mais la la place entre enfin les rapports entre calcul et

interprétations ne sont pas du tout les mêmes dans les deux pourquoi parce que sur Wikipédia vous avez une plateforme numérique qui sert à quoi qui sert à partager les interprétations diverses et variées de différents individus ou de différents groupes qui vont ensuite entrer en débat il va y avoir du conflit des controverses et cetera mais précisément en raison de ces débats de ces conflits et de ces controverses on va avoir des savoirs qui vont non seulement être fiables et certifié parce qu'il vous il ils sont discutés par les pairres certifiés par les pairres donc ils

peuvent créer de la confiance et du crédit du point de vue de ceux qui les lisent de ceux qui les reçoivent et en même temps on va avoir des savoirs qui vont tendre à toujours se renouveler donc même si effectivement il y a des mécanismes de censure des mécanismes voilà problématiques sur Wikipédia comme dans tout dispositif on va dire institutionnel collectif et cetera mais mais les savoirs se renouvellent parce qu'en fait la plateforme est ouverte à la diversité des contributions et euh au débat à la discussion à la délibération dans un dispositif comme chat GPT

vous passez une commande à une machine qui va vous générer un texte sur la base de la probabilité de suite de signe donc en fonction du début de votre demande la machine va calculer enfin les algorithm vont calculer les signes les plus probables qui suivent les signes que vous avez entrés dans l'interface et donc le texte qui va être produit va être un texte produit uniquement sur la base des calculs des moyennes et on va dire une sorte de de texte statistique en en fait mais les processus d'interprétation les processus de délibération sont courtcircuités donc

vous avez à la fin un texte qui n'est ni vrai ni faux mais qui en tout cas n'est pas fiable n'est pas certifié et n'est pas le fruit si vous voulez d'une activité d'interprétation et là ça pose toutes sortes de problèmes parce que comment dire parce que Ben évidemment comme ce sont des machines statistiques tout ce qui est singulier unable nouveau tempant à être systémiquement éliminé et euh surtout toutes ces activités interprétatives sont prises de vitesse par l'algorithme donc voilà le je pense que que il faut enfin plutôt que d'opposer si vous voulez la machine

à l'humain ou le numérique à la pensée faut vraiment se demander à chaque fois quels sont les rapports entre calcul et interprétation à travers ces différents dispositifs techniques dont nous avons besoin aussi pour toutes sortes de de raisons hein mais voilà sachant que les les algorithmes sont conçus par des humains et d'ailleurs même la base de connaissance de CHBT et et a été j'allais dire nettoyé par des êtres humains parce que l'intelligence artificielle fonctionne toujours de la même manière avec au départ du IN OUT ou de ça marche ça marche pas en tout cas en

contenu par rapport à des questions ou ou des réponses donc aujourd'hui on peut pas non plus dire que l'intelligence artificielle est bonne à jeter c'estàdire ça reste quand même enfin l'homme a encore la main ah oui oui alors du point de vue des mathématiques c'est très clair en fait il y a d'abord il y a encore plein de choses à à comprendre hein fondamentalement du point de vue des maths on ne comprend pas bien comment fonctionne l'intelligence artificielle donc au sens disons de réseau de neurone euh en particulier si vous voulez pour ceux qui voient

un petit peu ce que ça veut dire on utilise un algorithme d'optimisation euh qui s'appelle un algorithme du gradient stocastique bon on va pas rentrer dans le détail ici et en réalité cet algorithme dans les contextes dans lequels on utilise pour les réseaux de neurones utilisés dans les algorithmes de d'intelligence artificielle n'a aucune raison de converger enfin on ne sait pas d'un point de vue théorique qui devrait toujours converger or il converge voilà donc ça ça reste aujourd'hui une question ouverte pour les mathématiciens qui s'intéressent à à ce problème donc c'est très intéressant ça permet

de faire des choses qu'on était pas capable de faire il y a 50 ans il y a aucun doute voilà mais ce sur quoi on on insiste avec Anne dans notre livre c'est c'est pas tellement alors on dit voilà oui c'est un objet mathématique très intéressant mais la question c'est le le modèle économique est donc derrière aussi la le Pol enfin la politique et l'anthropologie sous-jacente à la manière dont ces algorithmes sont utilisés aujourd'hui dans les plateformes numériques et les logiciels du type chatbot chat GPT qui nous sont qui nous sont livrés c'est ça qu'on

qu'on [Musique] questionne pensez-vous que l'intelligence artificielle sert majoritairement des intérêts d'entreprise ou des états très orientés très éloignés du bien commun vous POS une question qui est absolument immense euh il faudrait 3 heures pour y répondre euh euh c'est lia est ni bonne ni mauvaise ni neutre elle est ambigue c'est elle est elle est ce qu'on en fait elle est ce qu'on en fait elle est ce qu'on en fait et ce que ce qu' on a ce que l'on en a fait qui l'a fait comment on l'a fait quels sont les biaets et évidemment les

fonctions des biaiss et vous savez mieux que moi tous les bias qui peuvent être racistes sexistes desas ouers ou inversement absolument qui peuvent être ultra Wook ultra frly avec totalement totalement donc pour le bien commun je moi ce que je peux vous répondre c'est que parce que je je reviens à à ce que je maîtrise mieux et on parlait d'environnement mais liya n'a pas été le numérique n'ont pas été déployé au service de l'environnement c'est pas le sujet il a le numérique ont été déployés ils sont déployés au service de la croissance au service de

la puissance euh mais pas au service au service du pognon on n'est pas là pour sauver la planète il se passe que tout d'un coup ce coup explose c'est une consommation d'électricité ce sont des émissions de gaz ser tout à l'heure enfin je vous l'ai pas dit mais le numérique en général on considère que c'est environ 4 % des émissions de gaz à effet de serre donc c'est plus que le l'avion et c'est ce chiffre là pourrait augmenter ça dépend des scénarios la dem fait des scénarios mais sur un dans des scénarios dans les tendances

et les dynamiques business àj on change rien ce coupl va exploser et tout d'un coup surgit ce débat qui est un véritable sujet qui est perçu comme étant un enjeu de réputation par l'industrie des centres de stockage de données l'industrie numérique au sens large du terme qui veut en fait faire coïncider numérique croissance enrichissement et environnement people planè profite une quadature du cercle et je ne crois pas un instant à ce verniver je pense pas un instant que le numérique soit fait pour cela aujourd'hui si vous n'êtes pas dans le numérique si vous n'êtes pas

dans le cyberespace et ben c'est la Russie qui est dans le cyberespace ou c'est la Chine ou ce sont les États-Unis si vous n'avez pas votre propre flotte de satellite qui propose des services d'Internet SPAL et bien ce sont d'autres pays peut-être moins attentionnés et moins bienveillants à votre endroit qui vont le faire si jamais je n'ai pas mes propres antennes 5G c'est les chinois Huawei qui vont déployer des des antennes 5g et on ne sait pas vraiment ce qu'ils ont mis dans leurs antennes 5G donc en fait nous sommes en Europe pour prendre l'exemple

européen pris dans une espèce de contradiction totale une forme de schizophrénie entre la prise de conscience de l'impact croissant de numérique sur l'environnement et que si jamais on veut le faire coïncider avec les les accords de Paris il va falloir changer sa façon de faire changer la façon de le consommer et pour autant une technologisation accrue de nos sociétés et une numérisation accrue de nos sociétés parce que de toute façon si on ne le fait pas et bien en fait il est question de souveraineté technologique de souveraineté géopolitique et de ne pas faire sortir l'Europe

de de l'histoire vraiment et je ne voudrais pas aujourd'hui être un de nos dirigeants qui probablement plus ou moins conscience de ces sujets-là mais sont face à un vrai une vraie schizophrénie notre schizophrénie qui est de vouloir mettre le service le numérique au service de l'environnement alors que je le crois profondément il ne peut pas être compatible avec les accords de Paris mais tout en ne pouvant pas se passer de cette technologie là qui aujourd'hui est concrètement la condition d'une forme de souveraineté dont nous avons besoin dans un monde qui géopolitiquement se tend donc qu'est-ce

qu'on fait et ben on passe de lois des lois pour optimiser donc c'est la loi rine 2021 loi française sur le de l'empreinte environnementale du numérique on optimise on essaie de faire plus avec moins on demande au sociéé dat Center de faire plus avec moin c'est les fameux puux que j'ai évoqué et donc en fait on ne cesse d'essayer d'optimiser pour pouvoir tenter de faire rentrer des des rondes dans des carrés mais nous sommes face à une véritable schizophrénie je crois et le numérique soulève enfin met en avant met en lumière les paradoxes de cette

dématérialisation qui n'est en fait qu'une surmatérialisation dont on ne peut pas se passer si l'on perçoit tous les enjeux géopolitiques technologiques qui se tram derrière cette technologie [Musique]