Robots tueurs, des armes aux mains de l'IA | ARTE

[Musique] keV 12 mars 2022 c'est le 17e jour de guerre en Ukraine au-dessus de la capitale un drone amorce sa descente avec une envergure d'à peine plus d'un mtre et ne semblant transporter aucune arme il paraît presque anodin dans le chaos engendré par l'invasion Russe son crash passe quasiment inaperçu pourtant il est loin d'être insignifiant car s'il ne transporte pas de munition il en est une à part entière c'est un coub bla une munition reuse qu'on appelle aussi un drone kamikaz et qui peut être dirigé par une intelligence artificielle il survole une zone donnée de

façon autonome le temps de détecter la cible sur laquelle il s'écrase avec le coup bla samorce un gigantesque Bon en avant technologique qui changera à jamais le visage des conflits [Musique] des opérations militaires rapides comme l'éclair des attaque de drone autonome l'intelligence artificielle dans les airs en mer et sur Terre ce qui sonnait hier encore comme de la science-fiction pourrait bientôt devenir réalité l'intelligence artificielle ne change pas que notre façon de conduire Ou de générer des textes elle est aussi en train de révolutionner les systèmes d'armement depuis des années des experts tentent de nous avertir

du risque de perdre le contrôle mais voilà les nouveaux conflits rapportent beaucoup d'argent à l'industrie de l'armement [Musique] [Musique] et ce n'est pas seulement en temps de guerre que nous aurons à faaire à ces Systèmes les pandémies les troubles sociaux ou les démocraties vacillantes sont le terreau des technologies que seuls les pires scénarios apocalyptiques ont pu nous faire entrevoir jusque-l l'intelligence artificielle semble avoir initié une nouvelle escalade dans la militarisation des services de police américains alors qu'ils fonctionnent déjà comme des forces d'occupation extrêmement zelllé les machines devront résoudre les Conflits que les humains sont incapables

de résoudre où cela nous la question fait l'objet de vibat nous sommes cap de créer des systèmes d'armement comme nous sommes capable de créer des choses totalement différentes pour faire au changement climati par exemple l'reatt à cegor soit préc 99% du temps et son petit pour d'erreur on ne lui pardonne pas alors qu'on pardonne un humain qu' se 4 Temp qui nous offre une plus grande précision et permet de limiter les pertes civiles je ne dis pas que c'est un mais dans certains cas elle peut rendre la guerre plus [Musique] humaine c'était le grand espoir

que la guerre devienne pour ainsi dire plus propre le problème c'est que les guerres resteront toujours sal ell feront toujours des mort Il y a déjà bien plus d'intelligence artificielle dans le domaine militaire que le profane nen a conscience quand ils entendent parler d'intelligence artificielle la plupart des gens pensent à Terminator mais ser aussi par exemple amélior la logtique pour la rendre plus efficace et accélérer les processus n'est pas employé seulement sur le front il ne s'agit pas toujours de système d'armes mais dans le domaine Militaire elle joue de fait un rôle toujours plus grand

elle est de plus en plus utilisée et cette tendance va certainement s'amplifier est chercheuse àcfr le Conseil européen pour les relations internationales experte en sécurité au sein de ce think tank elle tente depuis des années d'avertir que l'Europe est en train de prendre du retard sur la scène mondiale dans le domaine des nouvelles technologies le fait est que L'intelligence artificielle n'est pas une technologie comme un char d'assaut ou un drone mais une avancée technologique qui ouvre un éventail infini de possibilités ce qui est intéressant c'est que les Européens ont d'abord pensé aux répercussions que l'intelligence

artificielle pourrait avoir sur l'économie le marché de l'emploi et la politique sociale alors que les États-Unis par exemple ont tout De suite entrevu une question de politique de sécurité les discussions entre experts tournent en premier lieu autour de ce qu'on appelle les Salas les système d'armes létales autonomes il s'agit de machines de guerre pouvant repérer et attaquer une cible sans intervention humaine on les appelle aussi des robot tueurs pour l'instant ils sont rarement tout à fait autonomes mais la voix est toute Tracée beaucoup de gouvernements européens sont encore réticents et préféit éviter d'utiliser les Salas

dans le domaine militaire le problème c'est que le reste du monde le fait l'intelligence artificielle doit rendre les systèmes d'armes plus rapid plus précis plus efficace mais cela ne peut se faire qu'au prix d'un contrôle réduit gouvernement ont conscience des risques qu'implique une telle concession Seulement personne ne veut être à la traain sur la scène internationale la redistribue les cartes la France en particulier préconise une architecture de sécurité panuropéenne pour l'heure le pays fabrique la quasi-ttalité des équipements nécessaires à son armée le groupe d'armement français Nexter produit toute une gamme de technolog militaire moderne et

la branche Nexter Robotics se consacre à la Fabrication de robots pour l'armée les sapeurs pompiers et les unité spéciale de la [Musique] police la France et l'armée française a clairement fait le choix d'exploiter la robotique pour différentes applications le transport logistique la reconnaissance bien entendu des robots armés cela inclut des robots espions mais aussi des engin plus volumineux comme l'opso x20 un robot tactique Polyvalent armé concevoir un tel engin n'est pas une tâche simple car diriger des robots terrestres pose de sérieux défis au développeurs la plupart des robots qui sont utilisés euh actuellement par par

les les opérationnels les militaires la police ou le le secours sont des robots télécommandés donc l'enjeu c'est d'augmenter l'autonomie de ces robots faire en sorte que ils puissent faire de plus en plus de tâches seuls donc et Pour ça on va faire appel entre autres à l'intelligence artificielle la première chose qui peut arriver sur un théatre d'opération est que le GPS soit brouillé on considère on considère ça comme un acquis que le GPS ne va pas fonctionner et que donc le robot sur le terrain ne sera pas capable de se localiser à partir de d'un

système de navigation global c'est pourquoi on travaille en ce sens à développer des fonctions qui vont lui permettre de se Repérer dans un environnement même local les conflits modernes montrent en effet que les dispositifs de brouillage comptent parmi les moyens les plus efficaces pour lutter contre les systèmes d'armes automatisés pour que les machines puissent acquérir plus d'autonomie elles vont devoir davantage s'orienter en s'appuyant sur des données locales réussir à détecter les bâtiments les rues à estimer les Distances comme le font les humains l'idée c'est bien d'avoir une répartition des rôles entre l'homme et le robot

effectivement un niveau de relation de supervision avec l'opérateur de plus en plus limité avec une une précision néanmoins c'est que pour des applications militaires on va pas forcément chercher l'autonomie complète les militaires veulent garder le contrôle de la Mission malgré d'immense progrès les robots terrestres de grandes dimension ont encore des fonctions limité toute erreur pourrait être fatale cependant même les plus méfiants se rendent à l'évidence les nouveaux conflits font apparaître de nouvelles réalités auquel les Européens sont mal [Musique] préparés ce dont on a peur c'est de la violence notre société a grandi après la Fin

de la Seconde Guerre mondiale dans le rejet de la violence quand on en arrive à une escalade comme actuellementù nous sommes quasiment en guerre alors ces nouvelles armes son peutêtre plus de la science-fiction pour les soldats qui ont été familiarisés en revanche ça reste quelque chose que la société connaît mal et qu'elle a du mal à accepter Marcos Reisner est colonel de l'armée fédérale Autrichienne ses analyses précises de la guerre en Ukraine ont fait de lui un expert très demandé il a été envoyé dans de nombreuses régions en crise à travers le monde et s'est

forgé une grande expérience en matière d'intelligence artificielle en travaillant entre autres pour EMT une entreprise allemande de fabrication de drone en 2018 il a publié un livre sur la robotisation de la guerre le point essentiel c'est qu'avec Les systèmes autonomes on réduit le risque pour nos soldats on réduit les pertes humaines en effet depuis des décennies les forces militaires sont confrontées à un dilemme d'un côté il y a l'état qui veut démontrer sa force sans avoir à sacrifier ses soldats de l'autre il y a l'armée qui doit atteindre ses objectifs en procédant aussi prudemment que

Possible c'est là que les systèmes robotisés SAV intéressant parce qu'il semble permettre d'atteindre les cibles sans devoir risquer de sacrifier des [Musique] soldats dans démocraties occidentales la volonté de prendre les armes n'a jamais été aussi faible finalement bien tenté de laisser des drones mener les guerres à notre place le premier exemple est un système Américain dont les ukrainien espèrent qu'il les avantagera considérablement dans la suite du conflit c'est le système switch Blade l'intelligence artificielle devrait bientôt servir à remplacer les soldats le concept de révolution dans les affaires militaires ou RMA n'est pas nouveau si on

regarde un peu en arrière on voit que les méthodes et stratégies de guerre ont régulièrement changé au Gré de l'évolution des systèmes d'armes avec l'avion par exemple ou les armes atomiques la vitesse des systèmes numériques accélère l'évolution les systèmes défensifs comme le phalanx américain le irondome israélien ou le Mantis allemand réagissent aujourd'hui déjà automatiquement et toujours plus vite au dangers imminent l'opérateur humain ne conserve que le pouvoir de désactiver le système En cas de doute cela fait gagner un temps précieux d'autant plus que les drones d'attaque aussi accomplissent d'ors et déjà une grande partie de

leur mission de on de programmer le drone de sorte qu'il soit en mesure de reconnaître les obstacle en vol il sepl deçonutonome dans les air et signale à l'opérateur qui prend en charge et déclenche les armes immédiatement après l'opérateur son autonomie Dr qui rentre de luiême à La baseon lance suivant mais onit bien que c'est un processusidie parqu l'être humain est de plus en plus relé au second plan séduit par la promesse de système d'armement plus efficace de plus en plus d'État aspir à l'automatisation de leur armée pour les puissances mondiales il s'agit de conserver

leur leadership en matière de développement de l'intelligence artificielle ce sont Encore les États-Unis qui mèent le jeu Jane pinellis a dirigé pendant de nombreuses années le service de test de l'intelligence artificiel au sein du ministère américain de la Défense aujourd'hui elle travaille laboratoire universitaire de physique appliquée John Hopkins un institut de recherche proche du Pentagone quand on parle d'intelligence artificielle il faut avant tout se Mettre d'accord sur la définition qu'on en donne on peut dire qu'un système qui n'utilise l'intelligence artificielle que pour certains aspects de son fonctionnement est simplement un système autonome pour moi cela

relève déjà de l'IA et on y a recours dans l'armée depuis plus de 70 ans quand on donne une destination à une torpille elle se débrouille pour l'atteindre aujourd'hui on sait programmer des machines pour qu'elles identifient des Schémas et des données les machines peuvent ainsi identifier les camions ou d'autres types de véhicules dans divers contextes divers scénarios on entre dans une a les machines devant plusieurs actions possibles sont capables de choisir la conduite appropriée c'est le cas du drone israélienp on lu désigne une directionvre cette cette zone il peut sans aucune intervention humaine Localiser les

radars ennemis et les [Musique] détruire la technologie Kamikaze est similaire à celle déployée en Ukraine pourra-t-elle un jour être combinée à un logiciel de reconnaissance faciale c'est une question qui se pose depuis des années ce que nous recherchons maintenant ce sont des perceptions autonomes des machines capables de raisonner si un humain est localisé près D'un bâtiment et que subitement cet humain disparaî on aimerait que la machine puisse nous informer qu'il est entré dans ce bâtiment et qu'il y a désormais une personne de plus à l'intérieur capable d'apprendre sans notre supervision peut-être même de déterminer ce

qu'elle devrait apprendre de naviguer en toute [Musique] autonomie dans un futur proche les machines deviendront des membres à Partentière des unité de combat et collaboreront entre elles la recherche s'oriente en particulier sur les essins de drone en travaillant de concert ces ensembles coordonnés de drones pour aurait considérablement augmenté la force de frappe d'une armée d'énormes progrès ont déjà été réalisés dans ce domaine mais ce qu'il est nettement plus difficile d'inculquer aux machines ce sont les notions D'éthique c'est là que de nombreux scientifiques voient le plus grand [Musique] danger les systèmes d'armes utonome pe servir à

porter physiquement at aux êtres humains d'une façon indigne et à très grande échelle on est à la recherche d'un avenir plus confortable un avenir les technologies occuper une place de choix je pense qu'on devrait insister sur le potentiel des technologies à faire le Bien les systèmes d'armes Auton peuvent paressence porter atteinte à la dignité humaine et Audel de tout ce qu'on imagine Moon est roboticienne à l'Université mgil de Montréal des recherches sur l'interaction entre l'humain et la machine et dirige le laboratoire un groupe interdisciplinaire qui se penche sur les questions d'éthique dans le domaine de

la [Musique] Robotique quand on considère l'acte de tuer une personne de lui ôter la vie certains vous diront que la manière de mourir importe peu puisque le résultatême mais on peut ne pas être d'accord et affir qu'il y a des façons Diges et indig de mourir la place qu'on accorde un système d'armement mécanique est crucial pour nous tant sur le plan psychologique que vis-à-vis de l'opinion Publique comme les questions d'éthique demeurent souvent à l'arrière-plan réclame depuis des années des réglementation plus strictes en matière d'armes autonomes une cour contre la montre je P que les armesonésent

une men bien réelle sonj impqu dans les confit actu C va faire même de ce qu'on est en mesure d'imaginer Aujourd'hui [Musique] c'est aussi pourquoi je pense qu'il faut mettre en place une réglementation et un leadership il faut initier un mouvement mondial et se mettre tous d'accord sur le fait que ce n'est pas un avenir [Musique] envisageable [Musique] beaucoup de gens disent que ce n'est pas une arme parce que ça ne tue pas mais je Ne sais pas peut-être que la distinction est d'ordre philosophique plus qu'autre chose parce que l'arme n'est pas la balle que

tu reçois mais l'instrument qui dit à la balle où aller grise mais c'est une zone grise qui fluctue en fonction des valeurs de la société qui utilise ces instruments Alberto pelicone est le cofondateur de reacta une entreprise de cybersécurité qui a été rcheté par IBM reacta utilise l'intelligence artificielle pour stopper les cyberattaques nous travaillons aussi bien avec des institutions qu'avec des entreprises dans le secteur financier et dans le secteur public peu importe le type de clients ce qui nous intéresse ce sont ces attentes l'intelligence artificielle nous aide à construire le profil de l'infrastructure informatique à

Comprendre comment elle fonctionne et à identifier en premier lieu tout ce qui est normal et ensuite ce qui l''est pasag connaîre la préalable Alberto est convu que pe rendre le monde plus S mais il en conna aussi les dangers il a travaillé pour l'un des fabricants de logiciel de piratage les plus connus d'europeta une agence qui développ des vecteurs d'infection autrement dit des Logiciels espion il pouvait être installé sur des ordinateurs des téléphones ou des serveurs pour collecter des informations c'était un outil d'espionnage ça pouvait être des fichiers reçus des messages des emails des clichés

pris par l'appareil photo intégré la position GPS tout ce que peut générer un [Musique] Appareil [Musique] les clients étai principalement des forces de l'ordre et des agences de renseignement et notre produit était utilisé pour des opérations de sécurité nationale de contre-terrorisme de contrôle du trafic d'êtres humains ou du trafic de [Musique] drogue TR premières années j'avais la sensation et pas seulement moi je crois Que je peux parler au nom de toute l'équipe que nous faisions quelque chose de bien qu'on faisait partie d'une structure qui contribuait à rendre la société meilleure ou tout au moins plus

[Musique] sûre mais ensuite ça a changé parce que le marché chang les gouvernements européens qui s'en remettaient dans un premier temps au savoir-faire de l'industrie privée Ont commencé les uns après les autres à développer leur propre logiciel espion en interne le marché s'est déplacé la clientèle de hacking team venait de plus en plus des pays qui à l'époque étaient encore très en retard dans le développement de ces technologies des pays qui avaient des valeurs morales et éthiques extrêmement différentes des nôtres et c'est là que tout a basculé en tout cas pour Moi de plus en

plus d'articles dénoncent le lien entre les logiciels hacking team et des opérations menées à l'encontre d'activistes et de journalistes au début mon travail renvoyait une image positive puis cette image a commencé à se ternir avec ce qui sortait dans les médias mais aussi ce qu'on savait nous en interne il apparaissait que dans 9 cas/ 10 notre produit était utilisé à mauvais je ne me sentais Plus plus bien dans ma peau l'un après l'autre on a quitté l'entreprise [Musique] comme il y a 10 ans avec le marché des cyberarmes une vague de changement d'ferle avec le

marché de la robotique accéléré par une nouvelle situation sécuritaire aux États-Unis on s'est rendu compte que ni l'armée ni le corp des Marines n'avait jugé utile ces dernières Décennies de s'intéresser à ce qui se passait dans le ciel quand ils ent en action il était clair que le ciel appartenait aux Américains mais cette épo est révolu même quand on a la suprémae aérienne à la plus haute altitude il se peut que des dronesourore des arbres ce qui peutêre dangereux également en Allemagne tous les états de l'OTAN long et il ressentent désormais l'urgence d' Remédier le

27 février 2022 le chancelier Olaf schz a annoncé un tournant décisif mais il n'a pas expliqué comment ce tournant devait s'effectuer on sait juste qu'on va avant Deir faire beaucoup de choses autrement car on ne peut pas continuer comme ça concrètement cette histoire de tournant a entraîné la constitution d'un fond spécial de plus de 100 milliards de Dollars mais il faut imaginer les forces armées allemandes et le ministre fédéral de la défense comme un gigantesque tanker que le ministre de la Défense Boris Pistorius voudrait faire changer de cap il appuie de toutes ses forces sur

le gouvernail pour le faire tourner de quelques degr reste à savoir combien de temps il faudra à ce tankur pour s'engager véritablement dans cette nouvelle direction nous savons et nous pouvons le Dire avec certitude qu'injecter 100 milliards d'euros dans ce fond spécial pour l'armée allemande ne garantit pas que ce tournant sera pris l'Allemagne se voit reprocher sa lenteur à changé de mentalité longtemps elle ne s'est pas perçu comme une grande puissance militaire contrairement à d'autres [Musique] de nombreuses sociétés d'armement ont leur bureau àorté de vue du Pentagone parmi elles shield ai à quoi ressemblera un

militaire en [Musique] 2030 on imagine que l'IA sera au commande d'absolument tout les avions les destroyers les croiseurs les porte-avions et les sous-marins seront probablement tous pilotés par une intelligence artificielle créé en 2015 avec un capital de 100000 dollars shield a est une startup américaine spécialisée dans L'armement Brandon Seng est l'un de ses fondateurs Shi est en train de mettre au point le meilleur système de pilotage par du monde qu'est-ce qu'un pilotage par intelligence artificielle c'est une navigation où l'intelligence artificielle est seul aux commandes de l'aéronef c'est plus ou moins la même technologie que la

conduite automobile autonome appliquée au domaine de l'aviation lia exécute une mission de façon complètement autonome on lui donne Une tâche de haut niveau et elle trouve le moyen de l'exécuter le premier produit qu'on a développé en est un parfait exemple un quadcopter équipé d'une intelligence artificielle de pilotage appelé h mind quand le drone pénètre dans un bâtiment où les signaux GPS et radio ne passent pas on perd plus ou moins rapidement la communication avec lui selon la taille du bâtiment mind le fait passer par les Portes et fenêtres dès que la communication est rétablie il

transmet ce qu'il a vu aux hommes qui attendent d'entrer dans le bâtiment pour faire ça fusionne et tra les données relevé le très grand nombre de capteurs et détermine lui-même la marche à suivre ancien nail Teng a fait tailler son produit surmesure pour l'armée on a réfléchi aux différentes missions qu'une intelligence Artificielle de pilotage pourrait accomplir et on a mis au point le quadcopterè pour la reconnaissance dans les [Musique] bâtiments on en a beaucoup parlé avec des marines qui avaient servi à Fallouja en Irak au début des années 2000 s'ils avaient eu cette technologie cela

aurait pu changer la donne l'armée mesure aujourd'hui les avantages que peut le offrir une Intelligence artificielle de pilotage un an après son introduction sur le marché shield a signé son premier contrat avec le Pentagone rapidement suivi de projet pour l'armée de l' américaine et d'une expansion aux Émirats arabes unis à présent l'entreprise projette d'intégrer ses intelligences artificielles de pilotage dans des avions de [Musique] chasse grâce à la navigation peut se faire s GPS radio et dans des conditions qu'cun humain ne peut supporter lesiles DEA alors qu'un appareil autonome n'est pas soumis au limites du corps

humain la valeur de l'entreprise est aujourd'hui estimée à 2,3 milliard de dollars et la tendance est à la [Musique] hausse tandis qu'aux États-Unis d'innombrables programmes d'IA existent déjà l'EUR et en particulier l'Allemagne c'était jusque là montré réticente pourtant les Allemands conçoivent déjà des produits très demandés dans des technologie similairire à houm on travaille aux yeux et aux oreilles de futur systèmes d'armement ici le tournant est bel et bien amorcé aussi bien d'un point de vue Technologique que financier développe des technologies visant à détecter des signaux dans le spectre électromagnétique des signaux lumineux donc des imagesis

par des radars des signau de communication les capteurs sont présents dans de nombreux systèmes d'armement des char d'ASS hélicoptères en passant par les avions et les installations de protection des frontières l'entreprise construit également d'imposants radars Pour les navires de combat les plus connus des systèmes d'armement qui intègre la technologie h sont l'avion de chasse Eurofighter et l'iris t SLM un missile antiérien utilisé notamment en Ukraine depuis le début de la guerre le cours des actions H a grimpé en flèche et bat maintenant tous les records un succès c'est consolidé avec des technologies toujours plus modernes

l'intelligence artificielle Joue un rôle très important pour nous notre commerce consiste à capter des signaux et à traiter des données et pour traiter des données on a toujours depuis des décennies utiliser des algorithmes l'intelligence artificielle ce sont des algorithmes encore plus rapides et plus intelligents la capacité de l' à traiter plus vite et donc aussi à mieux analyser des signaux inconnus est essentiel pour L'avenir du groupe d'électronique militaire et de défense en effet avec d'autres entreprises comme Airbus et d'assau h travaille déjà à l'avion de chasse de [Musique] demain le fcut com est le système

de combat aérien du futur on parle là d'un avion de chasse de la 6e génération et pas seulement d'un avion mais aussi d'un système de Système les avions de chasse du futur seront de plus en plus reliés à un réseau d'autres systèmes nous pouvons aussi obtenir des informations à partir d'autres sources nous avons aujourd'hui des millions de capteurs chaque personne qui a un smartphone dans la main prend une photo et la poste sur Instagram nous four ni des informations et avec nos systèmes nous pouvons extraire de toutes ces informations disponibles ce qui nous est Utile

et le mettre à la disposition de nos clients la quantité de données ainsi collecté est exorbitante aussi les systèmes d'armement interconnectés comme le fcas sont-ils impensables sans intelligence artificielle pour l'avenir de l'armement l'a est donc incontournable mais est-elle fiable quand on part du principe que les robots suivent infailliblement les Instructions on part aussi du principe que le monde réel est aussi clair et limpide que les environnement de [Musique] simulation dans la réalité quand il neige à Montréal par exemple il est préférable de ne pas monter dans une voiture à conduite autonome imaginez un peu ce

qui se passe sur un champ de bataille c'est le chaos la technologie aussi perfectionnée Soit-elle ne le sera jamais assez pour contextualiser tout ce qui se passe et l'interpréter de façon à être en mesure de prendre les bonnes [Musique] décisions toute petite déjà je m'intéressais à la technologie c'est pour ça que je me suis lancé dans la robotique mon père travaillait pour Samsungs trs cool à la maison comme des ordinateurs portabl il nétait pas encore Très répandu à l'époque j'ai grandi en me disant que Bill Gates était la personne la plus cool de la terre

parce qu'il viv entouré de super technologie qu' avait beaucoup d'argent et que ses inventions ch le monde je voulais devenir ingénieur et concevoir des robots être la PDG d'une grande société de robotique qui équiper tous les foyers en robot j'ai grandi en Corée du Sud la Corée est divisée en deux parties le Nord et le Sud qui sont dirigé par des régime politique très différent il existe une zone tampon entre les deux pays une Z démilitarisée étroitement surveillé des deux côtés la fin des années 70 la branche Techwin de Samsung a développé un dispositif de

surveillance qui était braqué sur la zone démilitarisée 24h/ 24 pour repérer les Nord-Coréens qui essayaient de passer au Sud en première année d'université j'ai appris à assembler ce type de dispositif et je me suis rendu compte que je pouvais développer des robots équipés de caméras et même d'armes à feu sur le même principe que ces dispositifs de surveillance et je ne voyais pas en quoi c'était mal le premier semestre de mes cours d'ingénierie mécatronique consistait à assembler des robots Lego et à apprendre Ce qu'est un robot on gère principalement des capteurs et des actionneurs j'ai

constaté que je pouvais construire des choses très bizarres sans que personne ne me fasse de réflexion je pouvais très bien connecter un capteur et demander d'actionner une arme à feu ou de poignarder quelqu'un aucun règlement ne m'en empêchait et je trouvais ça vraiment étrange Disa que tuer une personne ou automatiser cette décision même avec ce produit très particulier de tewin c'était probablement mal mais je ne me l'expliquais pas clairement je ne comprenais pas pourquoi en cours alors qu'on assemblait ces robots on ne nous enseignait pas ce qu'on pouvait ou non fabriqueres scrupules et préoccupations moent

à les faire connaître une fois ses études terminées Au lieu d'aller travailler pour l'industrie elle décide de se consacrer à la lutte pour la réglementation des armes autonomes elle met son expertise au service du gouvernement canadien et accompagne avec plusieurs ONG le processus de régulation mis en œuvre par les Nations Unies for bien que le monde scientifique et la société civile tire la sonnette d'alarme certains gouvernements refusent encore De se rendre à l'évidence ce sont principalement les petits États qui se rangent à la vie des chercheurs et plaide pour une réglementation sur les robots tueurs

tandis qu'à la tête de pays comme la Chine l'Inde la Russie ou les États-Unis d'autres intérêts primes les puissances mondiales semblent se lancer dans une nouvelle cour arm today the PRC is theing challenge for the Department of Defense only Through the integration of ai and related technologies will we gain both an information advantage and operational advantage on rapidly accelerating future battlefields by 2025 they will be better than us and by 2030 they will dominate the industries of China uh from what I understand le concept de robotur génère des craintes mais ne sont pas encore d'actualité

je pense qu'il n'y a probablement pas lieu de nous en Inquiéter pour l'instant ce qui est le plus à Cindre aujourd'hui c'est la vitesse des avancées technologiques de nos adversaires d'autant qu'elles se font peut-être dépend de toute considération éthique ne pas développer une telle technologie c'est prendre un énorme risque celui de voir nos adversaires nous dépasser et mettre au point des outils qui leur permettrai de prendre très rapidement Des décisions fondées sur un grand nombre de données c'est donc à mes yeux un danger bien plus menaçant que de mettre en service une technologie qui n'est

pas encore complètement abouti ce qui m'inquiète c'est qu'on ne soit pas prêt à temps je ne pense pas qu'on doiv être nécessairement les plus rapide mais il faut qu'on le soit suffisamment on doit faire mieux surtout les gens ont tellement peur de Faire des erreurs qu'il nous faut parfois un temps infini pour mener à bien nos projets on a l'habitude de pouvoir procéder à des tests dans des conditions et des situations très variées pour des chars des casques ou des fusils mais ce n'est pas encore le cas pour l'IA quand une technologie comporte plus de

risque nous devons apprendre à les accepter ce qui m'inquiète c'est de ne pas pouvoir tirer parti de cette Technologie auou potentiel transformateur extraordinaire à cause de processus de contrôle trop lourd bien sûr des gardesfous ont été mis en place et pour de bonnes raisons mais il est peut-être temps de les changer Ukraine 17 mars 2023 c'est le 387e jour du conflit ces explosions sont provoquées par des drone kamikaz russe de fabrication iranienne depuis des mois les Russes tentent de faire plier la population et Détruire les infrastructure de l'autre côté du front plus à l'est des

tranchées entaillent le paysage sinistre écho de la Première Guerre mondiale face à la superpuissance russe les Ukrainiens défendent leur pays par tous les moyens [Musique] drones et robots disponibles dans le commerce deviennent des engins de guerre si on vous attaque vous allez chercher à protéger votre pays votre Famille votre communauté qui ne chercherait pas à avoir l'avantage des armes mais en fin de compte on oublie que cette technologie peut aussi équilibrer les pouvoirs alors que la fabrication d' d'une arme nucléaire nécessite des substances physiques spécifiques qu'on peut tracer l'une des particularités des systèmes d'armes létal

autonomes est de reposer sur des logiciels qui peuvent Être téléchargés il suffit d'une connexion Internet ou d'un quelconque moyen de partage pour déployer n'importe où dans le monde un système d'armement autonome comment voulez-vous que des experts contrôlent ça la puissance des logiciels et leur potentiel de transfert ou de modification change complètement la don ce seront plus nécessairement Lestats qui déclench la guerre et ça çae un vrai problème n'importe quel groupe terroriste peut mettre la main sur du matériel informatique spécifique équipé de logiciel et il ser alors en mesure de faire beaucoup de mal voitures autonomes

n'importe qui peut empirater le système et s'en servir pour transporter des bombes ou des armes dans une ville très peuplée qui pourrait l'en empêcher la nouvelle révolution de L'armement porte en elle de nombreux nouveaux dangers les logiciels intelligents rendent la technologie plus accessible mais aussi plus vulnérable et si un jour ce n'était plus seulement nos machines qui se faisaient pirater mais aussi notre [Musique] cerveau notre vie a peu à peu basculé dans le numérique au cours des 15 dernières années notre smartphone en sa plus long sur nous que n'importe quelle Personne de notre entourage et

ça ça pose un gros problème nous vivons dans un monde qui n'est peut-être pas guidé par l'IA mais où déjà elle exerce une influence énorme sur nous elle nous suggère ce qu'on regarde en streaming ce qu'on achète en ligne elle est omniprésente et invisible pour tous ceux qui ne travaillent pas dans ce Secteur après avoir quitté hacking team Alberto P a décidé de ne plus développer de logiciel que pour des objectifs de déf mais si il y a 10 ans le vol de données et la surveillance suscitaent les plus vives controverses avec l'IA on passe

encore à un autre niveau on entre dans une guerre cognitive où ce sont nos cerveaux qui se font pirater le concept n'est pas nouveau propagande publicité ou guerre Psychologique il s'agit toujours d'exercer une influence mentale en temps de guerre comm de Pai ce qui est nouveau c'est l'efficacité des algorithmes modernes et la façon dont il modifie notre perception peu importe à la machine si nous sommes des clients ou des ennemis ciblage hyper trucage la désinformation générée par l'être humain devient un ensemble de données Dont se nourrit un algorithme insatiable ce qu'il faut bien comprendre c'est

qu'on est tous partie prenant de cette guerre à travers ce qu'on consomme on se forge une opinion et à travers cette opinion on influence la direction que prennent les choses plus l'algorithme s long sur nous mieux il peut nous influencer ce n'est pas un hasard si les états très peuplé où l'on protège assez pe les donnés font partie du peloton de tête dans la course Au développement de l' la Chine estementun des pays plus de ressources à l'étude de l'intelligence artificielle avec des résultats extraordinaires si on veut créer des algorithmes à partir de ce que

font les gens la population chinoise qui dépasse le milliard d'habitants représente un formidable réservoir de données avec ça les développeurs peuvent concevoir des algorithmes extrêmement complexes des modèles complexes du Comportement humain ouvr la VO à de nouvell faç de faire aujourd'hui déjà l'armée chinoise envisage d'employer l' pour annexer Taiwan sans [Musique] violenceuc la russieinaeffé elle insinue le doute en Europe dans le but d'ébranler l'opinion occidentale vis-àvis de l'Ukraine et de nous dissuader de lui livrer des [Applaudissements] armes le monde occidental réplique enant ses propres campagnes de sensibilisation mais dans les pays du Sud il se

un scepticisme historique nous les membres de la communauté de valeurs occidentale démocratique nous avons tendance à considérer nos guerres comme propres mais ceux qui sont touchés ne voi pas Forcément les choses de la même façon et le résultat on l'observe encore et encore j'ai participé à diverses opérations dont de dans les Balcans en Afghanistan au Mali au TAD en Centrafrique brièvement en Irak et je dirais que peu importe notre rôle ce qui compte avant tout c'est la façon dont on communique et la perception et l'estime mutuelle en Afghanistan par exemple il y a eu un

moment où je me suis rendu Compte que la clé on devait la chercher dans la situation matérielle et morale de la population locale si on voulait pouvoir un jour être en mesure de pacifier ce pays d'une manière ou d'une autre à l'époque j'étais dans les PS le but de ces opérations psychologiques c'est d'essayer de comprendre comment l'autre pense et quels sont les leviers possibles pour le convaincre que notre présence est [Musique] Positive le problème auquel on était régulièrement confronté c'est que le mouvement de résistance ou dans ce cas préc les talibans pass son temps à

nous mettre des bâtons dans les roues quand un état a envoyé des militaires conduire une attaque sachant qu'il n'est pas prêt à accepter des victimes dans ses rangs les soldats sont obligés de prendre leur distance avec la population convo blindé quand aux Allures de forteresse et drone deviennent les moyens de communication de l'Alliance internationale en lieu et place de visage humain de plus en plus de machines entrent en scène pour véhiculer les valeurs [Musique] [Musique] occidentales munler a utilisé une expression très pertinente il parle de sociétééroïé N pluse com HRO et les drones sont évidment

mal vu par la population qui se St impuissant si bien que la haine augmente encore à l'égard de l'occupant qui est tout le temps là sans qu'on puisse s'opposer à lui résultat un fossé se creuse entre la population et l'occupant toujours plus profond ça laisse bien s perplexe quand on voit que la communauté des valeurs occidentales a C été très vite en mesure De prendre le dessus dans ce conflitita parlant mais qu'elle n'a jamais réussi à conquérir comme promis les cœurs et les esprits 20 an plus tard Lelit a pristirourd'ui lesbir istan se retrouve dans

la même situation qu'en 2001 sauf que des milliers de gens sont morts entre- tempemps qu'est-ce que tout ça nous a apporté les interventions militaires semblent prouver que les systèmes autonomes ne sont pas adapté pour Résoudre des conflits durablement malgré tout on continue à s'accrocher à la fameuse politique de sécurité 23 février 2021 dans le Bronx il s'agit de mettre fin à une prise d'otage mais impossible de savoir quelle est la situation à l'intérieur du bâtiment l'équipe d'intervention décide de recourir à du matériel expérimental une décision qui va faire beaucoup de Bruit le partenariat conclu entre

Boston dam la de New York parfait l'Ance de la dynamique des pvoirs ce LEB pas sur les robots mais sur les relation re les servic de et les habits de New York si un Robo chien était déployé dans un quartier pour assurer la sécurité la policeler immédiatement sous les ples lesutorités onis qutier don les habitsinfluence dans la société en Disant que cela servirait à faire baisser le TX de criminalité et de meurre c'est uneç de fermer les yeux sur toutes les autres causes sousjacentes de cette criminalité l'absence de chien robot n' fait pas partie ce

n'est qu'un exemple parmi d'autres de l'utilisation d'une nouvelle technologie pour opprimer les gens si on veut vraiment mettre nos robots au service du bien et en faire Quelque chose de foncièrement positif ce n'était peut-être pas le meilleur moment et le meilleur endroit pour le faire je pense que c'est une des raisons pour lesquelles il est bon d'en débattre il faut que les services de police se posent la question de la pertinence de déployer un robot dans tel ou tel contexte une vague d'indignation met fin à la collaboration de la police new yorkaise avec Boston Dynamics

pour un Temps mais d'autres services de police emploient déjà cette technologie y compris en Allemagne [Musique] l'innovation Lab est chargé d'évaluer les nouvelles technologies qu'apporte-elle à la police doit-on les utiliser ne risquet-elle pas de modifier la criminalité l'importance de l'intelligence artificielle ugmenter au sein de la Police de renani du nordest surtout en matière d'analyse de données mais on y teste aussi le robot spot de Boston Dynamics le modèle qui est entré en action dans le Bronx concrètement peutêtre U pour lesen lie sinistr où les dégâts sont importants et où on doit attendre longtemps avant d'entrer

à cause du danger que ça représente par exemple des choses fondues qui pendent du plafond des Parties du bâtiment qui s'écroulent bref des situations dangereuses là peut vraiment aider il est très agile il peut aller là où le risque est trop grand pour les policiers on pourrait aussi l'utiliser pour libérer des otages et désamorcer des bombes si ce n'est pas encore le cas en Allemagne aux États-Unis nous sommes en contact avec nos homologues américains qui utilisent pot depuis un certain temps déjà dans Bon nombre de services de police et ils ont constaté une chose à

savoir qu'assez souvent les malfaiteurs quand on les contacte à travers spot arrêtent ce qu'ils sont en train de faire ils peuvent donc parler à la police à travers spot et dans 50 % des cas ils renoncent à commettre leur crime bien que spot ne soit pas un moyen coercitif dans ce cas mais un moyen de communication aux États-Unis la police a utilisé dans Certaines affaires des robots armé en 2016 un sniper est tué par l'explosion d'un robot piégé depuis la question de la légitimité du recours à des robots armés dans la police est vivement discuté

il faut comprendre que spot est utilisé dans des contextes très différents au États-Unis et ici en renani du nordest quant à savoir si on peut équiper un robot d'armes non meurtrière ou moins meurtrière la Décision doit bien sûr venir à la fois du monde politique et de la société mais ça n'a jamais été notre objectif premier les robots qui marchent ont le potentiel d'aider considérablement la police à l'avenir mais la façon dont ils sont utilisés dépend aussi de la façon dont la police conçoit son propre travail they were peacefully protesting they were peacefully protesting and

[Musique] made je me souviens des enfants des familles qui sortaient de leur appartement en courant pour échapper au gaz lacrimogène je les ai vu lancer du gaz Lamo sur une vieille dame j'étais à tente médicale en train d'essayer de protéger les [Musique] gens la 52e rue qui ne se trouve pas très loin d'ici a été le champ de bataille d'une grande partie desut est [Musique] phadphie je m'appelle Akin et vous écoutez c'est la révolution bienvenue pour une nouvelle semaine de fun Akinola est activiste podcase et rédacteur indépendant pour lui entre la police et la communauté

noir américaine le courant ne passe plus aux États-Unis racisme et maintien de l'ordre sont indissociables comme on a pu le voir lors des émeutes qui ont Suivi la mort de George Floyd les policiers frappaient les gens devant les caméras ils ont aspergé tout mon quartier de gaz lacrymogène la police s'est révélé telle qu'elle est et telle qu'elle a toujours été en tant qu'institution tous les jours harcelle frappe et tire sur les noirs de façon disproportionnée Akinola se montre très critique visàvis de l'emploi de robot et de par le système policier Américainile de se prononcer sur

l'avenir mais dans l'état actuel des choses pour créer une intelligence artificielle il faut encore entrer des données donn sont biais le comportement de le sera aussi il y a peut-être une époque où les forces de l'ordre ét juste envers tout le monde la possibilité d'un État américain autoritaire sembl inimaginable mais ce n'est pas la Réalité dans laquelle nous vivons à l'heure actuelle alors que la police nous a montré à main reprise qu'elle était violente et du mauais côté de l'histoire comme si elle n'avait de compte à rendre à personne est-ce souhaitable de lui fournir encore

plus d'armes qu'elle n'en a déjà en plus de chars et de fusil d'assaut je ne pense pas que ce soit une bonne idée pour l'avenir de l'humanité la police américaine est Connue pour se procurer volontiers à la fois du matériel et du personnel dans l'armée cela influence sa manière de résoudre les conflits et l'armée entre retient des liens étroits avec l'industrie de la robotique particulièrement à Philadelphie Ghost Robotics est l'un des fabricants les plus connus de robot quadrupède si en 2020 Boston Dynamics faisait le buzz avec sa vidéo de robot dansant en 2021 Ghost Robotics

dévoile Un robot chien portant un fusil de précision sur le dos les robots quadrupèd peuvent drouter les gens il leur rappelle leur chien sans en être vraiment les mouvements ne sont pas les mêmes et cela peut créer un sentiment de malaise mais c'est juste une étape de développement on va rendre leur mouvement plus fluide à terme ils ressembleront plus à Des chiens j'ai toujours cherché à comprendre comment les animaux bougent et je veux utiliser mes connaissances pour fabriquer des outils au service des humains ce qui a commencé avec un projet universitaire a pris de l'ampleur

avec la commercialisation de la plateforme quand on a créé la société on avait pas forcément envie d'explorer ces domaines mais ça nous a permis de rendre le robot Utile dans un plus grand nombre de cas il fallait rendre le robot plus robuste et plus résistant aux intempéries il était également essentiel que sa batterie dispose d'une très longue autonomie une approche qui a vite attiré une nouvelle clientèle comme souvent dans l'industrie de la robotique c'est principalement l'armée qui a investi dans les premiers prototypes ils avaient les moyens d'en financer le développement l'Armée de L'Air s'en servait

principalement pour patrouiller dans certaines zones de leur base aucun de nous n'avait pensé à un tel usage il faut dire que les bases s'étendent sur des centaines d'hectares avec des rochers des buissons des arbres et croyez-le ou non des civils s Aventur les mêmes chiens robots sont testés aux frontières avec une fonction similaire là aussi il patrouille et on s'intéresse aussi à cette technologie Dans d'autres institutions les robots intéressent de nombreuses agences gouvernementales comme les Marines l'armée les fameuses agences à trois lettres notre produit est catégorisé ear 99 ce qui veut dire qu'on a le

droit de le vendre partout dans le monde bien que l'entreprise robotic ne développe pas elle-même d'armes elle accepte d'intégrer un fusil à son robot terrestre le gouvernement américain nous A permis de nous développer il a donc le droit de demander ce qu'il veut nous on ne peut pas prendre ce genre de décision c'est pourquoi on va se tourner vers les décideurs politiques et la législation qui dicte la manière dont ces technologies peuvent et doivent être utilisé à quelques minutes en voiture de Ghost Robotics se trouve le Pennsylvania Convention Center où en mai 2022 se Tient

la conférence internationale sur la robotique et l'automatisation c'est le grand rendez-vous annuel des acteurs de la branche l'un des sujets pH de cette édition est la régulation des robots armés de desti toujour tre un processus extrêmement l je pense que l'industrie robotique ne demande pas mieux qu'une réglementation qui lui donnera une certaine légitimité Pour avancer une fois le cadre posé ils pourront toujours se défendre si les choses tournent mal en disant nous avons respecté toutes les conditions règlementairestivist scientifi et représentants de l'industrie se montr favorable à des réglementations pour eux les négociations zusiennes sont un

échec entre 2017 et 2022 il y a eu quelques avancé on a réussi à mettre d'accord sur une série De principes directeurs pour une potentielle gestion de ces systèmes mais une fois ces principes posés on en est resté là les États-membres n'ont pas accepté de poursuivre le débat aujourd'hui il n'existe aucun traité pour nous empêcher de développer ou d'utiliser ces technologies un certain nombre d'entreprises spécialisées dans la robotique cherch à remédier elle-même à L'absence de réglementation internationale en octobre 2022 si d'entre elles publient une lettre ouverte dans laquelle elle s'engage à ne pas militariser les

robots qu'elle commercialise ni à aider d'autres à le faire parmi les signataires un ancien camarade d'étude d'ung Moon Ryan g directeur technique de l'entreprise canadienne de robotique clearp beaucoup travaillent dans le secteur de La robotique parce qu'il voi l'immense potentiel de cette technologie à aider les gens il y a de la place pour tout le monde sur le marché fais en sorte d'aider les population à construire des maisons à produire de la nourriture fais tout ça LEB devrait tre public une discion àur par exemple avec mon homologue de Boston Dynamics où on se dirait ça

ce N'est pas bien ne le faisons pas pour qu'ensuite une de ces entreprises revienne sur sa parole et le fasse quand même par pas du [Musique] gain des vidéos de robots armés pouvant être construits moyennant quelques milliers d'euros seulement circulent déjà sur Internet souvent il s'agit de robot du fabricant chinois un qui on été arm à postérior existe ça s déjà Produitentrepris deoti sont parmi les plus avanc au mondee bien de ce que les G pe faire avec pas la mme ch c'est fait par des gens qui BRIC dans leur garage que si ça sort

de nos chaînes de montage les méthodes de fabrication moderne sont extrêmement performantes on ne parle pas de millions mais de centaines de millions voire de milliards de robots déjà en service dans Le monde on a aucun contrôle sur ce que les gens font avec nos produits chez eux mais en tant qu'industriel on peut au moins ne pas faciliter le détournement malveillant de nos produits certaines sociétés sont un peu plus encline à armer leurs produits ou à soutenir les gens qui arme leurs produits d'autres n'ont même aucun scrupule à fabriquer des systèmes d'armes létal complètement Autonomees

quoi qu'il en soit ça reste un sujet qu'il faut creuser nous n'avons rien contre l'idée de collaborer avec l'armée dans les domaines du sauvetage ou de la logistique autonome par exemple il y a un vrai besoin de ces technologies dans ces domaines et je pense que le marché des robot tueurs n'est qu'un marché de niche je tiens à dire parce que c'est très important que le ministère de la Défense N'utilise pas l'IA exclusivement pour l'armement d'ailleurs les domaines qui concentrent le plus gros de nos efforts n'ont rien à voir avec l'armement parmi les domaines d'application

importants de l'IA il y a la prévention des catastrophes à l'heure du réchauffement climatique les interventions sont toujours plus nombreuses et complexes j'ai eu l'occasion de participer à une Mission de lutte contre les incendies un fléo qui touche particulièrement la Californie actuellement pour savoir où déployer les pompiers on va faire une reconnaissance du périmètre de l'incendie pour ça il faut survoler la zone et relever manuellement les données sur une carte retranscrire sur une autre carte une fois au sol ce procédé prend des heures entières et pendant ce temps l'incendie Progresse l'un des premiers projets sur

lesquels on a travaillé consistait à faire voler un drone au-dessus de l'incendie cela nous évitait déjà d'exposer un pilote au risque de survoler un incendie mais ce n'était pas le seul avantage lia à cartographie automatiquement en quelques minutes à peine le périmètre de l'incendie et envoyer ses informations pouron puisse déployer nos ressources beaucoup plus facilement rapidement et Efficacement cette technologie est omnprésente au ministère de la Défense dans le domaine de la guerre certes mais pas seulement dans beaucoup d'autres domaines aussi l'un des arguments en faveur du développement de cette technologie est que dans certains cas

elle peut rendre la guerre elle-même plus humaine par exemple on arrive à mettre au point un système capable d'être plus précis qu'un humain on pourrait réduire considérablement le Taux de perte civile on pourrait aussi développer un système plus fiable qu'un humain capable de prendre des décisions très rapidement en traitant des données provenant de multiples capteurs je pense que c'est de l'ordre du faisable [Musique] Ukraine juin 2023 le conflit dure depuis plus de 460 jours une contreofensive est en cours mais elle reste bloqué dans les champs de min Des [Musique] Russes les chars Ukrainiens sont des

cibles faciles pour l'artillerie les hélicoptères et les drones kamré deses occidentales de haute technologie semble se dérouler ni plus ni moins comme avant des gens meurent des gens tuent et les machines les aident les guerres resteront toujours ça c'était le grand espoir des 20 dernières années que la guerre puisse Devenir plus propre grâce au recours à des systèmes d'armement de précision possiblement équipé d'une certaine intelligence mais quand on regarde ce que les soldat sub sur place on voit que la guerre n'a pas changé de G on pris conscience et particulièrement en ce moment avec la

guerre en Ukraine c'est que la modernisation de la guerre avait beau présenté des avantages pour l'un ou l'autreamp selon qui avait pu se munir Des dernières technologies au bout du compte la guerre reste sale on et on souffre tout autant qu'il y a des siècles en substance malgré tout ce qu'elle a pu promettre n'a pas changé la guerre des systèmes intelligents capable de recouper les informations et les donné des capteurs plus efficacement il y en a déjà en Ukraine et jusque là ils n' fait qu'accélérer la Tuie parmi le logiciel de l'entreprise américaineable plus ou

Mo temp réel grâce à des capteurs qui peuvent être de différentes Natur ça peut être un satellite qui génère une image ça peut être un enregistrement fait par un smartphone et quand reconna ses données les recoupes et les analyses alors elle peut assz rapidement générer un tableau de la situation et c'est à partir de ce tableau qu'on va décider ou non D'utiliser un système d'armement W say that much about it but the old way of targeting where you don't use uh where algorithms ar't used is clearly a failure if you go into battle with old

school technology even if you're spending 65 billion a year and you're highly accomplished war Fighters like Russia and you have an adversary that knows how to install and implement digitalized targeting in ai you Obviously a massive disadvantage les logiciels de ciblage permettant de localiser et de viser des cibles sans outils mais les algorithmes nécessaires sont extrêmement complexes et difficiles à entraîner car ils doivent suivre d'innombrables règles militaires éthique et relative au droit international pour prendre une décision sur le terrain on obéit à des règles mais aussi à des principes le principe de proportionnalité de discernement

le Principe général d'humanité qui nous incite à pardonner ou à avoir pitié une machine a-t-elle la capacité de faire ça elle n'est pas douée de raison elle évalue les situations comme peut le faire un circuit intégré elle va tirer sur la cble jusqu'à ce qu'elle l' anéanti pour éviter que la machine ne fasse des erreurs catastrophiques un être humain doit toujours avoir le dernier mot la responsabilité de tuer ou de laisser en vie lui Revient doit se limiter à aider les militaires à repérer leurs ciblebles on reproche souvent à l'intelligence artificielle moderne l'extrême difficulté que

l'on a à comprendre comment elle en arrive à telle ou telle décision quand on conçoit ces systèmes on doit s'assurer que les humains puissent comprendre ce qui se passe comprendre le contexte dans lequel l'arme est Déployée et avoir la possibilité d'intervenir au besoins le processus doit se faire à l'échelle du temps humain de manière que cela est un sens pour nous on ne peut pas se contenter de dire à tout moment une personne humaine doit être là pour prendre la décision finale quand l'idée est précisément d'avoir une machine autonome ou de recourir à l'intelligence artificielle

pour aller plus vite c'est un peu Absurde que quelqu'un soit présent pour dire oui ou non parce qu'alors on perd de la vitesse d'autre part quand l'ordinateur déjà tout fait et que en fin de processus il dit à l'humain voilà ta cible veux-tu l'attaquer on n'est plus du tout dans le le contrôle humain perd tout son sens car l'humain n'est pas en mesure d'évaluer les informations que lui fournit L'ordinateur comment l'humain peut-il remettre en question les conclusions du nia sans savoir comment elle en est arrivé à ces conclusions l'humain est-il en pass de n'être plus

qu'un rouage d'une machine à tuer autonome va-t-il perdre toute capacité à contrôler la machine à s'opposer à ses décisions il semble crucial de développer un mécanisme de protection sans cela les conséquences seraient Désastreuse je ne me dis pas qu'on se dirige vers un scénario à la terminat j'ai suffisamment de soucis avec les humains pour me préoccuper de science-fiction et mes préoccupations n'ont rien à voir avec une super intelligence artificielle aux intentions malveillantes ce n'est pas ce qui m'inquiète le plus ce que je c ce sont plutôt les flash Wars les guerclair con éclair vient du

domaine Boursier où on parle de crack éclair quand un marché dans lequel interviennent de nombreux algorithmes s'effondre brutalement à cause d'un événement imprévu l'idée derrière le concept de flash Wars c'est qu'à l'avenir si des états employai des systèmes d'armement très autonomes donc où le contrôle humain est très réduit on pourrait se retrouver dans une situation où les systèmes d'armement des Divers pays inter réagirait et déclencherait une guerre ou un conflit militaire qu'on ne voulait pas déclencher flash Wars la perte de contrôle total des guerres d'une vitesse foudroyante un scénario cauchemardesque dont nous devons à tout

prix empêcher qu'il se réalise les risques que comportent l'évolution technologique n'échappe pas aux grandes puissan mais l'escalade des tensions Pour faire monter d'un cran le niveau de danger au niveau nucléaire actuellement nous n'avons pour ainsi dire aucun système où l'homme n'a pas son mot à dire je dis pour ainsi dire parce qu'en réalité il existe des systèmes qui ont été développés pour le cas où l'homme ne pourrait plus exercer ce contrôle à la suite d'une attaque nucléaire par exemple et ce depuis plus longtemps qu'on l'imagine les Russes ont mis au point le Système périméter l'idée

était que si les Américains utilisaient l'arme nucléaire contre eux même dans le cas où l'ensemble de la population russe serait anéantie le système pourrait déclencher de lui-même une contre-attaque ce mécanisme de Rost autonome surnommé dead hand ou main morte remonte à l'Union soviétique et serait encore pleinement fonctionnel or la menace nucléaire ne fait que S'aggraver avec les nouveaux systèmes d' par exemple on peut imaginer que l'IA combiné à des systèmes de détection perfectionné pourrait potentiellement rendre les océans transparents cela pourrait remettre en question les stratégies de dissuasion nucléaire pay des armes nucléaires dans des sous-marins

pour s'assurer une capacité de roste or si les océans devenaient transparents cela sonnerait le glat de Ces cachettes et donc de cette crainte qu'inspire la capacité de riposte potentielle des divers pays et cela porterait grièvement atteinte à la doctrine militaire défensive sur laquelle repose notre système politique de sécurité actuel sans équilibre de la terreur l'utilisation d'armes nucléaire redevient [Musique] envisageable on est face à un dilemme D'un côté il y a la course à l'armement si les autres possèdent un système supérieur au nôtre on ne veut pas rester en rade alors on fait tout pour les

égaler voir les surpasser et on se retrouve dans une spirale infernale don il est difficile de ressortir de l'autre il y a la raison il n'y a que l'entendement humain qui puisse dire STOP attention on est en train de développer des choses qu'on contrôle [Musique] Plus pendant le projet manatan à aucun moment les scientifiques n'ont dit en tout cas pas officiellement on est sur le point de créer quelque chose qui peut détruire le monde ce n'est qu'après le largage des bombes nucléairesenheimer a fait son autocritique en se décrivant comme le destructeur des mes le problème

c'est qu'on ignore quelle Influence l'intelligence artificielle exercera dans les guerres mais aussi dans la société de façon générale DEES domaines de recherche il est impossible de renoncer parce que les Bénon pe tir sontmesexisttermine je sais pas sil existe des scénarios intermédiair des chercheurs ont développé des choses extrêmement dangereuses comme la bombe Atomique si on s'est pas arrêé devant une invention qui objectivement peut anéantir l'humanité entière en quelques heures je crois qu'on s'arrêtera devant [Musique] rien il y a des situations où tout le monde a une part de responsabilité mais affirmer ça c'est dire aussi qu'aucun

être humain ne peut être tenu comme seul responsable quand il s'agit de système d'armement je pense qu'il n'y a pas un Responsable d'un point de vue plus pratique on devrait avoir une sorte de boussole morale qui fait que l'on ne conceverit et développerait des choses que de manière responsable il faudrait aussi un leadership capable de diriger l'élan qui va de la base vers le sommet dans telle ou telle direction en disant vous savez quoi on va dire qu'on est responsable de cette décision que l'on prend Collectivement pour pouvoir nous engager tous ensemble dans la bonne

direction [Musique] [Musique] [Musique]