Antonio Casilli - Les sacrifiés de l’IA : le scandale méconnu des data workers

C'est parce que ces grandes entreprises rabagent les économies du Sud du monde que des personnes dans des pays à faible revenu ramagé par les mêm capitalistes du Nord se retrouve à devoir accepter des conditions de travail et des conditions de vie finalement qui relèvent de l'exploitation on s'est rendu compte qu'il y avait une superposition géographique entre les lieux dans lesquels on trouvait les Travailleurs les travailleurs nuupli je veux dire hein et des lieux dans lesquels on assister à des formes d'extraction minéraire même les personnes qui ne doivent pas traiter des images de crime de guerre

ou suicide subissent des conséquences psychoprofessionnelles qui sont liées par exemple à la répétitivité des tâches à la pignibilité des tâches et à ne pas sousestimer à l'isolement par exemple le truc qui m'en supporte au plus haut Degré c'est d'entendre des Français qui se la joue on est colonisé alors qu'historiquement la France a colonisé la moitié du monde on pourrait carrément poser une règle de base de dire peut-être que entre le salaire le plus élevé de cette entreprise et le moins V il doitil avoir un coefficient fixe ça c'est le combat qui commence aujourd'hui c'est vraiment

toute la chaîne de production qu' faut prendre en compte et donc si on est un producteur D'intelligence artificielle imaginons Mistral France ou même quelqu'un qui achète des solutions d'intelligence artificielle toutes les les in du C40 et soit obligé à bien payer et bien respecter les droits du travail des personnes qui se trouvent au Kenya ou aux Philippines il y a bien plus à dire sur les ce qu'on en dit déjà exemple exemple bon attends les ogres sont comme les oignons Il il les yeux il SAU on les couche sur une pte brisée et on ENF

la pu saladière non ils ont des couches oignon avoir couche avoir couche comme oignon avoir couche tous les deux ont des couches et toi tiens une frenchtech esprit critique pour takti un grand bonjour à tous C'est Mick Levi au micro aujourd'hui accompagné de Cyril chaudois d'accord et donc avec des couches hein forcément faudra que tu nous expliques qu mêmee les oignons on Va reparler effectivement bon les amis c'est un nouveau chapitre de trenchtech qui s'ouvre aujourd'hui avec cet épisode puisque l'ami Tibo Leeman qui était avec nous depuis le début du podcast a choisi de prendre

du recul sur cette belle aventure un petit peu de recul bon voilà ça fait ça fait partie de la vie des des podcasts aussi c'est ça sa présence tiibo je veux te parler à toi tu nous manques déjà donc sache que tu auras marqué évidemment de ton empreinte ce Studio tout le podcast avec donc un gros gros bisous à toi éta es avec nous pour toute la suite exactement on pense bien à toi thibo et puis bah la porte reste toujours ouverte tu le sais et puis c'est d'ailleurs l'occasion de rappeler on ne le dit

peut-être pas assez que trenchtech c'est un podcast 100 % indépendant 100 % bénévole il ne tient donc qu'au collectif qu'à l'envie à la conviction de porter ses sujets là de notre collectif et je pense que c'est Aussi le bon moment de saluer tout ce collectif qu'on essaide régulièrement de mettre en avant mais là on a envie de tous les cités Tom à commencé par Greg le monteur qui gère toute la prode et que vous entendez de loin dans notre studio Thierry qui a construit notre site web trenchtech.fr tout notre crew de chroniqueur aussi par ord

d'apparition Fabienne ba Emmanuel gofi Laurent Guerin Gérald olibovic Louis de diazbach Virginie Martins de nobregap on vous kiffe tous on vous kiffe grave tous on vous envoie tous un bisou merci à tous de votre implication avec nous et puis encore une fois un gros gros big up à l'ami thibo en tout cas vous l'avez compris nous l'aventure continue c'est je pense que il a même pas été question d'arrêter une seule seconde on est plus que jamais au taqu et aujourd'hui un gros gros gros sujet pour Vous ah ouais tu le trouvais gros toi SH peut-être

c'est bien lui qu'on a entendu dans l'ext de film précisément on va pas parler d'un gros mais on va surtout parler d'un ogugre et un tout autre ogre que Shrek celui du petit pousser du chatoté je non j'ai évoqué un nouveau chapitre du podcast mais la mission je te rassure reste bien la même non non aujourd'hui on évoque une toute autre sorte d'ogre qui a un appétit véritable Insatiable le numérique et l'intelligence artificielle en particulierou une aresse alors celle qui se nourrit de toutes nos données d'une quantité aussi faramineuse d'énergie on a eu l'occasion d'aborder

de la question avec Sacha Luccioni on a déjà parlé de tout ça donc on fait un autre épisode là-dessus non non rassure-toi aujourd'hui on va parler de la face cachée de l'intelligence artificielle et même de la face vraiment très sombre de Luya tout le travail voire l'esclavagisme humain qu'elle emporte avec elle oui oui oui les les fameux enfin les tristement célèbres clickwers ce qui qui éduque entre guillemets les les as l'arrière cuisine est pas très propre exactement on va voir que c'est une véritable nouvelle forme d'esclavagisme et aussi on va parler de toutes les ressources

naturelles extraites de la terre teles que les météos précieux et les terres rares eux Aussi absolument nécessaires au fonctionnement de Lia aujourd'hui on vous révèle la face sombre de la tech on vous emmène au plus profond de la mine préparez-vous ça va secouer c'est clair pour éclairer sujet justement on a un invité qui est allé lui dans la mine dans les mines qui est allé à la rencontre de ses click workers c'est Antonio casazili il est professeur de sociologie à Institut Polytechnique de Paris il c-dirige le programme de Recherche deep Lab pour digital platform labor

et il est le cofondateur du réseau Indl pour international network on digital labor parmi ces publications disponibles en plusieurs langues l'ouvrage en attendant les robots enquête sur les travailleurs des clic aux éditions seuil. en 2021 un mustave ouais et il est également le co-auteur de de deux documentaires produits par France Télévision invisible les travailleurs du clic qui a été diffusé En 2022 sur France 5 et les sacrifiés de Lia vous pouvez retrouver depuis le 11 février 2025 sur France 2 et donc le voir sur toutes les bonnes plateformes de Replay allez il est grand temps

de retrouver Antonio bonjour Antonio bonjour merci d'être avec nous Antonio on se su toi oui tout à fait ah génial bon c'est une tradition entîn je suis ravi que tu que tu la suives vous allez vous allez tomber tôt tout tard sur quelqu'un qui vous dit non je préfère Que vous m'appeliez par mon nom et mon titre voilà écoute jusque là même les ministres ont accepté qu'on les tutoi donc pour l'instant on n'est pas déçu bon écoute on va annoncer le programme de de l'épisode on va d'abord découvrir ensemble cette fche cachée cette face sombre

de Lya et son caractère extractif du travail humain et des ressources de la Terre et puis tu nous donneras quelques solutions pour lesquelles tu milite auprès des gouvernements Notamment pour réduire voir résoudre ces problèmes là et puis on prendra un petit moment d'aération il va nous en falloir parce que je vous le dis c'est un épisode qui va secouer avec Laurent Laurent Guerin pardon et sa chronique un moment d'égarement tu es prêt Cyril ben plus que jamais et ben alors c'est parti pour le grand entretien trench tech esprit critique pour tes quitiques allez on va

se lancer Directement au cœur de la mine donc si vous êtes un peu claro bah accrochez-vous tu as une approche très particulière de de de ton exercice de la recherche de la sociologie très terrain et donc j'aimerais qu'on commence directement par euh une explication de ta part sur la façon dont tu procèdes ta façon de conduire justement ces ces études pour nous ramener très très très vite vers ce que tu appelles euh l'extractivisme et notamment donc des Matières premières ça on comprend bien et du travail humain ce travail caché dont tu as fait ta spécialité

Antonio disant est-ce que tu peux nous en dire un petit peu plus sur la manière dont tu conduis tes études B tout à fait alors d'abord il faut bien préciser que lorsqu'on pense à un sociologue de l'intelligence artificielle on pense toujours à quelqu'un qui tout au plus passe son temps dans des entreprises ou des des foyers de particuli pour étudier Comment les gens utilisent moi je m'intéresse je m'intéresse pas aux usages je m'intéresse pas à la à la à la partie qui est la consommation de ces produits qu'on appelle intelligence artificielle moi je m'intéresse à

la production et alors je dirais plutôt nous n intéressant à la à la production parce que nous c'est moi et mon équipe euh avec laquelle je travaille depuis déjà 5 ans et donc qu'est-ce que ça veut dire Étudier la production bah il y a plusieurs angles il y a certains d'entre nous qui s'occupent vraiment d'étudier comment par exemple les Data scientist ou les dev les développeurs euh travaill vraiment sur le code d'un algorithme d'une intelligence artificielle d'un modèle désormais euh ce ce terme la manière de dire l'intelligence artificielle est un modèle s'est installé mais euh

c'est réducteur de regarder seulement le modèle parce que Nous on va regarder aussi les datas les données les données sont le cœur dans euh d'un modèle d'intelligence artificielle sans donné celles qui ont été utilisé pour entraîner le modèle justement c'est ça alors oui ils sont seul celles qui sont qui sont utilisé pour l'entraîner c'est-à-dire pour apprendre à la machine à faire ce qu'elle fait c'est pour ça qu'on appelle machine learning donc d'apprentissage machine mais il y a aussi des données Qui sont utilisées pour renforcer ce que la machine sait et donc ça on l'appelle plutôt

reinforcement learning voilà mais toi quand tu vas sur le terrain tu vas même jusque dans les mines tu vas même jusque sur les plateaux où travaillent les clickwers finalement ça en effet oui donc ça c'est c'est effectivement à mon grand âge j'ai désormais pris cette mauvaise tournure alors que la plupart de mes collègues passer la quarantaine ont tendance plusour à s'installer alors Moi par contre je suis assez allergique à à mon bureau et je par très vite et très souvent pour aller à des endroits dans lesquels j'interview d'abord des personnes qui s'occupe de produire la

data parce que la data malgré le nom et l'étymologie latine qui fait penser à à quelque chose qui est qui tombe du ciel qui est donnée qui est presque spontané bah elle est pas spontanée du tout il faut vraiment la produire la la la manufacturer la fabriquer comme si C'était un objet et donc qui la produit et bah c'est des personnes souvent très très mal payé et souvent à des endroits insoupçonnable ou souvent insoupçonné donc c'est pas dans la Silicon Valley c'est pas dans les technopole c'est dans des pays du Sud du monde des pays

à faible revenu dans lesquels des personnes très très faiblement rémunérées et je vais vous donner aussi des chiffres très très faiblement rémunérés sont payés pour faire un Travail qui consiste par exemple pour vous donner quelques exemple lorsquil s'agit d'entraîner un un chatbot comme chatipt et bah il faut par exemple reconnaître des bouts de texte ou retranscrire des bouts de textes ou traduire des bouts de texes c'est toujours des petites tâches des micro tâches ell Appell voilà qui durent quelques secondes quelques minutes et qui sont payés très très peu donc quelques centimes plutôt plus et après

Si c'est pas lié au langage ça il y a aussi des intelligences artificielles par exemple qui reconnaissent euh des vidéos ou qui reconnaissent des images et donc c'est des travailleurs public clic des travailleurs de la donnée qui apprennent à l'intelligence artificielle par exemple à reconnaître les images et comment font-ils et bah ils prennent des images brutes pour encii dire et les tag les étiquettes les labellisent voilà donc c'est ça c'est le terme ouais le le Le terme c'est c'est c'est labelliser tirer de l'anglais est-ce qu'on peut juste rentrer un tout petit peu dans le détail

de comment ça fonctionne parce que nous ça nous parle je suis pas sûr que toutes celles et ceux qui nous écoutent comprennent bien comment ça fonctionne c'est vrai qu'on a cette idée on sait à peu près tous que pour entraîner le machine learning il faut d'abord lui avoir donné énormément de de de quantité d'information et de données Donc bon moi j'utilise souvent l'image du petit chat pour dire bah ça c'est un petit chat ou ça c'est un petit chien et puis on l'entraîne et cetera euh donc là euh c'est quoi concrètement c'est que ces gens-là

ils vont dire sur chaque dizaine de millions de de photos c'est un petit chat ou c'est un petit chien ou c'est un petit T ou je ne sais quoi euh ça c'est valable ok pour des images c'est valable aussi pour des bouts de texes tu nous lisais tout à l'heure Est-ce que c'est valable aussi pour euh aller labelliser des contenus qui relèveraient plus de la modération on a souvent cet exemple- làà aussi de choses horribles qui passent entre les mains et devant les yeux de ces gens-là qui sont non seulement payés une misère mais en

plus qui tombent en dépression parce qu'ils voient des choses atroces est-ce que tu peux nous expliquer un petit peu ça tout à fait bah donc si tu veux là ce qu'on ce qu'on appelle aujourd'hui la Modération de contenu est une forme de travail du CLIC et travail de la donné parce que finalement si certains travailleurs sont payés mal on l' dit pour apprendre à la machine à faire certaines choses par exemple reconnaître X ou Y il y a aussi des personnes qui sont payées pour désapprendre c'est-à-dire pour enseigner à la machine à ne pas faire

et donc à l'occurrence une intelligence iiciel doit éviter d'avoir que c'est des propos toxiques Imaginons chti est censé ne pas m'insulter ou me proposer des des 1000 méthodes de de massacrer mes voisins et cetera et cetera et pour ce faire il faut apprendre à chpti au modèle sous-jacent les comportements et les propos à ne pas tenir donc on les modère c'est-à-dire on filtre des des des des bases de données ces contenus qui sont considérés comme problématiques et pour pour vous donner vraiment un aperçu même comment dire pour vous laisser imaginer Qu'est-ce qu'on voit lorsqu'on visite

les endroits dans lesquels on fait ce type de travail bah donc il y a plusieurs endroits parfois nous on rencontre des travailleurs chez eux carrément dans leur chambre à coucher il y a une petite table avec un vieil hordi et c'est là que ces personnes reçoivent par exemple des images ou des goûts de textes et doit ou regardent des vidéos et doit les annoter les étiqueter ou par exemple marquer des objets sur les Images c'est ce qu'on appelle le Boxing c'està-dire mettre en boîte certains objets pour que la machine puisse les reconnaître voilà parfois c'est

pas dans le chambrees à coucher parfois ça c'est dans des endroits euh c'esti public par exemple moi j'ai rencontré des personnes qui faisaient ce type de travail dans des supercafé il y en a encore pas mal dans plusieurs parties du monde du Sud global il y a des cybercafés dans lesquels des personnes voilà ça donne à Ce type d'activité pour gagner quelques dollars par exemple et après vous avez aussi des situations un peu plus structurées là parfois on pénètre dans des véritables fermes à à à clic ou fermes à donné c'est-à-dire on rentre dans des

endroits qui sont des maisons dans lesquelles il y a chaque chambre une vingtaine de postes et une vingtaine de personnes qui à longueur de journée regardent des images ou transcrit du texte ou et ou voilà ou écoute ça ça me Fait penser notamment on est là début février au moment où on enregistre cet épisode on sort de la grosse vague de buzz de de dipsic et on sait qu'il y a des endroits des provinces en Chine en particulier où ce travail de la bellisation de données pour entraîner LESIA est totalement organisé justement tu penses à

ces endroits-là où c'est un peu les nouveaux sweat shop en quelque sorte des temps modernes mais adapté au au au digital et au et à l'a al dans le Cas de la Chine certainement bah là on a affaire à à un pays et un écosystème industriel et aussi un gouvernement central qui a beaucoup investi sur ce type d'activité de annotation des données deentraînement de l'intelligence artificielle et donc qui finalement a créé des endroits spécialisés pour accueillir ces travailleurs du clique on les appelle des bases d'annotation des bases d'annotation de données hein donc euh et sont

souvent des des lieux euh Qui sont qui peut parfois être carrément des anciennes usines désaffectées et après transformé en usine applique euh mais qui les c'est des des des entreprises finalement ou des plateformes en réalité qui patent de des programmes par exemple de aide aux personnes en près grande précarité il s'agit de personnes encore une fois qui sont vraiment à un niveau de rémunération qui est à peine de survie aujourd'hui avec des psyques nous ce Qu'on a fait nous c'est dire encore une fois mon groupe de travail qui s'appelle typ Lab on a carrément sorti

un rapport pour dire là écoutez il y a quelque chose qui qui cloche qui est très bizarre dans dans les dans les allégations de Lipsy qui dit à voir dans seulement entraîner à 1 % du prix de chatpt le même type de produit et qui en plus dit que ça ça coûte rien en terme d'énergie et en plus il dit qu'il y a pas d'annotateur ou presque il cite Exactement 32 annotateur dans leur document qu' consulté et on a fait un rapport iciite 32 personnes par nom c'est tous les Chinois et par contre on se

dit c'est vraiment bizarre dans un contexte comme la Chine dans laquelle le gouvernement central a vraiment mis paqué pour des politiques d'incitation de de de la création de de ces jeines àlique que ces gens-là déclarent à peine 32 personnes donc là peut-être on a AFF faire à une énorme armée de de de de Personnes qui travaillent qui font du travail du au noir hein il y a il y a d'ailleurs les les mêmes doutes vis-à-vis deodipsic sur la capacité réelle de calcul dont ils ont disposé pour entraîner psy bon brefou c'est un peu un sujet

à part euh des sociologues quelle est la sociologie finalement chacun ça croit ouais chacun ça croit toi c'est celle-là quelle est la sociologie de ces click workers c'est qui est-ce qu'on peut en faire un profil Un peu un peu général tu nous dis c'est dans le sud global ok voilà qu'est-ce que tu peux nous en dire de je vais je vais taquiner un peu seulement les non sociologues disent quel est la sociologie 2 pour dire quelle est la composition démographique sociodémographique je te comprends je te comprends tu vois où je veux revenenir ouais bien sûr

alors grosso modo on commence au bout de plusieurs années de de taquet les nôtres telles aussi de nos Collègues oxport de nos collègues de l'OIT qui est l'Office International du Travail on commence à voir effectivement des données euh même si comme vous pouvez bien imaginer les les entreprises numériques ne nous laissent pas vraiment explorer leur véritable registre ou base de données mais donc ce qu'on sait maintenant est que euh dans d'abord ces personnes là ont tendance à être des personnes à la fleur de l'âge c'est-à-dire des personnes qui sont Normalement entre les 20 et les

35 ans ça peut arriver jusqu'au 40 ans 44 ans dans des pays du Nord comme la France parce qu'il y a aussi des travailleurs du F en France ou en Espagne ou en Allemagne et cetera donc dans des pays du Nord ça peut être des personnes un peu plus âgées et en général dans les pays du Sud c'est des personnes très éduquées c'est-à-dire avec un d'études très élevé jeune et en plus des personnes qui choisissent ça ou Choisissent c'est unre guillemets hein c'est comme activité principale activité principale parce que si vous allez un pay qu'est-ce

qui les pousse à le faire parce que si si ils ont un bon niveau d'étude et que tu dis c'est leur choix mais en même temps tu nous expliquais avant que c'était juste un métier de survie et dans des conditions de travail qui sont absolument pas favorable qu'est-ce qui les pousse à faire ce choixl du coup mais les perversions du Marché du travail non ch c'està-dire que si tu vas dans un pays comme le Kenya ou Madagascar ou l'Égypte même des personnes qui devraient représenter si veux le fluron de la force du travail de de

la la effectivement les personnes les plus convoitées par les entreprises même ne trouvent pas un travail un métier ou un emploi adapté à leur compéten et donc nous on donc ça reste un choix de dépit quand même dépit oui par en fait contextuel quoi dis oua c'est ça Conjoncturel Plô quand je dis un choix c'est pas un choix du tout c'est tout simplement l'option qui se prête et par ailleurs si vous voulez parler comme le font les économistes capital humain et donc de personnes qui sont bien éduquées qui devraient être bien placé sur le marché

du travail là on est en train de de vivre l'un des des plus grands gâis du du capital humain de notre histoire parce que effectivement c'est c'est les personnes qui normalement devent être de Best and brightest comme dirait les donc les les plus brillants et qui sont réduit à faire un travail qui est franchement àtit temp c'est un travail qui consiste à regarder les mêmes objets les mêmes images ou attaquer les mêmes données à répétition c'est un travail extrêmement bon non seulement répétitif et comment dire usant pénible mais en plus c'est un c'est un travail

qui n'a pas vraiment disçu en terme de carrière même s'il y a certaines personnes qui Pour des motifs de besoins économique de nécessités économique se trouve à le faire pendant plusieurs années en terme de de métier abrutissant et qui est usant pénible au sens auquel on l'entend aussi quand on parle du débat sur la trraite mais c'est c'est un autre sujet moi ça me fait penser à l'industrie textile et dont on sait hein que il y a une exploitation une surexploitation d'une main d'œuvre dans des pays Relativement pauvres avec un chômage très important où là

aussi bah il faut bien aller manger donc on va le faire les scandales à répétition de cette industrie ont fait que un certain nombre de lois de normes été imposé aux grandes enseignes internationales pour les obliger à aller vérifier la façon dont leur fournisseurs organiseent ce travail les traites et cetera et je passe de côté aussi les aspects environnementaux mais ça va souvent de Paire euh qu'en est-il aujourd'hui parce qu'on vient de parler de dipsic alors euh on sait que c'est un système différent en Chine pour le dire simplement mais on sait aussi que open

donc paye à peu près 2 € par mois les gens qui vont faire ce type de travail qu'en est-il dans les grandes entreprises de l'industrie de la tech cette fois-ci en la matière est-ce que c'est suivi estce est-ce qu'il y a des normes qui sont imposées ou tout le Monde s'en fout alors petite précision euh open ai a parce que parce que c'est pas vu dans la presse il a il y a 2 ans cette mavaise réputation de payer ces personnes ces travailleurs de de la donné qui entraînent chepit à peine 2 dollars par heure

nous on les on est allé les interviewer ces personnes au Kenya et je serai au Kenya le mois prochain par ailleurs pour le pour continuer et c'est si moin que ça c'est 1 dollar 50 ce qui fait quand même une Différence importante si arondit oh chot aussi benah écoute écoute non c'est important de bien préciser parce que dans le contrat que nous on a pu consulter que open ai a passé avec la plateforme qui recrutait ces personnes c'était marqué que c'est chaque personne devait être payée 12 dollars pas un dollar 30 ou 50 donc tu

vois d'ailleurs pardon de te couper mais tu tu tu mentionnes un truc important aussi c'est que bien souvent ces boîtes qui font Appel au travailleurs du clic passent par de multiples plateformes hein pas tout à fait des sociétés écran mais presque il les embou jamais en direct hein histoire de noyer un peu le poisson en plus et oui oui oui ça c'est certainement ça de faire perdre leur place et surtout de ne pas s'exposer à des actions injustice auok par ailleurs ils sont carrément exposés pour reclassification ou requalification de ces personnes en tant donc revenons-en

Au au normes et au suivi est-ce qu'il y a des choses qui sont est-ce que c'est cadré ou pas aujourd'hui alors euh non c'est pas cadré et surtout parce que c'est un travail qui est nié dont l'existence est niée ou minimisé si tu parles comme le systématiquement avec les IBM MTA et compagnie il minimise en disant que ah bon c'est des personnes qui font un travail complètement accessoire c'est pour cela qu'on l'externalise c'est des faibles c'est Des pardon des tâches à faible valeur ajoutée alors que franchement c'est pas possible de déclarer un truc comme ça

dans la mesure où sans ce travail là il y a pas d'intelligence artificielle il y a pas d'entraînement de préentraînement il y a pas de de performance l'intelligence artificielle ça faut pas cesser de le rappeler en je crois tous que c'est que des données l'intelligence artificielle mais en fait il y a un travail humain qui est qui est assez Masqué aprèss je continue parce que il ni il minimise en disant oui ok bon il y en a mais c'est pas si nombreux ils sont pas si nombreux que ça alors que les estimations de mes collègues

commencent à parler de plusieurs pisell voir que centaines de de millions de personnes qui font ça at le monde et après centaines de millions oui voilà ça c'est c'est la Banque mondiale qui a sorti des estimations qui sont franchement urissantes moi franchement j'ai des Doutes sur leur méthode mais quand même on observe que depuis le covid surtout à cause de B covid bien sûr énormément de person sont mis à ça et des insprés des plateformes qui auparavant faisaient que saisje 500000 travailleurs se retrouvent avec 2 4 millions jeoui euh y compris en Europe je répète

et et et donc après et après surtout ils nous disent de toute façon c'est pas la peine de les de réguler ce secteur de réglementer ce secteur et là On vient effectiv au guide de de régulation parce que de toute façon ce travail est destiné à disparaître parce que finalement une fois qu'on aura entraîné toutes les intelligences du monde et voilà ce sera fait et on pourra se passer de ce travail oui parce qu'onen est moins sûr en plus un ah non rien n'est moins sûr mais c'est vrai que on on nous parle quand même

depuis longtemps de cette intelligence artificielle qui est qui est supposée Être capable de s'entraîner d'elle-même bon on voit bien que il faut un input au départ et donc le le storytelling c'est un jour ça va disparaître et j'imagine que dans le storytelling ou en tout cas les bonnes excuses il y a aussi oui mais si on ne donne pas ça comme boulot à ces gens-là ils ont rien et donc c'est encore pire oui ça c'est si tu veux c'est c'est c'est le point où le type l'élément de langage qui qui m'en supporte au plus haut

degré parce qu' il Y a quand même un fond colonial dans cette histoire c'est du type tu sais oui mais bien sûr les Britanniques ont colonisé ravagé l'Inde et et les Zimbabwé mais à la fin ils sont partis et il y avait des des que sastructure ils ont appris à jouer au cricket non c'est pas comme ça c'est-à-dire que c'est pas que ces grandes entreprises rabagent les économies du Sud du monde que des personnes dans des pays à faible revenu rabagés par les même capitaliste Du Nord se retrouve à devoir accepter des conditions de travail

et des conditions de vie finalement qui sont extrêmement au bas de qui relève de l'exploitation finalement alors justement sur ces conditions de vie Antonio j'avais lu une enquête dans lesqueles des travailleurs du clic disait qu'il'était face à une véritable torture psychologique certains expliquaient que il devait effectivement annoter mais des images insoutenables de Viol de viol d'enfants de décapitation et que ils étaient soumis toute la journée à ce type d'image là qui devait annoter pour dire c'était du contenu terroriste du contenu choquant du contenu violent c'est ça leur réalité pour beaucoup effectivement certainement et on n

pas et est-ce qu'ils ont du soutien psychologique ou pas aussi pardon alors la réponse est le soutien psychologique c'est pas vraiment Toujours au rendez-vous mais ou donc on on en parle donc notre documentaire Les sacrifi de la il y a une partie centrale dans laquelle on rentre vraiment dans le ventre dans la baleine de l'intelligencetificiel et là on donne la parole à ces personnesl qui sont surtout des annotateurs tiré modérateur de contenu euh c'est surtout les gens qui doivent encore une fois apprendre à la machine à ne pas faire ou à ne pas regarder ou

à Ne pas prendre reconnaître des situations voilà mais et et ces personnesl dans la mesure où moi aussi j'ai j'ai j'ai travaillé avec eux j'ai j'ai je les ai rencontrés je les ai accueillis en Europe et je les ai vu chez eux et cetera effectivement il portent les stigmates de de de ce travail parce que en particulier ce travail làà c'était vraiment exposer les personnes qui àqui étaient déjà fragile à cause de leur traumatisme de leur Propre vie et et exposer ces personneslà à vraiment une succession mais très très serrée d'images mais extrêmement euh violent

après c'est vrai que même les personnes qui ne doivent pas traiter des images de que sais-je crime de guerre ou suicide et cetera et cetera même les personnes qui ne doivent pas traiter ces contenusl subissent des conséquences psycho professionnels finalement c'est des risques c'est des risques liés à leur travail qui sont liés par exemple Au à la répétitivité des tâches à la pignibilité des tâches et à ne pas sousestimer à l'isolement olement est vraiment le le le cœur de ce métier parce que même si ces personnes sont en train de travailler ensemble dans le même

lieu de vie et M milieu de travail ils sont liés par des contrats au à une obligation de ne pas parler de ça avec le propres collègue ou le propre famille et ça c'est quelque chose qui peut vraiment vous créer des formes D'aliénation extrême complètement et en terme d'aliénation à titre individuel avec un impact sur la vie de ces gens-là mais aussi tion de l'ensemble de la société il y a une autre forme d'extractivisme dont il faut parler quand même dans cette séquence ce sont les matières premières euh donc tu vas aussi sur le terrain

pour cela dis-nous concrètement comment ça se passe ce que tu as observé parce que on sait on va aller chercher ces fameus terr rares Éclaire-nous s'il te plaît sur la réalité sur le terrain alors c'est c'est vrai que les terres rares sont devenus presque des des des chimères des trucs mythiques on pense qu'à ça il y a aussi des matières premières beaucoup ou plus terre à terre ai dire comme le cuivre l' th le lithium alors je vais pas faire toute la la la le tableau périodique le tableau périodique voilà mais en même temps mais

en même temps effectivement il y a des matières qui sont Stratégiques et et qui constitue si vous voulez la base du fonctionnement de cette intelligence artificielle parce que finalement l'intelligence artificielle si on a chat GPT sur notre smartphone ce smartphone a besoin par exemple euh de batterie au lithium et lithium il faut l'extraire quelque part et donc là la première chose c'est pas la première chose mais relativement trop t dans notre travail on s'est rendu compte qu'il y avait une superposition Géographique entre les lieux dans lesquels on trouvait les travailleurs les travailleurs nuuplique je veux

dire hein et des lieux dans lesquels on assistait à des formes d'extraction minéraire je vous donne quelques exemples en 2018 j'étais en Bolivie euh la Bolivie est effectivement j'ai intervieé certain un certain nombre de personnes qui qui qui a des intelligence artificielle et faisait des tâches surtout de traduction hein mais après si Vous vous déplacez de quelques centaines de kilomètres vers le sud vous avez le plus grand justement le plus grand lac salé du monde qui s'appelle salab deyuni dans lequel on a l'extraction de lithium c'est les batteries encore une fois et si vous voulez

même rendre le le la chose encore plus métaphorique et et et et montrer la superposition de travail de la donnée euh ce que tu disais c'est à propos du textile euh et ce qu'on dit aujourd'hui à propos de de de des dutium Ou des matièrees premières pour la partie extractive de l'intelligence artificielle on peut se déplacer encore quelques centaines de kilomètres au sud de du salapuni là on tombe dans le dans dans dans notre pays c'est le Chili et dans dans le nord du Chili dans le désert du tatakama vous avez en même temps les

plus grands euh les plus grandes décharges de vêtements euh jetés par des gens du Nord du monde ou les États-Unis mais vous avez aussi D'énormes centre de données parce que il y a aussi des des activités scientifiques qui se déroulent là-bas mais vous avez aussi desnormes lac salé et à côté de ça on a des des des des des des usines de production de mythiob parce que et après vous avez vous disiez au début de manière un peu évocatrice oui tu tu toures puis tu rentres dans les dans les mines euh non alors réalité c'est

surt ouvert c'est s ouvert voilà s ouvert tout comme par exemple on a passé Vant pas mal de temps à Madagascar on intervieit les personnes à tananarib la capitale des centaines de personnes à tananarib quand même qui faisaient ce type de travail étique vous dépassez de 4 km et vous avez une île de nickel de cobalt donc quel est le qu'est-ce qu'on est en train de dire est-ce qu'on est en train de dire qu' il y aurait une quelques superposition magique non au contraire c'est tout simplement des politiques industrielles De de ces pays de chili

euh la poolivie d'un certain point de vue et aussi Madagascar euh qui choisissent de créer des zones euh de incitation pour certaines formes d'industrie et donc c'est des des industries à forte potentiel des industries stratégique comme tout tout tout la tech tout toute l'énergie la tech et donc dans la mesure où il favorise par exemple la création de plateformes ou de petites usin applique et ben elle favorise aussi par Exemple par des incitations pas par des euh des politiques fiscales avantageuses par l' par des politiques de de de gestion du travail très avantageuse euh en

fermant en œil sur les ravages surviron il y a une responsabilité de ceux qui vont aller chercher ce travail du clic mais il y a la responsabilité des États qui acceptent alors bien souvent au nom de d'un développement économique mais qui encourage stratégie économique dans dans ces états-là D'exploitation de leurs ressources naturelles finalement exactement mais avec des arg je suis pas sûr qui en profite le plus à la fin on connaî l'histoire là-dessus mais mais mais mais oui euh rappelons un petit truc quand même Antonio c'est que on fait porter le chapeau là à liya

mais en vérité c'est tout le numérique en tout cas pour la partie extractive des ressources naturelles c'est tout le numérique le moindre serveur pour diffuser des des Des vidéos de petits chat sur Youtube pour écouter ce podcast la moindre dalle de l'écran et cetera c'est c'est c'est dans tout ça qu'il a des minerés alors peut-être que ça excéè mais mais en fait c'est c'est tout le numérique finalement qui est coné ça c'est ça on enregistre ce podcast en 2025 et il y a quelque chose qui s'est passé entretemps le changement de paradigme dû effectivement à

la généralisation des grands modèles à la Ch GPT et ça veut dire Grosso que tout ce qui auparavant était le numérique aujourd'hui est devenu lia et c'est pas seulement une question de de de de langage de stratégie de langage ou de stratégie marketing c'est que on est en train de fourrer de Lia dans n'importe quel qu produit informatique pour faire cours et que c'est difficile effectivement de ne pas avoir aujourd'hui une solution numérique qui comme comme faisé d'un temps est basé Sur Que sais-je des des règles non aujourd'hui c'est basé sur des données et quelle

est la différence la différence c'est qu'auparavant logiciel apprenait à faire sur la base un certain nombre de règles qui étaient codées et aujourd'hui par contre elle apprend à force de regarder des données et à force d'apprendre des données qui sont des exemples qui sont considérés comme la é du terrain la réalité des usages voilà donc ça c'est de ce point de vu là Désormais les deux choses sont en train de de une toute une toute dernière question sur sur cette cette partie là est-ce que le caractère extractif dans les mines des ressources naturelles de la

terre à quelque chose de propre au numérique et àa ou après tout je vais le dire de façon un peu un peu un peu directe c'est c'est c'est la marche industrielle du monde qui qui qui se poursuit et puis depuis qu'il y a l'industrie et ben oui On exploite des ressources minières et on extrait des ressources de la Terre qu'est-ce qu'il y a de spécifique au numérique finalement dans cette extraction alors il y aurait certains collègues euh surtout euh d'Amérique latine où la notion d'extractivisme a été développée déjà le siècle passé hein qui dirait que

en effet c'est toujours la même histoire et que finalement c'est aussi la même histoire depuis 5 siècles c'est-à-dire dans leur cas depuis les Grands voyages d'exploration et et la colonisation occidentale vers Sud oui voilà et que donc on se retrouve finalement dans la continuité de cette de cette logique et moi je pense qu'effectivement il y a énormément de continuité je suis un peu par contre prudent lorsquon parle de comment dire on utilise des notions si chargées du point de vue historique parce que d'une part on a une tendance à les utiliser un peu comme des

métaphores Et quand on les utilise comme des métaphores on a plus de contrôle sur qui utilise ces notionsl al par exemple le truc qui m'en supporte au plus haut degré c'est d'entendre des Français qui se la joue on est colonisé alors qu'historiquement la France a coloniser la moitié du monde donc voilà attention c'est pas une métaphore c'est vraiment pour certains pour certaines personnes pour certains pour certains pend la condu mondiale c'est c'est des centaines De milli des milliards de personnes une réalité qui est la même depuis les siècles comm ce point de vue là oui

il y a de la continuité alors cette discussion sur bah la continuité des précédentes révolution industrielle me fait penser à quelque chose c'est qu'au fond peut-être qu'avec la pollution à l'ancienne on était peut-être pas si mal et ça me donne envie de passer la parole à Laurent Guerin tu vas voir pourquoi elle vient de loin C tu vas voir mais tu Tu connais Laurent Guerin et son moment d'égarement Antonio pas les bon et ben il va nous parler de la dooréane et vous allez voir pourquoi je fais référence à la pollution façon old school tu

blues Mar ton arme n'est pas chargé oups un moment d'égarement alors aujourd'hui Laurent je le disais tu nous parles d'une voiture mythique et attention hein pas n'importe quelle voiture un objet culte mesdames et messieurs du cinéma hollywoodien une Icône pop que dis-je qui a pourtant fait un flop la deloréane DMC12 et oui même les moins de 20 ans connaissent la doloréan DMC12 il s'agit en effet de la machine à remonter le temps de la trilogie culte retour vers le futur des films sortis en 1985 1989 et 1990 avec Michael G Fox et Christopher Lyd je

te rappelle l'INT non je te rappelle pas l'intrigue si ok Marty joue de la guitare il est pote avec un savant fou qui a inventé une machine à remonter le Temps voilà trois personnag chentraux se partagent donc les affiches des trois films Marty McFly emet Brown de doc et la doloréan DMC12 peu de gens savent cependant que cet objet pointu aux allures de suppositoire cette fusée kit se situant au croisement d'une Renault 20 et d'une simk 17 a été une vraie voiture si avec des vrais R et un vrai moteur disponible à la vente attends

elle a vraiment roulé là j'avoue que tu m'apprends un truc euh et c'est qui déjà Le fabricant alors c'est John Dolorean un ingénieur américain qui a connu un grand succès chez General Motors dans les années 60 qui crée sa propre marque et qui à l'instar de Marcel Louis et Fernand Renaud André Citroën Ferdinand porche enenzo Ferrari Henry Ford Walter Chrysler Jean pass et des meilleurs lui donne son nom la doloreéan Motor compagy ou DMC qui voit le jour en 1975 la bagnole c'est l'opium du peuple disait le chanteur Renault le branding c'est Pas Nirvana des

ingénieurs hein zéro créativité je te rappelle quand même que Volkswagen signifie F voiture du peuple en allemand et que Audi a pour logo quatre cercles qui représentent des roues et ouais quatre roues quatre cercles tu avais pas capté hein j'ai aussi le logo Toyota pour toi cette espèce d'insigne qui ressemble à un taureau mais qui en fait incorpore toutes les lettres de Toyota soit 6 lettres enfin quatre puisqu'il y a de T Et de O tata yoyo mais revenons à ce bon vieux John notre cadre jeune connu pour sa capacité à innover lève beaucoup d'argent

installe son usine en Irlande et commence la production de son unique véhicule en 198 81 carrosserie en métal inoxydable porte à ouverture papillon design futuriste réalisé par l'immense designerettoo à qui on doit notamment la Fiat Panda mais aussi la Ferrari 250 GT et l'Audi 80 la légendaire golf d'origine celle de 1974 et la Renault 21 En fait le mec devait travailler un jour sur deux en tout cas pour la Renault 21 il a dû s'inspirer de la doloréane mais c'est un four attends mais what la Renault 21 non la DO r an les premiers véhicules

sortent de l'usine avec des défauts importants les journalistes automobiles n'apprécient guerre cette voiture de sport lourde aux performances limitées et à la consommation élevée et seul 3000 véhicules des 9000 produits par la marque se vendent DMC fait Faillite en un battement d'elle de papillon en 1982 son fondateur s'est planté sur toute la ligne il a misé sur un véhicule seulement il a embauché des ouvriers inexpérimentés afin de toucher des subvention il n'a pas tenu compte de la compétition et pour finir il a été arrêté pour trafic de cocaïne sur un deal qui lui aurait Perm

permis de récupérer 24 patates alors que sa boîte en devait 17 chacun sa méthode pour lever des fonds hein n'est-ce pas elon Et dans un univers parallèle emet Brown dit doc achète une doloréan DMC 12 à réparer et un flippeer hors service en septembre 1984 par l'intermédiaire des petites annonces du Hill Valley Telegraph grâce à de nombreux ajouts et surtout du plutonium il transforme la DMC12 en machine à remonter le temps avant d'être assassiné par les Libyens qui lui avaient fourni le plutonium la légende peut alors commencer à défaut d'avoir connu le Succès dans la

vraie vie la delloréan DMC12 de John deloreéan devient une icône de la culture populaire trenchtech esprit critique pour ta critique bon je sais pas vous mais ça fait du bien de rire un petit peu en je te confirme on s'en lasse pas petite nostalgie sur la de laoréan en effet c'est c'est pas mal bon la deoréen qui était le super track des années 80 soyons clair ouais c'est C'est quelque chose comme ça qui s'est pas beaucoup vendu effectivement alors Antonio en plus d'être un sociologue de terrain tu es un véritable militant et tu as des

solutions concrètes à nous proposer pour rendre lia plus éthique et finalement plus durable avant d'explorer ces solutions je voudrais bien comprendre où sont à placer les responsabilités j'ai rencontré il y a à peine quelques semaines une personne qui travaille dans Une des entreprises euh sous-traitante de MTA de de de TikTok d'Open a et qui donc soustraite à des travailleurs du clique en Afrique ah un nom un nom peut-être non je ne dirai pas de nom de l'entreprise pas de la personne non ni l'un ni l'autre pas ici bizarre et lui il me disait que de

manière assez cynique il me disait mais en même temps il faut bien que quelqu'un le fasse dans la modération sur les réseaux sociaux que sur que que sur l'IA et euh alors Soit soit ce qu'on se dise bah on arrête tout ça pourquoi pas c'est peut-être ton opinion c'est ce que je veux savoir il a pas complètement faux qu'est-ce qu'on fait avec ça il faut bien le faire en effet alors le le le le grand informaticien Joseph weisenbaum qui a inventé le premier chatbot de l'histoire dans les années 60 lorsqu'on luiisa Balan ellisa exactement voilà

je savais pas mais très bien lorsque on lui balançait des énormités comme ça il Faisait ce parallèle si on disait la même chose sur les violes c'est-à-dire il faut bien que quelqu'un le fasse vous vous rendez compte que c'est une logique complètement appérente que c'est une logique qui ne marche pas donc qui qui est qui est complètement surée donc la réalité est que euh par cela cette personne voulait indiquer et même mettre un peu en valeur la valeur la la la la la de travail de ces personnes le travail des travailleurs publicqu en Disant que

effectivement il s'agit d'une fonction cruciale pour développer l'intelligenceici ça je ve bien le croire après la question est que si euh comment dire il faut il faut bien quelqu'un le fasse ne veut pas dire que il faut bien qu'il soit exploité et là voà je parle pas forcément commun ni comme un sociologue ni comme un militant vous m'avez décrit à la base je suis figurez-vous un économiste moi je suis un économiste de frqué et je considère Que je considère que il y a un un jeu qui finalement est un un jeu de de ce qu'on

appelle euh la la part du travail c'est-à-dire la part qu'on donne euh par exemple sur sur les les les bénéfices ou les profits de entreprise au travail qu'on reverse au travail on a un problème là on a un problème parce que si on considère que openi ou metta ne sont pas seulement des entreprises installées dans la Silicon Valley qui ont quelques Guiler dans le cas de de Méa de centaines dans le cas de open ai de employés c'est-àdire personnees employé officiellement et payé très cher et bien reconnu et cetera mais on considère que ces personnes

que ces entreprises là en réalité sont des longues très longue chaîne de soustraitance globale donc il faut s'imaginer vraiment quelque chose qui commence quelque part dans la con aller ou au Texas mais qui je suis au Venezuela à Madagascar au Kenya à N donc Si on considère ces personnes ces entreprises de cette manière-là il faut considérer combien euh les travailleurs pour cette ces entreprisees sont payé tout au long de la chaîne de production et donc on pourrait carrément poser une règle de base comme on on la pousse dans certaines euh entreprises de dire bon euh

peut-être que entre le salaire le plus élevé de cette entreprise et le moins élevé il doit y avoir un coefficient fixe par exemple que si Quelqu'un est payé euh 200000 € par an qui est un peu salaire d'entrée dans la Silicon Valley pour un Data sctiste et ben on puisse pas se retrouver avec son collègue qui est au Kenya qui a payé tout au plus 3000 4000 € par an parce que là vous voyez att je faire l'avocat du diable 2 secondes Antonio par c'est le genre de discussion que j'ai eu toujours avec cette même

personne et là il me répond ah oui et c'est rapport au niveau de vie tu comprends si tu habites Dans la Silicon valallé ton loyer tu le payes 5000 balles minimum tandis que si tu es au Kenya ton loyer ça te paye quelques centimes enfin c'est de cet ordre là tu as parlé avec Sam en fait c'est ça il faut qu'on organise un con avec cette personn là parce que franchement parce que franchement soyons soy soyons clair c'est ça soyair il y a un problème si on a une différence de niveau de vie et que

Par exemple vivre dans la Silicon Valley est un truc hors du monde parce que c'est c'est vraiment exagérer les prix de n'importe quoi de la pouf au logement et au contraire si dans des pays du Sud on vit dans des conditions extrêmes ça encore c'est la faute de ces mêmes entreprises et de ce même système finalement de prédistribution capitaliste en fait ça crée un cercle vicieux qui qui ne fait que amplifier les inégalités mais c'est Intéressant ce que tu dis parce qu'on parle souvent des inégalités dans chacun des pays toi tu montres par ce raisonnement

que les inégalités elles se creusent au niveau mondial du coup même mais oui mais dans les deux cas c'est-à-dire que il y a un niveau de d'inégalité micro c'est-à-dire au niveau de une ville au niveau d'une région au niveau d'un pays on le boit n habigons la France on est bien passé pour le savoir mais en même temps le la la la Les inégalités se creuse d'autant plus au niveau mondial et ça devient carrément paradoxal lorsqu'on considère que ces personesl qui font du travail du clique dans leur pays d'origine bah ils sont considérés un peu

comme des personnes qui ont qui sont de dans une position de privilège relatif et même à l'intérieur des travailleurs du clique il y a quand même des différences importantes entre ceux qui par exemple créer des groupes Facebook dans lequel Ils font un peu de crypto et qui donc revendent des services à leur propres collègues et ceux qui sont vraiment en bas de l'échelle au Venezuela en particulier nous on rencontre des des cas qui sont extrêmes de de d'inégalité à l'intérieur de la force de travail des micro travailleurs des travailleurs du clic parce qu'on retrouve que

sais-je des enfants des des vieilles hommes et vieilles femmes qui font ce travail la nuit ou le matin tard et cetera et il Sont vraiment payés quelques centimes qui dans un pays comme ça à la fin du mois constitue quand même quelque chose d'intéressant et après vous avez certains qui normalement c'est plutôt des mecs la quarantaine avec une formation d'ingénieur qui qui se positionne qui devient des intermédiaires ou qui devient finalement des dispatcheurs qui trouvve les meilleurs qui centralis les meilleures tâches et après il les redispatch au Autres ils essaient de de de de se

greffer au système et d'en tirer parti à leur manière en tout cas ce que je retiens c'est que de la même manière qu'on parle de l'analyse du cycle de vie d'un produit technique en particulier pour pouvoir bien mesurer son impact environnemental là il faut raisonner en analyse de cycle de production de ce type de technologie parce qu'effectivement des boîtes qui sont valorisées pour certaines 150 milliards De dollars comme open ou plus de 3000 comme Nvidia par exemple et bien finalement paye quelques centimes d'euros des personnes à l'autre bout du monde qui pour autant sont sont

sont considérés comme des sous-traitants mais qui devrai être considérés d'une manière ou d'une autre un peu plus comme des des des salariés un peu déguisés on va dire de cette entreprise et il y a un écart une élasticité qui est beaucoup trop forte et et parce que tu tu as mis sur Le tapis la question de la sous-traitance parlons effectivement des politiques l'une des politiques possibles il y a plusieurs politiques possibles et et pour expliquer aussi comment je [ __ ] alors disnous venir alors voilà j'y travaille en tant que citoyen aussi mais parce que

ça fait partie de mon bétié de accompagner le dessus de législateur d'un certain cas et donc c'est historiquement je suis là à l'Institut Polytechnique de Paris je de temps à autre je travaille dans le contexte que c'est je du Conseil d'État en France ou d'autres instances national ou international dernièrement c'est surtout avec le Parlement européen qu'on a fait avec mon groupe de recherche ch des plab aussi tout un travail qui est un travail effectivement de cartographie par exemple des travailleurs du clique et des données en Europe mais aussi acccompagnement de la mise en place et

De l'adoption plutôt de certaines directives européennees qui sont plus ou moins lié à la question de l'intelligence artificielle et qui sont plutôt au croisement entre intelligence artificielle et travail et en particulier deux alors c'est pas le ai Act parce ouis c'est ça l' on est pas du tout dans C dans dans ces questions là on aime ce g là ça traite des usages pour le coup les nous disais toi tu traites pas des Usages donc c'est sur les usages c'est quel règlement auquel tu fais auquel tu fais référence du coup alors il y en a

deux qui sont passés l'année passée ça c'était deux grandes victoires le premier c'est la directive européenne sur les travailleurs de plateforme parce que même si quand on pense au travailleurs de plateforme on pense au travailleurs au chauffeur vuper ou au livreur des liberou en réalité même les personnes qui font du travail du clic Sont largement des travailleurs de plateformes ils passent par des PL même s'ils font ça dans un super café ils doivent se connecter une plateforme souvent le contrat qu'ils ont c'est avec une plateforme et pas avec une personne Oure local y compris avant

l on pense à mecanical Turk de Amazon par exemple ce genre de chos oui c'est c'est c'est un exemple historique parce que Amazon mécanica turque a été créé en 2005 donc 20 ans avant cette l'époque dans Laquelle on est nous dans de cette conversation mais en même temps voilà si c'est c'est c'est un paradigme de un modèle de de de comment comment se passe moi je suis une entreprise je veux externaliser une tâche ou automatiser une tâche je me rends sur Amazon meécanicure que je trouve 100000 personnes qui font le travail de entraîner la la

machine à faire cette tâche ou qui parfois simulent carrément la la machine mais ça c'est une longue Histoire mais bref tu une deuxè directive du la deuxè directive la deuxième directive c'est celle effectivement sur le devoir de vigilance des entreprises devoir de vigilance des entreprises et et donc le fait que les entreprises qui ont une certaine taille quelques centaines de personnes employées dans un pays ou quelques milliers au niveau mondial soit considéré comme obligé à produire chaque année un rapport un plan De vigilance qui montre par exemple comment ils ont respecté non seulement certaines lois

qui sont relatives au ASP de l'environnement mais aussi des droits humains mais aussi des droits du travail question est que les prise européennees et du Nord du monde sont en train de se soustraire systématiquement à cette à ce devoir de vigilance parce que ils se disentah écoutez c'est tout au fond de la chaîne de production moi je ne vois même pas c et et moi j'ai pas de doute Qu'il voit pas c'est ça le problème d'ailleurs ouais c'est les entreprises qui font écran avec ces systèmes de de sous-traitance du coup he exactement donc la question

est est-ce que dans la transposition que les États membres de la Communauté européenne vont faire cette directec il y aura de la place et ça c'est le combat qui commence aujourd'hui il y aura de la place pour dire que effectivement c'est vraiment toute la chaîne de production qu'il faut Prendre en compte et donc si on est un producteur d'intelligence artificielle imaginons Mistral France ou même quelqu'un qui achète des solutions d'intelligence artificielle les in du K40 soit obligé à bien payer et bien respecter les droits du travail des personnes qui se trouve au Kenya ou aux

Philippines alors du coup j'ai deux questions pour toi j'ai deux questions là qui me brûlent les lèvres commençons par la deuxième la première non je vais Commencer par la par la première parce qu'effectivement la deuxième c'était la première je voulais poser mais finalement je vais poser la deième en premiier bon tu vas comprendre non mais par rapport à ce rôle que joue l'Europe par rapport à ce rôle que joue plus globalement les directives les réglementations les lois les normes j'ai une question qui va porter plus sur nous les usagers aussi bien B2C que B2B he

puisque tu parle des entreprises qui Achètent ces solutions là mais d'abord je vais enchaîner sur sur cette notion de direct qui peuvent peut-être finalement depuis quelques semaines à peine quelques mois passer sous les radars désormais parce que j'ai lu il y a quelques semaines de cela à peine depuis l'arrivée de Trump au pouvoir qu'il y a un certain nombre de politiques et notamment français qui sont les premier à aller finalement demander à l'Europe que tout un tas de Directiv portant sur la dui portant sur la préservation de l'environnement et qui devait enjoindre les entreprises à

suivre ces sujetsl de façon sérieuse qu'on a mis des des temps immémoria incroyablement long à tricoter finalement stop au nom de la compétitivité il faut arrêter donc est-ce que les directives pour lesquelles tu t'es battu et tu as conseillé est-ce que tu y crois sur les 4 ans à venir et et plus encore ou Est-ce que tu as l'impression que tout ça ça va être un stop and go voir un stop tout court moi je pense qu'on a un problème en France ce problème s'appelle Macron c'est-à-dire c'est pas l'homme l'homme politique je pense c'est la

France représentée par son voilà son élu le plus le plus haut placé parce que effectivement l'administration actuelle française a vraiment joué contre ramé contre euh tout ce travail collectif que l'Europe a fait et et quand je dis Travail collectif c'est aussi un travail euh de sur une période relativement importante parce que c'est autour de 2020 déjà que à l'Europe a commencé à se doter de tout un paquet de euh euh règles et nouvelles lois relativ à la régulation de l'intelligence artificielle et dans ce contexte-là la France a eu vraiment un rôle de saboteur donc tout

simplement le retard les les coups tordus c'est c'est des choses qui sont Largement documentées dans la dans la presse et c'est pas seulement pour quelle raison c'est c'est au nom de la compétitivité française et et pourquoi la France serait particulièrement dans ce dans dans ce dans ce pointl par rapport à l'Allemagne par exemple ou l'Italie c'est c'est alors c'est l'Italie des son lap c'est vraiment un pays de bon c'est un pays qui a quelques problèmes on va dire comme ça ça fait 25 ans que je l'ai quitté Rais ou voilà Antonio Antonio ton accent te

trahit hein je veux dire c'est vrai c'est vrai pe accent du pays de Gal mais bref que disaisje non le le problème de la France alors pourquoi la France voilà c'est ça la PO la la posture de de de de politique industrielle française lorsqu'on parle de technologie celle qui furent à une époque les nouvelles technologies de l'information de la communication et qui désormais sont transformé à l'intelligence artificielle Lorsqu'on parle au cette politique industrielle la France a deux préoccupations principales qu'on peut résumer par deux slogans le premier il faut rattraper le retard vis-à-vis des Américains donc

si les Américains on dirent fascistes il faut rattraper le retard et devenir faschistes comme les américains ça la deuxème c'estd que on veut les rattraper et on se dit il faut appliquer les mêmes recettes on pourit les rattraper en se disant on va faire Autement les mêmes recettes désormais dans le contexte américain signifie technoautoritarisme techno total totalarisme ce que fait musque depuis al lorsqu'on enregistre et le musk est encore est encore considéré comme un être humain il s'est pas encore dévoilé en tant que alien extraterrestre en enlevant son masque voilà on est février 2025 çapp

des mauvaises séries voilà mais surtout si on regarde ce que Trump Altman Zuckerberg et musosque ont fait Dans au début de de 200 pas 5 et bah c'est clair c'est c'est vraiment déclaré c'est déclaré c'est fort il y a vraiment des gens qui font des salunassis c'est alors c'est le mais mais clairement donc du coup pour pouvoir faire comme les États-Unis et se battre en terme de compétitivité l'idée c'est que on peut le faire en suivant le même modèle et c'est plutôt ce qui semble arriver là en ce moment poindre son nez on peut le

faire différemment alors attends il faut Le faire différemment c'est toujours la question de si c'est nous qu'on le fait qu'on fait ça euh alors nous alors c'est éthique que parce qu'on le fait à la française parce que moi j'ai souvent affaire à des personnes qui ont des discours qui des discours complètement débile du type ouais par exemple faire des des drones assassins qui tuent les enfants c'est c'est mal mais par contre si c'est notre armé et que tu les entends des autres alors voilà c'est C'est dans le cas la ber VO commer quand même il

faut pas sestimer le fait que je j'ai dit au début il y a deux slogans le premier c'est effectivement pour rraper le retard par rapport aux Américains et l'autre c'est h si c'est pas nous les Chinois vont le faire donc vous voyez la France ser représente toujours comme prise en sandwich entre deux superpissance qui était si vous voulez historiquement son rôle à à l'époque de la guerre froide et et donc ils sont Tout simplement rempasser les Russes avec les Chinois et par contre moi je trouve vraiment malsine l'attitude qui consiste à dire bah écoute nous

on va être très euh pencher surveillance surveillance de V pro population d'abord et après les autres oui colonialisme technologique c'est-à-dire qu'on va vendre des armes et des et des technologies d'intelligence artificielle dans tous les pays du du Sud du monde Parce que grosso modo il faut faire comme font les Chinois ça si vous voulez est complètement débile pas de 3è voix à l'indienne pas de pas de trè voix et ben malheureusement la 3è voix on on la voit c'est-à-dire que la trè fois voix est la France qui est en train de saboter ce que cet

effort collectif représenté par l'Europe et après soyons clair je suis pas en train d'angéliser de iréniser la vision de l'Europe l'Europe est un affaire de bureaucrat et de lobbistes Mais en même temps c'est aussi quelque chose comment on dira un ensemble de de d'institutions qui parce qu'elle est renouvable d'un certain point de vue à 350 millions de personnes désormais je P combien on est et pas effectivement elle doit répondre aussi à au citoyens et et donc de ce point de vue-là on peut pas faire chevaler seul par ce contexte et et alors justement avec cette

mention du citoyen on arrive à à ma à ma deuxème question si je veux moi-même ne pas être Hypocrite j'utilise l'intelligence artificiel générative entre autres ça m'arrive oui et puis j'utilise probablement de l'a sans même le savoir avec tous les Devic que j'utilise et cetera et je suis des millions de personnes hein et en l'occurrence des Français des Européens tout ça euh et en plus j'ai une entreprise et donc je suis tenté d'utiliser ces intelligences artificielles pour tout un tas de bonnes choses notamment les fameux gain de Productivité mais on a pas le temps de

débattre de de ce sujet-là du coup tout ce que l'on se dit depuis tout à l'heure c'est un brin culpabilisant de fait comment on fait quelles sont les solutions pour non pas se déculpabiliser ou ou laver ou laver son son son son amour propre ou ou son son orgueil mais comment on fait pour utiliser néanmoins les bienfait fait de ces outils sans pour autant contribuer malgré nous malgré nos convictions à tout ce que L'on vient de décrire en matière d'extractivisme que ce soit le travail que ce soit les minerés alors disons que effectivement comment dire

ton ton ton dilemme moral est celui qui traverse la plupart de des personnes qui nous écoutent parce que effectivement on est confronté à une question de responsabilité individuelle euh moi je dirais que d'abord soyons un peu provoque je pense que la responsabilisation des individus face à À ces problèmes qui sont des problèmes systémiques qui sont des problèmes globaux finalement est un piège est un piège dans lequel on nous fait tomber on nous pousse hein systématiquement en disant bah nous on a créé cet énorme Portel cet énorme système d'exploitation mais toi dans ton coin tu tu

dois finalement être responsable et tu as pas que tu dois tout simplement refuser d'utiliser alors et en même temps tu te coupes du monde et et tu perds tout un Tas d'occasions euh si vous voulez la question donc toi tu dis finalement la responsabilité elle doit porter sur les entreprises et sur les gouvernements pour prendre les bonnes les bon pour prendre les bonnes directives pour les entreprises moi je dis deux choses il faut pas se tromper de combat et et donc de effectivement le combat est euh au au niveau macro et pas au niveau individuel

et par contre je dis aussi que il y a une légitimité des stratégies Individuelles tout à considérer comme un complément si vous voulez comme comme le miroir des des des des des politiques et des réformes qui doivent se faire au niveau structurel euh si vous voulez il faut aborder le problème qu'est aujourd'hui l'intelligence artificielle du point de vue social du point de vue économique du point de vue humain pourquoi pas des deux côtés du côté macro et du côté micro au Macron effectivement il y a des réformes Importantes à faire et et on y travaille

mais au niveau micro effectivement il y a des alternatives il y a des alternatives qui sont moins demandeuses en terme de de de donné par exemple et donc par conséquent euh qui sont moins demandeuses en terme de travail as Natur il y a aussi il y a aussi il y a aussi des questions qui ont à faire avec certains réflexes qu'on a dans le nord du monde en particulier et si vous voulez le problème principal que j'ai C'est avec la gratuité la logique la gratuité la double gratuité c'estàd d'une part qu'on s'imagine que parce que

c'est gratuit parce que nous ne payons pas c'est gratuit que alon laissez-moi reformuler on s'imagine que parce que nous euh ne payons pas ce le prix est zéro non le coût et le prix n'est pas zéro et la deuxième chose c'est là parce que je parlais du double gratuité euh c'est le fait que on considère que tout un effort toute une quantité énorme de Contribution qu'on donne à ces systèmes lorsqu'on les utilise par le fait même de les utiliser euh ne mérite pas elle-même une forme de rémunération et là on rentre dans un débat beaucoup

plus vaste qui par ailleurs pourrit ma vie depuis au moins 15 ans je pense qui a la question de ce qu'on appelle le digital labor ou le travail gratuit et qui consiste grosso modo à dire bah moi chaque fois que j'utilise chat GPT ou ok oui j'en obtiens un avantage en cas de Compétitivité si je suis une entreprise même temps je suis pratiquement obligé à réapprendre à cette Satan machine à se comporter selon mes attentes d'ù par exemple le fait que dans l'interface même de chatity on a mis un B P C pour indiquer que

voilà il faut donner ce qu'on appelle du renforcement du reinforcement learning des travailleurs du clic au quotidien quand les on un peu tous des travailleurs du clic on peut penser au Capcha aussi ou quand tu veux accéder à un site Web on te demande de reconnaître où sont les passages piéton sur des photos qui deviennent de plus en plus flou au fur à mesure que les intellig la PR mie tout ça pour prouver un robot qu'on est nousmême un robot un truc un un truc de malade on peut appeler ça clairement par son nom c'est

du gros foutage de gueule merci messieur ça rappelle une phrase de Louis de DIB qui nous disait coucou Louis d'ailleurs Si c'est gratuit c'est que quelqu'un en paye le prix finalement Antonio un grand grand merci cette petite heure est passée beaucoup trop vite on a encore une tonne de questions moi je te propose de revenir peut-être dans 15 ans puisque ça fait déjà 15 ans que tu as du recul sur ces questions là on refait le point dans 15 ans j'aurais encore plus de cheveux gris antio de toute façon a déjà c'est la couleur il

a mis une espèce de petite pierre blanche dans l'émission Pour ceux qui nous écouteront en 2030 2040 2045 quand musk et s ses copains sont partis sur Mars effectivement pe pas sûr qu'il y arriv le scénario pour moi est qu' un certain moment lors d'un d'un des d'un d'un discours public il enlève son masque comme dans oui c'est ça effectivement c'est un lézard en fait mais oui alors là on tombe et là on tombe dans le complottisme à fond oh non si pe moi je vous propose qu'on reste sur cette belle Perspective un grand grand

merci Antonio pour cette heure passe avec nous et tous les enseignements que tu as partager c'était hyper intéressant merci beaucoup et pour vous qui nous écoutez restez bien avec nous c'est l'heure du débrief TR tech esprit critique pour tech éthique et ben on avait promis un épisode qui allait secouer j'ai pas été déçu pas été déçu ah si peut-être juste sur un point c'estàd que les elles étaient quand même un tout petit peu Moins en dessous de la terre que à SIAL ouvert tu as vu la métaphore finalement il fallait rester quand même le point

assez incroyable j'avais lu effectivement que c'était des dizaines des centaines de milliers de personnes il peut-être même des millions de personnes qui sont des clic workers qui nourrissent la bête mais dont le métier c'est de nourrir la bête c'està-dire pas comme nous qui juste fournissons des données sans vraiment le savoir et sans Vraiment le vouloir là c'est autre chose il donent de leur travail pour nourir quoi c'est leur boulot très très mal payé on le savait on l' déjà dit je me souviens notamment d'un d'un patchtech de Fabienne Billa qui avait fait son son thème

sur les click workers moi ce que j'ai retenu notamment c'est c'est vrai qu'on sait que ces click workers ils vont labellliser les fichiers les données pour pouvoir dire ça c'est ceci ça c'est cela et cetera et cetera et Dans le principe de la modération ce dont on sait aussi c'est qu'ils sont exposés à des horreurs on l'a rappelé deux fois dans dans cet épisode j'ai bien aimé la phrase de d'Antonio qui dit oui on a besoin de ces gens-là pour apprendre est-ce qu'onous oublie peut-être un petit peu ce que l'on ne sait pas c'est aussi

pour désapprendre à liya pour éviter qu'elle nous insulte pour éviter qu'elle nous donne la recette de la bombe agricole pour éviter Qu'elle nous montre des horreurs d'ailleurs il y avait une expérience de Microsoft je crois que en 2016 avec un chatb qui s'appelait t qu'il avaient mis sur Twitter et qui était autoapprenant donc sans aucune modération il apprenait uniquement du dialogue des POS et qui était devenu complètement raciste et en je crois qu' ils avaient dû le couper au bout de 2 heures parce que ça du grand nimporte quoi e une fois de plus ça

vient Accréditer le fait que ça n'est que le reflet de ce que l'on fait ce que l'on est ce que l'on dit et sur C clic workers il rappelit donc des conditions de travail effectivement abominable psychologiquement ça conduit à une forme d'isolement psychologique qui est très dangereuse et puis un un chiffre qui fait mal 1,50 1 dollar 50 de l'heure ou alors que open annonce annonce c'està dire que déjà open assume un chiffre qui est juste hyper bas ça il L'assume et en plus c'est encore plus bas que ça c'est incroyable quand tu as finalement

de de ces entreprise communication enfin le plus grave c'est leur salaire ou les séquelles psychologiques qu's endurent ah salut Greg tu étais là règlementeur était parmi nous c'est c'est une excellente question et justement moi ce qui m'a marqué dans cet épisode c'est que j'ai j'ai pris conscience d'un truc qui paraît pourtant Évident ce cycle de production de l'a et de l'information qui nous est donné un peu comme le cycle de vie je le rappelle d'un produit technique dont on avait parlé notamment avec laadem qui qui qui calcule l'emprte colog au regard du cycle de vie

bah ce cycle de production il a des impacts sociaux euh sur les salaires on vient d'en parler et sur l'impact psychologique qui est extrêmement fort avec des gens qui sont en Souffrance psychologique et et nous bah finalement quand on utilise ces outils c'est très très loin de notre esprit et peut-être d'y penser de temps en temps he la prochaine fois qu'on va Prompter se dire qu'il y a des gens qui ont été derrière pour entraîner et et que ça ça pollue également ça on le dit à ouais complèement mais en même temps il disait il

faut AV arrêé avec cette responsabilisation des individus j'ai beaucoup aimé sa sa phrase il a dit C'est un piège oui moi je suis persuadé qu'il faille le faire en conscience effectivement et que quand on utilise de l' c'est en conscience je crois que c'est toi qui a fait le parallèle avec l'industrie textile c'est exactement pareil moi à chaque fois que j'achète la moindre fringue et je fais tout maintenant pour en acheter d'occasion d'ailleurs à chaque achat de la moindre fringue je m'imagine que ça peut être des enfants qui ont travaill avec ou Dans des conditions

terribles on a tous vu les images des usines qui ont brûlé au Bangladesh donc tu fais quoi des choses comme ça tu tu l'as tuachètes quand même la fringue ou tu vas vers des marques que tu sais plus responsa exactement je fais de mon mieux pour acheter soit d'occasion soit aller vers des marques plus responsables j'espère que ça va aussi ressortir sur sur ce c'est notamment les les logiciels open source pour certains de nos usages Pas tous je connais pas encore lia d'occase que on peut trouver sur vinted mais faut faut voir on va peut-être

y penser bon en tout cas il donne aussi des solutions il dit les solutions finalement sont à la fois de responsabilisation des entreprises ces entreprises là le feront pas de se responsabiliser toutes seu donc il faut agir avec la lo responsabilité des politiques et là-dessus il a quand Mme mis un énorme taquet à la France hein je Je cite qui aurait saboté les bonnes volontés longuement tricoté par l'Europe donc là la France en a pris pour son grade il y a un énorme débat je trouve là-dessus dans la communauté tech entre l'envie de rattraper le

retard d'un point de vue technologique et de la compétitivité nationale et et européenne c'est tout l'jeu et de trouver la bonne voie pour le faire sans trahir les valeurs européennes mais c'est c'est tout l'enjeu c'est-à-dire que évidemment On a envie d'être compétitif d'abord parce qu'on est dans un système où économiquement bah il faut quand même trouver sinon prendre sa place et d'un autre côté cette compétitivité on peut pas systématiquement se retrancher derrière pour laver tous nos soupçons de mal faire et faire comme les États-Unis ou comme nous le rappelit Antonio ne pas laisser la place

au chinois et ben ce n'est pas une raison suffisante pour ne pas prendre en considération Tous les problèmes qu'on a évoqué dans cet épisode qu'on disait là la troisième voix mais pour l'instant oui parce pas facile à trouver on dit ça mais j'ai pas forcément la trème voix non plus c'est moi c'est ça c'est toi la trè oui pas mal le monteur la trèis crench et voilà plus ou moins 60 minutes viennent de s'écouler et normalement votre regard sur cette phase sombre de l'intelligence artificielle et maintenant plus tout à fait la même Qu'au début de

l'épisode on espère que ça vous a plu et si c'est effectivement le cas TR trenchtech est 100 % bénévole 100 % indépendant on a besoin de vous pour nous soutenir laissez-nous un avis sur Apple podcast mais 5 étoiles sur Spotify levez un pouce sur Youtube ou un commentaire parlez-en autour de vous mais aidez-nous à propager l'esprit critique pour une tech éthique car comme le dit Antoine de saint-exupéri dans pilote de guerre la grandeur de ma Civilisation c'est que sans M doiv de risquer leur vie pour le sauvetage d'un seul mineur en sauvel il sauve l'homme

[Musique] [Applaudissements] [Musique]