Les limites technologiques et humaines de l'intelligence artificielle [Jacques Printz]

[Musique] [Applaudissements] va-t-on être gouverné par les algorithmes peut-on s'en remettre aux algorithmes pour prendre des décisions on en parle avec notre invité qui a rédigé un chapitre du livre de l'institut de l'économie et lucide et l'intelligence artificielle et chaque prise bonjour bonjour alors d'abord est-ce qu'on peut s'en remettre aux algorithmes est ce qu'ils peuvent être responsables pour nous alors disons c'est ça où il faut regarder les choses avec beaucoup de nuances donc si vous êtes d'accord là je peux résumer très brièvement en quatre points ce que j'ai racontée dans l'article du livre dont on vient

de parler en fait j'ai écrit deux articles dans ce livre donc si on veut comprendre la gouvernance des algorithmes la première chose à faire c'est de comprendre quels sont les acteurs donc les programmeurs les gens qui donnent des ordres aux programmeurs les usagers on est tous des usages et des algorithmes quand je déclare mes impôts je suis un nuit un usager des algorithmes du ministre des finances donc il ya aucun doute là dessus aujourd'hui tout le monde est l'usagé de l'informatique le deuxième point sur lequel il faut insister c'est les problèmes d'ingénierie donc les programmes

c'est des choses qui n'existaient pas avant guerre par exemple les premiers programmes apparaissent dans les années 50 et c'est les programmes qui sont faits pour calculer les bombes atomiques à los alamos et premier programme donc ça c'est les problèmes d'ingénierie donc depuis on a beaucoup travaillé sur comment fabriquer ces fameux programme ensuite il faut regarder quelles sont les contraintes des programmeurs quelles sont les contraintes des programmes qu'on peut pas tout faire avec l'informatique depuis le début c'est connu et c'est encore vrai aujourd'hui il ya des tas de problèmes qu'on sera jamais résoudre par l'informatique et

les ordinateurs et le dernier point sur lequel on peut discuter si vous êtes d'accord c'est ce que j'ai appelé moi dans différents écrits les défis des programmeurs dire qu'aujourd'hui les gens qui fabriquent des machines les ordinateurs sont capables de nous fabriquer des circuits dans lequel il ya plusieurs milliards de transistors on est capable de faire des circuits dans lequel on est capable de mettre plusieurs processeurs donc le moindre smartphone un plan intelligent il a des machines qu'on appelle multi coeurs avec 8 ou 16 coeurs et ça c'est ce qu'on appelle le parallélisme donc aujourd'hui on

sait pas vraiment bien voire pas du tout faire de la programmation parallèle or l'évolution de la technologie c'est beaucoup beaucoup de parallélisme donc on voit que là on efface un petit problème qui va falloir regarder de très près donc déjà ont effectivement on s'en remet aux algorithmes et vous dites on arrive aux limites physiques de l'augmentation de capacité de calcul ou à lumière limites oui alors il ya des ya des limites aux capacités de calcul donc tout le monde aujourd'hui a entendu parler de la loi de moore donc ces lois qui qui explique un petit

peu les mécanismes de gravure au sein du circuit donc les les circuits de silicium avec lequel sont faits les le coeur des smartphones a cédé monocristaux de silicium un transistor c'est quelque chose qui fait entre 8 et 10 millions d'atomes de silicium donc si je réduis la taille donc à un moment il n'ya plus assez d'atomes pour faire un transistor quoi parce que je peux pas faire un atome de silicium cela fera jamais un transistor donc on a un des doutes là sur le nombre de transistors qu'on pourra qu'on pourra utiliser mais oh ça sera

probablement pas en dessous du million faut un million d'atomes de silicium pour en faire attendre là on arrive à la fin d'un cycle d'augmentation de la capacité il faudrait faire des choses un peu plus compliqué en parallèle et là il ya des limites humaines va falloir aussi il ya absolument des limites humaines donc alors par exemple je vous en cite est une trés simple là on discute tout à l'heure on prêt en préparant l'interview là on regardait la taille d'un robot américain mais qui s'appelle causse moules dont on a parlé dans la dans l'est dans

les journaux un robot ludique alors c'est un robot dans lequel les concepteurs nous disent qu'ils aient un million six cent mille lignes de code donc faut savoir qu'un programme de cette taille là ça se fabrique avec une équipe de plus de 100 programmeurs qui vont travailler pendant trois quatre ans donne une idée quoi en gros on a des des observations statistiques sur le ce que ça coûte en gros une ligne de code ça coûte une à deux heures de travail selon la qualité du code donc en france on travaille 1735 heures par an dont vous

faites la différence caution puis voie du titre comprendre les choses et par ailleurs les programmeurs hisser des hommes ou des femmes et on sait qu'on se trompe donc les taux d'erreur avec lequel on fonctionne comme il est mince et des choses qu'on connaît parfaitement bien depuis en fait la dernière guerre avec les radars avec tous ces trucs là on a des statistiques très précises et on sait qu'un opérateur quel qu'il soit quand il travaille quand il prend des décisions il fait 5 à 10 erreurs à l'heure alors donc pour faire des programmes comme ceux du

robot cosmobot faut beaucoup beaucoup d'heures donc qu'il va faire beaucoup d'erreurs et alors les pauvres gamins sont des gens en général très rigoureux il trouve tout de suite leurs erreurs souvent mais il y en a tellement que un moment il finit par rester il ya un reliquat d'erreur toujours même dans les programmes de la nasa on connaît tout ça très bien et donc le problème c'est qu'est-ce que je fais de ce reliquat d'erreurs comme enjeu le compense voilà donc on voit qu'on arrive à la quand même un certain nombre de limites et puis il ya

des limites qui sont déjà aussi apparente ses limites de la conception dans la conception c'est aussi des êtres humains qui convient ils ont leurs a priori ou leurs limites aux mêmes et ils font des choix ces choix sont pas forcément clair pour les utilisateurs vous parlez des problèmes d'éthique que ça poserait alors en général les choix leur sont pas du tout clair pour les utilisateurs parce que là ça rentre on en n'est pas une technique donc là faut connaître la technique moi je peux je peux vous donner un exemple personnel j'ai eu la chance dans

ma vie professionnelle de diriger une équipe d'opéra thing système donc les programmes souverain dont nous parlait un nos anciens ministres de l'industrie arnaud montebourg est donc ce sont des cibles et ce sont des programmes et on peut faire nos platines système il faut une équipe de base de 40 à 50 personnes de concepteurs qu'il faut faire travailler ensemble c'est déjà pas évident mais l'équipe complète de programmeurs ça sera plus de 1000 programmeurs pendant de nombreuses années donc vous pas la peine de rentrer dans les détails mais on peut tout de suite comprendre qu'il va y

avoir des pointes de communication extrême et si les gens se comprennent pas sa phrase que j'appelle moi du babel généralisée et on pourra pas construire les programmes au delà d'une certaine taille donc en conclusion finalement vous nous invitez à penser que l'être humain est centrale dans ces technologies qu'on peut pas les considérer comme magique vous le développer aussi dans survivront nous à la technologie un livre qui vient de paraître merci pour votre éclairage chaque prins très bien merci beaucoup merci à vous [Applaudissements]