Intelligence artificielle politiques publiques:les conditions d'un déploiement éthique,utile,durable

Bonjour à toutes et tous merci d'être venu participer à cette table ronde je suis Joelle gombin co-fondateur et dirigeant de la tactiviste et vice-président de l'Observatoire Data Publica et je le plaisir d'animer cette table ronde durant laquelle nous allons essayer de réfléchir ensemble aux conditions de déploiement de l'intelligence artificielle dans le cadre des services Publics locaux j'ai la chance et l'honneur d'être accompagné pour cela par Sandrine Mathon de Toulouse Métropole vous pourrez vous présenter un petit peu plus longuement par la suite car le Murch de Paris à Bruxelles nous expliquera ce que c'est pour ceux

qui n'auraient pas la chance de connaître et Christelle Gibbon de six vidéos qui parlera avec sa casquette activitéo mais pourra aussi tirer parti de ces expériences précédentes notamment à Arènes métropole je profite de cette présentation pour excuser le député Philippe latombe qui était prévu pour cette table ronde et qui a été qui a été empêché par d'autres obligations à Paris alors le l'objectif que nous nous fixons pour cette table ronde c'est dans un moment où l'intelligence artificielle occupe énormément les discours de Beaucoup de gens mais en particulier les discours des acteurs du monde territorial du

monde public plus largement l'objectif c'est d'essayer de permettre à tout un chacun et en particulier au à mes à mes camarades autour de cette table enfin à côté de moi c'est pas vraiment une table ronde de partager des retours d'expérience de partager leur vécu sur la manière dont l'intelligence artificielle quel que Soit ce qu'on met derrière ce terme et on va y revenir peu contribuer au service public et plus précisément je voudrais qu'on puisse tous ressortir de sa table ronde en ayant une première idée des questions qu'il faut se poser qu'on va être amené à

se poser lorsqu'on est dans un dans une perspective dans un processus de déploiement d'un système d'intelligence artificielle dans le cadre d'une politique publique locale donc on Prétend pas qu'on aura toutes les réponses mais au moins on va essayer d'identifier les questions les plus les plus importantes évidemment ce terme d'intelligence artificielle vous le voyez sans doute il est éminemment [Musique] complexe dans la définition qu'on peut en donner c'est un étiquette qui peut recouvrir beaucoup de choses différentes Qui n'a sans doute pas de définition extrêmement précises sur laquelle on pourrait toutes et tous se mettre d'accord donc

c'est sans doute une catégorie à déconstruire donc évidemment quand on va dire aujourd'hui intelligence artificielle c'est une facilité de langage et on en est bien conscient c'est sans doute un spectre de technologie qui peut aller depuis des choses qu'on connaît depuis plusieurs décennies si on parle de Régression linéaire si on parle de classification enfin de modèles logistique pour faire de la classification etc c'est des choses qui sont connues depuis très longtemps jusqu'à des choses extrêmement à la pointe du développement technologique le terme de tchadipiti a été prononcé tout à l'heure ça évidemment participer à donner

une visibilité auprès du d'un grand public sur ce que sont aujourd'hui les LLM les Lords language Motors qui sont une catégorie d'intelligence artificielle générative peut-être qu'on reviendra sur sur ce terme je pense néanmoins que une définition minimale ont un élément de définition minimale qu'on peut se donner pour ce qu'on va faire ce matin c'est de se dire que ce qu'on appelle souvent intelligence artificielle recouvre d'un point de vue technique ce qu'on Enfin une discipline un champ une technologie qui s'appelle le machine learning donc le l'apprentissage machine en bon français et sans rentrer dans le détail

technique ce qui caractérise de mon point de vue le machine learning c'est que finalement on crée des systèmes des systèmes informatiques dans lesquels les données qu'on va avec lesquels on va alimenter système d'information compte davantage que le code pour le dire autrement quand On fait du développement logiciel traditionnellement on écrit des règles si ceci alors cela etc et finalement le résultat et la combinaison de l'ensemble de ses règles tandis que dans le machine learning on écrit pas de règle ou très peu de règles on dit voilà plein de données et c'est de répliquer quelque chose

qui ressemble au signal que tu peux trouver dans ces dans ces données et donc ça ça a beaucoup d'implication du point de vue qui va nous occuper ce Matin parce que on n'a pas une maîtrise aussi fine quelque part que quand on dit je définis une règle d'une manière bien précise et en particulier si on dit dans le machine learning les données compte plus que le code assez vite la question va se poser de savoir quelle est la manière dont je vous propose de mener notre discussion ce matin et la suivante j'ai à ma droite

Sandrine Mathon qui travaille à Toulouse Métropole Qui a déployé plusieurs cas d'usage de système d'intelligence artificielle tu nous diras jusqu'à jusqu'à quel point et je vous propose qu'on en prenne ensemble 2 on va essayer de prendre le temps dans d'un étudier deux et ensuite on va tous ensemble les les décortiquer finalement du depuis la Genèse jusqu'à la fin de vie de ces de ces expériences si lorsqu'elle est enfin en tout cas si elle est déjà arrivée et regardez à Chaque étape en fait quelles sont les questions que vous vous êtes posées quelles sont les questions

qu'on pourrait se poser ou qu'il faut se poser et quels sont les types de réponses qu'on peut y apporter et donc on va essayer de mettre en regard votre vos expériences toulousaines avec des éclairages bruxellois mais au-delà européen et international ce que tu nous raconteras Karl mais tu as une expérience Internationale sur ces sur ces sujets et avec le regard aussi à la fois de la praticienne à Rennes mais surtout aujourd'hui de la spécialiste de l'accompagnement de ces de ces sujets et donc voir comment on peut des experts peuvent accompagner aujourd'hui les collectivités lorsqu'elles se

posent ce type de questions donc Sandrine je te propose d'abord de te présenter rapidement et puis surtout de nous présenter peut-être le premier cas D'usage sur laquelle on va pouvoir échanger bonjour moi je vais me présenter très vite donc Sandrine maton je travaille à la direction du numérique de Toulouse Métropole donc pour faire simple à direction du numérique c'est la DSI donc comme ça les choses sont posées c'est question juste de nom le fameux retour des DSI le retour donc moi je suis juriste de formation et Je suis tomber dans la data petite en sortant

de l'université puisque j'ai commencé ma carrière à la CNIL donc j'ai commencé sur les données à caractère personnel et puis ensuite bon la vie a fait que je suis parti à Toulouse et donc ce qui s'appelait à l'époque là et ici qui est devenu entre-temps la direction du numérique et puis j'ai commencé à travailler sur l'Open Data il y a 11 ans maintenant et ensuite on est parti sur le Big Data donc on parlait Pas encore bien le Big Data donc on a une plateforme Big Data et puis sur laquelle dans certains cas d'usage on

pose des algorithmes d'intelligence artificielle donc dans certains cas d'usage dont on ne parlera pas en fait on fait du super décisionnel donc là doit représentation de données des camemberts des graphiques des trucs magnifiques des hitmap voilà donc ça ça sert bien au service mais c'est pas le sujet du jour Et puis on va parler d'abord du premier cas d'usage donc sur les îlots de chaleur urbain le monitoring des îlots de chaleur urbain on a commencé à travailler sur ce sujet là il y a longtemps en 2018 tout simplement parce que la Direction de l'Environnement donc

le métier est le besoin est sorti du métier alors c'est un secret de polichinelle si on n'a pas un métier avec nous bon on fait rien parce que en fait c'est pas la DSi ou le Numérique qui va faire pour les autres on peut pas être intelligent à leur place parce qu'il y a toujours quand même une question de confiance et de travailler main dans la main avec le métier donc la Direction de l'Environnement avait besoin de faire ce monitoring des îlots de chaleur urbain parce que bon c'est pas un secret pour personne à Toulouse

c'est un petit peu plus au sud qu'ici il fait un petit peu plus chaud d'ailleurs ce matin à 13 Degrés je me suis dit mais j'avais pas eu 13 degrés de température depuis le mois d'avril donc ça m'a fait un petit choc thermique donc voilà et bien ils ont commencé par poser des stations donc un stagiaire d'été qui a mis des stations météo dans la dans la métropole relié en Haïti et après il était bien embêté et c'est qu'est-ce que je fais des données alors déjà un comment je récupère les données qu'est-ce que j'en fais

et comment on avance On a fait ce qu'on a pu donc on a récupéré les données on a la chance d'avoir une portail Open Data kepté en capacité d'accueillir ces données issues donc des eyoutines donc on a commencé par stocker les données à les exposer déjà première étape et ensuite donc on a eu un autre stagiaire et celui-là il était mieux qu'un stagiaire c'était un doctorant donc moitié Météo France moitié métropole et donc là on a quand même commencé à travailler un peu plus Sérieusement sur l'élaboration de ces cartes d'îlot de chaleur urbain et donc

avec ce doctorant donc ce qui a été fait et bien donc sur la métropole c'est 465 km². donc c'est assez grand 37 communes 800 000 habitants avec une ville centre Toulouse qui fait 118 km², 500 000 habitants d'enquête une très forte densité en brique et puis des villages autour des plus petites villes des villages et donc avec des zones de champ des champs de tournesol des forêts donc Voilà donc avec quelque part une climatologie très différente selon qu'on est place du Capitole ou c'est un four ou et bien à mon Douzi ou là c'est beaucoup

plus verdoyant et la campagne et donc la cinquantaine de stations qui a été mise en place et bien le sujet ça a été de d'arriver à reprenant les données de ses 50 stations des données qu'on a en temps réel alors le temps réel pour la météo c'est tous les quarts d'heure c'est déjà pas mal ça nous fait 96 messages par 24 heures d'arrivée à reconstituer sur les 465 km² de la métropole et bien par pixel de 200 mètres de côté les différences de température donc quand il fait ce que je disais en aparté à Karl

tout à l'heure c'est que l'été à 18h c'est à peu près le moment où il fait le plus chaud il y a trois degrés d'écart entre l'hyper centre et puis la campagne en revanche la nuit à 5h du matin là on passe pas les mêmes nuits parce qu'il fait il y a Jusqu'à 5 6 des fois 10 degrés d'écart entre l'hyper centre et les campagnes environnantes donc voilà et c'est ce genre de choses qu'on qu'on a mis en place et donc depuis trois ans on a donc des cartes qu'on peut suivre en temps réel et

qu'on peut rejouer on peut choisir une date précise on peut rejouer la carte alors à quoi ça sert quand même au bout du bout c'est à quoi ça sert ça a servi cet été pour le projet Toulouse plus fraîche donc la mise en place de d'arbres donc dans des pots sur le place du Capitole la mise en place d'ombrière dans des rues qui sont les rues d'hyper centre qui sont hyper chaudes voilà ce genre de choses pour essayer de rafraîchir Toulouse et d'avoir les confort d'été et voilà c'est ce ça sert à ça à ce

stade et peut-être est-ce que tu peux juste dire quelle est la brique d'intelligence artificielle là-dedans finalement bien c'est L'algorithme qui permet de recalculer les températures exactes même entre deux stations même quand elles sont distinctes on va donc en calculant selon l'urbanisme selon la trame verte et bleue selon qu'il y a des arbres pas des arbres selon qu'on est en hyper centre qu'on est en zone industrielle qu'on est en campagne qu'on est en forêt voilà ce genre de ce genre de choses finalement sur le modèle de la qualité de l'air par exemple on fait de l'interpolation

Modélisée pour avoir des données partout plutôt que juste là où il y a des capteurs ok merci alors peut-être je vais je vais commencer par interpeler Christelle finalement la question qu'on peut se poser que tu viens de poser d'ailleurs là-dessus c'est comment on décide que un recours à un système d'intelligence artificielle ou en marquant une brique d'intelligence artificielle comme ici et utile boire nécessaire dans un pour un Cas d'usage comme comme celui-ci bonjour à tous d'abord donc Christelle Gibon je suis directrice de mission chez civiteo avec une expérience précédente de 15 ans à Rennes Métropole

en tant que responsable de des projets innovants et si j'ai data notamment donc je vais je vais sans doute avoir aujourd'hui ce double regard à la fois de consultante qui accompagne les territoires dans le réflexion autour de l'utilisation d'intelligence artificielle pour les Politiques publiques et ce qu'on peut dire c'est qu'on est au début du chemin et puis donc cette expérience plus opérationnelle à Rennes Métropole alors en effet cette cette question de la genèse d'un projet et elle est elle est c'est l'étape je pense même peut-être la plus importante et il me semble que c'est le

moment de se poser quelques questions liées aux spécificités d'un projet d'intelligence artificielle et tout d'abord de préciser bien le Résultat attendu donc à quoi ça va servir je pense que c'est presque le c'est même le point de départ et dans ce résultat attendu de réfléchir aux performances attendues et notamment aux erreurs minimales acceptables puisque comme ça a été dit les systèmes d'intelligence artificielle dont on parle aujourd'hui qui sont basés sur l'apprentissage machine leur principe c'est de réduire de minimiser l'erreur mais le résultat reste quand même une Probabilité dont l'exactitude et variable et donc il va

falloir se poser la question dans chaque cas d'usage de quels sont les conséquences de de cette erreur là et puis de la jauger au regard aussi de comment l'agent supervise ou pas super vie si on est dans la décision automatisée ou pas ou pas ou moins mais aussi s'il y a un lien direct avec l'utilisateur final ce qui est pas le cas ici donc vraiment évaluer dans chaque cas cette c'est c'est différente Problématiques bien d'autres questions aussi qui faut se poser en termes notamment d'acceptabilité sociale et je pense notamment aux agents qui vont être impactés

par l'utilisation de ces systèmes d'intelligence artificielle automatiser une tâche un peu fastidieuse pour libérer du temps pour d'autres tâches tâches plus épanouissantes ça peut être bénéfique ça allait peut-être beaucoup moins quand c'est une tâche plus intéressante et donc il va falloir Vraiment c'est un point important impliqué les différentes parties prenantes alors évidemment les décideurs doivent soutenir porter expliquer les projets c'est c'est les managers c'est important mais il va falloir aussi que les agents impliquent concernés soit directement impliqués et qu'on évalue vraiment les impacts plutôt de ces d'utilisation de ces systèmes d'intelligence artificielle voilà et puis

et puis évidemment il y a Des questions sur les ressources disponibles et ça a été évoqué dans la quinote les ressources disponibles pour un démonstrateur pour un pilote mais aussi pour faire vivre sur le long terme le système d'intelligence artificielle ça veut dire des moyens humains des compétences ça veut dire aussi des finances des finances et c'est vrai que d'ailleurs c'est souvent lié à la question d'externaliser d'internaliser on y reviendra peut-être tout à l'heure Et juste pour finir parce que c'est vraiment un point important il me semble c'est aussi de se poser toutes les questions

autour de des aspects juridiques des HP des aspects éthiques des aspects liés à la frugalité aussi et ça évidemment ces réflexions elles ont une raison particulière dans le cas des collectivités territoriales qui sont soumises aux principes d'égalité qui sont soumises à l'obligation de rendre compte et ça veut dire que dans les cas Des systèmes d'intelligence artificielle qui sont plus ou moins explicables plus ou moins transparents avec possiblement des erreurs en termes de biais de discrimination il va falloir très tôt poser ces sujets là en tenir compte dans la décision même de recourir ou pas à

ces solutions d'intelligence artificielle ou au type d'algorithmes plus ou moins adapté tu as brossé toutes les questions qu'on va qu'on va déplier peut-être Karl j'ai Envie de te demander tu as vous travaillez beaucoup avec le ferry sur les questions de d'éthique dans le domaine de l'intelligence artificielle et finalement là on discute de dans quel cas comment on va recourir à des systèmes d'intelligence artificielle j'ai envie de te demander dans quel cas on décide de ne pas recourir et de s'interdire même le recours à de l'intelligence artificielle Bonne question bon bonjour tout le monde merci à

l'équipe de Data Publica aussi de m'inviter je me présente en 30 secondes donc je suis Karl Mark je co dirige un institut de deux universités à Bruxelles une francophone une néerlandophone sinon ça serait pas marrant et on est en partenariat direct avec la région de Bruxelles qui est donc dans l'État fédéral à pas mal de compétences et on met ensemble 300 chercheurs de 10 groupes de recherche du Droit à l'éthique en passant par le machine learning la robotique science de données et on les met au service de la région de Bruxelles et d'acteurs locaux donc

on est financé par la Commission européenne par la région pour vraiment faire des projets avec une saveur locale qu'est-ce qu'on fait c'est souvent aussi pour l'identification on rencontre beaucoup d'administrations qui viennent et on leur demande identifier en votre sein auprès des gens Métiers ou autres des cas d'usage et revenez vers nous mais venez avec une liste au moins de 10 on s'est rendu compte que si on faisait interagir des chercheurs directement avec agent d'administration il manquait un peu une transition et c'était pas très fluide voire même il y avait beaucoup de réserves des deux côtés

un peu de condescendance parfois du côté des chercheurs un petit peu aussi de doute et de mes Papas de mes primes et de méfiance aussi de est-ce que ça va vraiment nous apporter quelque chose et les premières questions qu'on essaie d'évaluer ensemble c'est à travers souvent des formats un peu de workshop on a recruté une designer pour essayer de modérer un peu la discussion ce que ça nous permet un peu c'est d'avoir une première étape d'identification et de sélection des cas d'usage on va dire lesquels ont le plus de chance aussi d'être faisable lesquels Ont

le plus grand degré de maturité aussi en termes d'accès des données et souvent cette première question de la maturité est celle qui va immédiatement nous aider à choisir d'un côté des pour les administrations à ce que ses administrations sont prêtes on les donner en place ont aussi des personnes ressources en interne et ça c'est vraiment un aspect clé comme on n'est pas dans un cas de consultance classique on dit vraiment il nous faut une Personne chez vous qui soit capable et disponible pour travailler avec nous de façon continue s'il y a pas ça on préfère

dans ce cas mettre de côté mais ensuite sur les aspects éthiques on met généralement dans ces workshop aussi des personnes qui sont en droit ou en éthique avec des gens métiers et des gens techniques et on essaie d'évaluer dans une deuxième étape quels sont aussi les risques possibles dans ce cas là évidemment s'il y a des Drapeaux rouge c'est bien qu'on les aie dans la phase un peu d'idéation et enfin pour répondre à ta question aussi sur le dernier aspect au niveau fédéral en Belgique on fait partie d'un groupe éthique et droit pour le gouvernement

fédéral et on est en train d'essayer d'écrire une stratégie pas une stratégie pardon une charte d'utilisation éthique de l'IA pour toutes les administrations publiques et un des principes sur lequel j'ai beaucoup insisté parce que j'ai Travaillé pour l'État français j'ai travaillé avec des administrations aussi au Québec c'était celui de est-ce que ce qui aurait dû être fait avant a été fait ou pas et ce qu'on veut éviter c'est lia baguette magique où on arrive avec un projet un peu tronc blond même des moyens mais si il y a pas les choses essentielles qui devraient être

faites du point de vue politique publique dans ce cas pour nous c'est vraiment pas une Bonne stratégie ni pour personne en fait et le projet va juste peut-être rester comme disait Jacques au stade de prototype et on n'est pas sûr que des prototypes pour faire des prototypes soit toujours nécessaire et utile donc voilà ça c'est un autre aspect qui rentre en jeu merci alors je voudrais revenir maintenant sur un aspect qui a été évoqué rapidement par qui cell qui est de savoir bon finalement ok on a identifié notre cas D'usage on sait pourquoi on voit

le faire etc se pose la question ok comment je le fais ce que je le fais in house avec mes propres ressources ou ce que je recouvre un prestataire vous vous avez choisi de le faire avec vos propres ressources j'ai entendu le mot stagiaire quand même deux trois fois donc des ressources temporaires dirons-nous temporaire mais qui se renouvelle que voilà quel a été le raisonnement Derrière et puis ensuite on on fera tourner la parole là-dessus le raisonnement qu'on a tenu pour donc qu'on a monté cette plateforme qui était au départ que de la plateforme big

data on est venu après à mettre des algorithmes d'IA dans certains cas d'usage ultérieurement bon on a fait un benchmark un peu je dirais une naimmo classique donc un medjmar Commence à se passe ailleurs combien ça coûte ailleurs aussi on s'est rendu compte que entre nos capacités budgétaires et nos ambitions il y avait un gap qui était quand même juste important et on s'est on a fait donc effectivement du benchmark a vraiment l'extérieur puisqu'on allait voir ce qui se passait à Chicago et à Tel-Aviv donc c'est vraiment des situations très différentes Et ce qui nous

a beaucoup plu c'est que finalement aussi en comparant avec ce que faisait Dijon puisque c'était au moment où Dijon faisait beaucoup de communication sur son sur son projet c'est qu'on avait en gros déjà tout à la maison parce que ça c'est assez traditionnel à Toulouse on a très peu de d'externalisation on a peu d'sp je veux dire enfin par exemple les déchets bah c'est fait par des Reaper qui sont vraiment agent de la collectivité donc Voilà donc on a vraiment beaucoup de choses qui sont faites en interne toute la partie éclairage public c'était fait enfin

et en gros il nous manquait plus que la plateforme de données pour récupérer tout le toutes les données qui étaient issues dans de toute la stratégie Smart City du moment et donc le choix qui a été fait c'est vraiment un choix de souveraineté et puis un choix budgétaire pas se le cacher donc Bien l'été décidé et acté de faire une expérimentation sur trois ans pour se dire voilà pendant trois ans on va monter une plateforme tout en open source avec des ressources internes donc il ne manquait 5 compétences qu'on a réussi à recruter et au

bout des trois ans et bien on verra ce qu'on fait soit on arrête parce que ça apporte rien soit ça apporte mais c'est trop compliqué et en externalise je reviens Là aussi de façon classique enfin un marché etc mais au moins on aura acquis de la compétence et on saura voir ce que nous raconte le prestataire ou ça marche et ça plaît et on continue comme ça ça marche ça plaît et on a continué comme ça ça a été décidé effectivement on utilise pas mal de stagiaires on n'utilise pas mal d'alternants puisqu'on a aussi comme

un devoir de d'accompagner la formation des jeunes on a beaucoup d'écoles d'ingénieurs sur Toulouse donc Tout notre data scientist ce sont des alternants donc c'est bien c'est un inconvénient c'est que en général entre septembre et décembre et bien il faut qu'il se réinculté à ce qu'on a déjà fait mais n'empêche bon ça marche comme ça on espère toujours pouvoir avoir des postes de datation de pistes spécifiques et voilà donc c'est ce choix là qu'on a fait je crois que pour l'instant en France on est les seuls à avoir fait ce choix de le faire in

house C'est l'avantage c'est que c'est hyper souple donc on fonctionne en mode agile en méthode SCRUM donc quand il y a des nouveautés des choses à modifier avec le métier et bien une deux trois quatre Elisa près c'est fait quoi voilà sans qu'on ait besoin je vais être un peu cash on sent qu'on ait besoin de faire un chèque de 30000 pour que ça commence à réfléchir puis 50 000 pour que ça commence à produire du code et puis j'en passe à des meilleurs je note les tarifs Pour mes prochains devis Christelle justement le regard

de la consultant là-dessus qu'est-ce que tu vois chez dans les collectivités que vous accompagnez quels sont les choix qui sont opérés là-dessus alors ce qui est sûr c'est que en effet le la solution d'internaliser c'est c'est cette conception elle présente des intérêts d'abord de garder la maîtrise sur les données sur l'ensemble des spécifications de la méthodologie des Questions de transparence voilà donc ça présente en effet d'évolativité aussi comme ça a été évoqué par Sandrine Mathon à l'instant donc c'est en général en effet le le l'approche la plus intéressante en même temps en pratique les grandes

collectivités en effet on s'est ressources pour développer en interne c'est pas tout le temps le cas dans des collectivités moins grandes et dans ce cas là souvent on recourt à l'externalisation et dans L'externalisation ce qui va être important je pense c'est vraiment de travailler sur les sur la commande publique sur les cahiers des charges intégrer des clauses qui vont permettre justement de de d'indiquer ces questions de propriété intellectuelle de maîtrise sur les données de réversibilité des questions de responsabilité aussi parce que ça c'est un point important qui est toujours lié à ces questions d'erreurs minimale

acceptable mais donc d'erreurs Quand même il faut que je pense très vite être clair sur les répartition des responsabilités concepteurs utilisateurs collectivités et prévoir d'ailleurs aussi la mise en jeu éventuellement de ses responsabilités pour des questions d'acceptabilité notamment et de confiance donc cette externalisation elle elle a aussi un avantage un intérêt c'est celle de favoriser le tissu économique Et l'écosystème d'intelligence artificielle le Conseil d'État dans son rapport notamment évoqué ce sujet là comme important aussi de penser à cet aspect développement économique et puis l'externalisation ça peut être du faire faire ce qui nécessite souvent quand

même des investissements importants et Jacques Priol dans sa quinote l'a évoqué je pense que pour cet aspect là ce qui va être intéressant c'est peut-être de Mutualiser de coopérer avec d'autres territoires et puis et puis et puis donc de faire selon ses spécifications bien sûr merci oui car tu voulais réagir oui non en fait l'idée de notre institut il est né du fait que on observait deux choses la première c'était que il y avait un manque avéré et exprimé par les administrations publiques en Belgique sur le fait que ou à Bruxelles encore plus que il

n'avait pas d'expertise et On les sommet encore plus dans la capitale de l'Union européenne de faire plein de projets donnés il y a mais il n'avaient pas du tout les ressources en interne et nous de notre côté ce qu'on voyait c'était que très peu de nos chercheurs travaillaient sur des cas très concrets dans leur propre ville et en fait ça semble un constat un peu stupide de se dire est-ce qu'il faudrait que les administrations publiques locales Travaillent avec les universités locales c'est pas non plus c'est un peu réinventer l'eau chaude mais pour autant ce qu'on

observait c'est qu'il y avait vraiment très peu de contacts et donc on voyait un besoin exprimé et nous de notre côté chercheur il y avait beaucoup de noms notamment du côté des juniors l'envie de faire des projets qu'il y avait un impact et un sens social mais en fait on s'était dit qu'il y avait ici une opportunité incroyable mais là où on S'arrête c'est aussi au stade de prototypage si on fait des projets techniques parce que on n'a pas les compétences et vous devriez pas laisser des chercheurs faire de la sécurité de la maintenance on

le fait très mal mais il y a évidemment des experts chez nous bien entendu mais c'est simplement que on n'a pas forcément les ressources nous on interne pour bien le faire donc ce qu'on fait c'est on travaille jusqu'au stade par exemple de prototypage même si C'est des projets par exemple juridiques et ensuite on leur dit de passer la main aussi à des acteurs locaux des entreprises locales parce que voilà on peut on pense que c'est un modèle assez vertueux en se disant que nous c'est là où on s'arrête on peut pas aller plus loin mais

à la fin de la journée on s'est rendu compte qu'il y avait d'autres compétences hautes que techniques qui étaient nécessaires qui n'existait pas par exemple ma collègue Léa qui est dans la salle s'occupe d'un panel citoyen spécialisé en IA et donner donc son travail et sa mission c'est vraiment de mobiliser des citoyens et avoir un panel un pool de citoyens qu'on peut mobiliser sur des projets qu'on fait avec des administrations publiques beaucoup d'administrations n'ont pas ces ressources ce temps ou cette énergie de pouvoir le faire et c'est aussi quelque chose qu'on veut apporter en complément

des expertises techniques Un modèle extrêmement intéressant effectivement dont je crois on n'a pas d'équivalent en France je voudrais qu'on parle du coeur du réacteur les données je le disais tout à l'heure finalement ce qui définit un système de machine learning c'est le fait que c'est les données qui comptent plus que la règle ou le code alors donnez il faut sans doute distinguer deux types de données parce que en général ces systèmes sont Des systèmes qu'on entraîne dans un premier temps et puis qu'ensuite qui qu'on met en production on dit qu'ils font de l'inférence et à

ces deux stades il faut des données il faut des données pour l'entraînement bien sûr et puis il faut des données plus ou moins au stade de l'inférence alors la question que j'ai envie de vous poser c'est quelle donnée ce qui faut mobiliser dans le cas d'usage que que tu as évoqué ou dans d'autres Dans quel quantité et dans quelle qualité on a beaucoup dit que finalement tous ces toutes la technologie n'était possible qu'à condition d'avoir beaucoup de données de bonne qualité propre etc donc quelle mesure est-ce que est-ce que c'est vrai et j'ai envie de

dire dans quelle mesure est-ce que c'est encore vrai avec le développement de plus en plus important puis quelques mois de modèles type intelligence artificielle générative Type LLM etc ou finalement c'est des modèles qui sont censés pouvoir fonctionner dans n'importe quel contexte même dans des contextes sur lesquels ils n'ont pas appris peut-être on va parler là du deuxième cas d'usage puisque c'est là on a un peu changé notre façon de procéder donc le deuxième cas d'usage c'est sur le la lutte contre le gaspillage alimentaire donc rapidement c'est un cadillage qui est multiforme donc il y a

un peu sur ce cas D'usage là en fait il y a cinq ou six souk des choses ultra basiques questionnaires auprès des enfants j'aime j'aime pas il y en a il y en a assez il y en a pas assez donc là on est dans les cantiques scolaires la cantine vraiment la cantine dans une métropole la compétence et lait maternelle les élémentaires primaire voilà on n'a pas de collégien donc voilà premier première chose c'est est-ce que les enfants aiment ce qu'on Leur fait ce qu'on leur propose l'analyse des menus l'analyse du poids des déchets selon

le menu avec des balances connectées donc le déchets sortie de production sortie d'assiette et c'est là où on revient sur la partie Ia sur la prédiction sur la présence des enfants jour par jour dans les écoles parce qu'il faut savoir que donc à Toulouse on a 216 écoles ça peut près 38 000 repas par jour il n'y a pas de badge des enfants le matin à l'école donc on Sait pas en temps réel automatiquement si ils sont là ou pas voilà donc il y a une inscription que les parents font à l'avance pour dire voilà

bah mon gamin il viendra manger tous les jours sauf le mercredi où il viendra pas manger tel jour enfin bref il y a une inscription néanmoins quand bien même il y a une inscription d'abord il y en a qui sont pas inscrits et puis il y en a qui sont absents parce qu'ils sont malades enfin bref la vie Et la façon dont on a travaillé donc sur la prédiction la présence des enfants dans les écoles on l'a fait en deux fois une première fois on avait besoin de mobiliser beaucoup de données on essaie d'avoir vraiment

une un historique long ce qui était compliqué parce qu'en plus on est de traverser les années covid donc avec des des présences qui étaient complètement aléatoires et puis on s'est rendu compte que l'algorithme dérivait petit à petit et Qu'il était de moins en moins précis et que finalement il prédisait des présences d'enfants largement supérieurs aux inscriptions donc ça allait pas donc on la refait l'algorithme et donc là maintenant on s'attache à travailler sur 90 jours ouvrés de données et avec ça on sait prédire donc la école par école beaucoup mieux que précédemment et selon que

le menu est avec viande ou sans viande on s'est prédire donc la présence des enfants Avec finalement beaucoup moins de données et ce qui est un plus efficace et puis de beaucoup plus vertueux puisque on a moins besoin de stocker toutes ces données merci alors Christelle peut-être dans ton expérience justement quel besoin de donner à ton ce que finalement avant de se lancer dans ce type de projet il faut avoir déjà fait un énorme travail de préparation et d'acquisition des données Alors en tout cas on voit notamment dans l'enquête de Data public à l'année dernière

que les collectivités qui ont commencé à développer des systèmes d'intelligence artificielle sont celles qui ont déjà travaillé sur la structuration de la donnée mais ceci dit je peux je reviens sur un expert une expérience passée à Rennes Métropole pour peut-être évoquer un point et un une spécificité De ces systèmes d'intelligence artificielle c'est le risque de biais sur les données notamment les données d'entraînement ce qui peut avoir des des impacts importants c'était un système de classification à partir de photographie aérienne pour identifier et cartographier finement la végétation et entre plusieurs millésimes de photographie évaluer la trajectoire

de végétalisation et donc vérifier si bien dans les objectifs fixés par la Collectivité et on s'est rendu compte pas forcément tout de suite d'ailleurs et c'est pour ça que c'est aussi très important de travailler à l'évaluation de ces billets possibles dès le départ on s'est rendu compte entre deux millésimes qu'on avait plus 17 % de végétation alors les collègues de la Direction des Espaces Verts étaient étaient ravis d'avoir d'attendre leur objectif en trois ans en réalité c'était pas du tout Réaliste et alors ça a été très compliqué de comprendre ce qui se passait et pourquoi

on avait ces résultats là non seulement parce que on n'avait pas forcément bien prévu d'avoir toute la méthodologie les données d'entraînement dans les dans la dans la prestation on n'avait pas non plus demander à avoir les résultats intermédiaires et ça c'est un point important aussi pour pouvoir comprendre d'avoir ces résultats intermédiaires L'algorithme il peut y en avoir plusieurs il peut il peut tourner plusieurs fois et voilà et donc on a fini par comprendre en négociant beaucoup que que on avait un problème dans les données d'entraînement et entre plusieurs millésimes le prestataire ne prenait pas les

mêmes secteurs pour faire des saisies de de la canopée arboré donc évidemment l'algorithme il reconnaissait plus ou moins bien en Fonction les la canopée voilà donc ça c'est un point qui me semble important on a travaillé et fait pas mal de projets appliqués avec des administrations assez différentes on a par exemple l'administration en charge de la protection des animaux avec l'agence pour l'emploi et on a travaillé aussi sur la campagne de vaccination pour prédire où est-ce qu'on devait distribuer les doses de vaccin en fonction des quartiers des taux de Vaccination mouvement de population etc et

le problème numéro un qui est revenu à chaque fois c'était évidemment l'accès aux données la qualité des données à quel point est-ce qu'elles étaient entretenues ont pour la campagne de vaccination en Belgique on a eu peut-être enfin à Bruxelles spécifiquement la surprise de voir des tableaux Bruxelles pour gérer les données de 1.5 millions de d'habitants donc il y avait d'autres Problèmes mais à la fin de la journée ce qui nous a surpris c'était aussi de voir que c'était l'accès aux personnes qui étaient derrière les données ou qui les gérait qui était hyper important et donc

accéder aux données s'assurer qu'elle soit de bonne facture bien organisée évidemment c'était la priorité numéro 1 et parfois on est obligé de mettre des côtés des projets de côté parce qu'on a pas ça mais c'était aussi quelque chose dont on parlait mais c'était avoir cette Personne ressource pour nous donner accès aux données nous expliquer ce qu'il y a aussi derrière et ce qu'on a décidé de faire c'était aussi au début de chaque projet qu'on avait on s'est rendu compte que comprendre ce que c'était lia les données pour les gens non techniques qui étaient impliqués dans

ces projets ou même la création de ces de ces données il fallait qu'on les forme donc ce qu'on ait décidé c'est de aussi de donner des formations gratuites À n'importe quel organisation locale ou publique à Bruxelles qui le souhaitent où on leur apprend à identifier voilà qu'est-ce que c'est lia les données mais aussi comment est-ce que je peux l'utiliser identifier des cas d'usage comment je fais ça à partir des données que moi j'ai et en fait leur apprendre pas uniquement au niveau super décisionnel au niveau purement technique qu'est-ce qu'il peut faire de ces données c'est

vraiment donné des Résultats vraiment chouettes pour nous on a d'un coup beaucoup plus de projets qui peuvent s'enchaîner derrière les gens ont l'impression de mieux comprendre ce qu'il peut faire merci alors j'aurais encore plein de questions mais on me dit dans l'oreillette que il faut il faut conclure si on veut avoir le temps de laisser un petit peu de questions dans la salle peut-être juste une dernière une dernière question Comment enfin quel impact ça pour les agents d'une part de la collectivité les usagers d'autre part ce que vous vous avez communiqué auprès d'eux ce que

qu'elle retourne vous avez eu on sait que ça peut être des sujets peut-être anxiogènes parfois ou au contraire extrêmement qui peuvent apporter beaucoup de valeur ajoutée que qu'est-ce que ça a donné pour vous alors auprès du grand public on n'a pas communiqué parce que nos cas d'usage S'adressent quand même au métier donc ça reste quand même très interne la communication s'est faite sur le plan Toulouse plus fraîche en revanche là voilà en expliquant ce qui a été fait pour essayer de rafraîchir la ville donc voilà donc ça c'est l'impact on va dire usager mais c'est

l'impact terrain sur la partie gaspillage alimentaire donc auprès des cantines là l'impact il est plus auprès des équipes Des dames cantines et puis des gens qui sont qui sont là vraiment au contact des enfants donc le syndrome que j'appelle le syndrome de chez Mamie il faut pas manquer donc c'est toujours faire attention à ce qui est assez à manger pour les enfants donc s'il y en a pas trop il y en a pas assez donc la façon qu'on essaie de faire aujourd'hui on a constaté sur l'année scolaire passée qu'on avait 9% de surproduction donc l'enjeu

maintenant c'est d'arriver à Diminuer de moitié cette surproduction donc on aura toujours la surproduction mais quand même moitié moins donc voilà et ce qui est prévu donc ça partir la rentrée scolaire de la Toussaint puisque là on aura atteint un certain délai nécessaire c'est de faire en sorte que pour une vingtaine d'écoles donc sur 216 sur une vingtaine d'écoles on suive aveuglément les prédictions de présence pour faire la livraison des repas alors on choisit judicieusement les écoles C'est celle qui sont rapidement accessible depuis la cuisine centrale pour faire le réassort si vraiment il y a

un gros souci mais l'impact il est très mental pour les agents parce que en gros ils disent ben moi je connais mon métier quand même ce qui est vrai ils sont imbattables néanmoins tout en étant imbattable il y a toujours là c'est le billet le billet faut pas manquer quoi donc il recommande un petit peu plus au cas où Il y a des enfants qui viennent qui seraient pas inscrits donc toujours le cas où donc voilà donc c'est ce biais là qu'il faut arriver à combattre de dire bon on va diminuer de moitié on va

essayer de diminuer de moitié la surproduction mais que mais voilà 10 millions là cette surproduction je permets de Tunis parce que je pensais un sujet important que Christelle a évoqué tout à l'heure c'est que effectivement quand on est sur des Modèles prédictifs on va avoir une notion de de qu'est-ce qu'on veut prédire et quelle marche d'erreur est acceptable et en fait cette marche d'erreur elle est souvent asymétrique c'est-à-dire là dans ce cas là si on prévoit un peu plus c'est pas très grave par contre si on prévoit moins on a un problème avec il y

a des enfants qui mangent pas ça c'est un sujet et en fait souvent on va être dans la prédiction de ressources on va être dans ce cas de Figure là et c'est effectivement important que les équipes de datationistes en fait qui travaillent comprennent ça et donc là c'est le dialogue entre le métier et les qui qui est long ça fait quand même un an qu'on travaille plus d'un an qu'on travaille là-dessus et c'est seulement elle a tout ça donc de cette année qu'on va sur une petite partie des écoles des 10% des écoles suivre le

suivre la recommandation et puis avec toujours la Capacité à faire leurrer à ça coûte cher un réassort mais de ça coûte cher en organisation mais de faire un réassort si vraiment il y a une grosse dérive Christelle vous fournissez la cellule d'assistance pied écologique pour les pour les avions c'est vraiment un sujet très très important cette question de l'acceptation par les agents de ces de ces nouveaux outils qui viennent automatiser une partie de leur de leur Tâche et je le disais si la tâche est fastidieuse c'est ça peut être acceptable si c'est une partie de

tâche intéressante c'est plus difficile et il va falloir faire associer dès le départ les agents pour pour déjà les associer au réflexions les faire monter en compétences on l'a pas dit mais je pense que ça va aussi important que tout le monde dans ces démarches là monte en compétence y compris les utilisateurs Pour bien utiliser bien interpréter et j'ai en tête un autre exemple où il s'agissait d'automatiser le pilotage des automates d'aération d'une station d'épuration pour optimiser le la consommation énergétique de ces stations d'épuration et cette tâche de piloter les automates c'est la partie intéressante

du métier d'exploitant de cette station de d'assainissement donc il a fallu travailler pour redonner une place et un Rôle à aux agents pour faire de la supervision de ces systèmes et puis aussi c'est un algo d'apprentissage par renforcement donc qui s'améliore avec le l'agent qui intervient pour évaluer les résultats et donc ça permet non seulement à l'agent d'avoir une place un rôle qui est aussi intéressant ça permet de garder des compétences parce que ça aussi c'est un risque des systèmes quand on est quand on délègue une partie des activités c'est de ne plus être en

Capacité de les de les maintenir dans de les avoir ces compétences et puis ça leur permet aussi si besoin et ça peut arriver de reprendre en main le dispositif voilà merci je vous propose qu'on laisse tout de suite la parole à la salle si jamais il y a des questions pour nos intervenants et intervenantes on a un micro baladeur là-bas une question de vent oui Je suis directeur data à la DSI aussi donc tout va bien ce que vous avez présenté on est vraiment sur de l'IA qui apporte des nouveaux services de la nouvelle valeur

c'est à dire c'est pas nouveau en mobilité on regarde pas l'excédent de alimentaire on regarde par exemple les temps de parcours entre deux arrêts pour les optimiser mais ce qui change je trouve aujourd'hui c'est l'IA génératif et son Côté instantanéité et le fait que les collaborateurs les salariés vos collaborateurs le prennent en compte aussi il utilise peut-être plus que ce qu'on ne le pense au quotidien nous on a fait une étude sur sur Keolis on a découvert qu'en moins de trois mois 20% du secteur avait déjà fait des requêtes sur le GPT chez nous comment

vous vous percevez ce changement dans les collectivités qui risque peut-être d'amener des énormes changements dans la Manière dont les gens vont travailler les gens à l'accueil je pense notamment est-ce ça va pas profondément changer vos politiques internes en termes y compris de salariés sur ce sujet là merci je me tourne vers toi français qui peut-être vous intéresse pas mais pour le on s'est rendu compte aussi qu'il y a beaucoup de gens qui utilisaient par exemple on a fait le tour de 25 administration Bruxelles oiseaux en leur demandant est-ce que Vous pensez qu'il y a pourrez

vos utiliser donner nous des exemples etc et on a vu qu'il y avait énormément d'idées on avait plus de 64 usages possibles et ça venait du fait que beaucoup avaient fait des tests aussi de leur côté et pas que des gens techniques mais par contre c'est pas parce qu'il l'utilise qu'il le comprennent nécessairement et pour ça en fait on avait décidé d'ouvrir un centre de tests et d'expérience au cœur de Bruxelles ouvert en particulier aux Administrations publiques où on met notamment par exemple des démonstrations et des expériences d'ielles génératives pour leur expliquer comment ça marche

en fait derrière et on pense que c'était aussi l'étape supplémentaire qui était utile pour eux parce que en plus de l'avoir utilisé mieux comprendre qu'est-ce qui se passe derrière et réellement si on en a et on en a pas encore un exemple de projet qu'on a fait mais si on leur montre un projet qui a Été fait avec une administration publique dans le centre ça leur permet vraiment de mieux regarder ok c'est quelque chose que je peux peut-être me faire aussi de mon côté mais saisir je peux commencer un projet avec et avoir ce petit

degré de compréhension supplémentaire c'est ça qui va aussi peut-être maximiser l'utilisation mais pour l'instant on voit que utiliser veut pas forcément dire non plus comprendre comment est-ce que ça pourrait être Utile pour eux ce qu'on a une autre question des Pyrénées-Atlantiques moi une question pour Carl vous nous avez dit que vous avez réalisé une charte pour l'utilisation de Mia est-ce que vous pouvez nous préciser quels éléments clés vous avez fait figurer dedans oui alors on a fait en fait deux initiatives différentes il y en a une au niveau de la région bruxellesoise on s'est rendu

compte qu'il y avait et ça rejoint Beaucoup de points qui avaient été dit beaucoup de projets complètement dans tous les sens en matière dia mais que les gens dans l'administration et même les acteurs locaux là l'administration était pas au courant que ça existait et on a donc décidé de les accompagner pour écrire et co-écrire avec eux donc 25 administrations une stratégie Ia dans laquelle en fait le premier élément qu'on a mis on a dit qu'il fallait des principes un peu directeurs et Principalement principalement éthique évidemment le respect du droit on devrait tous le faire mais

pour les principes éthiques à la fin ça revenait vraiment à des sortes de messages assez simples pour montrer que avant de se lancer dans un projet il y a il fallait qu'il réfléchisse aussi aux impacts sociétaux c'est ce que n'importe quel chercheur aujourd'hui qui développe et propose un projet dans une grande cohérent scientifique doit faire c'est Essayer d'identifier en amont les risques potentiels liés à son projet mais au niveau fédéral pour répondre aussi plus directement à votre question on s'est dit que plutôt que de faire un autre texte en plus de tous ceux que les

administrations doivent avoir on a adapté les principes et surtout ma collègue natalis moi les principes de bonne gouvernance en fait c'est principe directeurs existent depuis 50 ans 60 ans dans l'administration belge et c'est des Principes de bonne gouvernance et en fait ce qu'on a fait c'est on a pris ses principes que tout le monde connaît et on a essayé de les adapter à l'IA en fait en misant sur le fait que utiliser des référents des un langage ou des principes que eux connaissent mais en montrant comment est-ce qu'il s'applique à une nouvelle technologie c'était plus

porteur et un message clé là-dedans c'était celui que j'ai mentionné aussi c'était si quelque chose devait être Fait avant de mettre de l'IA ou des données il faut s'en assurer c'est des principes assez simples qui n'ont pas grand chose à voir avec lia sur le principe mais qui permettent de garantir que on se jette pas dans un projet et il y a eu plusieurs scandales au pays -bas on en a pas eu encore en Belgique mais qui montre que voilà ce principe là entre autres est vraiment important allez peut-être une dernière question et après il

faut qu'on rende l'antenne Comment des autres fois bonjour Carole une réflexion et une question le retour des DSI c'est très beau dans les grosses collectivités mais il y en a pas dans les petites collectivités et ou alors c'est des uniquement de l'externalisation pour gérer que les ordinateurs marchent bien et voilà et on parlait des métiers je pense qu'il faut effectivement faire très très Confiance au métier et que souvent c'est ça peut vraiment être une relation entre un référent data et qui peut venir de partout en fait c'est juste une question de ta culture et de

et d'envie et voilà et les métiers et que le l'informatique à ce moment là est presque secondaire technique c'est certain et essentiel mais mais on peut déjà faire beaucoup de choses sans et deuxième chose quand on est obligé d'extermin quand on veut récupérer ces Données qu'on externalise beaucoup de choses pour les petites collectivités l'intérêt aussi c'est à ce moment là dans les dans les marchés d'obliger voir comment on peut obliger les les entreprises qui répondent au marché à nous donner les les données et nous les données sous un format lisible facilement voilà Sandrine effectivement sur

les marchés mais quel que soit la taille de la de la Collectivité l'administration en quoi c'est évidemment crucial d'avoir des clauses spécifiques sur le sur les données sur le fait de les récupérer et puis après d'aller même un peu plus profond dans les specs comment on veut les récupérer quoi voilà par api par exemple et pour parler des métiers c'est juste indispensable on peut pas faire des choses sans le métier parce que d'abord la d ici qu'elle soit là ou externalisée elle ne peut pas être Spécialiste du climat de la cantine de de tous les

métiers dans une collectivité on à peu près 200 métiers donc on peut pas être spécialiste de tout donc évidemment c'est important le rôle des correspondants data des Data champions comment on les appelle dans les métiers et évidemment extrêmement importante puisque c'est avec eux qu'on va discuter du coeur du métier du coeur du sujet qu'est-ce que vous voulez Qu'est-ce que le résultat en veux atteindre et puis il y a les discuter aussi donner s'assurer que la donnée telle qu'elle est traitée ils sont d'accord ils ont confiance dans ce qu'on leur propose confiance dans la restitution simple

avant d'avoir confiance dans des choses plus compliquées qui pourraient de la prédiction voilà confiance je crois que ce sera le mot de la fin merci beaucoup Sandrine Karl Christel merci à toutes et tous et passez une très bonne journée au salon de la data