L’AI Act européen : quel virage pour l’innovation IA dans les entreprises ?

Ok bonjour à toutes et à tous merci d'être avec nous ce matin pour cet event sur les IA Act européens et je suis Sanchez actrice projet des affaires européenses au sein des finan innovation pô de compétitivité de la finance digitale en France et installez-vous donc aujourd'hui je suis ravie comme d'habitude d'accueillir Bartel à l'initiative de cette thématique là donc ma toujours ravi de Vous savoir au palis Brognard et pour la première fois aussi on accueille ESCA et aussi ravi de vous savoir aussi au début des discussion pour porter ce sujet là donc merci beaucoup je

pense qu'on a on a préparé une table ronde une discussion très très intéressant don j'ai monopolise pas la parole et parce que je pense que expert ont beaucoup de choses à vous dire donc voilà nésitez pas si vous avez des questions à les poser à la fin de la de la science et je Vous souhaite une excellente science et merci merci Gisella on est de nouveau très heureux d'être ici merci Finance Innovation de de N vous offrir ce cadre euh incroyable du palais bronnard pour recevoir tout le monde donc moi je suis Mathieu goselin je

suis associé chez Bartel je suis en charge des des services financiers deux sujets qui m'intéressent particulièrement Bartle est un cabinet pludciplinaire on intervient sur sur Plein de sujets moi il y a deux sujets qui m'intéressent particulièrement qui sont la durabilité Elia euh et et et et je le dis parce que c'est la raison pour laquelle on se connaît avec avec Dayan qui qui dirige l'Institut pour l'IA et la durabilité et et du coup nous quand on on a vu le la réglementation le cadre réglementaire sur l'IA bah ça nous a extrêmement intéressé parce qu'on pensait

que ce cadre il était nécessaire néanmoins euh Une fois qu'on a dit que le cadre est nécessaire je pense que les craintes sont tout à fait légitimes euh les craintes de frein à l'innovation de de de tuer le bébé dans l'œuff poussin dans l'œuf je pense que c'est c'est des craintes qui sont légitimes néanmoins face à des craintes face à des menaces je suis aussi convaincu qu'il y a des il y a des opportunités donc je suis très content qu'on ait pu designer ce cet event aujourd'hui qui va avoir lieu en Deux temps on va

avoir un premier temps avec avec Dean et et Caroline Goupil qui seront là pour décrypter le cadre législatif de quoi on parle on va prendre une petite demi-heure pour vraiment comprendre de quoi on parle quel est ce cadre et puis on va avoir un deuxième temps là on va plutôt avoir une une une table ronde avec des regards croisés de corporate d'entreprise qui vont nous dire témoigner sur au sein de ce Cadre qu'est-ce qu'on anticipe justement comme opportunité comme menace pour essayer de se projeter demain sur l'application de ce cadre donc on on est très

heureux de vous avoir tous ici en présentiel vous êtes très nombreux à distance donc on est content de voir que le succès a intéresse merci et puis bah bonne bonne conférence alors je vais dire un tout petit mot aussi alors d'abord pour vous remercier remercier Finance Innovation De nous accueill ir ce matin remercier également Bartle pour cette collaboration sur cet événement et et d'autres d'autres sujets évidemment donc moi je suis Dean Glavas je travaille à l'Institut ai for sustainability qui est un institut interdisciplinaire qui travaille comme l'a précisé Mathieu sur les questions d'IA et durabilité

alors notre objet principal est de produire de la recherche académique on a on travaille Également sur tout ce qui est livre blanc policy paper et on travaille également en conseil au régulateurs donc la question de l'U ai Act nous intéresse en en en premier lieu et justement cet événement va être à la fois comme l'a précisé Mathieu intéressant pour bah pour ceux qui connaissent moins la régulation vous allez le voir il il y a beaucoup finalement dans dans l'enquête qu'on a pu faire beaucoup d'entreprises qui nous disent ne pas connaître tout Simplement le cadre réglementaire

et puis euh en connaître un peu mieux les implications grâce au aux entreprises qui vont présenter par la suite voilà un grand merci et donc on va commencer avec la première table ronde merci alors bonjour à tous donc moi je suis Caroline Goupil avocate au sein de BCTG et et BCTG c'est un cabinet d'avocat qui est spécialisé dans le droit des affaires et moi je suis en Charge des sujets it et data au sein de ce cabinet alors et aujourd'hui je suis chargé de vous présenter le règlement sur l'intelligence artificielle c'est un règlement qui est

pas forcément évident à aborder donc l'objectif n'est pas forcément de rentrer dans les détails mais plutôt de vous faire une présentation générale de ce que dit ce règlement pour vous donner au moins un aperçu euh voilà bon c'est pas grave je vais le temps que Ça s'allume je vais je vais démarrer alors le un des points déjà d'information c'est que le règlement c'est un règlement européen qui est entré en vigueur cet été donc le 1er août 2024 après plusieurs années de discussion au niveau européen sur ce projet au moins 3 ans de mémoire donc voilà

et ce qui est important aussi à savoir c'est que c'est un ement donc il Est d'application immédiate au niveau national on n pas besoin de loi de transposition pour ce règlement en revanche bien évidemment le règlement a prévu quand même un un calendrier pour permettre aux entreprises de se mettre en conformité et alors si j'ai la chance de vous présenter les slid je pourrais vous vous donner ce calendrier un petit peu plus tard le deuxième la deuxième information qui me semble importante c'est que c'est Une première mondiale euh parce que c'est un euh le premier

texte législatif àorté général sur l'intelligence artificielle l'objectif au niveau européen c'était d'avoir un cadre harmonisé sur l'intelligence artificielle de réguler en conformité avec les valeurs de l'Union européenne euh mais ceci tout en assurant la promotion de l'innovation donc ça va être le sujet de notre discussion tout à l'heure euh mais l'objectif premier Quand même au niveau européen c'était de s'assurer que l'IA reste une technologie au service de l'homme et s'assurer que ça soit une technologie qui reste digne de confiance donc voilà donc ça c'est c'était vraiment l'ambition du du au niveau européen de ce règlement

et donc ce règlement vient donner un cadre législatif pour le développement la mise sur le marché et l'utilisation des systèmes d'intelligence Artificielle le troème point important c'est que il impacte toute la chaîne des acteurs au niveau de l'intelligence artificiel donc on va être concerné par ce règlement si on est fournisseur et fabricant des systèmes d'intelligence artificielle mais on est également concerné par ce règlement euh si qui on est distributeur importateur représentant et également utilisateur donc au sein du règlement on on on parle des utilisateurs comme les Déployeurs c'est une notion qui est volontairement utilisé par

le règlement pour faire une distinction entre les utilisateurs finaux donc les personnes physiques et les déployeurs qui sont finalement les entreprises les personnes en fait qui vont utiliser à des fins professionn le système d'intelligence artificielle donc le règlement c'est une nouveauté mondiale c'est un texte à portée générale il est d'application immédiate On n' pas besoin de texte au niveau national l'ambition c'est d'harmoniser au niveau européen et de donner un cadre réglementaire euh il impose des obligations à l'ensemble des acteurs de la chaîne de l'intelligence artificielle et pour terminer euh de sur cette ce début de

présentation euh c'est un règlement qui a une approche par les risques donc en réalité tous les systèmes d'intelligence artificielle ne sont pas concernés de la même manière Par ce règlement on a d'abord des pratiques qui sont considérées comme interdites donc en février 2025 on sait que des systèmes d'intelligence artificielle qui pouvaient exister seront interdits parce queon a considéré que ces pratiques étaient contraires aux droits fondamentaux euh donc voilà ça c'est les et je peux je vais vous donner quelques exemples il y av il y a h pratiques qui sont considérées comme interdites mais j'en Ai

relevé trois pour vous donner un aperçu de ce qui est considéré comme vraiment portant atteinte soit la sécurité soit la santé soit au droits fondamentaux donc ce sont les siia qui établissent une notation sociale conduisant à des décisions préjudiciables injustifiées disproportionné ou défavorbl donc ça ce sont des sia qui sont je dis sia c'est système d'intelligence itificiel ce sont des S qui seront considérés comme Interdites les sia qui exploit les vulnérabilités d'une personne donc on parle de vulnérabilité on parle notamment de l'âge de l'handicap et aussi de la situation sociale ou économique d'une personne et

enfin euh parmi mes trois exemples parce qu' encore une fois il y a h pratiques interdites ce sont les Asia qui utilisent des technologies subliminales ou délibérément manipul sous trompeuse voilà donc à partir de février 2025 ces Siia sont interdites on a ensuite des sia qui vont être considérés comme à haut risque donc là je vais pas rentrer dans le détail parce que c'est assez complexe pour déterminer quels sont les S qui sont considérés comme à haut risque il y a une annexe qui prévoit une liste de domaines dans lesquels les si sont considérés systématiquement

comme à haut risque et il y a une autre annexe qui qui prévoit aussi d'autres sia qui sont considérés comme à haut risque et Généralement ce sont des siia qui sont intégrés dans des composants de produits qui sont hautement réglementés comme alors j'ai noté il y avait les les jouets les dispositifs médicaux inutéraux et après je j'ai plus en tête exactement les les autres les autres produits euh et le et pour ce qui se concerne les domaines il y a un certain n de nombre de domaines qui sont effectivement classifiés comme DESS à haut risque

tout le domaine de la Biométrie globalement et considéré comme à Ha risque le domaine de l'éducation et de la formation professionnelle également et ensuite je voulais en citer deux autres pour vous donner des exemple ce sont les siia qui sont destinés à évaluer la solvabilité des personnes euh pour établir une note de crédit et aussi les si qui sont destinés à évaluer les risques et la la parification des personnes en matière d'assurance vie et d'assurance maladie donc ça ce sont Également des sia qui sont considérés comme à Ha risque donc principalement la réglementation vient donc

imposer des obligations à à l'ensemble des acteurs de CSIA il y a d'autres sia qui sont concernés par la réglementation celles qui sont considérées comme à risque modéré donc on a des pratiques interdictes on a les siia qui sont à au risque et on a a ensuite les euh les les sia à risque modéré pour ces sia globalement il y a des obligations De transparence et pour terminer tous les S qui sont considérés comme des risques limités qui sortent globalement du champ de la réglementation avec quand même une obligation globale pour toutes les entités qui

utilisent exploitent des siia c'est l' culturation c'est un des premiers fondamentaux de ce règlement c'est que les entités ont un devoir d'acculturer son personnel pour faire comprendre à son personnel les risques liés à l'utilisation et à l'exploitation Des systèmes d'intelligence artificiel voilà et pour terminer parce que on parle de système d'intelligence artificielle mais le règlement vient aussi réglementer les modèles d' à usage général donc on on a des obligations qui sont spécifiques pour ces modèles il y a des obligations plus importantes lorsque les risques sont systémique mais voilà donc c'est assez complexe c'est un peu

un millefeuille d'obligation euh mais voilà pour cette présentation générale Sur le règlement sur l'intelligence artificielle ah en fait j'ai un truc euh ouais voilà je voulais aussi vous donner un une présentation de la réglementation européenne qui est assez riche au niveau européen sur les nouvelles technologies de manière générale parce que on parle de du Règlement sur l'intelligence artificielle mais en fait ce règlement il effectivement il va s'imposer à toutes les personnes qui utilise et Exploite les systèmes d'intelligence artificielle mais ça ne va pas être le seul on a une multitude de réglementations qui s'applique je

vais vous donner deux exemple un exemple assez facile parce que maintenant on a quand même bien intégré dans notre quotidien c'est le rgpd lorsque le système d'intelligence artificiel traite de la donnée à caractère personnel on va continuer à être soumis au rgpd en plus du Règlement sur l'intelligence Artificielle c'est pas maintenant qu'on a une règlementation sur l'intelligence artificielle le rgpd s'applique pas non c'est vraiment c'est c'est un cumule 1000 feuilles de de réglementation qui vont s'appliquer un autre exemple c'est le Data Act qui qui est un règlement qui impose un certain nombre d'obligations pour les

fournisseurs de produits connectés fournisseurs utilisateurs surtout pour les fournisseurs voilà lorsque le siia s'intègre dans un Produit connecté le Data ACT va également s'appliquer donc pour le fournisseur il y aura en plus notamment des obligations de transparence d'interopérabilité d'accessibilité de de de la donnée alors je parlais tout à l'heure des différents niveaux de risque on a parmi ces niveaux de risque les systèmes d'intelligence artificielle à haut risque qui prévoit c'est vraiment pour ces systèmes d'intelligence qu'il y a de Plus d'obligations alors je vais pas rentrer dans le détail de toutes les obligations parce que ça

va être très long et et pas forcément très utile aujourd'hui mais je voudrais vous donner un petit aperçu quand même des obligations qui sont à la charge des fournisseurs qui supportent le plus d'obligations sur ce règlement et également les obligations qui sont à la charge des utilisateurs donc les déployeurs parce que il faut vraiment Avoir conscience que c'est un règlement qui vient encore une fois imposer un niveau d'obligation non pas que à ceux qui fournissent la solution mais aussi ceux qui l'utilisent donc pour les fournisseurs globalement on a une obligation alors déjà on a un

marquage ce qui est prévu donc qui va rendre les choses assez complexes et ensuite on a une obligation de construire une documentation assez importante notamment avec une notice D'information sur les utilisateurs de réaliser une analyse d'impact sur les droits fondamentaux donc voilà on va être obligé de de créer l'ensemble de cette documentation de créer le système d'intelligence artificielle de façon à éviter les risques de de biais notamment et donc s'assurer aussi que cette IA elle puisse être toujours être contrôlée par par l'humain donc il faut s'assurer que quand on développe l'IA on va avoir ce

Cette possibilité de contrôle par par l'homme donc ça ce sont les obligations qui sont principalement à la charge du fournisseur et comme je le disais on a aussi des obligations qui sont à la charge du déployeur pour ces obligations euh ça va être principalement une obligation de conformité à la documentation donc le fournisseur va soumettre une documentation utilisateur le déployeur va devoir se conformer à cette documentation et s'assurer donc Qu'il utilise en conformité il va aussi avoir une obligation de surveillance humaine donc on l'a vu le fournisseur doit créer son sia de façon à ce

que le SIA puisse être contrôlé par l'homme donc ça veut dire que l'utilisateur va devoir surveiller ce son siia de façon à s'assurer que il se comporte comme il devrait se comporter et enfin lorsqu'il en a le contrôle parce qu'il n'en a pas sur le contrôle il va devoir aussi tenir un registre des log et veiller à la Pertinence de ses données d'entrée la pertinence la complétude et cetera et pour terminer sur ce sur l'utilisateur on on a globalement une un rôle d'utilisateur quand on est simple Atur mais il est aussi très facilement probable de

passer dans la catégorie des fournisseurs dans certains cas en fait si on par exemple on utilise ne siia dans pour une destination qui n'est pas celle qui était prévue par le fournisseur alors on va devenir Fournisseur lorsqu'on modifie de manière substantielle le SIA on va devenir aussi fournisseur et lorsqu'on exploite le SIA sous son nom on va aussi devenir fournisseur donc attention à cette à cette casquette de de fournisseur utilisateurs voilà alors j'en parlais tout à l'heure euh on a les sign maintenant donc vous pouvez voir le le calendrier de mise en conformité globalement il

y a plusieurs dates donc Le 1emer aût c'était l'entrée en vigueur du règlement le 2 février prochain on a toutes les pratiques qui sont considérées comme interdites ensuite le 2 août de l'année prochaine euh je me rappelle plus exactement mais euh on a toutes les règles qui s'appliquent pour les modèles d'IA à usage général qui qui vont s'appliquer l'année suivante c'est l'ensemble du règlement qui s'applique sauf pour le euh tous les siia qui sont intégrés comme des composants à des Produits hautement réglementés pour cela il faudra une année de plus parce que c'est plus compliqué

euh et pourquoi c'est plus compliqué parce que comme ce sont des produits qui sont déjà très réglementés souvent il y a déjà des marquages ce et cetera et en fait il va falloir travailler ensemble entre les différentes autorités pour s'assurer que ça ne crée pas une complexité supplémentaire pour les entreprises et voir comment ils peuvent créer des liens Entre déjà les produits hautement réglementés et cette nouvelle réglementation comment ça va s'articuler ensemble il faut un peu plus de temps donc le règlement a prévu un an de plus pour pour se mettre en conformité donc ça

c'était sur la présentation du Règlement sur l'intelligence artificielle avant de laisser la parole à Deane je vais juste vous donner un petit aperçu de ce qu'il faut faire pour se mettre en conformité Alors la première chose c'est d'établir un programme de conformité et démarrer par un programme de formation et d'acculturation on l'a vu tout à l'heure c'est une obligation qui est portée par l'ensemble des entreprises qui utilisent ou mettent en place des systèmes d'intelligence artificielle et ensuite il va falloir établir une cartographie une cartographie de l'ensemble des siia qui sont utilisés exploité au niveau de

de L'entreprise pour déterminer un le niveau de risque associé à chacun de CSIA euh le rôle qui est joué par l'entreprise est-ce que lorsque je l'utilise je ne suis que utilisateur est-ce que je suis fournisseur distributeur et cetera et donc en déduire en conclure quelles sont les obligations qui sont associés à ma qualité d'entreprise lorsque j'exploite ce SIA et ensuite dérouler toutes les obligations qui sont euh qui sont imposé Par le règlement euh avec unoc aussi sur les polices d'assurance il faut qu'on vérifie aussi si les polices d'assurance assurent bien les niveau de risque associé

au système d'intelligence artificielle qui sont envisagés par l'entreprise donc ça c'est le programme de conformité de manière globale on on a pour terminer je vous ai présenté un peu les les les mises en conformité côté fournisseur et côté utilisateur donc déployeur euh côté fournisseur ce qui va Être important c'est de documenter l'utilisation de euh au-delà bien évidemment de toutes les obligations qui sont prévues par le Règlement mais ça va être de documenter l'utilisation qui est en qui doit être fait de du système d'intelligence artificielle pour permettre ensuite à l'utilisateur de d'utiliser correctement et aussi de

donner toutous les niveaux d'informations qui sont requis pour permettre à l'utilisateur de bah de Utiliser correctement et euh et ensuite se poser la question de savoir si l'utilisateur euh a une possibilité de de d'utiliser le SIA différemment qui entrerait dans une catégorie de risque plus élevé soit un sia auis soit un siia pratique interdite et comment on le règle contractuellement est-ce qu'on l'interdit bah si c'est une pratique interdite il va falloir l'interdire mais si c'est euh une utilisation qui permet du coup un usage qui fait rentrer le SIA À une catégorie à haut risque est-ce

qu'on l' si oui est-ce que la politique financière doit être différente et cetera pour le déployeur [Musique] on au-delà de de de la formation et de l'adhésion du management qui me semble important il va falloir aussi certainement mettre en place une charte sur l'IA comme on l'a fait pour le rgpd pour que les entreprises déterminent quelle est leur vision de l'IA comment Elles veulent intégrer il y a au sein de l'entreprise quels sont les objectifs quelles sont les interdictions pour ensuite permettre à C au aux personnes qui qui de gouvernance en fait de de de

faire en sorte que CER char soit suivi du début jusqu'à la fin lorsqu'on sélectionne un SIA et cetera et pour terminer il va falloir aussi certainement adapter les processus de sélection lorsquequon est utilisateur si on on utilise un outil on fait appel à Un fournisseur donc certainement mettre à jour les questionnaires de sélection de ces de ces outils pour intégrer justement cette réglementation sur l'IA comme on l'a fait déjà à l'époque pour le rgpd comme on le fait aujourd'hui sur les aspects sécurité qui sont de plus en plus renforcés d'un point de vue réglementaire il

va falloir le faire aussi pour le règlement sur liia voilà pour cette présentation al merci beaucoup euh pour Cette présentation du du texte alors je vais moi aussi démarrer sans les slides semble-t-il euh donc moi je vais faire un cadrage plutôt sur du point de vue de l'impact économique attendu de du du texte et puis je voulais aussi faire un point sur le baromètre on avait quelques questions donc on a produit un un baromètre sur l'A et la durabilité qui compose qui était composé de de 140 questions dont une partie Des questions était dédié à

la mise en conformité alors pour information ce baromètre qui date de de cet été qui s'est basé sur des données de début d'année on a 400 répondants issus d'entrepris française et et anglaisees le baromètre est public on l'a fait avec en partenariat avec forvis Mazard on l'a présenté cet été également en audition au Sénat le le le document est est publicque il est assez long donc si pour ceux d'entre Vous qui veulent rentrer dans le détail des données vous pouvez le faire euh et pour et pour ceux qui n'ont pas le temps il y a

une synthèse au début de rien euh alors s'il vous plaît eu et donc donc du point de vue du cadrage économique en fait au moment où la où le l'U ai Act donc a commencé à être discuté on s'attendait à ce que les premières régulations qui touchaient en fait à à Liya soi plutôt des régulation de marché qui s'attaquerait plutôt à la question de la concentration des oligopoles c'est parfait merci euh et finalement euh finalement le la commission a décidé de de commencer à travailler par la question commencé à réguler par le l'angle sociétal ce

qui est ce qui qui a été assez surprenant alors un des voilà un des arguments qui est souvent utilisé pour en Fait on va dire mettre à mal le le texte c'est la question du cût alors je voulais en profiter pour justement exposer les études qui ont traité de cette questionl pour entre autre expliquer que la question du coup est est pas vraiment le le sujet central en faitin on en parle beaucoup dans les médias mais la réalité c'est que le coût de la régulation reste tout à fait négligeable alors une des un des Un

des élément pour commencer c'est euh le grande partie du coup va être concentré autour des za à haut risque et donc la Commission a évidemment avant de réguler fait une rension à à regarder quel qu'est-ce que ça représenté en terme de population régulée et on est sur 5 à 15 % des IA des systèmes d'IA il y a une étude indépendante du CEPS qui nous dit que c'est 10 % donc la majorité des coûts va porter sur on va Dire environ 10 % des systèmes d' premier point deuxème point si on fait vraiment le calcul

on va dire du coût total donc en agrégeant les coûts de mise en conformité les coûts de de certification on est sur environ un euh 1 à 1,1 à 1,2 milliard d'euros euh ce qui représente à peu près euh moins de 3 % euh du marché de l'a en Europe et moins de 0,01 % du du PIB donc on est encore une fois euh sur une régulation dont on parle Beaucoup du cût mais la réalité euh des estimation reste quand même euh on est vraiment sur une régulation peu coûteuse en réalité si on le compare

avec la rgpd on est sur un rapport de 1 à 10 assez facilement alors une autre preuve que c'est pas vraiment un sujet pour les les parties prenantes la commission avant de de faire de travailler sur le texte a produit un un livre blanc et a fait un appel à consultation publique a demandé aux parties prenantes bon qu'est-ce que Vous pensez de de ce projet de de réglementation et on se rend compte que plus de 80 % des répond euh disent qu'en réalité enfin ne mentionneent pas du tout la question du coup par contre ce

qui est souvent mentionné sur les les questions d'IA c'est la superposition des textes et alors problématique qui est plutôt une problématique liée au marché de l'a de manière générale en Europe c'est l'accès au capital vous allez souvent Entendre des start-ups qui vont vous dire qu'il ont des problématiques d'accès au capital pour grossir pour embaucher notamment alors si on regarde maintenant la question donc on a parlé des siia à haut risque si on parle des des des IA à usage général il y a également une étude sur sur la question on s'est rendu compte qu'en réalité

au regard des investissements dans dans la conception de ces modèles là encore une fois la Régulation représente un coût assez négligeable on est sur moins de 2 % du du cout enfin de l'investissement dans le par modèle donc encore une fois quand on entend beaucoup dans les médias la question du voilà des grandes des grandes entreprises euh de de l'IA qui vous disent bon le coût est un frein pour nous euh ça nous empêche de rentrer dans le le marché européen la réalité c'est que ça n'est ça ne vient pas de là c'est C'est pas

la la problématique centrale euh là où où il y a un sujet et ça les études en amont l'avaient déjà identifié c'est pour la question des PME PME TPE et euh s'agissant de coût coûts de réglementation sont des coûts fixes donc en proportion si vous voulez de de l'activité ces coûts fixes représentent une plus grande part et donc là à ce niveau-là on a vraiment effectivement une question qui est bah comment les PME TPE vont faire face assez assez coou Alors là je vous ai mis vraiment la la situation de maximale c'est-à-dire une TPE PME

qui n'a absolument aucun système en place actuellement pour une haut risque le coût de la la régulation est estimé à environ 300000 300000 € pour une TPE donc effectivement il y a un sujet à ce niveau-là alors on par parle beaucoup du coût de la régulation parle moins des bénéfices alors qui sont difficiles à à Évaluer c'està-dire quel est quel est le bénéfice économique à avoir à respecter le le droit les droits fondamentaux des citoyens alors il y a il y a quand même un bénéfice économique à cela qui est que si vous voulez problématique

en Europe de confiance des citoyens dans l'ire non enquête récente nous dit que que 37 % des Européens considèrent que l' est une menace donc la régulation est quelque part un élément qui va venir dire à nos citoyens au Citoyens européens que l'UE s'intéresse au dangers au risqu que représente représente lia deuxième point sur lequel je voulais insister c'était aussi sur la question de la la concurrence de l'avantage compétitif c'est-à-dire que avoir une régulation plus avancée va également nous permettre de construire un écosystème de rtech voilà assez assez conséquent alors on parle d'un marché d'environ

2 milliards de Dollars marché global euh avec surtout des perspectif de croissance à 16 16 ou 17 % par an sur les 10 prochaines années donc on a on a en même temps créé on a la possibilité de créer un écosystème de de start-up d'entreprise qui sont qui qui on une expertise dans la réponse à à de la régulation sur deire maintenant la question va être est-ce que ce bénéfice est-ce que nos entreprises les entreprises européennes seront euh voilà entrer dans le marché et bénéficier de Cette de cette situation et je vais terminer sur le

baromètre donc je vous ai parlé tout à l'heure euh juste quelques chiffres euh 20 % des entreprises nous disent qu'elles ont eu des difficultés la mise en place de l'IA alors ce qui est intéressant dans le baromètre c'est que ces mêmes entreprises nous disent également enfin sont également les plus matures sur les questions d'IA les mieux équipés les Mieux préparés aux réglementations futures les mieux équipés en personnel les mieux formés donc nous on plaide vraiment après lecture des des nombreuses questions du baromètre à vraiment à une approche test and learn qui qui a l'air de

fonctionner du point de vue de la maturité des entreprises sur ce sujet et le deuxème point c'est que il y a un problème don je vous parlais tout à l'heure de vraiment de méconnaissance du texte ce qui est aussi Une des raisons de la de la présentation d'aujourd'hui c'est essayer vraiment bah de de faire prendre conscience aux entreprises qu'elles vont devoir se mettre en conformité et ça on on le voit dans les chiffres en début d'année donc on avait quand même un/art des des entreprises qui nous disent n'avoir absolument aucune idée de de ce que

sont de ce que seront les réglementation européenne sur le sujet donc c'est c'est vraiment un point qui est qui est assez Clé pour nous c'est voilà rendre connu déjà ce texte avant de de pouvoir l'appliquer dernier point aussi une grosse différence culturelle entre français et anglais où vraiment cette approche on va dire de test Andler est beaucoup plus marqué au en Angleterre au Royaume-Uni qu'elle ne l' en France donc il a parmi les les nombreuses différence culturell on voit qu'il y a vraiment un frein les entreprises français les répondants Français semblent un peu se Se

limiter sur sur les sujets d'IA al je vais terminer sur un un dernier chiffre un sondage avril de cette année euh nous dit que 8 Français sur 10 n' n'ont même pas essayé l'age génératif n'ont même pas testé liage générative donc il y a vraiment question de de de d'appropriation du sujet voilà donc c'était pour faire la transition avec les entreprises qui vont qui vont présenter donc voil pour terminer hein vraiment l'idée c'est bah voilà prendre Conscience essayer de de voir aussi cette réglementation comme une opportunité pour nos start-ups aussi voir cette régulation comme une

opportunité pour fiabiliser euh les systèmes di voà je vous remercie [Applaudissements] on les allume par défaut partage ah on partage 1 2 1 [Musique] 2 qui marche pas c'est moi qui l'ai ah non c'est Marche merci beaucoup Caroline et de Yan pour cette présentation de de très bonne qualité sur le fond du texte mais du coup là maintenant on va rejoindre je moi je suis Norine javide de Bartle je suis senigneur manager je travaille beaucoup avec les des clients services financiers en fait je suis ravi aujourd'hui d'être accompagné finalement d'un panel qui est très divers

de différentes industries pr et différents types ai d'entreprise donc on va on va Continuer la discussion et surtout on va essayer de comprendre comment d'un point de vue opérationnel sur le terrain cet acte et est appliqué ou en cours d'application donc on va commencer par un tour de table évidemment pour que vous puissiez chacun vous introduire je vous laisse peut-être du coup la parole allez je tente oui c'est bon bonjour à tous donc Christophe bourguina pour ma part je suis cofondateur directeur technique de de zelros donc on est une Entreprise de d'une cinquantaine de de

personnes et on développe un moteur de recommandation et d'aide à la décision utilisé par les grands acteurs de la banque banque assurance mutualisme et assurance euh et donc qui utilise intensivement l'IA pour la décision donc évidemment on est impacté par cette réglementation ainsi que d'autres mais on pourra en parler bonjour donc al Zapi je suis directeur d'ataa et data officiè du Groupe précole et donc j'ai deux casquettes j'en ai une qui est autour des gouvernances d'AA tant au sens métier qu' Haïti donc c'est peut-être ça un peu la la spécificité et puis j'ai aussi ma

casquette de fabricant puisque j'ai un datalab group et une a factory Group qui lui a en charge bah de développer ou co-développer avec les entités du groupe créécole des solutions qu'on appelle pionnière c'estàd qui répondre au fait d'être à la fois Innovante industrielle de confiance responsable là là là voilà [Musique] bonjour Guillaume ravier donc je suis du groupe Alstom qui fournit des solutions de mobilité durable à l'échelle mondiale et le sujet mondial est aussi un point important parce que on est confronté à de multiples réglementations non seulement les 10 évoqués dans le slide de Caroline

mais on en a l'équivalent sur quasiment toutes les zones même si Parfois l'Europe est influence un peu moi j'ai en charge d'écouter les clients donc je suis plutôt à essayer de promouvoir l'innovation mais je suis aussi sponsor de en particulier de génétive VI au sein du groupe et donc je vois aussi les limites d'adoption et de et de certification de réglementation donc j'ai un peu entre les demux mondes bonjour et moi je suis Nicolas Nick Hernandez cofondateur et CEO de 360 learning une scaleup Française euh on Est présent US en Allemagne en Angleterre et en

France et donc on vend les solutions de e-learning notamment pour les corporate de toute taille mais aussi des très gros comme Michelin volia LVMH en en France ou des Air Canada accentu aux US euh et et donc on a non on propose pas mal de de fonctionnalités de generative qui sont des des améliorations incrémentales du de nos produits et évidemment comme ça touche beaucoup au collaborateurs à la Formation à leur données personnelle mais aussi auprès é de l'entreprise on est un peu au milieu de tout ça disons qu'on regarde beaucoup dans le développement de produit

à chaque fois le sujet juridique voilà donc très très heureux d'apporter mon modeste témoignage parce que je suis pas moi-même un expert mais disons que d'un point de vue business on fait des arbitrages continuement sur le sujet Voilà voici quelques résultat préciser qu sont ceux quiu de l'IA machine learning de l'IA générative de l'IA étendu mélange on va rentrer bah on va ça va être l'objet de de la Table Ronde on va rentrer dans les sujets euh merci à tous les cases pour la présentation B en fait on va mettre le pied dans le plat

comme je disais et on va voir tout de suite la première question finalement c'est comment euh vous êtes impacté par Li Act et surtout Est-ce que ça freine aujourd'hui vos stratégies d'innovation de technologie est-ce que ça remet en cause certains des modèles que vous sur lesquels vous êtes en train de travailler ou que vous allez déployer euh voilà qu quels sont les impacts comme ça en première réaction moi j'étais content de mettre un peu les pieds dans le plat aussi en premier euh et globalement par rapport à tout ce qu'on peut entendre médiatiquement euh De

la part souvent de mes camarades et qui sont beaucoup pour beaucoup des amis euh moi je suis assez en désaccord dans le sens où euh je pense que la réglementation de manière générale dans la technologie et en particulier dans lia à ce stade n'a jamais vraiment ralenti personne et j'ai coutume de leur demander de manière un peu provoque j'étais un dîner lundi secrétaire d'État numérique et tout le monde rouspet et moi j'ai dit Mais est-ce que quelqu'un a un exemple d'une société qui a été ralentie ou empêché ou même d'un projet sans parler d'une société

et c'était marrant parce qu'il y a 20 personnes et du personne n'était capable de de produire un exemple et donc voilà il y avait pas en tout cas ce jour-là il y avait personne n'avait eu d'exemples alors c'est intéressant moi je veux bien entendre des exemples je pense qu'il y en a mais je pense qu'il y en a très peu et je Pense que quand on les creuse à mon avis c'est des exemples qui m'ent empêché sans doute disons 80 % d'entre eux pour des bonnes raisons et peut-être que dans le peu d'exemples qu'on peut

trouver en en a 20 % qui aurait été empêché pour des mauvaises raisons moi la réglementation je pense qu'il y a aussi une très mauvaise image qui vient d'adopi mais c'était plus ridicule qu'autre chose et puis de cette petite fenêtre de cookie qu'on qu'on qu'on Valide tous mais qui je pense a quand même au-delà du côté ridicule et je pense qu'elle a changé quand même des choses sur la manière dont sans sans développer mais je pense que ça c'est quand même un facteur de changement voilà merci Nick donc aujourd'hui chez 360 learning il y a

pas de d'inquiétude particulière c'est du travail après moi j'ai une génal concel elle est compétente elle est bien payée donc elle Coûte un peu cher euh mais c'est pas 100 % de son temps et donc elle regarde les sujets elle se tient au courant elle prépare des choses ça coûte un peu d'argent après les ce qu'on a mentionné tout à l'heure moi je suis content aussi de vivre dans un pays où on a ses protection en tant qu'individu donc après en tant qu'entreprise voilà nous on a la chance de après des entreprises qui non mais

moi j'allais faire quelque chose mais j'ai pas pu à cause de la Réglementation j'ai du mal à croire que ce soit vrai parce que dans ce cas-là fais-le ne fais pas la réglementation personne va te tomber dessus si tu es d'une une entreprise d'une taille telle que tu ne peux pas payer les quelques dizaines d'heures de travail qu'il faut de friction c'està dire que tu n'as pas de client et donc pas d'impact et et c'est il y a aussi une sorte de quand même de pragmatisme de facto même s'il est pas inscrit dans la loi

du fait que Le le régulateur ne va pas aller embêter des gens qui ont des produits qui sont utilisés par trois personnes donc de fait en fait des toutes petites boîtes peuvent avancer il faut qu'elles soi pragmatique aussi non peut-être pour aller dans le dans le même sens euh mettez-vous à la place d'une entreprise effectivement qui développe actuellement euh une niia à haut risque ou en tout cas critique avec des milliers ou des dizaines de milliers Ou des millions d'utilisateurs euh évidemment c'est une entreprise qui a investi énormément en red qui pourra mis au point

euh ce système-là euh l' a forcément euh documenté euh la for forcément des tests dans tous sence évidemment le système est le plus fonctionnel possible c'est-à-dire pas biaiser il fonctionne H24 parce que sinon les clients arrête d'acheter tout simplement et donc ce que je veux dire c'est que quand l'ct Effectivement dit quand on on a un système di aorisque il faut le documenter on a l'impression c'est de la paperasserie mais pour moi on a comme monsieur jourain nous on n pas attendu laayac pour effectivement documenter et avoir des processus de validation d' a parce que

tout simplement on aaurait pas pu mettre au point notre système si on avait pas ce ce ce process là donc pour moi c'est une sorte de continuité assez assez naturelle et donc ça va pas être Un grand bing bang où on va se dire allez on va se mettre à redocumenter ou documenter alors que finalement c'est déjà c'est c'est déjà fait par par obligation alors si je peux rebondir le coût effectivement a été abordé moi je vois pas ça comme un coût je vois ça comme un investissement euh déjà on n'est pas obligé de d'avoir

une réglementation pour faire les choses que pour moi la maîtrise de l euh et le fait qu'on n pas une boîte Noire qu'on sache comment ça fonctionne c'est salutaire notamment pour bah des banques pas oublier qu'on est des tiers de confiance et que par conséquent on est quand même censé savoir bah ce qu'on met à disposition de nos clients de nos collaborateurs et très clairement sur la la partie aiact on n' pas du tout attendu que la même avril 2021 on est le premier texte qui sorte on a aussi bah des régulateurs qui sont assez

actifs comme vous le savez donc on a on avait Une on a une réglementation pré existance avec le Modelle risk management alors qui est pas centré sur la protection des citoyens des usagers mais sur la protection de la banque c'està-dire se prémunir contre le dysfonctionnement d'un système dia enfin un modèle c'est plus large que les les systèmes di mais mais néanmoins on voit bien que ça dépend comment vous appréhendez le sujet c'estàd que si pour vous votre enjeu c'est de dire je veux Pas être en perte de maîtrise d'un composant qui éventuellement peut être critique

dans mon système d'information dans le service que je fournis aux clients euh aux usagers vous êtes quand même un peu obligé bah de documenter votre système d'en évaluer les performances de le monitorer de vérifier la qualité des données comment est-ce qu'elle évolue s'assurer qu'il y a pas de billet dedans éventuellement des billets discriminatoires et donc à Tel point que quand on a transcrit cette le dernier texte là de de laact effectivement ça dit pas grand-chose sur les IA à risque faible et en fait on s'est poser une question mais prenons le raisonnement inverse est-ce que

on imagine dans un alors nous on appelle ça cadre norm groupe ça va plus loin qu'une politique ou une charte c'est c'est plus prescriptif en fait tout simplement on s'est dit mais est-ce qu'on accepterait de ne rien mettre sur les systèmes dia à Risque flible et donc en ne mettant rien d' teriné qu'on considère que c'est tout à fait normal si vous ne faites pas la qualité des données la documentation du système ou l'évaluation et le monoring des performances ben non et ben donc du coup on va le rendre obligatoire c'est qu'on est allé au-delà

alors évidemment de manière proportionnée à l'enjeu s'agit pas de d'avoir des documentations extrêmement profondes sur des sur des Cas d'usage ou des IA effectivement dont l'enjeu métier n'est pas il y a pas de risque spécifique mais néanmoins c'est quand même une obligation et donc c'est pour ça que je considère que c'est un investissement parce que aujourd'hui on est au tout début de la courbe d'abdoption peut-être qu'il y a entre 5 et 10 % de nos processus de nos parcours clients où il y a de l'intelligence artificielle si on va vers une diffusion massive et que

demain on est à 90 95 Pour on sera bien contant d'avoir fait cet investissement nécessaire à la fiabilisation la sécurisation la compréhension en fait de not système d' et donc le coût alors au-delà du fait que ça représente probablement 2 3 % voilà de des coups de fabrication de ces systèmes là moi je vois vraiment pas ça comme une dépense inutile c'est pour moi c'est un investissement qui nous permet en fait de mieux appréhender l'avenir des Systèmes dia dans nos systèmes d'information je vais aller toujours dans le dans le même sens ça nous a pas

freiné ça c'est sûr je pense comme la plupart des groupes Lia a commencé il y a déjà de nombreuses années nous on travaille comme la plupart de mes collègues dans des dans des des environnements réglementés donc on a l'habitude de d'être conform en conformité avec tout un ensemble de règlements çaen est un de Plus et donc moi je vais aborder deux choses le premier c'est ce que Caroline évoquait c'est que ben il y a multiplicité de euh de règlements qui sont en cours de de de fabrication pour la petite anecdote nous on a fait un

acaton d'intelligence artificielle pour lire toutes les réglementations mondiales sur la data lia et tout ça donc ça nous a pris une petite journée avec des outils pour essayer de trouver des éléments communs donc nous en tant Qu'industriel mondial c'est quand même un petit peu compliqué de de gérer ça et le deuxième point qui est qui est évoqué en philigram dans les dans les deux interventions c'est c'est le côté humain de l'intelligence artificielle et le besoin de formation euh des des collaborateurs on n'a pas l'a génératif a déclenché je que l'IA traditionnel était dans un cercle

plus refermé l'IA génératif probablement plus ouvert et donneré plus d'exposition au sein D'entreprise euh sur les usages de l'IA et donc on a une obligation et donc ça s'est déclenché quasiment dans la foulée de la sortie de chat GPT c'est euh de dire il faut qu'on nos collaborateurs euh un parce que il faut arriver à capter l'innovation donc ça c'est extrêmement important de capter cette vague d'innovation mais deux il faut pas faire n'importe quoi alors le premier risque qu'on avait évalué c'était pas celui de la réglementation c'était que Les collaborateurs fassent Suire de l'information du

savoir-faire Alstom ou encore pire de nos clients vers vers ces systèmes très très ouvert don un peu boîte noire on sait pas trop ce qui allait être fait des des données qu'on qu'on exposa sur internet donc la formation pour moi est un élément très important le fait d'avoir un cadre euh qui a été travaillé je pense c'est aussi important ça 'empêche pas de se l'approprier de se décliner au sein de L'entreprise mais ça permet de savoir sa référence et donc en conclusion ça ça nous bloque pas sur l'innovation par contre il y a quand même

une complexité euh en particulier quand vous devez adresser un marché mondial euh il faut quand même être en veille sur plein de de règlements ouais je je rebondis pour moi moi il y a deux sujets sur lesquels peut-être on pourrait progresser au niveau européen effectivement cette histoire de la superposition c'est qu'il Y a énormément d'enchevêtrement entre beaucoup de réglementation on voit d'ailleurs qu'on a tous du mal à le modéliser tellement il y en a les films se touchent un peu partout et quand les fils se touchent pour les électriciens c'est pas très bon quoi euh

et puis le deuxième point c'est aussi dans les modalités de fabrication de la réglementation bon bah comme chacun sait il y a du lobbying sur les les Réglementations le fait que bah un texte comme là acte il y a un des gens qui s'en sonv parés qu' on fait le le premier texte mais qu'en fait à chaque changement de présidence en réalité on se rempart du sujet bah se rempar du sujet ça veut dire de nouveaux points d'impact de lobbying en fait on voit que c'est des textes qui ont une vie extrêmement tortueuse et ça

quand c'est tortueux pour le coup ça simplifie pas L'interprétation d'un certain nombre de concepts nous dans le on a décortiquer toutes les versions quasiment depuis avril 2021 le plus compliqué c'était presque de repérer les incohérences qui se créent d'un passage de relais à un autre et on va dire de d'un lobbying à un autre et donc ça potentiellement je pense ça pourrait être amélioré si finalement on avait un groupe d'experts désigné pour faire la réglementation et qui avait beaucoup moins de Changement d'orientation au fil de de la maturation de la réglementation on voit d'ailleurs que

c'est pas fini puisque souvent quand un texte sort RGP nous avait donné exactement ça il y a des suites après pendant des années où il y a des choses qui se précisent il y a des conditions des modalités techniques entre entre experts qui euh qui sont qui sont élaborés donc ça moi je pense si quelqu'un pouvait y travailler en européen ça serait au niveau européen ça Serait vraiment une très bonne chose quoi j'en profite pour poser la question est-ce qu'il y a des groupes de travail aujourd'hui de place par industrie ou cross industrie ou vous

discutez justement de des implément de l'implémentation alors de l'implémentation oui on partage régul ement alors avec no confrèrees banquer cross industrie un peu moins en tout cas moi j'ai pas l'impression qu'on peut-être pas exactement les mêmes Enjeux non plus et puis après en fait il faut voir que dans dans la banque globalement ce que je disais tout à l'heure c'est on a quelque chose qui préexistait qui est le model risk management ça date de mémoire de 2014 quelque chose comme ça donc vous voyez que on a un petit peu de temps pour maturer le les

sujets euh et surtout on fait le constat que bah ça a été dit à un moment donné les Z risque Élevé dans la banque une fois que vous avez le score d'aide à la décision sur les crédits bon c'est un cas d'usage important mais la ralité c'est quoi et là ça va peut-être faire le rebond par rapport à l'idée reçue que la réglementation il y en a de plus en plus ça empêche c'est toujours plus compliqué moi il se trouve que dans mon parcours professionnel j'étais j'ai été patron d'une cellule qui fabriquait des scores d'aide

à la décision sur le crédit euh [Musique] avant le rgpd et en fait c'était plus compliqué même avant le rgpd les formalités qu'il fallait remplir on remplissait un dossier qui fait déclarer préalablement à l'acnil on est passé en rgpd dans une réglementation où finalement bah c'est basé sur le fait que il y a une réglementation on est censé la respecter si on la respecte pas bon effectivement là ça tape un peu fort mais pour être plus normal finalement et C'est souvent cet exemple là je le donne parce que on a l'impression que à partir du

moment où le RGP AR mais c'est pas du tout vrai il y a des tas de cas d'usage en fait qu'on faisait avant qui étaient même plus compliqué que le que que que une fois que le G GPD passé et et peut-être pour ajouter sur les groupes de travail effectivement on on discute beaucoup avec effectivement nos nos pères et cetera et C'est l'occasion aussi de de parler d'autres régulations je pense à l'assurance à la banque assurance par exemple pour ceux qui euh ont entendu parler il y a une autre réglementation qui s'appelle Dora qui va

qui va arrivé donc sur la résilience en fait des services financiers qui est directement lié effectivement ind directement à l'ct sur l'assurance il y a une autre qui s'appelle la directive de distribution d'assurance donc qui et le devoir donc De conseil en fait et l'obligation pour un service financier d'expliciter et d'ailleurs la CPR l'Autorité de régulation tape régulièrement effectivement sur les institutions financières sur le manque de transparence et de clarification donc sur que quand on comprend que quand une IA va aider à cette cette clarification donc ce que je veux dire c'est que finalement nous

on a on on a desations plus intéressantes sur ces sur Ces réglementation sectorielle on va dire qui touche l'ayac que parler de l'AC en fait en général donc donc oui on essaie de de se rapprocher de nos de nos secteurs et parler concrètement voilà qu'est-ce que ça veut dire dans No dans nos dans nos secteurs est-ce que aujourd'hui vous avez des au risque B je une réponse tout à l'heure nous effectivement score d'aide à la Décision sur les roit de crédit alors au cré agricole il y a un avantage c'est que ça a toujours été

des scores d'aide à la décision et ça c'est un point important parce qu' effffectivement le niveau de risque est déjà plus ou moins réduit par le fait que vous avveit un contrô humain en dernier ressort et que dans nos processus d'octroit il y a toujours des critères additionnels qui sont les politiques d'octroit de de crédit en particulier l'étude de la Solvabilité fondamentalement et c'est plutôt le système français qui est comme ça si on prête à quelqu'un c'est on pense qu'il peut nous rembourser ce qui est pas le cas de tous les systèmes en Europe ou

ou dans le monde et et donc on a ça évidemment on a également et je pense que tout le monde les a les RH qui bah veulent utiliser de l'intelligence artificielle donc là c'est un cas très transverse et en particulier sur tout ce qui est analyse ou tri de CV et là bah Effectivement ça peut être un cas d'usage à risque élevé euh là ce qu'il faut qu'on Fass et ça rebondit peut-être avec le sujet acculturation formation il y a un certain nombre de choses à déconstruire notamment par rapport à toute la communication qui a

été faite sur les i génératives finalement ça ça a eu un côté très positif c'est de mettre sous le feu des projecteurs le fait que l'IA avait un potentiel de transformation Pour nos métiers à la fois pour nos dirigeants nos collaborateurs les managers très bien après c'est quand même une approche qui est très technocentrée et donc ça veut dire que ce qu'on doit un peu déconstruire vis-à-vis de nos métiers pour les rche c'est le cas c'est de dire déjà regardons quel est le besoin ce que vous voulez faire et après la question du mix technologique

on doit l'apprender de manière multifactorielle euh la Technologie répond-t-elle aux besoins en terme de performance euh quels sont ces risques donc là bah effectivement sur une a risque élevé ne pas répondre à un certain nombre d'obligations c'est quand même un risque important euh quel est son coût également alors le coût a été abordé euh ce qu'il faut c'est envisager quand vous faites ça le coût à long terme c'est-àdire que bon oui effectivement les coûts des LLM par exemple ils ont une tendance à diminuer Sauf que quand on regarde aujourd'hui si on payait le coût réel

de ces services là par rapport à ce que ça coûte en terme d'apprentissage probablement que ça serait x 10 x 15 donc faut s'interroger est-ce que c'est pas une courbe en baignoire et que il y a pas un moment où ça va remonter quand tout le monde en aura pris voà donc ça c'est risque de dépendance économique et puis bah l'impact environnemental c'estàdire qu'à Un moment donné si vous prenez de l génératif pour tout traiter moi faut quand même se remémorer début 2023 il a des gens qui venent me voir en disant on va faire

des classifications avec de l génératif quoi pourquoi quoi on a des trucs qui marchent très bien avec très hautees performance maîtrisé on déploie ça depuis des années et donc c'est il faut faut vraiment avoir en tête que on doit un peu déconstruire ce sujetl auprès de Nos utilisateurs dire attendez on va se poser on va regarder le besoin et on va appréhender le meilleur mix technologique pour répondre suivant un nombre de critères qui va bien au-delà de la seule performance statistique quoi chez Alstom est-ce qu'il y a des cas d'usage alors nous c'est un petit

peu particulier parce que en tant qu'industriel on est moins exposé je dirais des des cas d'usages qui ont été présentés mais nous on a un cas d'usage Qui arrive assez rapidement qui s'appelle le train autonome même s'il existe déjà des trains des métos automatiques depuis 20 ans donc on a déjà des capacités de certification dans ce cadre là mais si on ouvre on est dans un système ouvert il y a tout un système de certification et de régulation et là nous on est face à une autre difficulté c'est qu'il y a pas de régulation et

donc aujourd'hui technologiquement on sait faire des trains autonomes euh Maintenant on sait pas les les faire certifier donc on est pratiquement dans dans le mécanique inverse de pas avoir de cadre réglementaire sur sur ces sujets-là donc on on y travaille par rapport à la question précédente en terme sectoriel euh mais c'est aussi ça éclaire le fait un peu de réglementation de temps en temps ça éclaire l'innovation bah alors qu'est-ce qu'ils font à l'Europe là faud alors sachant que est-ce qu'il faut Limiter ça à l'Europe à nous nous en tant qu'industriel mondial on aimerait bien aussi

que puisque ça soit un peu plus global mais l'Europe est quand même plutôt locomotive pour pas faire un jeu de mot hasard joli euh et quand même locomoti sur ce sur ce sur ces sujets de d'automation mais voilà donc nous on n'a pas encore sur les cas critiques qui est on va mettre des vies humaines entre les mains de d'intelligence artificielle he toute similitude avec la voiture euh N'est pas complètement forfuie on n'a pas la réglementation associée à ce stade là en tout cas un cadre réglementaire de certification nous on a des des cas qui

sont qui étaient au début identifiés comme un petit peu des Edge case quoi ou un petit peu sensible par exemple quand on fait de l'évaluation de compéten des collaborateurs donc on les place quand même sur des sur des grilles et c'est une information Qui supporte des promotions des des salaires des inscriptions à des formations éventuellement des recommandations de job dans des portails de de on pousse des recommandations de de Job voir d'évolution de carrière et et du coup donc du coup pour redire l'histoire ça on l'a flagué et puis du coup on s'est posé les

questions et je pense que dans tous les cas sauf fin on a une on a une en fait une intervention humaine donc C'est ce que vous disiez aussi sur le le support à la décision donc on descend là quand même de de cran en terme de cost et de complexité je pense que en descend d'un cran mais en terme vraiment de de coût de risque et de complexité on on descend énormément dans les processus qu'il faut mettre en place euh donc ça ça globalement résolu le problème et il y a un cas qui est un

petit peu plus compliqué et du coup on fait ce qui est Recommandé même si c'est pas encore complètement implémenté mais en gros c'est de la documentation de en de toute façon quand on fait les modèles il faut faire ce qui s'appelle du gold standard example donc c'est d'avoir et et et ensuite des unit test euh des tests unitaires en français je Seris et donc en fait on est obligé de documenter de dire le modèle dans tel cas je veux qu'il fasse ça juste parce que les modèles il changent et que donc Du coup si on

ve en production quand on fait des systèmes de production on est obligé de documenter des tests et on est obligé de documenter ce qu'on attend du modèle de manière à pouvoir le scorer donc c'est on dit voilà j'ai 200 exemples et puis quand j'ai un modèle je le fais tourner et et j'établi un score de ce modèle par rapport au en fait que l'output correspond à ce que je voulais ou pas et ça c'est la réglementation quand on fait Ça on coche la case et il se trouve quand on fait ça c'est ce que vous

disiez tout à l'heure je le dis de manière un tout petit peu plus détaillée quand on fait ça en production parfois il y a des trucs qui vont pas et on nous remonte donc un bug quoi on quelqu'un au support voilà il y a des bugs et donc on continue à documenter alors parce qu'il y a différents niveaux les il y a des exemples qu'on va réinclure dans des prompes donc on peut en mettre mais on Peut pas en mettre beaucoup après dans le score on peut mettre 10000 plus on en a plus on est

content et donc après on continue d'enrichir les scoring voir de pondérer en disant ça c'est très grave donc on le pondère très vois on fait des multiplications si on dit ça en fait c'est très grave donc si ça passe pas c'est zé le score il tombe à zé parce qu'on multiplie et on peut avoir du 01 et on dit là soit c'est bon soit c'est Pas bon et on fait de la séquence plus que de l'addition donc on a tout ça et il se trouve que quand on fait ça bah d'une part on rés le

problème mais d'autre part on est complli donc problème résolu même sur le casu difficile qui pour nous le cas un peu difficile c'est dans des cas de plan de risquealing un petit peu massif où vraiment un problème sur 10000 personnes qui faisait des voitures thermiques et le CE a dit dans 2 ans on fait des Voitures électriques moi en fait j'ai 10000 bonhomme qui savent faire une voiture thermique j'en ai zé qui savent faire une voiture électrique donc il faut prendre des décisions un peu globales sur qui on envoie en formation à quel endroit et

qui on envoie en plan de rising avec un de code un peu c'est très et là pour le coup du coup on en fait on fait pas quoi et mais je c'est pour le mieux à la fin Ouais c'est c'est c'est intéressant parce que je vais je vais confirmer ce ce qui est dit là pour nous le premier point de recompte finalement avec la mise en conformité et partie plutôt d'une exigence industrielle quand on a transformé nos propres équipes donc là je prends ma casquette plutôt data group à e Factory group un des sujet c'était

de dire bah il y a énormément de poqu qui sont fait et puis on a très peu qui passent en production à l'échelle donc On a changé méthodologiquement pour par transformation successive se dire on va plus faire le même cycle po petite série puis après on file ça à l'IT qui réécrit mais qui arrive pas parce queon a fait tellement de simplification que ça passera jamais en production et on donc pour faire du nativement industriel à un moment donné on s'est posé on s'est dit mais comment est-ce qu'on peut faire confirmer par un regard externe

que ces transformations Qu'on a fait pour aller en production directement à l'échelle euh bah déjà euh on est dans le sur le bon chemin est-ce que bah on se fait pas plaisir nous-même c'estàd qu'on se dit bah oui on l'a fait donc c'est forcément bien et donc on a fait une certification qui est délivrée par le Laboratoire national de métrologie et d'essaiis euh alors qui est très centé sur l'industriel le process euh et une partie sur l'AT de confiance et ça en fait quand on regarde Les référentiels déjà ça nous permettait par rapport à toutes

les exigences d'être quasiment à 80 % en terme de jauge de conformité en plus on l'a complété avec une labellisation RSE euh donc labellia en l'occurrence et là on est quasiment monté à 90 % de de conformité native avant même qu'on ait terminé de transcrire l'ct dans notre cadre normatif à groupe et donc le point qui est important c'est celui de la démarche volontaire c'est-à-dire que C'est pas parce que il y a pas encore de réglementation ou euh en tout cas queelle est elle est pas encore mature qu'on peut pas agir parce qu'il y a

d'autres enjeux à traiter et celui de l'industrialis du passage en production il est majeur ce qui reboucle avec la dimension investissement c'est c'est cert un coût mais à mon avis il est nécessaire et indispensable pour avoir des systèmes maîtrisés Quoi pour alors nous en ce qui nous concerne la norme qu'on a utilisé c'est ISO 27001 donc ISO 271 c'est le système de management de sécurité de l'information nous effectivement le logiciel on vend comme jeai dit aux grands institutions financières donc étivement dans leur cycle d'achat je peux vous dire qu'on remplit un certain nombre de questionnaires

effectivement sur l'aspect cybersécurité bon oui on a Rempli le tien aussi et et d'ailleurs on commence à voir maintenant il y avait déjà un onglet avec 350 liges un deuxième onglet maintenant aussi avec 350 lignes juste sur l'IA justement et donc là on est en train de passer la ISO 42001 donc qui est l'extension de la ISO 271 sur la partie Ia voilà là aussi par par nécessité pu par encore une fois pour mettre au point nos systèmes de toute façon on doit s'organiser et et et puis répondre aussi à nos à nos clients Et

euh il y a même des des des outils on utilise une plateforme de de de de conformité euh qui suit en ligne notre conformité à chacun de ses référentiel et qui peut nous donner un niveau de de conformité justement à d'autres référentiels comme Dora ou aiact donc tout ça on voit que que ces ces rommandations effectivement se s'interchoquent et que le fait d'être d'être conforme à l'une déjà nous met en en grande conformité effectivement sur Sur sur les autres donc finalement c'est rassurant de voir que tout ça est quand même est quand même cohérent alors

il peut y avoir quelques confit de normees quand même voilà ça ça apparaît en alerte et on les gère effectivement par juste un un rebond je dirais sur le fait que la réglementation est un sujet mais le fait de s'organiser aussi important sur l' a digne de confiance qui a été évoqué je dirais que euh à Nouveau nous on est probablement moins exposé sur euh sur des affaires sociétaux choses comme ça euh par contre on a un vrai problème c'est l'acceptation euh de nos mécaniques d'IA dans euh dans des processus où il y a des

vies humaines en jeu euh où il y a des processus industriels complexes euh et et le fait d'avoir un travail euh structuré sur qu'est-ce qui permet euh de de mesurer enfin faire un scoring d'un moteur dia qui est une boîte noire Euh c'est pas complètement sur étagère donc il faut un peu de jus de cerveau on travaille avec des organismes de recherche aussi pour essayer d'être d'avancer pour construire un rationnel euh qui permet d'expliquer pourquoi le système est fiable ou pourquoi il est pas fiable pourquoi il a des limites et et d'arriver à exposer c'est

ce qu'on essaie de faire dans certains systèmes d'exposer attention ce système n'est fiable qu'à 80 % donc on essaie de de Scorer un peu et de dire c'est un outil d'aide à la décision mais sachez que c'est pas magique et donc fait pas de copiercoller de de de la réponse c'est une c'est une aide à à avancer donc c'est il a digne de confiance je pense aussi et une démarche à structurer dans l'entreprise et et dans le temps parce que en fait un des des travers que peu avoir les systèmes dia c'est qu'un utilisateur qui

constate 10 fois de suite que la réponse est bonne peut Perdre de sa vigilance j'ai quelques cas assez récents notamment sur les transcriptions de de contre-rendu là avec le le fameux copilote et donc je pense que ça ça va être un sujet d'attention et puis de de formation de nos collaborateurs c'est être vigilant par rapport au résultats produits par l'IA à mon avis ça devent de plus en plus important on veut de l'esprit critique on veut que l'humain joue son rôle et on veut que si effectivement il Constate qu'il y a un problème avec la

réponse et ben il aille pas la porter vers un client quoi ouis on est en train de toucher un peu enfin chacun vous touchez un peu à vos procès votre organisation est-ce qu'on peut parler un peu de la gouvernance de l'IA dans chacune de vos organisations mais je peux effectivement parler euh parce que j'ai la casquette du coup donc euh assez tôt en fait on a eu l'intuition que avec le premier texte là qui est paru en Avril 2021 il faudrait probablement créer des structures transverses au groupe cré agricole pour justement traiter la gouvernance l'administration

d'un cadre normatif de niveau groupe donc qui est d'application générale pour tous les métiers toutes les entités du groupe pr agcole eu on on a créé ce qu'on appelle une design authority alors c'est parmi d'autres parce queil y en a il y en a il y en a SEP je crois de mémoire il y en a sur la data il en a Sur sur la cyber on voit quand même que ça recouple les grands enjeux de régulation qu'il y a sur sur les technologies et puis sur les usages quoi cette design Authority a première mission

qu'elle a eu c'est déjà de prendre en main le texte de de LAAC de s'assurer que on en faceasse une transposition qui soit réaliste et applicable pour l'ensemble des métiers euragricole alors je rappelle on est une banque universelle 150000 collaborateur Présent dans 550 pays donc la dimension multirégulation c'est aussi important nous on a une spécificité je pense c'est que quand par exemple on se met en conformité une réglementation européenne en réalité elle est d'application générale c'estàdire que même si tu opères au Brésil faudra être conforme quand même à la réglementation européenne c'est pas tous les

groupes he qui font ça euh donc première mission c'était ça c'était de le transposer C'est fait là d'ailleurs c'est tout frais on a adressé ce qu'on appelle une note de fonctionnement et et on est un peu politique une lettre jaune pour no cestre régionale euh la deuxième mission c'est d'accompagner les parties prenantes et à un moment donné j'ai bien aimé l'exemple par rapport aux achats ou au fonctions juridique c'est vrai que bah ça va impliquer de changer un certain nombre de Processus et pour les changer ces processus il faut que les gens comprennent de quoi

on parle et ce qu'ils ont à faire donc là on revient sur la dimension accultur tion très importante et puis après bah uneé dans toute banque il aura la logique de dire B il faut mettre en application et il faut contrôler donc faudra aussi qu'on accomagne nos fonctions de contrôle qui sont nous chez nous sont organisé en plusieurs lignes Défense en en trois lignes notamment et donc ça veut dire qu'il faud aller voir bah sur le terrain les gens qui opèrent les contrôles de premier niveau également ceux de deuxè niveau et puis bah nos auditeur

qui eu sur le 3è niveau et donc ça c'est un boulot qui est énorme parce que forcément on est au tout début la norme vient juste de sortir et s'assurer finalement que ça aille se répercuter dans un groupe très décentralisé sur tous les métiers dans Toutes les les cor enfin les corps de métiers qui ont avoir un lien avec ces solutions qu'ell soit fabriquer ou acheter bah ça c'est un enjeu à très long terme quoi on voit là qu' a une structure structuration qui est quand même bien bien ficelé peut-être nique dans un dans une

scaleup comme 360 learning comment vous êtes organisé on a compris que tu avais un tr B responsable de du juridique est-ce que bah vous avez évolué par rapport à cette gouvernance Des modèles ila et comment vous êtes organisé aujourd'hui ouais on avait déjà mis en place mais après nous on est 450 donc on on est moins on est moins complexe que d'autres ici euh peut-être déjà un peu plus aussi que en tout cas oui non mais complexe dans un sens juste de où le nombre crée de la complexité mécaniquement quoi mais et et puis non

on avait une organisation qui était celle de rgpd et qui a enfin qui fonctionne aujourd'hui mais parce Qu'on est aussi très tôt sur les sujets d' je pense donc peut-être que ça va amener à devenir plus compliqué mais on a aussi quand même deux continents pas les plus simples donc et ça fonctionne et donc leur g c'est juste que il y a il y a une équipe juridique mais qui fait du contrat enfin qui fait d'autres choses et la patronne a elle est vraiment expérimenté quoi c'est quelqu'un je pas c'est un des top 4 ça

ça a l'air de la boîte quoi non mais C'est pour dire c'est pas parce que P dit une patronne juridique c'est pas quelqu'un qui a 28 ans et c'était la patronne du juridique d'Accenture au niveau global bon c'est c'était c'était c'est pas voilà et donc elle gère les truc très bien voilà elle l'a vu passer donc elle elle gère très bien après un peu un peu cher puis bon en plus j'ai un problème c'est que je crois qu'elle va partir à la retraite dans pas trop longtemps euh Mais c'est pour dire aussi qu'elle vraiment expérimenté

et ça ça ça fonctionné après elle est impliqué donc bon elle est vraiment très bien elle est impliquée dans les discussions avec le produit donc voilà c'est un stakeholder du du développement après nous on a une échelle c'est quand même facile d'avoir TR ou quatre stakeholders sur le produit ça devient pas on n pas des enjeux de oh là là s'il y a encore quelqu'un qui fait Un commentaire on peut plus rien développer parce que ça devient trop compliqué on n pas ça et je pense que c'est c'est ça la difficulté pour les organisations je

pense nous on a la chance de pas avoir ça encore je dis ça doncess que j'essaie de dire c'est que modestement nous ça fonctionne mais je sais pas si ce qu'on fait est transposable à tout tout type d'org voilà ouais ben c'est intéressant Justement d'avoir votre votre spécificité ou oui oui ben c'est aussi c'est la taille et puis bon mine de rien ce que j'entendais sur qu'un train c'est très ouvert comme système et puis en plus c'est en dans le monde physique pu ça peut tuer quelqu'un donc nous on n pas tout ça voilà moins

que les voitures ouà moins que les voitures mauvaise évaluation a moins de MO on entendant en entendant ça ou où les banques ou Déplace des centaines de de millions d'euros sur un un bug voilà nous on a la chance d'avoir aucune de ces contraintes là donc c'est vrai que la vie est plus facile je pense alors un petit complément parce que on est probablement moins structuré qu'une banque en terme de de de risque management nous on fait face à un certain foisonnement où l'intelligence Artificielle crée sa valeur au plus proche du métier euh et donc

il faut alors le métier étant parfois un écosystème de fournisseur donc effectivement former la fonction achat est urgentissime mais donc donc la gouvernance donc on en a créé une enfin on a renforcé la gouvernance cette année on a créé un poste de de vipi Data ai qui supervise l'ensemble des choses auquell on a associé un certain nombre de moyens mais Globalement le principal enjeu de gouvernance c'est de fédérer euh un écosystème vraiment foisonnant euh on en découvre tous les jours hein l'échelle planétaire des des expérimentations qui parfois sont en production chez les clients voilà donc

donc il faut arriver à gouverner ça et on revient sur le même sujet c'est que acculturation il faut former les gens sur les risques à nouveau évidemment le risque de D'amende c'est c'est quelque chose qui fait qui qui nous facilite un tout petit peu la vie euh pour engager cette acculturation mais au fond il faut les acculturer sur les risques par curiosité ce nouveau rôle il reporte à qui est est-ce qu'il est la DSi ou alors nous la petite particularité c'est qu'on a une direction digitale qui regroupe tout digital donc l'IT pour un/4 et les

3/4 qui est le le digital dans nos produits donc ça c'est une Petite nouveauté de de cette année c'est donc qui c'est c'est un rôle plus transverse et qui inclut aussi ce qu'on met dans dans le produit final qui est livré au client pardon ouais alors pour pour illustrer juste le groupe crécoolle c'est un groupe uni et décentralisé je vous rappelle je vous laisse apprécier ce que ça signifie donc je compati tout à fait courage euh chez nous Effectivement c'est troné c'est pour ça que je disais que ça prend des années c'est-à-dire qu'en réalité s'assurer

que jusqu'au terrain sur le terrain ceux qui sont en proximité des métiers euh bah à la fois les messages la culturation la pédagogie qu' on fait autour de ces sujetsl et puis bah ce qui est la norme soit comprise et digéré ça prend énormément long temps c'est c'est pas vrai de se dire qu'on va appuyer sur le bouton on envoie la norme et au bout de 3 mois c'est pli chez nous il y a un principe qui s'appelle la subsidiarité al c'est pour ceux qui connaissent c'est un terme de la doctrine catholique en gros le

principe c'est c'est celui qui est au plus près du problème qui est les meilleur la meilleure faculté à la régler quoi mais ça signifie aussi que bah il peut y avoir des interprétations parfois qui sont un peu différentes en proximité et donc c'est pour ça que je disais que c'est ça fonctionne sur Plusieurs CR c'est qu'il y a beaucoup d'accompagnement pour que les gens compr prennent et appliquent et puis après il y a aussi bah toutes les fonctions de contrôle qui vont assurer que la la il y a effectivement une mise en pratique réelle de

la norme qui doivent opérer le deuxième point en fait qui me semble aussi important de de préciser et ça fait éch à plusieurs choses qui ont été dites c'est que il y a un vrai effort à faire de la part des fonctions de Contrôle et de support pour aller s'insérer finalement dans les projets au moment des études d'opportunités des cadrages et plus globalement le cycle de fabrication parce que permet d'avoir des fonctions de support et de contrôle qui soit aidante c'est pas là pour dire voilà la règle c'est ça vous pouvez pas faire mais plutôt

là pour définir les meilleures conditions pour faire cont tenu de la conformité mais aussi bah des souhaits qu'on a au niveau du groupe D'appliquer un certain nombre de normes il y a encore un peu de chemin à faire mais de plus en plus on a ces logique de conformité native alors certains disent by design et ça je pense que c'est super important parce que les approches a notamment elles demandent cette pluridisciplinarité parfois on a des approches où on met pas les fonctions de contrôle la conformité et cetera nous on essaie au contraire de dire NON

NON Allez-y au moment des cadrages plus vous intervenez tôt plus vous êtes en appui des porteur de projet moi il a de chance qu'en bout de chaîne finalement il y a des feux rouges parce qu'il y a des choses qui on pas été vu au départ quoi ouais non côté Zr je pense ça ressemble effectivement à à ce que Nick a décrit donc petite structure monoprjet puisqu'on est éditeur d'une d'un logiciel avec une sorte de de gouvernance et cycle produit on sort Trois versions par an avec voilà une visibilité sur la r map des fonctionn

éité bien bien établi donc le le on va dire le la culture d'entreprise et le le le projet d'entreprise fait qu'il a une gouvernance naturelle autour d'un d'un projet on pourrait voà aussi se qualifier de Dia first voilà c'est cette cette ce projet commun qui qui qu'on na' pas trop de problème de de gouvernance et heureusement parce qu'on a voilà déjà assez de problème avec autre chose ouis Tu es un P Player à qu'un seul problème voilà un seul problème juste pour rebondir aussi euh l'intégration de la fonction légale donc qui se fait naturellement peut-être

dans petite structure plus petite structure on a aussi beaucoup travaillé là-dessus on s'est renforcé euh sur avoir des gens parce que on peut faire appel à l'extérieur on le fait aussi mais c'est important d'avoir des des juristes internes euh qui qui voient le 360 c'est De du cas d'usage métier des risque globaux métier c'est dire que on parle d'assurance et est-ce que on a une assurance spécifique sur l' la réponse est non on a un contrat d'assurance global sur les les dommages direct qui prend en compte ça parmi d'autres choses donc les assurances aussi sont

sont dans la boucle donc on a tout un ensemble d'acteurs qu'on essaie d'intégrer aussi au plusutôt et et il y a des nouveaux profils qui s'intègre dans ces Structures là et c'est c'est super important de de travailler là-dessus ouais sur le sujet de la urence au page nous on voit ça comme un risque Haïti c'està-dire dans le cadre normatif qu'on a élaboré il y a une annexe qui est vraiment dédié au risque a jusqu'ici les risques c'était assez peu appréhendé en réalité par par nos métiers nos it et ce qu'on a essayé de faire c'est

d' la fois de de le niveau taxonomique c'estd de les Décrire en plus ils sont évolutifs donc faut le faire bouger assez régulièrement mais aussi de de de stipuler un certain nombre de leviers de détection et de réduction des risques et puis après de transposer ça sur un cadre beaucoup plus gros global c'est de flaguer vers une grille des risques ha où là effectivement l'assurance globale elle est plutôt au niveau de l'ensemble des risques Hai pe que peut courouvrir une banque il y en a un petit paquet hein Évidemment et il y a beaucoup de

réglementations bah Dora en fait partie Nice aussi et cetera euh pour administrer finalement ce ce niveau de gestion des risques par les établissements quoi moi j'ai une petite Contis moi j'ai une petite contrainte donc je dois aller euh je vous laisse mais je suis dispo si certains veulent continuer la discussion sur LinkedIn et je vous laisse pour pour la suite merci merci à tous [Musique] merci alors il il nous reste un petit peu de temps il y a un sujet qu'on a pas encore abordé c'est les discussions autour de la souveraineté euh je CIS que

tu allais dire Jésus mais bon la souveraineté de de Lia bah européenne française est-ce que c'est quelque chose enfin c'est un critères que vous prenez en compte dans vos dans vos choix de ouis je peux me lancer en fait faut expliquer le mot Souveraineté c'estàd que souvent quand on dit souveraineté souvent on a l'impression qu'on veut tout construire nous-même je pense que voilà bon c'est plus trop possible dans le monde dans lequel on vit nous on l'a plutôt transposé comme étant une traduction du risque de dépendance économique excessive donc dans les critères que j'écrivais tout

à l'heure bah on pèse les choix de mix technologique de de Manière multifactorielle il y a la dimension risque les risques propres par exemple pour les as génératives l'hallucination le contenu approprié la fuite de données et cetera mais il y a aussi ce risque de dépendance économique excessive et donc ça effectivement très tôt et ça faisait partie de notre stratégie dia déjà qu'on a élaboré en 2019 on a dit il faut qu'on ait une capacité à pouvoir pivoter d'un environnement à un autre d'un modèle à Un autre et qu'on se pose systématiquement et méthodologiquement dans

nos dans les cadrages et dans la fabrication de solutions pour dire est-ce qu'on fait du mec est-ce qu'on fait du bail est-ce que fait du mec BA et en fait les situations peuvent être très nuancées d'une problématique ou d'un cas d'usage à un autre par exemple si vous avez un besoin de pouvoir répondre de manière très fine à un régulateur parce Que vous êtes sur quelque chose qui est vraiment au cœur de votre gestion des risques bah potentiellement ça vous emmène plutôt sur du mec parce que bidment on a la main sur tous les leviers

quand on fabrique quoi à contr si vous êtes sur quelque chose où c'est dans l'expérience client et vous avez des choses qui sont très sur étagères qui qui peuvent être changer très très simplement bah peut-être que le fait de PIR le faire rapidement ça nous emmène Plutôt vers du bail et après B nous on hybride au gré des circonstances et puis bah de de de la colonne vertébrale qui est notre stratégie entre ces différentes options là quoi ouis nous aussi c'est comme ça qu'on voit d'ailleurs c'est la partie moi je je trouve la la plus

intéressante de de l'iaac c'est ces fameux euh general proppose ai c'est c'est saisi à effectivement à usage général qui ont été glissés là juste après le 30 novemre 2022 avec la r chat GPT mais d'ailleurs voilà on peut saluer quand même d'avoir réussi à à à glisser ça et après la strate au dessus effectivement de c'est gpai à risque systémique donc qui est encore une une classe au-dessus euh c'est vrai quand on réfléchit bien et ça ça nous échappe un peu dans des contextes macroéconomiques où on sait que effectivement l'influence de demain entre un continent

et à l'autre c'est plus des des affrontements directs mais C'est peut-être sur certains technologies à double usage de dire bah euh voilà les les systèmes les plus performants euh ils sont ils nous sont réservés et donc le reste du monde a le droit à la version dégradée ou bien euh pourquoi pas on peut imaginer des des des des influences ou des tentatives de déstabilisation alors sans vraiment euh empêcher de faire marcher le le système et de le faire un petit peu dysfonctionner euh de temps en temps et Cetera euh et donc en fait en terme

de résilience euh je pense que c'est ce que fait bien le euh l'Europe elle elle annonce au monde bon euh si effectivement il y a une un doute une un risque systémique en tant qu'Europe on s'autorise le fait de peut-être interdire demain une une une technologie mais ça nous fait pas peur parce que on s'est préparé l'ensemble de nos de nos pays sont sont prêts on a des des alternatives et cetera euh et euh Euh et donc donc nous en tant que qu'éditeur ça nous nous oblige euh à préparer le pire c'est-à-dire à pouvoir nous

rabattre sur d'autres solutions et donc un petit peu comme disait Aldric avoir la capacité de supporter plusieurs plusieurs solutions pour peut-être ne jamais basculer sur la solution de repli mais pouvoir effectivement expliquer que en cas de cas d'absolu nécessité on on peut le faire et ça et ça et ça nous gênera Pas donc c'est voilà cet aspect je pense résilience de de l'Europe et et et et annoncer au reste du monde que l'Europe serait se débrouillé je parle même pas du Cloud et cetera si on devait s'en s'en passer auou par d'autres acteurs peut-être ça

n'arrivera jamais mais juste voilà se le dire et s'y préparer ça fait déjà la la différence donc voilà nous comment on voit les le principe de l'assurance he que tu vas me décrire comment c'est le principe de L'assurance exement exactement alors pour nous en tant que fournisseur de technologie déjà c'est queon fait face à de régulation spécifiques sur la souveraineté euh deux petites anecdotes on avait un système dia sur la gestion de de flux de passagers pour un client canadien et on a une une offre d'ébergement de données aux États-Unis et alors franchement moi vu

de Paris je me suis dit bah c'est bon on couvre la souveraineté du continent Américain et là j'ai eu un refus légal j'ai une belle lettre de gouvernement canadien de dire il est hors de question que mes données de transport soient hébergées aux États-Unis donc tout ça pour expliquer que ça rajoute on parlait de de contraintte réglementairire on en a déjà un certain nombre et je dirais que je suis presque plus inquiet sur ces démarche de de souveraineté de données parce que là on est presque plus souveraineté de Données dans un premier temps avant de

souveraineté d'algorithme la deuxième anecdote c'est un client européen qui me dit pas de problème pouvez héberger mes données dans un Cloud à condition qu'il soit pas américain euh [Musique] ou quiutilise pas de technologie américaine qui qui ne soit pas euh euh donc j'ai pas trouvé hein personnellement je je je cherche encore j'ai hésité à lui proposer Alibaba non Mais tu en as en as ah bleu si vous voulez me citer bleu il est sur uneas tu as du OVH enfin voilà ah bah OVH je peux vous dire qu'ils utilisent la technologie américaine donc de toute

façon oui oui non mais d'accord c'est sans aucune technologie américaine ça oui c'est enfin le fait est c'est qu'il y ait pas de dépendance au à l'US Act donc donc voilà donc on pour avoir ce débat Là le fait est c'est que je pense que sur cette capacité à avoir vraiment des solutions souveraines je pense que ça n'existe pas il y a une intrication on pourra avoir ce débat là mais je pense qu'il y a une intrication technologie et des acteurs il y a une main mise des Américains sur tout un ensemble de technologies qui

fait que de toute façon et on revient sur le sujet de la résilience de la dépendance aujourd'hui on est dans une Forte dépendance donc dans notre stratégie c'est effectivement c'est exactement la même he c'est dire d'évaluer des des alternatives euh donc y compris d'éberger chez nous un certain nombre donc on a encore des Data Center ça fait un peu hasb mais on a encore des Data Center et on a des mouvements de réinternalisation mais avec toujours des des des contraintes de souveraineté qui sont pas encore complètement limides ouais c'est là où on est un peu

Différent dans la banque c'est que 95 % de l'empreinte de stockage de données c'est du data center interne donc on a maintenant n on est sur une stratégie o de toute façon ça ça va rester on va pas supprimer les Data Center d'autant que je vous précise ils sont performants énergétiquement moderne aussi en revanche il y a sur un certain nombre de sujets on va dire typiquement le recours ài générative là dans certains cas bah quand vous avez besoin de GPU Effectivement on n pas prévu de faire pivoter en un an ou 2 ans tous

nos datas cur pour intégrer les capacités GP alors la petite particularité là je parlais des données de nos clients hein je parlais pas des données de qui elle on a moins de difficulté à gérer notre compliance donc donc voilà donc en gros pour moi beaucoup de régulation peu clair parfois maximaliste pe citer Singapour en Singapour vous avez pas le Droit d'avoir un collaborateur qui accès aux données qui n'est pas de Singapour qui a pas un passeport singapourien et qui est physiquement dans le pays donc on a tout un unfin une échantillon de de de réglementation

qui sont pour moi peu pragmatiques qui est peu applicable pour l'instant euh et on a du mal à avoir de la visibilité de vers où on va aller vers cette souveraineté la seule chose dont on est Sûr c'est que nos clients sont des organisations d'importance vitale dans tous les pays au même titre que l'énergie au même titre que les hôpitaux que il y a eu tout un ensemble d'attaques récentes qui fait que on peut bloquer un pays avec l'Ukraine l'Ukraine elle continue à à à vivre en terme de supply ch grâce au train donc vous

arrêtez les trains c'est quand même compliqué donc ça c'est vrai à l'échelle planétaire Donc on comprend le risque que euh les les gouvernements cherchent à traiter euh le fait d'arriver à le traiter dans la durée à court terme on a des solutions qui qui protège le fait de dire la géopolitique de de 2030 ou 2035 euh on anticipe ces risquesl donc c'est d'avoir des des choses qui soient le plus résilients et qu'on puisse switcher de technologie donc de pas s'enfermer dans technologie donc nous on a une règle de base c'est que on est pour pas

Faire de pub très Azure mais tout est conçu pour pouvoir être hébergé dans un autre cloud à tout moment je vais vous poser une dernière question et en fait vous allez juste répondre par oui ou par non et pu long voilà et ensuite on passera aux questions des des participants ici dans la salle et puis à distance euh ben finalement quand n expliquait Caroline le les ACT assez précurseur dans le monde comme réglementation bah notamment sur son Aspect respect des droits respect des utilisateurs est-ce que vous pensez que c'est une réglementation qui peut influencer d'autres

puissances mondiales je pense aux États-Unis je pense à la Chine euh au Moyen-Orient ouais c'est facile oui parce que c'est c'est déjà en cours donc oui aussi le oui tu as une belle diversité merci beaucoup bah du coup on va ouvrir les questions peut-être d'abord en Commençant par la salle et puis après on prendra quelques questions en ligne si on en [Musique] a question bonjour Merci question très large mais si vous pouvez répondre peut-être avec des exemples euh quand je vous parle de notion de Dia privé qu'est-ce que vous imaginez ou qu'est-ce que vous avez

déjà pu établir comme projet est-ce que ça Est-ce que ça ce thème vous parle et est-ce que vous l'utilisez alors nous on utilise assez peu c'est un peu vague par que ça peut vouloir dire on a par exemple ce qu'on appelle un tenante cloud dédié dans lequel les modèles sont compartimentés privé ça peut voouir dire ça ça peut vouloir dire on a tout en interne donc le fameux data center on premise peut vouloir dire ça aussi ça peut vouloir dire on a fabriqué le Modèle nous-même et euh il est à l'intérieur d'une infrastructure en préise

il y a rien qui sort donc c'est c'est pas tellement un un concept que qu'on manipule peut-être un un un complément et sur un cas d'usage vraiment particulier c'est vraiment la partie apprentissage qu'on est sur des savoir-faire internes euh assez uniques euh on a effectivement on utilise pas de techno sur étagère on fait nos propres Apprentissages et et on héberge ses propres modèle de données c'est extrêmement circonstancier c'est une part limitée mais ce qui est privé pour nous c'est surtout ne pas perdre notre [Musique] savoir-faire est-ce que vous pensez que l'IA ACT va augmenter la

fiabilité et la viabilité des données en général alors la ICT en tant que tel a des exigences sur la qualité des données L'absence de B et cetera mais en réalité dans la banque il y a une réglementation qui est beaucoup plus présente que ça ça s'appelle BC ba 239 pour les initiés c'est en gros s'assurer de la mise en qualité sur tout le cycle de production et de vie de la donnée de tout ce qui peut servir euh alors déjà initialement du reporting ris mais globalement on s'aperçoit que la volonté du réulateur c'est tout ce

qui peut servir de près ou de loin à une Direction Générale à Prendre descision décisions concernant son entreprise c'est très large ça il y a des vraies exigences et pour le coup oui on est dessus et il faut vraiment qu'on se mette en [Musique] conformité bonjour laurjourdhi J'ai une question au sujet de l'interaction et des intersections entre l'IA la cybersécurité et lia et les outils de travail notamment les outils de développement qui sont de plus En plus augmentés entre guillemets par de l générative notamment clickup gitlab et cetera comment vous comment vous maîtrisez ça ça

je peux je peux prendre la question parce que on a quelques milliers de développeurs chez Alstom et on est dans le dans la vague gitub Copilot et et en tant que sponsor j'ai pas mal de réunions avec le management c'est dire que le collaborateur man management d'Alstom et aussi le Management de Microsoft en l'occurrence parce que comme c'est quelque chose de récent on est en contact avec le centre l'organisation d'ingénierie interne de de Microsoft il faut qu'on repense nos nos nos façons de contrôler c'est dire que à nouveau ces outils c'est des outils d'aide on

fait pas de de production de code AUTOMATIQUE et al évoquait ça tout à l'heure c'est il faut revoir nos nos nos façons de contrôler et sur la durée dire qu'au début les Premiers mois bah les managers vont avoir une certaine attention de contrôle parce que c'est nouveau et cetera il va falloir qu'on regarde ça sur la durée et là on est aussi dans des processus industriels donc on a tout un ensemble de contrôles qui étit prévu précédemment qu'on renforce euh donc là si on parle de cybersécurité on utilise une technologie qui s'appelle black Duck qui

est relativement célèbre euh et on va Renforcer un certain nombre de règles ce qu'on pense nous c'est qu'on va avoir un peu moins de diversité c'estàdire que comme l'outil va créer du code donc on va avoir des patterns qui vont revenir plus souvent ça peut faciliter un peu le ciblage du contrôle maintenant il va falloir qu'on fasse ça sur la durée aujourd'hui on a 6 mois de de recul donc je peux vous dire que c'est une vraie problématique de management c'est c'est on a des ateliers avec les managers de Dire comment vous allez appréhender appréhender

ça et c'est assez rigolo parce que les premiers meetings que j'avais eu avec le management c'était oh mais la c technologique c'est un sujet technologique c'est c'est celui qui qui qui qui met la clé dans dans gitub coopilot qui doit animer les réunions non non non lui déjà bon il est invité parce que il faut qu'il vous entende mais je vous entendre vous qu'est-ce que ça vous transforme dans votre quotidien Donc voilà ça fait 6 mois euh alors on a aussi des différences culturelles parce que donc j'ai un plateau en France un plateau bangalor et

un plateau en en Suède donc c'est c'est rigolo c'est c'est pas appréhendé toujours de la même façon donc il faut aussi prendre cette dimension culturelle du l'accompagnement du contrôle mais toujours dans une mécanique de l'humain et et le dernier maillon et nos contrôles qui existaient avant on les enlève pas éventuellement On les renforce même sur certains aspects oui pour pour compléter effectivement cyber et pour nous les les deux vont complètement sememble et c'est il a naturellement on va dire compléter notre analyse cyber je vais donner un exemple donc dans dans dans le framework ISO 271

de la la cybersécurité on atification des fournisseurs et une classification des fournisseurs par criticité et cetera et effectivement Assez naturellement des des systèmes de comme comme open ou rentrent dans cette catégorie et donc ensuite vont être analysés et suivis au niveau cyber dans ce framework un deuxième exemple c'est dans notre analyse de risque donc on a voilà après l'analyse ibios o j'en passe enfin certains processus les classique cyber atttaque fishing et cetera mais on a aussi le risque de l'IA qui se met à Dysfonctionner avec après une une évaluation de de l'impact voilà d'image financier

ou d'interruption de de service donc ce que je veux dire c'est que vraiment le le l'IA rentre complètement dans dans un un framework de risque encore plus large qui est la la cyber en général qui reste un des enjeux principal et finalement il y a une sous-partie du du du risque cyber je terminerai voilà on a par exemple dans ISO 271 une une politique De de développement sécurisé par exemple security by design bah effectivement quand on met lia au cœur de son logiciel li rentre dans cette catégorie donc voilà tout ça est assez assez naturel

et le le cyber reste le le point le point principal et par annexion le lien ouais je je précise juste un petit peu nous comme je disais tout à l'heure on a fait une taxonomie des risques il a évidemment les risques cyber liés à l'a En font partie et comme ils sont nativement accostés en fait au risque ha euh ben du coup on travaille de concert avec les équipes Haïti pour finalement trouver des réponses adaptées à ce type de risque là on été la deuxème question est un peu différente là par rapport à tout ce

qui est copilote de développement euh nous on a été assez clair départ on a dit qu'il fallait quand même des prérequis pour pouvoir expérimenter cette technologie là et en Particulier dans les prérequis c'est le fait de déjà être dans une approche devvops et donc d'avoir bah ce qu'on appelle une chaîne d'intégration et déploiement continu dans lequel des modules de contrôle de code sont prévus où il y a déjà des pratiques qui sont animées et où il y a par exemple des scans de vulnérabilité avant mise en production bah quelle que soit l'application qu'on y met

pourquoi parce qu'effectivement si vous vous entrez Dans une expérimentation ou même une agent production avec du gitub copilote par exemple et que ces pratiques là ne sont pas digéré effectivement ça peut entraîner une perte de contrôle d'un certain nombre de codes dedans il peut y avoir bah des codes malicieux mais dire le CAL plus générique c'est juste des codes qui seront à terme mal maîtrisés parce qu'ils auraient pas été conçus dans une dimension patrimoniale du code informatique et ça c'est presque à la Limite le le le risque c'est qu'à un moment donné quand vous avez

B nous c'est 12000 développeurs métier système d'information si vous si vous aviez 12000 développeurs euh sans prise en compte dans CIT de ces vision long terme de ce que doit être un patrimoine de code informatique c'est presque encore plus dangereux que d'avoir du du code malicieux quoi on a deux questions en ligne alors comment apprend apprendrait les Évolutions par non les évolution des métiers pardon qui sont inconturnables avez-vous des plans d'action pour les identifier et les accompagner alors oui on a on a un programme en fait là qui est en cours qui s'appelle la stratégie

de déploiement à l'échelle de de l générative mais globalement ce qu'il fautetenir c'est que c'est la au sens large il y a un plan de formation pour commencer de 60000 collaborateurs mais j'ai envie dire le plan de Formation c'est très bien mais on sait que ces sujets là on doit les adresser dans la durée sur plusieurs années ce qui est important aussi d'avoir en tête c'est que il faut suffit pas de traiter les experts qui vont devoir fabriquer ou en tout cas gérer ces solutions là il faut que l'ensemble des collaborateur d'une entreprise dans un

contexte où il va y avoir une massification des usages de l'intelligence artificielle soit dans Nos parcours clients dans nos processus dans nos outils au sens large bah soit sensibiliser et sensibiliser suivant une strate finalement très pragmatique qui est que bah par exemple s'il y a un collaborateur a une nativement embarqué dans son logiciel mettons son CR son enjeu à lui prioritaire c'est pas forcément d'apprendre le prompt engineering les techniques ultra sophistiqué pour questionner une générative son enjeu à lui c'est Justement ce que je disais tout à l'heure l'enjeu de vigilance par rapport à un résultat

l'esprit critique de challenger et cetera et donc ça c'est ce qu' y a de plus dur à faire parce que quand vous êtes dans une entreprise où il y a énormément de collaborateurs avec des métiers très diversifiés et des problématiques bah qui peuvent aller de celui qui fait je sais pas moi la transition énergétique jusqu'à celui qui est en agence et qui Conseille des clients bah ça c'est c'est un vrai défi du quotidien quoi merci et il y a une autre question il me semble que c'est pour Caroline et des gens même s'il y a

un lien avec ce qu'on vient d'entendre alors pourraons-nous en savoir un peu plus sur la culturation des salairié qui deviennent obligatoire le réglement n dit pas forcément plus hein c'est une ligne dans tout le règlement en revanche je pense Que ça revient à ce que vient de dire Aldric c'est que il faut former le personnel et la formation elle doit être la plus adaptée en fonction des métiers de chacun donc c'est certainement le défi de chaque entreprise de savoir quels sont les outils qui seront utilisés par le personnel et comment les former correctement pour leur

permettre d'éviter les risques liés à à l'utilisation de l'IA alors nous simplement dans le le Baromètre c'était une une des questions qu'on aé c'est quelles sont vos prévisions en terme de formation et quel type de formation et le le ce qu'on observe c'est que en fait moins de la moitié des des répondants nous onts ont dit qu'il les avaient ou ils avaient soit ils avaient soit ils avaient prévu de de mettre en place une formation donc on a encore en gros globalement plus de la moitié des de ces entreprises là qui qui doivent se pencher

sur la question Et là où il y a un manque cent enfin dans dans l'étude c'est vraiment sur les questions éthique et de biais aujourd'hui les formations sont plutôt centrées sur les les questions de de confidentialité et tout ce qui est lié à rgpd donc voilà il y a il y a un tournant à à prendre à ce niveau-là ouais merci est-ce qu'il y a une autre question dans la salle bonjour merci pour la qualité de cette table ronde j'ai une question j'espère Que c'est pas une question pointu je la p quand même ça démarre

comme ça en général surtout qu'elle est déclinée pour monsieur zapellini je la pose de manière générale est-ce que il a acte fait une différence entre les personnes morales et les personnes physiques par exemple est-ce que un algorithme de scoring qui évalue des risques de défaillance de crédit d'une entreprise et considéré de la même façon que un risque pour des Particuliers bah là lesac pour le coup c'est plus pour les particuliers hein euh bon après nous ça nous pose pas de problème particulier dans le sens où on avait déjà plein de réglementations préexistantes où les travaux

nécessaires et indispensable en matière d'exence son sont déjà traités je parlais tout à l'heure du model risque management évidemment que les score d'ct 3 notamment entreprise bah si vous le faites mal forcément ça peut avoir un Impact c'est conséquent pour pour une banque et donc du coup ils sont pris dans le scope de cette réglementation là et puis sur les score d'octroit enfin d'aide à l'octroit de crédit de toute façon on a toujours eu cette habitude là depuis qu'on fait des scores avant il y avait le fameux dossier à déposé à laacnil il était déjà

extrêmement exigeant notamment en matière d'explicabilité de vigilance par rapport au risque de billet Discriminatoire et donc franchement on n'est pas spécialement inquet sur la mise en conformité sur ce type d'usage là quoord merci eu peut-être un petit complément il y a des fois il y a de la propagation qu'on avait pas tout à fait anticipé je vais prendre juste un exemple des vidéosurveillance dans les trains nù on vend à à des entreprises donc il y a pas de particulier sauf que à la fin des fins euh ben on a un Particulier donc ça veut dire

que dans dans le cycle maintenant il faut qu'on prenne ça en compte mais on avait déjà les les sujets gdpr ce qui fait que à nouveau la culturation est un point important de dire c'est pas parce qu'on vend à à une entreprise qu'il faut pas se sentir concerné par C merci beaucoup encore encore une petite question du live est-ce que la mise en place de lit À acte va mener à des nouveaux rôles par exemple sur les sujets d'éthique bah en fait on avait des rôles sur l'éthique après en fait l'éthique c'est un sujet beaucoup

plus large que l'a et donc on a déjà une charte éthique au créagricole on a déjà notamment souvent chez nous il y a en tout cas dans les banques il y a un département conformité qui s'occupe de la protection de la clientelle et la dimension éthique est évidemment très présente dans ce Type de de fonction là donc nous on va s'inscrire en fait sur la partie A dans le corpus global de ce que le crécole fait en matière d'éthique sachant que bah il y a des points spécifiques àa on l'a évoqué effectivement les risques de

biais discriminatoire c'est quelque chose de fondamental mais d'une manière générale c'était déjà présent au niveau du rgpd il faut quand même se poser des questions sur bah est-ce que ce que je fais est utile à mon mon client est-ce Que par exemple le degré d'intrusivité d'utilisation d'une donnée est proportionnée au Bénéfic que le client va en tirer à partir du moment où vous posez ces questions là j'ai envie dire après les réponses d'un point de vue méthodologique et technologique peuvent être différentes mais l'essentiel c'est de se les poser si vous les posez vous avez déjà

fait une grande partie de de de ce qu'il y a à faire là où il y a un Risque potentiellement effectivement c'est ne se jamais ne jamais se poser ces questions là là pour le coup problème mais c'est pas trop crcole on on se les pose plutôt peut-être qu'on s'en pose trop mais on se les pose quoi j'ai encore une dernière question et après on arrêtera quel moyen avez-vous pour valider en conformité un sia lorsque celui-ci est développé par une entreprise de taille international face à un Gafa par Exemple comment on évalue alors si j'ai

bien compris question la repr si vous voulez voilà bon nous par exemple chez zros effectivement on évalue avec des batteries de test en définitive donc de notre verticalisation et spécialisation assurantielle et et banque par exemple un des dispositifs c'est qu'on a de par notre expérience euh identifier des promptes extrêmement complexes euh extrêmement complexe c'està dire que Même un spécialiste il lui faut plusieurs minutes VO plusieurs dizaines de minutes pour comprendre la question analyser le contenu et se prononcer et que même un collège d'experts il va yir discussion entre entre les experts pour pour répondre j'ai

j'ai le cas par exemple pour un banque assureur justement qui sur une question de est-ce que un un résident fiscal en Suède peut souscrire une assurance vie ça paraît simple mais en Fait il y a plein de questions sous-jacentes et donc on a euh on a une une bibliothtique de de prompte euh et on passe tous les LLM en fait au travers de cette de cette grill là donc clairement euh on a aussi des des prompt très simples hein donc comme écrit une phrase avec le mot chien en 3e position par exemple bon pour nos

applications on élimine les LLM qui savent pas euh répondre à à à à à ça ou bien euh euh j'ai trois pommes Euh hier j'en ai mangé deux euh combien m'en reste-t-il ce soir euh voilà le les LLM un peu bas de gamme vont euh faire 3 - 2 et donc vaut pas comprendre hier et aujourd'hui voà donc nous ce qu'on se dit c'est que déjà en en en en vérifiant ça on on introduit une une une certaine sélectivité des des LLM et puis ensuite par-dessus on rajoute ces fameux promte euh assurancielle euh et c'est

ça qui nous permet un des dispositifs qui nous permet voilà de de de de de valider et De suivre M et alors pour la petite histoire aussi on a identifié que même un LM je pense par exemple au GPT 4o euh le gpt4 du mois d'avril par exemple n'est pas le même que le gpt4 du mois d'août et donc il faut sans arrêt ref mal c'est pas la même saison voilà c'est ça il faut on attend celui de de décembre euh mais donc il faut sans arrêt voilà tu une version Halloween on va voir on

va voir ça effectivement donc voilà un des dispositifs je sais pas si Répond à la question mais effectivement on est extrêmement vigilant sur ces sur ces sur ces critères de de sélection ouais moi je fais un peut-être un pas de côté peut-être que la question c'était aussi le déséquili des moyens c'estàd quel moyen réellement on a de s'assurer qu'un un hyperscaler par exemple se metre en conformité par rapport à la YCT à n'importe quelle réglementation en réalité nous on va faire laassessement s'il y a vraiment quelque chose qui nous Gêne d'un point de vue de

notre cadre interne bah onutilisera pas tout simplement si ça te convient pas tu l'utilises pas voilà comm mais c'est pasreonsabité faut prendre sa responsabilité non mais je prends un exemple qui est peut-être moins connu mais par tout ce qui est risque sur les copyright ou on voit qu'il y a plein de procès aux États-Unis mais bon quand il Y a des procès aux États-Unis ça peut redescendre en plus fine quand même euh sur est-ce que il y a eu des violations des droit d'auteur notamment dans l'apprentissage des de ces grands modèles de langage bah pour

le coup si vous vous considérez en tant qu'entreprise que vous pouvez être impacté par ça bah il va falloir de toute façon que vous traitiez ce risque là alors on les pondère on regarde est-ce qu'il y a une probabilité mais J'ai envie de dire c'est c'est pour nous en tout cas en tant que banque c'est notre métier d'analyser le risque donc du coup on va l'analyser comme étant un risque et puis on prendra la décision euh à la fois en terme d'usage mais aussi en terme de de réduction des risques de mesures complémentaires en réité

ce sujetl était déjà présent au rgpd par exemple notamment sur les transferts de données hunion européenne ou des choses comme ça il mesure les Clauses contractuelles type ou les mesures techniques voilà et donc c'est pas c'est pas un sujet qui est vraiment nouveau pour pour la plupart des acteurs en réité merci beaucoup beaucoup pour vos contributions et pour cet échange qui a été bah très intéressant euh ces regards croisés euh et puis voilà le le fait d'avoir partagé un peu plus en plus dans détail sur sur vos organisations spécifiques Merci à chacun d'entre vous d'être

d'avoir été présent merci pour les questions [Applaudissements]