IA Générative : entre le risque d’avoir trop d’air ou trop d’eau, comment y aller sans planer ni se noyer : notre approche — pour l’instant !

L’IA générative (IAG), on ne passera pas à côté. Ça intéresse tout le monde, nous comme nos Métiers. La technologie est en réalité assez mature et c’est la capacité à offrir un service ultra accessible qui a provoqué ce tsunami de janvier 2023. Il faut l’adapter, contrôler ses divers usages, accompagner sa prise en main et proposer des applications métier pertinentes. De l’ambition, de la prudence : on vous partage avec humilité le cheminement mental qui est le nôtre depuis désormais quelques mois.

1. Comprendre

Nos data scientists nous l’ont très vite dit : d’une, rien de nouveau, les LLM (large langage model) et l’IA générative qui en découle, ça existe depuis plusieurs années. Pas à ce niveau d’accessibilité, mais c’était déjà là. Ils nous ont aussi dit qu’il ne faudrait pas y chercher la grande massification et le grand remplacement de l’IA classique. Dun côté, on a des algos maison, s’appuyant sur des données maîtrisées : ça reste de l’intelligence artificielle mais on sait en scorer le degré de confiance. De l’autre, un algo inconnu entraîné en masse sur des données qu’on ne connaît pas jusqu’au bout. Surpuissant, plus que surprenant, et/mais bourré de risques d’hallucination.

On a vite sorti les schémas qui vont nous permettre d’orchestrer du LLM, du graph, de pousser du contexte dans des prompts pré-formatés pour aider nos utilisateurs à tirer le meilleur parti de cet ami merveilleux. On s’est tout de même aussi très vite dit qu’un ami qui croit tout savoir sur tout, et le dit de façon loufoque à n’importe qui, c’est un ami un peu encombrant. Il faudra lui apprendre la politesse ! Blague à part, il faudra l’orchestrer avec nos systèmes de gestion des droits et accès, des habilitations.

Sans se vanter, parce que tout un tas d’entreprises a dû se le dire au même moment que nous, ça, on se l’est dit dès le début. Très vite. On est en revanche arrivés ensuite sur nos zones dures.

2. Evangéliser et créer l’envie

Depuis deux ans, on faisait le tour des métiers avec un motto : « en quoi ton métier, demain, sera-t-il disrupté par la tech ? ». On leur parlait de l’IA, du métaverse, de la finance enfouie. Pour certains métiers, ça avait eu l’effet d’un « wake-up call » ; pour d’autres d’un intérêt poli. Avec l’IAG en revanche cette année, rien de la sorte. On n’exagère presque pas en vous disant qu’ils nous ont quasiment attendus avec des banderoles. En tout cas, ils étaient prêts. Prêts à en parler, prêts à en apprendre, prêts à nous pousser des cas d’usage. C’est bien simple, en quinze jours, notre valeureux pilote digital a tout simplement collecté plus de 150 cas d’usage.

L’IAG va nous permettre de faire des choses que sans, on ne pourrait pas. Le DSI Lionel Chaîne le résume bien : « Nous n’avons pas anticipé toute la valeur que peut nous apporter ce type de technologie »

Notre chance c’est qu’on a une direction générale à l’esprit de pionnier : au moment même où certaines entreprises et collectivités interdisaient l’accès à ChatGPT, notre DG, lui, écrivait à toute la boîte en nous disant : « allez-y, testez, testez, testez ! ». Ce message a été assorti d’une communication autour des bonnes pratiques pour interroger l’IA et exposer les précautions relatives au dépôt d’informations personnelles et relatives à l’entreprise. Que notre DG s’implique personnellement dans cette démarche pour signifier l’impact et l’importance de cette appropriation, c’était fort.

En parallèle, on a démarré une expérimentation sur notre chatbot interne, avec un groupe restreint d’utilisateurs pilotes. Il y a deux idées derrière : d’une, un chatbot saurait-il, demain, faire le tri entre les questions de manière à aller chercher la réponse dans nos bases de connaissance quand elle y est, ou la relayer à une IAG publique sinon ? D’autre part, passer par un portail Bpifrance en amont de l’IAG nous permet d’avoir un aperçu de l’utilisation naturelle qu’en font nos collègues au démarrage (et on n’est pas déçus : sur 3500 collaborateurs internes, on sait qu’un sur trois en moyenne a recours à titre expérimental ou quotidien à une IAG).

3. Organiser le champ des possibles, passer en mode projet

De ces balbutiements, et d’une certaine effervescence au départ, commence à se dégager une roadmap plus structurée : d’une part, nous voulons « apprivoiser » une IAG grand public, en mode tenant privé, pour bénéficier de la puissance d’un LLM sur-entraîné — tout en sachant quels risques d’hallucination cela importe dans notre entreprise. De plus : on est une banque, on est une société de gestion : garantir l’intégrité et la protection de nos données, c’est juste clef et on ne compte pas jouer avec. Avant même que la Conformité et le Juridique nous le demande, on se pose la question : comment est-ce que tout cela fonctionne ? Où vont les données ? Est-ce que notre patrimoine serait aspiré pour réentrainer les modèles publics ? Quelle sécurité dans les solutions qu’on nous propose ? Etc.

D’autre part, nous voulons tester puis sans doute adopter des IAG spécifiques : celle qui copilotera notre bureautique (Office Copilot) ; celle qui augmentera notre capacité de développement (Github Copilot) ; celle qui assistera de façon experte certains de nos métiers (Harvey pour le Juridique ?).

On veut aussi être capable d’exploiter le patrimoine informationnel de Bpifrance de façon à ce que nos utilisateurs sachent l’interroger en bénéficiant d’un LLM. Cela passe par des techniques de pré-prompts, d’indexation, de graph, etc. … on est encore en pleine exploration mais on pressent que c’est aussi là qu’on pourrait avoir un levier majeur de performance. Doit-on le rappeler ? La majeure partie des données n’est pas sur internet, elle est dans les entreprises.

4. Les questions que ça nous pose, les difficultés qui se présentent sur notre chemin

D‘abord, l’intendance. Dans notre contexte très « charrette », comment ménager de la place (de la « capa ») pour apprendre, faire de la veille, mener les batailles de cerveau nécessaires sur ce sujet passionnant ; expérimenter ; industrialiser ?

Ensuite, l’élan. D’une phase passionnée et pionnière, on arrive maintenant dans une phase raisonnée d’étude, d’idéation, de projet. En même temps, le sujet continue d’évoluer très vite et tout le temps. Résultat, on rentre dans le risque d’injonctions à faire, de désorientation pour ceux qui n’ont pas le temps de se réaligner sur les dernières visions, de « soufflet qui retombe » Ne pas casser l’élan tout en remettant du cadre, c’est chose subtile.

Ensuite encore, les craintes. Est-ce que l’IAG va détruire des emplois ? Est-ce qu’elle nous met en risque sur nos données, sur notre éthique ? Au vu de sa signature carbone, est-ce mal d’y recourir ? Dans la phase pionnière qui nous tient encore, fait-on courir un risque à l’entreprise, à ses salariés dans ce qu’on leur demande et dans ce que l’on expérimente ? On entre donc dans le temps de la gestion de risque, de l’atterrissage des initiatives trop hardies ; le cadre de l’entreprise cherche à s’exprimer pour dérouler ses processus et « en même temps », la tension à aller vite continue d’exister : ailleurs, à côté, « ils ont démarré ». Se met-on en retard ? Allons-nous être dépassés, périmés ?

5. Raison ne veut pas dire lenteur : le chemin que l’on arpente désormais

C’est dit, l’entreprise va poser une vision sur le sujet. Début octobre, le COMEX a demandé à ce qu’on lui remonte, sous un mois, quatre vues distinctes sur l’opportunité, l’impact et le risque de l’IAG : d’un point de vue sécurité ; conformité et juridique ; usabilité ; emplois et compétences.

L’organisation pose également ses processus : il y a ce qui doit relever de l’idéation : les bulles légères d’idées que l’on va tester trois mois maximum, avant d’abandonner ou d’industrialiser. « Chance », notre processus Discovery venait de sortir des cartons. S’il pensait lutter pour se trouver des clients, qu’il se rassure : nos 150 cas métiers sur l’IAG se bousculent au portillon. Il y a ce qui doit relever des enablers techniques : sécurité, modèles d’architecture, orchestration. Il y a ce qui relève des enablers fonctionnels : bibliothèques de pré-prompts. Enfin, il y a la gestion des risques et de la conformité contractuelle. Puis on arrive au plus important : il y a l’utilisateur et son futur quotidien.

6. L’utilisateur de l’IAG, demain

A ce stade tout n’est que conjoncture ; mais ce que l’on se dit, c’est que l’IAG, chez Bpifrance, ce sera un appui ; un copilote ; un outil qui prépare, suggère et accélère. Mais en aucun cas qui remplace. Nos métiers sont des métiers d’expertise et cela tombe bien : un de nos tous premiers mantras sur l’IAG c’est « il faut être expert de la question pour pouvoir utiliser la réponse ».

Ce que l’on se dit aussi c’est qu’il ne suffira pas de mettre à disposition des bibliothèques de prompt : avec l’IAG, et bien plus vite qu’on n’aurait pu le penser avec notre tour de terrain initial « demain, en quoi ton métier va-t-il être disrupté par la tech ? », la tech infuse nos métiers. Il faut donc que nos collègues hors IT et digital approchent les notions tech « de base » : la donnée et ses dimensions, ses enjeux de qualité ; ce qu’est, même basiquement, un algorithme ; en quoi un algo maison et une IAG de type ChatGPT ne sont pas la même chose, et ne répondront pas au même besoin. Ce qu’est ce terrible risque d’hallucination et comment le détecter pour le surmonter.

7. Ce qu’on attend, au bout, de ce sujet

« We have a dream » : l’IAG, correctement domestiquée, doit nous permettre de nous concentrer sur nos coeurs d’expertise : à nous, tech et développeurs ; et à nos métiers. A la clef, une promesse de levier de performance, et on en a besoin : chez Bpifrance, on cherche à recruter dans la tech à tour de bras mais le marché est structurellement déficitaire (on n’en fait pas ici l’exposé mais si vous insistez, on en fera un autre article !). Et si l’IAG nous permettait de détendre cette équation ? Pour nos métiers : Bpifrance, c’est un métier de flux qui jouait historiquement sur de séries plutôt petites (de la dizaine au millier) mais notre périmètre s’étend. Avec nos plateformes, on permet maintenant à des dizaines de milliers de créateurs d’entreprise, de TPE et de PME de se financer dans un temps record. Et si l’IAG automatisait une partie de nos cribles de scoring, de détection de la fraude, … et nous permettait de nous concentrer sur les cas uniques ou compliqués ?

8. Pourquoi on vous parle de tout ça, au bout du bout

Parce que le sujet nous passionne. Parce que nos techs sont bons et qu’ils se penchent dessus avec appétit. Parce qu’on est certains qu’on va en sortir des produits canons pour notre métier IT et pour nos métiers core business.

Parce qu’en lisant cet article, vous vous dites peut-être : « mais je rêverais qu’on en débatte, qu’on joue ce grand match d’idées — quand est-ce qu’on se voit sur le sujet ? ». Ça tombe bien, bpifrance.io c’est une communauté pour les techs internes de Bpifrance, et pour tous les autres qui veulent échanger avec nous. On se le monte, ce moment de « bataille de cerveaux » ?

Parce qu’en lisant cet article, vous détectez peut-être des voies sans issue dans lesquelles on est en train de s’engouffrer — dites-le nous en commentaire ! Bpifrance, c’est la boîte qui est au service des entrepreneurs : en nous aidant, c’est eux que vous aidez.

Enfin, parce qu’en lisant cet article, vous vient peut-être l’envie frénétique de nous rejoindre. Be our guest et allez sur io.bpifrance.fr, vous saurez tout sur nos, nos projets, nos stacks et nos besoins du moment. On se dit à bientôt ?