Pierre Ruhlmann (BNP Paribas) : « notre défi est d’industrialiser l’IA »

Pouvez-vous nous présenter la banque commerciale de BNP Paribas ?

La Banque Commerciale en France (BCEF) rassemble les activités de banque d’entreprise, de banque privée et de banque de détail en France. En 2023, ces activités regroupent près de 22 000 personnes au service de 7,1 millions de clients particuliers, 748 000 clients professionnels et TPE, 27 800 entreprises (PME, ETI, grandes entreprises) et près de 56 0000 associations, pour 6,6 milliards d’euros de produit net bancaire. Elle dispose d’un réseau de proximité qui compte 1 576 agences bancaires, 61 centres de Banque Privée dans toutes les régions de France, plus de 65 Pôles WAI (We Are Innovation) dédiés aux entrepreneurs innovants et 39 centres d’affaires dédiés aux entreprises.

La banque digitale Hello Bank ! est adossée à la banque commerciale avec ses plus d’un million de clients.

Ma fonction concerne les moyens mis à disposition des banques pour fonctionner, en particulier l’IT.

Pourquoi l’intelligence artificielle (IA) est-elle devenue un sujet stratégique pour vous ?

C’est un levier additionnel majeur qui répond à deux objectifs stratégiques : d’une part l’efficacité opérationnelle dans l’accompagnement des clients, d’autre part la satisfaction des clients et collaborateurs. Toute amélioration des processus doit viser à la satisfaction des clients et collaborateurs et l’IA répond tout à fait à cette finalité.

En août dernier, votre groupe a organisé une septième édition de votre Summer School sur l’IA. Pourquoi avoir créé cet événement et quel bilan en tirez-vous ?

Il s’agit d’un événement groupe qui réunit la communauté des collaborateurs travaillant sur l’IA. La septième édition a réuni 5000 participants, notamment des data scientists qui aident au développement de l’IA. La grande majorité des participants était à distance : il n’y avait que 300 présents physiquement à Louveciennes, essentiellement des experts techniques.

Parmi les sujets, il y a eu par exemple le développement de l’IAG en mode industriel à l’échelle. Des acteurs du marché (Mistral, Google, Nvidia…) sont intervenus pour expliciter la situation technologique et les caps suivis. Nous avons étudié comment aligner les nouvelles possibilités technologiques avec la stratégie du groupe. Jean-Laurent Bonnafé, Le CEO de BNP Paribas, est intervenu pour insister sur cet aspect. A ce jour, nous avons identifié mille cas d’usages avec une création de valeur certaine.

Comme, dans le groupe, il y a une grande diversité de métiers et de projets, partager les expériences est très enrichissant. Cela explique que, chaque année, l’événement croît en importance.

Mille cas d’usages, c’est beaucoup. Comment les projets sont-ils choisis et menés ?

Au sein de la Banque Commerciale, notre approche a évolué dans le temps.

Nous avons d’abord eu une phase bottom-up pour recueillir des idées depuis le terrain. Nous avons ensuite structuré la démarche en priorisant par la valeur. Nous avons un groupe d’analyse des bénéfices en regard des coûts, de la maturité de la technologie et de la capacité à passer à l’échelle. Les GPU coûtant cher en acquisition comme en énergie, la question posée est de savoir si ces coûts sont bien couverts par les bénéfices.

L’IA traditionnelle, utilisée depuis des années, notamment dans le scoring, est bien maîtrisée. Mais l’IAG (intelligence artificielle générative) n’a pas la même maturité : nous sommes toujours en train d’apprendre. Un exemple type est l’analyse de documents : après un recours à l’OCR classique, nous utilisons l’IAG pour extraire les données et remplir des formulaires pour structurer les données.

Quels cas d’usages précis pouvez-vous nous indiquer pour l’IAG ?

Un premier exemple vise à simplifier la vie des collaborateurs. Ceux-ci ont un besoin constant d’accéder à des fiches de procédures. Jusqu’à présent, on utilise une FAQ classique avec moteur de recherche avec près de 400 000 demandes par mois. Grâce à l’IAG, le collaborateur pourra poser une question en langage naturel et obtenir une réponse en langage clair générée à partir de toute la documentation. La difficulté réside dans l’impératif de pertinence : l’IAG sait faire une synthèse mais il est aussi nécessaire de mettre en cohérence des documents qui n’ont pas été mis à jour au même moment.

Le vrai enjeu de l’IAG, c’est l’industrialisation de son utilisation.

Une autre facilitation du quotidien concerne les clients. Nous allons proposer un chatbot qui permettra de répondre à nos clients via des milliers d’interactions. Ce type d’outil est basé sur un LLM et il faut vérifier la pertinence des réponses. Nous challengeons beaucoup les fournisseurs sur ce point.

Nous utilisons également l’IAG pour analyser les enregistrements des échanges entre les conseillers et les clients. Cela nous permet de vérifier que les obligations réglementaires en termes de conseil sont bien respectées.

Le vrai enjeu de l’IAG, c’est l’industrialisation de son utilisation.

Quelle est la différence concrète entre un chatbot classique de type FAQ et une IA/IAG ?

Tout d’abord, l’IAG apporte de la pertinence et de la fluidité dans les interactions. La fluidité est notamment apportée par la compréhension du langage naturel. Enfin, il y a un défi sur la gestion des connaissances. L’IAG va nous amener à progresser sur ce point en travaillant sur la qualité des données.

Vous avez l’obligation, vu votre secteur, de ne fournir que des réponses fiables. Comment éliminez vous les hallucinations ?

Cette problématique suppose des compétences très spécifiques. C’est un métier à part entière de tester les limites d’une IA.

Nous avons, pour traiter cette problématique, travaillé avec une start-up, Giskar, pour challenger notre IA et identifier les facteurs d’hallucinations. Nous modifions en conséquence les paramètres du modèle pour éliminer les hallucinations.

L’IA et l’IAG sont fortement consommatrices de ressources alors que vous avez des objectifs ambitieux en impact environnemental. Comment arbitrez-vous ?

C’est en effet un sujet très important pour lequel nous nous appuyons sur les équipes IT Groupe. Nous apprenons au fur et à mesure. Plutôt que d’acquérir des GPU à chaque projet, nous avons désormais une approche mutualisée et chacun n’utilise des GPU qu’en cas de besoin, sous le contrôle de la fonction IT. Je pense que nous serons forcément amenés à contrôler davantage l’usage des ressources dans l’avenir.

Quels seront vos défis en 2025 ?

Notre premier défi est d’industrialiser l’IA, ce qui est en cours.

Un autre enjeu majeur reste, bien entendu, l’adoption des technologies d’IA autant par les clients que par les collaborateurs. Nous restons attentifs à poursuivre l’accompagnement des équipes internes. Un problème classique est l’effet de mode : on parle partout de Copilot, de nombreux collaborateurs le demandent et, quand il est installé sur un poste, il est testé mais bien souvent abandonné. Il faut donc commencer par acculturer et former les collaborateurs.

Les métiers de la banque sont très réglementés. Il faut donc toujours garder un fort esprit critique sur les réponses fournies par l’IAG. Il ne faut jamais oublier que l’IAG reste une IA.

Certains collaborateurs craignaient pour leur emploi, ayant peur que l’IA les remplace. Bien acculturer permet de les rassurer et de les faire progresser en compétences, notamment sur la relation client.