Un impératif d'observabilité pour l'IA chez La Banque Postale
La Banque Postale place l'observabilité au cœur de sa stratégie pour intégrer l'IA générative dans ses processus. C'est le message porté le 30 juin par Zakaria Moursli, directeur général adjoint en charge de la performance opérationnelle, des paiements et du numérique, lors du salon de la souveraineté numérique. Pour la banque, l'enjeu n'est pas seulement technique : il s'agit de maîtriser des risques qui tiennent à la nature même de ces modèles.
Pourquoi l'observabilité est-elle indispensable ?
Les modèles génératifs sont « non déterministes » : leur comportement peut varier d'une exécution à l'autre, ce qui complique le pilotage, la traçabilité et l'évaluation des résultats. Moursli insiste sur la nécessité d'outils spécifiques pour suivre les performances, les coûts et la consommation de ressources (tokens) associés aux traitements d'IA. Sans ces dispositifs, la banque souligne que l'exploitation devient fragile et opaque.
« L’IA générative, ce n’est pas miraculeux. Elle est non-déterministe. Donc, sur la data, vous n’avez pas le droit à l’erreur. La data doit être parfaite parce que l’IA ne fait que reproduire ce qu’elle apprend de la data »
La Banque Postale attire l'attention sur plusieurs dimensions opérationnelles : la qualité des jeux de données en entrée, la validation des cas d'usage et la mise en place de processus de recette et d'homologation. L'établissement estime que l'écosystème d'outils entourant l'IA est encore insuffisant pour ces tâches.
Usages ciblés et limites
Plutôt que de déployer l'IA générative pour des tâches strictement déterministes, la banque préconise des usages adaptés à la nature probabiliste des modèles. Parmi les applications jugées pertinentes figurent le conversationnel, l'analyse de documents complexes et la traduction en temps réel. En revanche, pour des processus devant produire des résultats toujours identiques, l'IA générative présente peu d'intérêt opérationnel.
Mesures opérationnelles recommandées
Selon les propos tenus par la direction, plusieurs dispositifs doivent être mis en place pour industrialiser l'IA de manière sûre :
- Observabilité permanente des modèles et métriques de qualité;
- Contrôle des coûts liés à la consommation des tokens et ressources cloud;
- Recette et homologation des solutions avant mise en production;
- Run humain pour surveiller les réponses et corriger les dérives.
| Risque | Mesure recommandée |
|---|---|
| Variabilité des réponses | Observabilité + supervision humaine |
| Qualité des données | Contrôles stricts et gouvernance des datasets |
| Coûts non maîtrisés | Suivi de consommation de tokens et reporting financier |
Le discours de La Banque Postale reflète une prudence grandissante dans le secteur bancaire : intégrer l'IA générative impose de repenser les dispositifs de contrôle, de documentation et de suivi. À défaut, les établissements s'exposent à des dérives opérationnelles et financières, ainsi qu'à des difficultés de conformité.
Pour les dirigeants et équipes techniques, la mise en place d'une « toolbox » d'observabilité et de procédures d'homologation apparaît désormais comme une condition préalable à toute mise en production à grande échelle.
