Des recommandations contradictoires selon le robot et le profil
Une recherche de l'Université de Géorgie montre que les agents conversationnels populaires ne délivrent pas un conseil financier uniforme. Testés sur trois situations concrètes — constitution d'un fonds d'urgence, construction d'un portefeuille d'investissement et optimisation des retraits pour la retraite — ces assistants (ChatGPT, Claude, Copilot, DeepSeek, Gemini, Meta AI et Perplexity) ont fourni des réponses différentes en fonction de la plateforme utilisée et du profil sociodémographique décrit.
Les chercheurs ont fait varier, dans les scénarios, uniquement le genre et la couleur de peau des personnes fictives sollicitant le conseil. Selon le communiqué des auteurs, ces seuls changements ont suffi à modifier la teneur des recommandations proposées par les agents conversationnels.
« Cela ressemble au fait de chercher des informations, sur internet, à propos de notre état de santé, et des recommandations médicales. Il est quand même nécessaire d’aller consulter un médecin. »
Cette mise en garde, signée du professeur Sawrn Chatterjee, souligne le risque d'un recours exclusif aux chatbots pour des décisions financières personnelles importantes.
Quelles conséquences pour les clients et les établissements ?
Le constat a des implications directes pour les banques et les plateformes qui intègrent ces technologies dans leurs parcours clients. Si les conseils diffèrent selon l'outil utilisé, l'incohérence peut créer de la confusion pour l'épargnant et exposer l'établissement à des risques réglementaires et réputationnels. La variabilité met aussi en lumière des biais potentiels dans les modèles d'IA, qui, sans contrôle, peuvent reproduire ou amplifier des discriminations.
- Pour les clients : prudence : un conseiller humain reste recommandé pour les décisions patrimoniales profondes.
- Pour les banques : nécessité d'auditer les outils d'IA, d'informer les utilisateurs et d'encadrer les réponses automatisées.
- Pour les régulateurs : besoin d'exigences de transparence et d'équité dans les algorithmes financiers.
Cartographie des tests
Les auteurs ont appliqué trois scénarios standards aux sept agents évalués. Le tableau ci‑dessous résume les éléments testés (sans prétendre rendre compte des résultats chiffrés, non détaillés dans le communiqué).
| Scénarios | Agents testés |
|---|---|
| Fonds d'urgence / portefeuille / retraits retraite | ChatGPT, Claude, Copilot, DeepSeek, Gemini, Meta AI, Perplexity |
Regarder l'IA comme un outil, pas une autorité
Les chercheurs notent que les conseils fournis par les agents conversationnels « ne sont pas nécessairement mauvais », mais qu'ils varient trop selon des paramètres externes pour être considérés comme une source unique et fiable. Le parallèle avec la santé, proposé par l'un des auteurs, est éclairant : l'IA peut orienter ou informer, mais ne doit pas se substituer au diagnostic d'un professionnel qualifié.
Pour les acteurs bancaires, la leçon est double : intégrer l'IA pour améliorer le service client tout en mettant en place des garde‑fous — audits réguliers, traçabilité des recommandations et explications accessibles pour l'utilisateur — afin de protéger les épargnants et respecter les obligations de conseil.
Sans cadre clair et contrôles robustes, l'usage croissant des agents conversationnels dans la gestion financière pourrait accentuer des inégalités et fragiliser la confiance dans les dispositifs numériques proposés par les institutions.
