Un algorithme pour prioriser les contrôles chez les demandeurs d'emploi
France Travail a lancé une expérimentation d'intelligence artificielle destinée à automatiser le choix des dossiers de demandeurs d'emploi à contrôler, selon un document relayé par La Quadrature du Net et Radio France. L'outil, fondé sur un arbre de décision, analyse 26 variables par dossier et a été entraîné sur 60 000 dossiers antérieurs. L'expérience initiale a porté sur 7 000 personnes sorties de leur contrat par rupture conventionnelle afin de calibrer le système avant un éventuel élargissement.
Des gains d'efficacité chiffrés — et une efficacité partielle
Les indicateurs fournis par France Travail montrent une augmentation nette du taux de contrôle quand l'algorithme intervient : 50,4 % des dossiers sont soumis à vérification avec l'outil, contre 33,2 % sans lui. L'algorithme identifie par ailleurs 79 % des situations qui entraînent un contrôle approfondi et 64 % de celles qui aboutissent à une sanction ou à une "redynamisation" du parcours.
| Indicateur | Valeur |
|---|---|
| Échantillon initial | 7 000 demandeurs (ruptures conventionnelles) |
| Dossiers d'entraînement | 60 000 |
| Taux de contrôle avec IA | 50,4 % |
| Taux de contrôle sans IA | 33,2 % |
| Cas détectés menant à contrôle approfondi | 79 % |
| Cas détectés menant à sanction/redynamisation | 64 % |
Biais identifiés et corrections
L'analyse conduite par France Travail révèle des distorsions initiales. L'algorithme avait d'abord tendance à privilégier les profils aux revenus les plus faibles, un biais attribué à une variable mesurant le salaire journalier de référence. Cette variable a été retirée du modèle. Un deuxième biais lié au niveau de formation a été atténué, sans être complètement éliminé.
Extension possible à un vivier très large
Après cette phase pilote sur les ruptures conventionnelles, France Travail envisage d'étendre l'expérimentation à d'autres populations, en particulier les bénéficiaires du RSA, qui, depuis le 1er janvier 2025, sont obligatoirement inscrits comme demandeurs d'emploi. Ensemble, demandeurs d'emploi et allocataires du RSA constituent un vivier potentiel d'environ 6 millions de personnes, ce qui augmenterait considérablement l'impact opérationnel de l'outil.
Réactions et enjeux juridiques et sociaux
Si l'administration assure que les données utilisées sont « objectives et quantifiables » et que l'outil n'exclut jamais l'examen humain des dossiers, des voix s'élèvent pour alerter sur les risques. L'association La Quadrature du Net qualifie le dispositif d'"opaque et dangereux" :
« opaque et dangereux »
Les critiques portent sur la transparence du modèle, la capacité à corriger les biais persistants et le risque d'un renforcement mécanique de la répression administrative à l'encontre des publics les plus fragiles.
- Pour les demandeurs d'emploi : l'automatisation peut augmenter la probabilité d'être contrôlé, avec des conséquences directes sur les prestations et le parcours d'accompagnement.
- Pour les employeurs et le marché du travail : une détection plus fine peut réduire les fraudes ou erreurs, mais risque aussi d'orienter les politiques de contrôle vers des populations vulnérables.
- Pour l'administration : l'outil promet des gains d'efficience, mais soulève des obligations de justification, d'audit et de conformité au droit.
Ce que cela change
Derrière les pourcentages, la question centrale est de savoir si l'automatisation améliorera l'efficacité du service public sans fragiliser des individus déjà précaires. La suppression d'une variable discriminante montre que les concepteurs peuvent corriger des effets indésirables, mais l'existence de biais résiduels incite à la prudence. L'extension prévue à des millions d'allocataires impose une gouvernance forte : tests indépendants, accès aux données pour les inspections et droits renforcés pour les personnes contrôlées.
À court terme, le déploiement de l'outil doit donc être évalué non seulement sur ses performances statistiques, mais sur son respect des droits et sur les conséquences concrètes pour les parcours professionnels des personnes concernées.
