Les outils d'IA de sélection des candidatures sont aujourd'hui largement utilisés pour trier des milliers de CV. Mais l'alerte lancée en interne par l'équipe AGI Safety and Alignment de Google DeepMind montre que ces systèmes restent imparfaits et peuvent conduire à l'écartement injustifié de profils potentiellement pertinents.
Un « formulaire de contournement » pour s'assurer d'un examen humain
Selon un document consulté par Bloomberg, cette équipe a mis en place un dispositif informel invitant les postulants aux postes au sein de l'équipe à remplir un formulaire additionnel. Objectif proclamé : garantir qu'un membre réel de l'équipe prenne connaissance du dossier plutôt que de laisser une machine trier et potentiellement éliminer la candidature.
« VEUILLEZ NE PAS DIFFUSER CE DOCUMENT À GRANDE ÉCHELLE »
Le document pointe un risque concret : « notre système de candidature présente un risque non négligeable que votre CV soit écarté à tort ou mette trop de temps à nous parvenir ». Il recommande donc de passer par ce canal alternatif pour éviter un tri purement automatisé.
La réponse de Google DeepMind et le paradoxe du recrutement
Un porte-parole de Google DeepMind a nuancé la démarche, indiquant que l'objectif restait de « recruter et d'embaucher les talents les plus qualifiés » et niant que les systèmes de l'entreprise éliminent systématiquement des candidats à tort. Le porte-parole a ajouté que l'équipe concernée avait simplement instauré un formulaire pour transmettre directement des CV aux membres de l'équipe tout en rappelant qu'« il n'existe aucun raccourci pour être embauché ».
Ce que cela change pour les demandeurs d'emploi et les recruteurs
Concrètement, la situation soulève trois problématiques :
- Fiabilité : un algorithme peut rejeter un CV pertinent si les critères de filtrage sont trop restrictifs ou mal calibrés.
- Transparence : les candidats ignorent souvent si leur dossier a été évalué par un humain ou par une machine, ce qui complique le droit à un recours ou à des explications.
- Équité : les systèmes peuvent reproduire ou amplifier des biais (origine, genre, noms), comme l'ont signalé des enquêtes sur d'autres outils d'IA.
Pour les employeurs, le dilemme est croissant : automatiser le tri pour gagner du temps, tout en préservant la qualité et l'équité du recrutement. Des équipes comme AGI Safety and Alignment choisissent la prudence, en multipliant les dispositifs humains pour compenser les limites technologiques.
Un débat plus large sur les biais et les recours
La critique des outils de recrutement par IA n'est pas nouvelle. Bloomberg a dernièrement montré des signes de partialité dans la manière dont ChatGPT réagit à différents noms de candidats, et des fournisseurs de logiciels de RH font l'objet de recours pour discrimination alléguée. Ces éléments renforcent la nécessité d'une régulation, d'audits indépendants et de mécanismes de contestation pour les candidats.
| Acteur | Allégation |
|---|---|
| Équipe AGI Safety and Alignment (Google DeepMind) | Utilise un formulaire pour s'assurer d'un examen humain, craint le rejet erroné des CV |
| Google DeepMind (porte-parole) | Nie un retrait systématique de candidatures ; confirme le formulaire sans le présenter comme un raccourci |
| Autres acteurs (OpenAI, fournisseurs RH) | Observations et actions en justice concernant des biais et des discriminations potentiels |
Conséquences et perspectives
Pour les salariés et les candidats, l'alerte est simple : lorsque vous postulez dans des grandes structures tech, ne supposez pas qu'un coffre-fort numérique suffira à faire entendre votre profil. Pour les employeurs, le message est tout aussi clair : déléguer totalement la présélection à l'IA peut coûter des talents et exposer l'entreprise à des critiques ou à des contentieux. Enfin, pour les pouvoirs publics et les régulateurs, la situation illustre la nécessité d'encadrer l'usage de l'IA dans le recrutement, d'exiger de la transparence sur les critères automatisés et d'instaurer des voies de recours effectives pour les candidats.
En clair : l'IA peut accélérer le tri de CV, mais elle ne doit pas devenir un filet qui jette par erreur de bons profils. Des équipes internes comme celle de Google DeepMind l'ont bien compris et mettent des garde-fous — une leçon utile pour tous les acteurs du marché du travail.
