IA et recrutement : des biais de genre dans les CV, les notes et les salaires proposés
De grands modèles de langage, ces intelligences artificielles qui produisent du texte, servent de plus en plus à rédiger des CV et à trier des candidatures. Une étude publiée dans la revue PNAS montre qu'ils reproduisent des stéréotypes de genre à ces deux étapes.
Des notes et des salaires qui varient selon le genre
Les chercheurs ont testé des grands modèles de langage (LLM, des systèmes d'IA entraînés à produire et à analyser du texte) dans des tâches de recrutement. Leur étude, publiée dans la revue Proceedings of the National Academy of Sciences (PNAS), constate que ces systèmes génèrent des CV aux contenus marqués par le genre, et qu'ils attribuent des scores de présélection et des recommandations de salaire qui varient selon le genre du candidat.
Le sens de ces écarts suit la répartition des métiers entre hommes et femmes, appelée ségrégation professionnelle. Les auteurs décrivent une pénalité pour les femmes dans les métiers à dominante masculine, et un avantage pour elles dans les métiers à dominante féminine. Les recommandations de salaire reflètent, elles, les écarts de rémunération entre femmes et hommes dans les métiers, lorsque le genre est indiqué explicitement dans la consigne.
Ce lien s'affaiblit lorsque le genre n'est suggéré que par le prénom du candidat. Il dépend aussi du modèle utilisé : les résultats ne sont pas identiques d'un système à l'autre.
Comment les chercheurs ont procédé
Il s'agit d'une série d'expériences d'audit, c'est-à-dire de tests où l'on ne modifie qu'un élément à la fois. Le genre du candidat est attribué au hasard, tandis que toutes les autres informations du dossier restent identiques. Le genre est soit écrit dans la consigne donnée au modèle, soit signalé par le prénom.
Les chercheurs mesurent trois sorties : les CV générés par le modèle, les scores de présélection et les recommandations de salaire. Ils distinguent deux mécanismes. Le premier, appelé biais d'évaluation (un écart systématique de jugement), apparaît lorsqu'un même contenu de CV est évalué différemment selon le genre. Le second, appelé biais de génération, apparaît lorsque le modèle écrit lui-même un contenu marqué par le genre, qui influence ensuite l'évaluation.
Ce que cela change
Les deux mécanismes peuvent se renforcer, puisque les mêmes systèmes rédigent le CV puis le notent. Pour les personnes qui cherchent un emploi comme pour les recruteurs qui utilisent ces outils, l'étude signale un risque mesurable d'amplification algorithmique, c'est-à-dire d'un biais repris et accru par un algorithme. On peut en déduire que ces outils, employés à grande échelle, pourraient reproduire les inégalités existantes sur le marché du travail.
Ce que l'étude ne prouve pas
L'étude observe les réponses de modèles dans des expériences contrôlées. Elle ne mesure pas directement les décisions d'embauche prises par des recruteurs réels : le passage de ces scores à des choix concrets reste à établir. Une seule étude ne suffit pas non plus à trancher la question, et ses résultats dépendent des modèles testés et de la manière dont le genre est signalé. Ils ne peuvent donc pas être transposés tels quels à tous les outils de recrutement.
Ce qui reste à établir
Plusieurs questions restent ouvertes : quelle est la part réelle de ces outils dans les processus de recrutement, quel effet ces biais ont sur les embauches effectives, et pourquoi les résultats varient d'un modèle à l'autre. Ces points demandent d'autres travaux, que l'étude ne tranche pas.