Étude choquante : les biais de ChatGPT dans le tri des CV révèlent une discrimination alarmante
Le monde du recrutement automatisé est bouleversé par cette découverte.
Par
Yann Kervella
Le monde du recrutement automatisé est bouleversé par cette découverte. Les chercheurs de l’Université de Washington ont mis en lumière des biais significatifs dans le traitement des candidatures par ChatGPT, une IA largement utilisée dans le tri des CV. Cette révélation soulève des questions cruciales sur l’équité et la fiabilité de ces technologies dans le processus de recrutement.
Android 6.0.1 Marshmallow disponible pour le Motorola Moto X Style
Les découvertes de l’étude
L’étude a révélé que ChatGPT classe systématiquement plus bas les CV mentionnant un handicap. Les chercheurs ont utilisé divers termes liés aux handicaps pour tester cette hypothèse. Les résultats montrent une discrimination persistante même avec des qualifications équivalentes.
Les chercheurs ont modifié un CV de référence en ajoutant des distinctions et honneurs suggérant un handicap. ChatGPT a systématiquement dévalué ces CV modifiés. Cette découverte est alarmante pour ceux qui misent sur l’IA pour un processus de recrutement juste et équitable. Pour améliorer l’objectivité dans le tri des candidatures, il est conseillé d’utiliser un modèle CV standardisé, sans mentions pouvant induire une discrimination.
Résultats et implications
Sur 60 essais, le CV original a été classé premier dans 75 % des cas. Ce biais favorise les CV sans mention de handicap. Cela pose un dilemme pour les candidats handicapés : mentionner ou non leur handicap sur le CV ?
iPhone 12 Pro vs Samsung Galaxy Note 20 Ultra : quel est le smartphone le plus rapide ?
En effet, même dans un processus de sélection anonymisé et automatisé, les préjugés subsistent. Cette situation est préoccupante pour l’inclusion et l’équité dans le monde du travail.
| 🔍 Récapitulatif | Détails |
|---|---|
| 📉 Biais de classement | Les CV mentionnant un handicap sont systématiquement dévalués par ChatGPT |
| 🔬 Méthodologie | Utilisation de CV modifiés pour tester les réactions de l’IA |
| 📊 Résultats | Le CV original sans mention de handicap est favorisé dans 75 % des cas |
Hallucinations de l’IA : un danger supplémentaire
ChatGPT peut « halluciner » des justifications capacitistes. Ces hallucinations peuvent nuire à la candidature en basant des jugements sur des hypothèses incorrectes sur les capacités d’un candidat.
Les chercheurs ont noté que ces biais peuvent être atténués en ajustant les directives de l’IA. Cependant, des résultats variables persistent selon le handicap mentionné, soulignant la complexité du problème.
Pour résumer l’étude :
- ChatGPT discrimine les CV mentionnant un handicap
- Les biais persistent même après ajustements
- La nécessité d’une surveillance accrue des algorithmes d’IA
Le contexte élargi des biais IA
Ce n’est pas une première pour les modèles GPT d’OpenAI. Une enquête précédente avait déjà montré des préférences raciales claires dans le tri des CV. OpenAI avait alors contesté en affirmant que les tests ne reflétaient pas les usages pratiques.
Cette nouvelle étude vient confirmer que les biais ne sont pas anecdotiques. Ils soulignent un problème systémique dans l’utilisation de l’IA pour des tâches aussi cruciales que le recrutement.
Les découvertes de cette étude devraient inciter les entreprises à reconsidérer l’utilisation des IA dans leurs processus de recrutement. Comment garantir un système plus juste et inclusif pour tous les candidats ?
