Comment le recours à l’IA dans le recrutement propage discrètement les préjugés raciaux sur les lieux de travail

Les systèmes de recrutement basés sur l’IA accentuent les inégalités raciales tout au long des processus de recrutement

Les recherches menées par l’université de Stanford sur les systèmes de recrutement basés sur l’IA révèlent un élément important : la technologie peut reproduire et amplifier les préjugés lorsqu’elle n’est pas correctement conçue ou supervisée. L’étude a analysé 4 millions de candidatures soumises à 156 employeurs à travers les États-Unis. Le résultat était sans équivoque : les outils de présélection basés sur l’IA rejetaient les candidats noirs et asiatiques à un taux plus élevé que prévu. Ce biais n’était pas aléatoire ; il est apparu de manière systématique lorsque plusieurs entreprises utilisaient des systèmes de recrutement automatisés similaires.

Lorsque différents employeurs s’appuient sur les mêmes algorithmes, les candidats sont en réalité sélectionnés selon une logique commune. Si cette logique commune est biaisée, elle crée un effet de réseau qui propage la discrimination à grande échelle. Les chercheurs de Stanford ont calculé que 29 000 candidats asiatiques supplémentaires auraient été convoqués à des entretiens si l’IA n’avait pas été utilisée.

Pour les dirigeants, le message est clair. L’IA est efficace, mais l’efficacité sans équité sape la crédibilité. Le recrutement est le fondement de la culture d’une entreprise, et si le processus de recrutement est biaisé, la diversité et l’innovation en pâtissent bien avant que les produits ou la stratégie ne soient affectés. Ces conclusions soulignent la nécessité de mettre en place des mécanismes d’audit plus rigoureux, des normes transparentes en matière d’IA et des mesures de responsabilisation à l’échelle de l’entreprise.

Les dirigeants doivent également prendre conscience que les biais de l’IA ne constituent pas seulement un enjeu éthique, mais aussi un risque pour l’entreprise. Les entreprises qui s’appuient fortement sur une automatisation opaque s’exposent à d’éventuelles poursuites judiciaires et à une érosion de la confiance du public. Dans un contexte où les talents constituent un avantage concurrentiel, tout système qui filtre les candidats de manière inéquitable affaiblit cet avantage. Les organisations les plus tournées vers l’avenir ne verront pas cette situation comme une critique de la technologie, mais comme une opportunité de repenser les systèmes de recrutement pour les rendre à la fois intelligents et équitables.

La prédominance d’un petit nombre de plateformes de recrutement basées sur l’IA a donné naissance à une « monoculture » qui renforce et propage les préjugés

Sur l’ensemble du marché du travail américain, la plupart des employeurs utilisent désormais les mêmes quelques plateformes de recrutement basées sur l’IA. Selon l’étude de Stanford, plus de 90 % des entreprises américaines ont recours à l’IA pour présélectionner les candidats, et 60 % des entreprises du classement Fortune 500 font appel à un seul prestataire, HireVue. Ce niveau élevé de concentration signifie que le marché fonctionne selon un système d’évaluation uniforme. Lorsqu’un tel système comporte un biais, celui-ci ne se limite plus à une seule entreprise. Il se propage et influence les décisions de recrutement dans des secteurs entiers.

Le problème n’est pas que l’IA soit utilisée, mais que ces outils soient trop uniformes, trop centralisés et souvent trop opaques. Lorsque la majorité des grands employeurs font appel au même fournisseur, il y a peu de diversité dans la manière dont ils évaluent les compétences, le potentiel ou l’adéquation culturelle. Cela conduit à des résultats répétitifs, ce qui réduit le vivier de candidats d’une manière préjudiciable aux objectifs de diversité et d’inclusion.

Pour les dirigeants, le message est clair : le recours exclusif à un seul algorithme de recrutement accroît le risque systémique. Si les critères d’évaluation de ce système sont erronés, ces défauts se répercutent sur l’ensemble du vivier de talents. Les dirigeants qui souhaitent se prémunir contre ce risque doivent diversifier leurs outils de recrutement numériques et exiger de la transparence de la part des prestataires. Ils doivent également veiller à ce que des audits indépendants soient menés régulièrement et à ce que les données qui alimentent ces systèmes reflètent le vivier de talents qu’ils souhaitent constituer, et non les préjugés qu’ils cherchent à éliminer.

Les entreprises qui s’approprient leurs cadres de gouvernance de l’IA en tireront un avantage concret. En réduisant leur dépendance vis-à-vis d’une plateforme unique, les organisations gagnent davantage de contrôle sur la manière dont elles définissent le potentiel des candidats, ainsi qu’une plus grande flexibilité pour constituer leurs futures équipes. Il ne s’agit pas seulement de conformité. Il s’agit de concevoir une infrastructure de recrutement qui concilie la technologie avec le jugement humain et les valeurs de l’entreprise.

PARLONS-EN !

Un projet en tête ?
Planifiez un appel de 30 minutes avec nous.

Des experts senior pour vous aider à avancer plus vite : produit, tech, cloud & IA.

Planifier un appel

Veuillez saisir une adresse email professionnelle valide.

Le caractère opaque et non réglementé des outils de filtrage basés sur l’IA soulève de graves préoccupations d’ordre éthique et opérationnel

Les chercheurs de l’université de Stanford ont attiré l’attention sur une faille majeure dans la manière dont les systèmes de recrutement basés sur l’IA sont actuellement gérés. Ces outils sont largement adoptés, ont un impact considérable sur l’évolution de carrière des candidats et restent en grande partie opaques pour le grand public. Lorsque des décisions qui affectent la vie des personnes sont prises au sein de systèmes que peu de gens comprennent ou sont en mesure d’examiner, la responsabilité devient floue. Il en résulte un environnement dans lequel des biais ou des erreurs techniques peuvent passer inaperçus, façonnant ainsi les pratiques de recrutement sans aucun contrôle.

Les dirigeants doivent prendre conscience que cette opacité n’est pas seulement une lacune technique, mais un échec de gouvernance. Sans clarté sur la manière dont les systèmes d’IA analysent les candidats, attribuent des notes ou appliquent des filtres, les entreprises se retrouvent confrontées à des angles morts pouvant conduire à de la discrimination ou à un mauvais alignement des recrutements. Les enjeux sont considérables : ces systèmes traitent des millions de candidatures, et même de légers biais algorithmiques peuvent rapidement prendre de l’ampleur. Un tel niveau d’impact exige des normes aussi strictes que celles attendues dans le cadre des audits financiers ou des rapports environnementaux.

Pour les décideurs, la priorité doit être la transparence. Les fournisseurs doivent être tenus d’expliquer comment leurs modèles sont entraînés, quelles données ils utilisent et comment ils traitent la correction des biais. Une documentation claire et des audits indépendants doivent faire partie intégrante des processus d’approvisionnement standard. Des mécanismes de contrôle interne plus rigoureux, similaires aux contrôles de conformité, devraient être mis en place avant la mise en service de tout système de recrutement automatisé.

La responsabilisation dans le recrutement lié à l’IA ne doit pas nécessairement freiner l’innovation ; elle la perfectionne. Les entreprises qui mettent en place des systèmes transparents et explicables susciteront la confiance des candidats, attireront des profils de meilleure qualité et réduiront les futurs obstacles réglementaires. En établissant dès le départ des politiques internes en matière d’éthique de l’IA, les dirigeants peuvent orienter leurs organisations vers une technologie qui renforce l’équité plutôt que de la compromettre.

La « monoculture » qui en résulte en matière de recrutement par l’IA risque de conduire à des environnements de travail uniformes et moins diversifiés

L’utilisation généralisée de systèmes de recrutement similaires, basés sur l’intelligence artificielle, engendre une tendance à l’homogénéité dans les résultats de recrutement. Lorsque la logique de sélection est pratiquement identique chez la plupart des employeurs, cela réduit la diversité des personnes qui intègrent le marché du travail. L’étude de Stanford suggère que les biais systémiques inhérents à ces outils ont déjà influencé le choix des candidats convoqués à des entretiens, ce qui, à son tour, façonne la diversité globale des environnements d’entreprise. Une moindre variation dans le recrutement se traduit par une moindre diversité des modes de pensée, des parcours et des expériences au sein des organisations.

Les dirigeants devraient considérer cela comme bien plus qu’un simple enjeu social : il s’agit d’un enjeu stratégique. La diversité des équipes est directement liée à de meilleures performances financières, à une innovation accrue et à une prise de décision plus solide. Lorsque les systèmes de recrutement restreignent le vivier de candidats en excluant des personnes qualifiées sur la base d’algorithmes imparfaits, les entreprises passent à côté de talents qui pourraient renforcer leur capacité d’adaptation et leur compétitivité. Un effectif qui ne reflète qu’un éventail limité de perspectives devient moins apte à relever des défis complexes ou à s’imposer efficacement sur les marchés mondiaux.

Les dirigeants peuvent parer à ce risque en réexaminant les critères utilisés par leurs systèmes d’IA pour évaluer le potentiel des candidats. Le fait de s’appuyer sur les mêmes modèles de sélection que ceux utilisés dans de larges pans du secteur réduit la différenciation et conduit à l’uniformisation des cultures d’entreprise. Des évaluations régulières des algorithmes, associées à des indicateurs d’inclusion mesurant la diversité réelle des recrutements, sont indispensables pour garantir une innovation durable.

Il est essentiel de prendre le contrôle de la stratégie technologique en matière de recrutement. La mise en place d’un ensemble de plateformes, l’exigence de transparence de la part des fournisseurs d’IA et la garantie d’un contrôle humain aux moments clés de la prise de décision permettront de veiller à ce que les systèmes de recrutement restent en adéquation tant avec les valeurs de l’entreprise qu’avec ses objectifs de performance. Les entreprises qui façonnent dès à présent activement leur infrastructure numérique de recrutement définiront la nouvelle norme en matière de conception d’un effectif inclusif et efficace.

Principaux enseignements pour les décideurs

• Les biais liés à l’IA dans le recrutement se généralisent rapidement : une étude de Stanford montre que les systèmes de recrutement basés sur l’IA rejettent les candidats noirs et asiatiques à un rythme disproportionné. Les dirigeants devraient investir dans des audits réguliers visant à détecter les biais algorithmiques et veiller à la mise en place d’un contrôle éthique afin de préserver à la fois l’équité et l’intégrité de leur marque.
• Le recours excessif à une seule plateforme accroît les risques : alors que 60 % des entreprises du classement Fortune 500 utilisent le même outil de recrutement basé sur l’IA, l’uniformité des systèmes amplifie les biais communs. Les dirigeants devraient diversifier les technologies de recrutement et exiger de la transparence de la part des fournisseurs afin de garantir des résultats de recrutement équilibrés et inclusifs.
• Les systèmes opaques nuisent à la responsabilité : les plateformes d’IA utilisées pour les décisions de recrutement sont largement adoptées, mais fonctionnent sans transparence vis-à-vis du public. Les décideurs doivent exiger que les décisions soient explicables, mettre en place des audits indépendants et intégrer des cadres de responsabilité afin d’aligner l’utilisation de l’IA sur l’éthique d’entreprise.
• Le recrutement monoculturel freine la croissance à long terme : lorsque quelques algorithmes dominent le recrutement, la diversité sur le lieu de travail en pâtit, ce qui réduit l’innovation et la capacité d’adaptation. Les dirigeants devraient suivre les indicateurs d’inclusion, associer les analyses issues de l’IA au jugement humain et concevoir des processus de recrutement qui renforcent à la fois la diversité et la performance.