Pourquoi l’IA capable de décrypter les émotions pourrait bien causer plus de problèmes qu’elle n’en vaut la peine

Emotion AI vise à mesurer et à gérer les émotions humaines à l’aide de la technologie

L’IA émotionnelle, également appelée « informatique affective », va au-delà du simple suivi des données. Elle vise à décoder les émotions humaines grâce à des systèmes d’IA qui analysent le ton de la voix, les expressions faciales, le langage écrit, voire le rythme cardiaque ou les mouvements du corps. Ces données sont traitées par des systèmes avancés combinant la vision par ordinateur, le traitement du langage naturel et l’apprentissage automatique afin de produire ce que les entreprises interprètent comme une « carte » des sentiments humains. Des fournisseurs tels que Cogito, Affectiva, Hume AI, Entropik et HireVue commercialisent déjà ces solutions, affirmant qu’elles intègrent la compréhension émotionnelle dans les opérations commerciales.

Pour les dirigeants, la perspective est séduisante : une meilleure connaissance du personnel, une analyse prédictive du sentiment des clients et la capacité à rendre les facteurs humains mesurables à grande échelle. Lorsque les émotions se transforment en données, les dirigeants acquièrent une nouvelle vision du moral, de l’expérience client et de la performance. Cependant, la complexité des émotions est difficile à quantifier. Plus votre personnel est diversifié, plus il est difficile pour l’IA d’interpréter correctement les nuances culturelles, personnelles ou situationnelles.

Avant de déployer de tels outils, les équipes de direction doivent examiner comment cette technologie s’inscrit dans la stratégie globale de l’entreprise et dans les cadres éthiques. L’IA émotionnelle n’est pas une fonctionnalité « prête à l’emploi » ; elle nécessite une gouvernance, un ajustement et une transparence vis-à-vis des employés afin d’éviter tout faux pas en matière de confidentialité ou de confiance. À mesure que l’IA gagne en capacités, sa valeur dépend de la responsabilité avec laquelle elle est mise en œuvre et de la clarté avec laquelle les entreprises communiquent son utilisation à leurs collaborateurs.

Les entreprises s’intéressent à l’IA émotionnelle pour améliorer la sécurité, les performances et l’efficacité

Le principal moteur de l’adoption de l’IA émotionnelle réside dans les gains opérationnels. Dans les secteurs à haut risque, tels que la logistique ou l’industrie manufacturière, les systèmes d’IA peuvent détecter la fatigue et le stress en temps réel. Un chauffeur routier présentant des signes de somnolence peut déclencher une alerte ou une réponse automatique qui protège à la fois le travailleur et les actifs de l’entreprise. Dans le secteur des services, l’IA émotionnelle est utilisée pour analyser le ton de la voix et le sentiment exprimé lors des interactions avec les clients, afin de garantir la qualité du service et de faire preuve d’empathie.

Les services des ressources humaines des entreprises s’intéressent à ces systèmes afin d’analyser le climat de travail à travers des enquêtes, des communications écrites et des entretiens vidéo. MetLife, par exemple, utilise un logiciel pour analyser le ton et les intonations dans ses centres d’appels, s’assurant ainsi que les employés gardent leur sang-froid face aux clients. Ces outils promettent une réduction du taux de rotation du personnel, une diminution des incidents liés à la sécurité, une meilleure cohésion d’équipe et une satisfaction accrue des deux côtés lors d’une interaction avec le client.

Pour autant, la technologie ne remplace pas le leadership. Les données peuvent aider à identifier des tendances ou à orienter les interventions, mais elles doivent venir en soutien à une gestion humaine authentique. Une dépendance excessive à l’analyse des données risque de réduire les personnes à de simples chiffres et de priver les décisions de direction de toute empathie.

Les dirigeants devraient également s’interroger sur la manière dont ce type de données est interprété. « Détecter le stress » ou « mesurer l’engagement » ne sont pas des vérités absolues ; il s’agit de probabilités fondées sur des déductions effectuées par des machines. Plus ces systèmes se rapprochent des véritables prises de décision – recrutement, promotion, mesures disciplinaires –, plus l’exigence de précision et de responsabilité est grande.

Bien utilisée, l’IA émotionnelle peut compléter l’intelligence organisationnelle. Utilisée à l’aveuglette, elle peut nuire à la confiance. Pour les entreprises qui souhaitent se développer de manière responsable, ce n’est pas celles qui adopteront les premières l’IA émotionnelle qui feront la différence, mais celles qui l’utiliseront avec un objectif clair, en toute transparence et dans le respect des personnes qui se cachent derrière les données.

Les fondements scientifiques de l’IA appliquée aux émotions sont fragiles et incohérents

Une grande partie de l’IA émotionnelle repose sur l’idée que les émotions peuvent être déchiffrées de manière fiable à partir des expressions faciales. Ce concept, popularisé par le psychologue Paul Ekman dans les années 1960, suggérait qu’une poignée d’expressions faciales universelles pouvaient représenter les émotions humaines fondamentales telles que la joie, la peur ou la colère. Le problème est que des données plus récentes vont dans le sens contraire. Une méta-analyse majeure réalisée en 2019 sous la direction de Lisa Feldman Barrett et publiée dans *Psychological Science in the Public Interest* a examiné plus de 1 000 études et a révélé que les émotions ne sont pas toujours visibles ni cohérentes d’une personne à l’autre et d’une culture à l’autre. Une même expression peut revêtir des significations très différentes selon le contexte, la personnalité et le milieu social.

Pour les dirigeants, ce fondement scientifique fragile n’est pas seulement un problème intellectuel, c’est un risque commercial. Lorsque les algorithmes sont entraînés à partir d’hypothèses erronées, ils produisent des résultats erronés. Un système qui interprète à tort la frustration d’un collaborateur comme de la colère, ou le silence serein d’un client comme du désintérêt, peut conduire à de mauvaises décisions qui affaiblissent les relations. Le déploiement d’une IA émotionnelle sans solide fondement empirique peut nuire à la crédibilité tant au sein de l’organisation qu’à l’extérieur.

Les entreprises doivent évaluer ces systèmes avec la même rigueur que celle qu’elles appliquent aux contrôles financiers ou aux tests de produits. Les modèles d’inférence émotionnelle doivent être testés auprès de différents groupes culturels et validés à l’aune de résultats comportementaux concrets avant de se voir confier des rôles opérationnels. Sans cela, les entreprises risquent de transformer les données humaines en informations peu fiables qui faussent la compréhension au lieu de l’améliorer. La véritable maturité de l’IA dans ce domaine dépendra des progrès scientifiques, et non pas simplement de l’automatisation de l’interprétation.

L’IA émotionnelle peut nuire au bien-être des employés, renforcer les préjugés et porter atteinte à la vie privée

Les résultats observés dans la pratique dressent un tableau inquiétant. Une étude de cas finlandaise réalisée en 2024 a révélé que les outils de suivi des émotions ne fonctionnent généralement pas comme prévu. Ils classent souvent à tort les états émotionnels, qualifiant les employés de « stressés » ou « engagés » sur la base d’indicateurs peu fiables ou non pertinents. De telles imprécisions peuvent nuire au bien-être, en particulier lorsque le personnel se sent constamment jugé par des systèmes qui ne le comprennent pas. L’étude a également mis en évidence des préjugés raciaux : les participants noirs étaient plus souvent qualifiés de « en colère » ou de « méprisants », alors qu’ils affichaient les mêmes expressions que leurs collègues blancs. Pour les équipes de direction soucieuses de la diversité et de l’inclusion, cela constitue une menace directe pour l’équité et la confiance au sein de l’organisation.

La protection de la vie privée constitue un autre enjeu majeur. Même lorsque les entreprises affirment que les données sont anonymisées, la taille réduite des équipes facilite l’identification des individus, exposant ainsi des informations émotionnelles privées susceptibles d’influencer la réputation ou l’évaluation au travail. À long terme, le suivi des émotions encourage également le « travail émotionnel » : les employés adaptent leurs émotions visibles pour satisfaire l’algorithme. Ce type d’autocontrôle constant entraîne de la fatigue et sape l’authenticité de l’ensemble du personnel.

Les dirigeants doivent prendre en compte les implications éthiques et juridiques avant d’approuver de telles technologies. Les biais et les manquements en matière de protection de la vie privée peuvent entraîner une surveillance réglementaire, le mécontentement des employés et une atteinte à la réputation qui l’emportent largement sur les avantages potentiels. Une communication transparente, le consentement éclairé et des dispositions permettant de se désinscrire constituent les normes minimales pour tout déploiement responsable.

L’IA émotionnelle peut certes promettre un meilleur contrôle et une meilleure compréhension, mais si elle sape le moral des équipes, elle va à l’encontre de son objectif. Les entreprises fondées sur la confiance et la collaboration ne peuvent pas se maintenir dans une culture marquée par la crainte d’être mal interprétées ou mal jugées par des machines. La priorité doit rester le bien-être humain, et non la surveillance algorithmique.

Les obstacles réglementaires, éthiques et d’ordre corporate menacent la viabilité future de l’IA émotionnelle

L’IA émotionnelle se heurte à une résistance croissante de la part des autorités de régulation et des grandes entreprises. L’Union européenne a déjà interdit son utilisation sur les lieux de travail et dans les établissements d’enseignement, sauf dans des cas limités liés à la sécurité ou à la médecine. Aux États-Unis, plusieurs États, dont la Californie, New York et l’Illinois, ont commencé à adopter ou à étendre des lois régissant la collecte de données biométriques et liées aux émotions. L’intention qui sous-tend ces mesures est claire : protéger les individus contre des technologies intrusives ou dont l’efficacité n’est pas prouvée, susceptibles de porter atteinte à la vie privée et à l’équité.

Les grandes entreprises réduisent également leur implication. Microsoft a pris une mesure décisive en 2022 en supprimant la fonctionnalité de reconnaissance des émotions de son API Azure Face. Cette décision fait suite à l’évaluation menée par l’entreprise dans le cadre de sa norme « Responsible AI Standard ». Natasha Crampton, directrice de l’IA responsable chez Microsoft, a expliqué publiquement que ce changement était dû à « l’absence de consensus scientifique sur la définition des émotions », à des inquiétudes concernant la manière dont les déductions se généralisent à l’ensemble des groupes démographiques, ainsi qu’à « des préoccupations accrues en matière de protection de la vie privée ». Microsoft a conclu que de tels systèmes risquaient de favoriser les stéréotypes, la discrimination et le refus injustifié de services.

Pour les dirigeants, cela marque un tournant clair. Les régulateurs et les principaux acteurs technologiques du secteur unissent leurs efforts pour restreindre, et non développer, l’IA de reconnaissance des émotions. Les entreprises qui investissent dans ce domaine doivent s’attendre à une gouvernance plus stricte, à une augmentation des coûts de mise en conformité et à des audits plus fréquents. Intégrer l’IA de reconnaissance des émotions dans une stratégie d’entreprise sans tenir compte de ce contexte réglementaire en pleine évolution relève du manque de vision et comporte des risques. Les dirigeants doivent élaborer des cadres de conformité tournés vers l’avenir et évaluer comment leur organisation réagirait si des capacités fondamentales de l’IA venaient à être interdites ou restreintes. L’adaptation et le respect des principes éthiques constituent désormais les garants de la pérennité de l’innovation en matière d’IA.

Dans l’ensemble, les risques et les limites de l’IA émotionnelle l’emportent sur ses avantages potentiels sur le lieu de travail

La proposition de valeur de l’IA émotionnelle – une sécurité renforcée, des performances accrues et un engagement client amélioré – reste séduisante. Pourtant, lorsqu’on l’évalue sous l’angle de la science, de l’éthique et du droit, les inconvénients de cette technologie l’emportent sur ses avantages. Son fondement scientifique est incertain, ses biais sont mesurables et les risques liés à la vie privée sont considérables. L’utilisation de cette technologie peut également nuire à la confiance sur le lieu de travail, car la surveillance constante des émotions est souvent perçue comme une forme de contrôle plutôt que comme un soutien. L’étude de 2019 menée par Lisa Feldman Barrett et l’étude de cas finlandaise de 2024 concluent toutes deux que les technologies de détection des émotions manquent encore de fiabilité, d’équité et de transparence.

Les dirigeants doivent aborder l’IA émotionnelle avec une certaine retenue stratégique. Des déploiements qui semblent améliorer l’efficacité peuvent au contraire nuire à la réputation de l’entreprise ou l’exposer à des risques juridiques. Le défi pour les dirigeants consiste à faire la distinction entre les innovations qui autonomisent les collaborateurs et les pratiques qui les réduisent à de simples points de données surveillés. Utilisée de manière superficielle, l’IA émotionnelle détourne l’attention des relations humaines et du leadership authentique, affaiblissant ainsi la culture même qu’elle vise à mesurer.

Pour les dirigeants visionnaires, la prochaine étape ne consiste pas à rejeter catégoriquement cette technologie, mais à procéder à une réévaluation rigoureuse. Les dirigeants doivent soutenir la recherche visant à approfondir la compréhension scientifique des émotions et investir dans des systèmes d’IA qui améliorent les performances humaines, plutôt que de simplement les surveiller. Toute décision d’entreprise impliquant l’IA appliquée aux émotions doit reposer sur le respect des droits relatifs aux données, une gouvernance transparente et le libre choix des employés.

Dans le contexte réglementaire et culturel actuel, l’IA émotionnelle n’est pas simplement un sujet technique, c’est un véritable test de responsabilité d’entreprise. Les entreprises qui reconnaissent ses limites tout en mettant l’accent sur une innovation centrée sur l’humain construiront des organisations qui s’épanouissent grâce à la confiance, à la capacité d’adaptation et à une compréhension authentique, plutôt que par la surveillance ou le contrôle.

Principaux enseignements pour les décideurs

• Objectif et potentiel de l’IA émotionnelle : l’IA émotionnelle transforme les émotions humaines en données mesurables à partir de la parole, des expressions faciales, du texte et des paramètres physiologiques. Les dirigeants devraient l’utiliser de manière sélective et en toute transparence, en alignant ses applications sur des objectifs commerciaux clairs plutôt que de la mettre au service d’une surveillance à des fins de contrôle.
• Attrait commercial et potentiel opérationnel : les entreprises adoptent l’IA émotionnelle pour améliorer la sécurité, le service client et les performances. Les dirigeants doivent la considérer comme un outil d’aide à la prise de décision, et non comme un substitut au leadership authentique ou au jugement humain.
• Des fondements scientifiques fragiles : de nombreux modèles d’IA consacrés aux émotions s’appuient sur des théories obsolètes ou non validées concernant les expressions faciales universelles. Les dirigeants devraient exiger une validation rigoureuse, fondée sur des données probantes, avant que ces systèmes n’influencent des décisions cruciales telles que le recrutement ou l’évaluation.
• Risques liés aux préjugés, au bien-être et à la vie privée : des études montrent que l’IA appliquée aux émotions interprète souvent mal les émotions, introduit des préjugés raciaux et porte atteinte à la vie privée. Les dirigeants doivent évaluer dès le début les risques liés à l’équité et à la protection des données, en mettant en œuvre des normes éthiques strictes et des politiques de consentement explicite.
• Réactions négatives des autorités réglementaires et des entreprises : L’Union européenne et plusieurs États américains imposent des restrictions à l’utilisation de l’IA appliquée aux émotions, tandis que la direction de Microsoft a suspendu ses propres outils de reconnaissance des émotions en raison de préoccupations d’ordre éthique et scientifique. Les chefs d’entreprise doivent s’attendre à un renforcement des exigences de conformité à l’échelle mondiale et élaborer des stratégies en matière d’IA qui répondent aux normes de gouvernance les plus strictes.
• Concilier innovation et responsabilité : la science, la réglementation et le sentiment des salariés invitent tous à la prudence. Les décideurs devraient promouvoir une IA qui valorise le potentiel humain plutôt que de surveiller les comportements, en faisant de la confiance et de la responsabilité des atouts concurrentiels.