Votre promesse client doit fixer les limites de l’IA

Une interaction IA réussie peut malgré tout léser le client

Un agent IA d’une compagnie aérienne peut suivre ses règles et malgré tout prendre une décision que la compagnie aurait dû réserver à une personne. Prenons un cas illustratif : un vol annulé menace la présence d’un passager aux funérailles de l’un de ses parents. L’agent vérifie les conditions tarifaires, trouve une solution de remplacement, calcule l’indemnisation et clôt l’interaction en quelques minutes. Sa rapidité et sa précision procédurale peuvent être considérées comme de solides performances, alors même que la situation du passager exige du discernement.

L’échec survient lorsqu’une résolution autorisée devient la décision finale sur la manière dont le client sera traité. Les règles peuvent définir ce que l’agent peut proposer tout en laissant ouverte la question de ce que la compagnie doit à une personne dans une situation à forte portée émotionnelle. Pour les dirigeants responsables de l’expérience client, ou CX, cela soulève une question d’autorité : jusqu’où l’automatisation doit-elle contrôler la promesse client, c’est-à-dire les engagements et principes qui définissent la relation que l’organisation entend entretenir avec ses clients ?

L’adoption de l’IA rend les droits de décision plus urgents

La question de l’autorité devient plus urgente à mesure que l’IA prend en charge des décisions auparavant prises par des employés. L’enquête Responsible AI Pulse Survey d’EY India a révélé que 37 % des CXO, ou cadres dirigeants, peinent à développer des frameworks de gouvernance de l’IA qui suivent le rythme de la technologie, tandis que 73 % des organisations interrogées déclarent avoir intégré l’IA dans des initiatives clés. L’adoption est importante alors même que les organisations déclarent avoir des difficultés à la gouverner. EY fournit des services de conseil et a un intérêt commercial à ce que les organisations investissent dans la gouvernance de l’IA, ce que les lecteurs doivent garder à l’esprit lorsqu’ils examinent ses conclusions et recommandations.

Pour les organisations confrontées à cette difficulté, la gouvernance doit couvrir à la fois les risques techniques et l’autorité sur le traitement des clients. Les contrôles des hallucinations, c’est-à-dire des affirmations générées par l’IA plausibles mais incorrectes, aident à évaluer si les réponses sont fiables, tandis que la protection des données clients, les contrôles des biais et l’explicabilité traitent de la manière dont les systèmes gèrent l’information et parviennent à leurs résultats. Ces contrôles sont essentiels. En parallèle, les dirigeants doivent préciser quels aspects de la relation client un système peut interpréter, modifier ou négocier.

Ces autorisations prennent encore plus d’importance à mesure que l’IA orientée client passe de la réponse aux questions à la recommandation, à la décision, à la négociation, à la résolution et à l’action au nom d’une organisation. Une réponse incorrecte peut induire un client en erreur, tandis qu’un système autorisé peut exécuter une mauvaise décision et engager l’entreprise dans une action. L’exécution augmente donc les enjeux d’une erreur. L’exactitude et l’autorité exigent des jugements distincts, car produire une réponse solide n’établit pas l’autorisation de prendre la décision qui suit.

Les mesures de performance façonnent le traitement des clients

L’autorité devient plus difficile à gouverner lorsqu’une organisation considère la performance au regard des mesures qu’elle a choisies comme une preuve d’un traitement client approprié. Un indicateur clé de performance, ou KPI, exprime un résultat que l’organisation valorise ; faire de ce résultat un objectif d’optimisation encourage les comportements qui le favorisent. Appliquer le même objectif à un grand nombre d’interactions transforme une préférence interne de management en service effectivement reçu par les clients. Les dirigeants doivent donc examiner ce que chaque mesure récompense lorsqu’un cas difficile se présente.

Le confinement montre comment cela se produit dans le service client : il mesure si une interaction reste dans le service automatisé au lieu d’être transférée à un humain. Donner un poids important au confinement récompense le système lorsqu’il évite l’escalade, y compris lorsqu’une personne devrait intervenir. Un client endeuillé peut avoir besoin d’une exception que le processus ordinaire ne peut pas accorder, alors que l’objectif du système peut considérer l’accès à une personne comme un résultat insatisfaisant. L’interaction peut devenir inappropriée alors même que le système se comporte exactement comme ses incitations l’y encouragent.

La conversion crée une pression différente dans les systèmes de recommandation, car elle mesure si les recommandations conduisent à des achats. Lorsque la conversion devient l’objectif principal, les conseils peuvent de plus en plus favoriser ce qui génère une vente, affaiblissant la neutralité de la recommandation. Un client qui s’appuie sur le jugement de l’organisation reçoit alors des conseils davantage façonnés par son objectif commercial. Un bon résultat de conversion peut masquer ce glissement.

Le temps de résolution crée une pression comparable en récompensant la clôture rapide des dossiers. Un système qui poursuit cet objectif a une raison de privilégier les cas qui correspondent à des procédures établies, tandis que les clients dont la situation exige davantage d’attention deviennent plus difficiles à servir dans le cadre de la cible fixée. La mesure peut s’améliorer à mesure que le service devient moins accommodant pour les personnes qui ont besoin de temps et de discernement. Ces exemples montrent pourquoi les dirigeants doivent évaluer un objectif à travers le traitement client qu’il encourage.

Les clients les plus exposés sont ceux dont la situation rend le traitement standard inadéquat. Le deuil, la détresse financière et la vulnérabilité médicale peuvent modifier ce qu’exige une réponse appropriée, tandis qu’une fidélité exceptionnelle peut justifier une attention allant au-delà de la règle ordinaire. Une réclamation à forte portée émotionnelle peut aussi exiger qu’une personne comprenne pourquoi une résolution disponible reste insuffisante. Parce que le discernement demande de l’attention, une gouvernance centrée sur l’efficacité peut négliger les clients qui en ont le plus besoin.

Pour ces clients, l’intervention humaine doit faire partie de la conception du service. L’accès à une personne autorisée à exercer son jugement peut faire partie de ce que l’organisation promet, de sorte que l’escalade concrétise cet engagement. Considérer chaque transfert comme un coût ou un échec peut supprimer une forme de valeur sur laquelle les clients comptent raisonnablement. La mesure doit donc prévoir les situations dans lesquelles joindre une personne constitue le résultat approprié.

Prendre en compte ces situations n’empêche pas le confinement, la conversion et la rapidité de rester des objectifs utiles. Un service plus rapide peut avoir de la valeur, une résolution automatisée peut être appropriée, et une recommandation peut servir à la fois un client et un objectif commercial. La gouvernance détermine le poids accordé à chaque objectif et ce qui se passe lorsqu’il entre en conflit avec une autre obligation. La performance au regard d’une mesure établit que le résultat sélectionné a été atteint ; juger de sa qualité exige de prêter attention à la situation du client.

Les responsables CX sont déjà confrontés à cette question d’incitation lorsqu’ils gèrent des employés. Des échanges informels entre pairs parmi les responsables CX ont soulevé la question de savoir si les mesures appliquées aux employés encouragent un comportement approprié, et les objectifs assignés aux machines méritent le même examen. Un audit doit examiner comment les cibles influencent l’escalade, la neutralité des recommandations et les cas complexes, en étudiant ces effets dans chaque déploiement. Examiner le modèle seul peut faire passer à côté d’un problème créé par le choix de l’objectif par l’organisation.

Définir les autorisations de l’IA et les droits de décision humains

Un audit peut améliorer les objectifs, mais il met aussi en lumière une question distincte concernant l’autorisation. Un objectif précise le résultat qu’un système doit poursuivre, tandis que les droits de décision précisent quels choix l’organisation l’autorise à faire pour atteindre ce résultat. Même un système doté d’un objectif bien conçu peut se trouver face à une décision que l’organisation souhaite voir assumée par un humain. De meilleures politiques et de meilleurs KPI ont donc besoin de limites explicites à l’autorité déléguée.

La limite de la promesse client proposée offre un moyen d’enregistrer ces limites. Il s’agit d’une couche de gouvernance qui définit ce que l’automatisation peut améliorer, quels principes doivent rester protégés et quelles décisions exigent une autorité humaine. Sa valeur pratique dépendrait de la clarté avec laquelle une organisation attribue les autorisations et les responsabilités. Ces attributions aident les équipes à décider ce qu’un système peut faire avant qu’un cas client difficile ne survienne.

Dans cette structure, une organisation pourrait autoriser l’IA à améliorer le temps de réponse, orienter les clients vers l’aide appropriée, personnaliser une interaction et rendre les recommandations plus pertinentes. Chaque autorisation définirait où le système pourrait ajuster la prestation de service et dans quel périmètre. Les clients pourraient joindre plus rapidement une personne en mesure de les aider ou recevoir des conseils mieux adaptés à leur situation. L’autorisation préciserait aussi où le système doit s’arrêter et solliciter un autre décideur.

Les principes protégés définiraient les conditions dans lesquelles ces améliorations restent acceptables. La transparence, l’équité et la cohérence sont des engagements possibles à préserver même lorsqu’un autre choix améliorerait une mesure d’efficacité. Consigner ces engagements aide les décideurs à évaluer si la poursuite d’un objectif reste compatible avec la relation client visée. Cela rend aussi plus précise la signification d’un meilleur service.

Les décisions réservées aux personnes clarifieraient ensuite les cas où un humain doit prendre la responsabilité. Selon sa promesse et son contexte de service, une organisation pourrait réserver à un humain les situations impliquant de l’empathie, des exceptions substantielles, un jugement sensible ou des décisions financières lourdes de conséquences. C’est une question d’autorité même lorsque le logiciel pourrait exécuter efficacement l’action disponible. Dans le cas de la compagnie aérienne, cela pourrait signifier autoriser les solutions de remplacement et indemnisations de routine tout en réservant à un décideur humain une exception substantielle liée à un deuil.

Définir ces autorisations à l’avance fait de l’accès au discernement un engagement de service établi. Une promesse client relativement stable peut alors assurer une continuité à mesure que les modèles, les plateformes et les capacités évoluent. Une explication des difficultés de gouvernance est que les organisations essaient de gouverner une technologie changeante avant de s’accorder sur les principes humains qu’elles entendent préserver. Commencer par ces principes donne aux décisions technologiques ultérieures une référence commune, tout en laissant place à l’interprétation à mesure que les capacités et les situations clients évoluent.

Ces principes peuvent s’intégrer dans les dispositifs de gouvernance existants. Les personnes responsables doivent avoir l’autorité nécessaire pour faire respecter les autorisations d’optimisation, les principes protégés et les limites de la négociation autonome ; il n’est pas nécessaire de créer un comité ou un département distinct. De meilleurs KPI restent essentiels dans ces limites. Les droits de décision établissent qui peut agir, et les KPI guident la performance dans le cadre de l’autorité accordée.

Donner à la CX un rôle formel avant d’élargir l’autorité autonome

Faire respecter ces limites exige une responsabilité partagée entre les fonctions déjà chargées de l’IA. La technologie, le juridique, la sécurité et la conformité évaluent des sujets tels que le contrôle technique, la légalité et la protection. La direction CX ajoute la responsabilité de vérifier si le comportement du système reste fidèle à la relation client visée. Un rôle formel de la CX intègre ce jugement dans la gouvernance tout en préservant les responsabilités des autres fonctions.

Sans ce rôle, les équipes techniques et de contrôle peuvent laisser la perspective client sous-représentée. Une décision peut être sûre, légale et correctement exécutée tout en produisant un traitement que la marque rejetterait. La participation de la CX crée un espace pour examiner cet écart avant que le comportement autonome ne devienne routinier. Elle donne aussi aux principes clients protégés un responsable organisationnel capable de contester des objectifs contradictoires.

Les décisions réservées aux personnes ont besoin d’une responsabilité tout aussi claire. Une exigence de jugement humain reste incomplète tant que l’organisation n’a pas identifié qui doit l’exercer. L’escalade doit relier la limite du système à une personne autorisée, avec une responsabilité qui reste claire après le transfert. Sinon, l’organisation peut formellement réserver une décision tout en laissant le client sans personne chargée de la prendre.

Une responsabilité claire devient plus importante à mesure que les systèmes gagnent en capacité d’action. EY observe que l’IA agentique, c’est-à-dire des systèmes capables d’agir en vue d’un objectif, fait passer la gouvernance de la vérification des outputs à une supervision continue du comportement, avec une attention accrue portée à l’intention, au contrôle, à la responsabilité et à l’escalade. L’intention concerne ce que le système cherche à accomplir, tandis que le contrôle concerne les limites imposées à ses actions. Ces contrôles, ainsi que les dispositifs de responsabilité et d’escalade, doivent être établis avant que l’autonomie ne soit accordée.

Accorder cette autonomie exige une séquence délibérée. D’abord, définir la promesse client, puis établir les éléments que l’IA peut optimiser. Ensuite, identifier les principes qui restent protégés indépendamment de l’efficacité et déterminer où l’autorité autonome cède la place au jugement humain. Ce n’est qu’ensuite que les dirigeants doivent décider avec quelle agressivité étendre le déploiement, car le passage à l’échelle augmente les conséquences de l’autorité déjà accordée.

Points clés à retenir pour les décideurs

• Fixer des limites à l’autorité de l’IA : Un système peut suivre les règles et malgré tout mal gérer une situation client lourde de conséquences. Les responsables du service client doivent identifier le point où les résolutions de routine doivent céder la place au discernement humain.
• Gouverner les décisions à mesure que l’IA gagne en autonomie : La gouvernance de l’IA a besoin d’autorisations explicites pour les systèmes qui recommandent, négocient et agissent. Attribuez les droits de décision avant d’accorder à des systèmes autonomes l’autorité d’engager l’entreprise.
• Auditer ce que les objectifs de service récompensent : Les responsables CX doivent examiner comment les objectifs de confinement, de conversion et de temps de résolution affectent le traitement des clients. Considérez une escalade appropriée comme un résultat réussi lorsque les clients ont besoin d’un jugement humain.
• Définir une limite de la promesse client : Consignez ce que l’IA peut optimiser, quels principes clients restent protégés et quelles décisions exigent une autorité humaine. Utilisez ces limites pour guider le déploiement à mesure que les technologies et les capacités évoluent.
• Donner à la CX une responsabilité formelle dans la gouvernance : Incluez la CX aux côtés de la technologie, du juridique, de la sécurité et de la conformité dans les décisions relatives au service client autonome. Reliez chaque escalade requise à une personne autorisée à décider et responsable du résultat.