L’expérience client doit éclairer les décisions sur l’IA

L’IA en contact avec les clients peut nuire à la confiance avant même que l’entreprise ne reconnaisse une défaillance

Une entreprise peut faire défaut à un client avant que son processus de gouvernance de l’IA, c’est-à-dire la manière dont elle encadre et supervise l’usage de l’IA, ne reconnaisse un problème. Prenons le cas d’un agent d’IA qui confirme à tort qu’une demande a été approuvée ou propose un prix que l’entreprise ne peut pas honorer. Une personne âgée, une personne en situation de handicap ou une personne en détresse peut être incapable de sortir d’un échange automatisé ou de joindre un interlocuteur humain. Dans ces situations illustratives, les clients agissent sur la base d’informations erronées, ne peuvent pas obtenir d’aide et perdent confiance dans une entreprise à laquelle ils faisaient confiance.

Pour les responsables de l’expérience client, ou CX, la question est de savoir à quel point ces conséquences peuvent facilement échapper aux mesures utilisées pour évaluer un déploiement. La précision, la conformité et l’efficacité décrivent chacune une partie de la performance du système, tandis que le client en subit l’effet combiné. Des années de confiance peuvent être compromises avant que quiconque dans l’entreprise n’identifie une défaillance. L’entreprise doit donc attribuer la responsabilité des conséquences client que ses mesures fonctionnelles laissent de côté.

La préparation de l’organisation façonne les résultats de l’IA

Cette responsabilité commence avant même qu’un agent d’IA ne réponde à un client, car son comportement dépend de choix organisationnels antérieurs. Il s’agit notamment des informations mises à la disposition du système, de ses objectifs et des personnes impliquées dans l’approbation de son usage. Les recherches de Gartner et de McKinsey portent sur différentes dimensions de cette préparation : la viabilité du projet, les retours et les effets négatifs signalés. Les deux cabinets vendent des études ou des services de conseil qui aident les organisations à prendre ces décisions, ce qui leur donne un intérêt commercial dans la demande de conseils sur l’adoption de l’IA.

Gartner a prévu que, d’ici 2026, les organisations « abandonneront 60 % des projets d’IA non soutenus par des données prêtes pour l’IA ». Cette prévision s’applique spécifiquement aux projets dont les données sont insuffisamment préparées pour un usage de l’IA. Pour les dirigeants qui décident d’un déploiement, la préparation des données est donc une condition pour maintenir la viabilité du projet. Même un modèle performant dépend d’informations adaptées à la tâche, les équipes doivent donc examiner si des données incomplètes ou biaisées compromettront son utilisation.

Préparer l’information signifie aussi examiner la manière dont les personnes vont l’utiliser. Les recherches de McKinsey associent de meilleurs retours sur l’IA à une refonte des données et des workflows, c’est-à-dire les séquences de travail et de décisions nécessaires pour accomplir des tâches, avant le déploiement. Cette conclusion met en lumière le processus qui entoure le modèle, notamment la manière dont l’information et la responsabilité circulent dans l’organisation. Modifier le modèle tout en conservant ce processus peut laisser en place les conditions qui rendaient la tâche difficile.

Évaluer la valeur signifie aussi tenir compte des effets négatifs déjà signalés. Le même rapport de McKinsey a constaté que « 51 % des organisations utilisant l’IA ont signalé au moins un incident négatif lié à l’IA ». Près d’un tiers des répondants ont signalé des problèmes impliquant des résultats inexacts. Le premier chiffre concerne les organisations déclarant un incident, tandis que le second concerne les répondants signalant un type particulier de problème ; la prévision de Gartner porte encore sur une population et un résultat différents.

Ces mesures répondent à des questions différentes, mais chacune donne aux dirigeants une raison d’examiner l’organisation qui entoure le modèle. Des données biaisées ou incomplètes peuvent affecter les réponses, tandis qu’une culture IA limitée, c’est-à-dire la compréhension qu’a l’équipe de la manière d’utiliser et d’évaluer l’IA, peut empêcher les personnes de reconnaître les problèmes. L’absence d’une partie prenante peut laisser une conséquence client sans examen. Des objectifs flous et l’absence de garde-fous, c’est-à-dire de règles ou de limites sur le comportement du système, peuvent aussi laisser les équipes sans base commune pour décider quels résultats sont acceptables.

Ces faiblesses peuvent persister après le lancement si personne ne reste responsable de la vérification des performances. Prenons un système qui fonctionne depuis six mois sans que personne ne vérifie s’il continue à fonctionner comme prévu. Laisser cette responsabilité continue sans attribution est une défaillance, car une décision de lancement ne peut pas établir indéfiniment l’aptitude à l’usage. Lorsqu’une réponse incorrecte, une décision défavorable ou un service inaccessible atteint un client, ses causes peuvent donc relever à la fois de la préparation des données, de la compréhension de l’équipe et de la supervision.

Précision, conformité et efficacité peuvent coexister avec un échec côté client

Même lorsque les équipes traitent ces problèmes de préparation, les mesures qu’elles ont choisies peuvent laisser les conséquences client sans examen. Une équipe data peut juger un modèle « précis » selon la mesure qu’elle a retenue, tandis que les responsables CX doivent encore déterminer si son usage est « bon pour le client ». Le premier jugement concerne la performance sur une tâche définie. Le second concerne ce que cette performance signifie pour la personne qui reçoit le résultat.

La différence devient claire lorsqu’une fonction remplit son exigence mais que le client continue malgré tout à rencontrer des difficultés. Une information obligatoire peut satisfaire aux exigences légales tout en restant difficile à comprendre, laissant à l’entreprise une question de compréhension une fois que le service juridique a terminé son évaluation de conformité. De même, supprimer l’accès à une personne peut réduire les coûts de service tout en affaiblissant la confiance lorsque les clients ne peuvent pas résoudre un problème par l’automatisation. Les opérations peuvent identifier l’économie réalisée, tandis que la CX examine si l’expérience client qui en résulte est acceptable.

Ces évaluations distinctes créent un vide lorsque l’entreprise les traite comme une décision complète de déploiement. La data se concentre sur la précision, le juridique sur la conformité et les opérations sur l’efficacité, chaque équipe atteignant son propre objectif. Pourtant, les clients vivent le résultat combiné. À moins que quelqu’un n’examine ce résultat à travers l’ensemble de ces responsabilités, réussite fonctionnelle et échec client peuvent se produire en même temps.

La pression pour lancer rend ce vide plus difficile à combler, car les équipes peuvent être récompensées pour des résultats différents. Chad Sanderson, PDG de Gable.ai, a décrit ce conflit dans le rapport de Secoda, State of Data Governance in 2025 : « The incentive of one group is to slow down and be careful and do the right thing, and the incentive of the other group is to ship as quickly as possible. » Gable.ai et Secoda ont tous deux des intérêts commerciaux dans la demande de gouvernance des données, l’observation de Sanderson vient donc de l’intérieur de ce marché. Son propos porte sur les récompenses concurrentes accordées à la prudence et à la livraison.

Lorsque la livraison devient prioritaire, les équipes peuvent mettre de côté les vérifications de l’impact client, et un processus d’approbation fonction par fonction peut laisser la CX totalement en dehors de la discussion. La rapidité et l’échelle de l’IA rendent ce décalage plus lourd de conséquences, car les clients rencontrent ses résultats à travers le service déployé. Les décideurs peuvent ne voir l’expérience du client qu’à travers des réclamations ou des incidents, une fois que l’entreprise s’est déjà engagée dans son approche.

La CX a besoin d’une responsabilité explicite sur l’impact client

Combler ce vide exige une gouvernance de l’IA partagée, avec des responsabilités claires dans toute l’organisation. La data, le juridique, la sécurité, le risque, le produit et les opérations y ont chacun des responsabilités. Confier l’ensemble de la fonction à la CX reviendrait à placer un problème transverse dans un autre département unique. La CX n’a pas le mandat pour cette responsabilité plus large, son rôle a donc besoin d’un périmètre clair.

Dans cette organisation partagée, la CX peut assumer la responsabilité de représenter l’impact client. L’expérience client traverse le produit, les opérations, le marketing, la tarification et le service, ce qui donne à la CX une vision de la manière dont les décisions prises dans ces fonctions se combinent. La CX peut utiliser cette vision pour expliquer comment une mesure fonctionnelle se traduit en conséquence pour le client. Pour les clients confrontés aux défaillances de traitement, de tarification ou d’accès décrites plus haut, la responsabilité doit exister avant même qu’un rapport d’incident ne soit rédigé.

Pour rendre cette responsabilité utile, les fonctions doivent disposer d’un moyen d’examiner ensemble les conséquences. Un groupe de travail réunissant la data, le risque, le juridique, le produit, les opérations et la CX peut coordonner les décisions de déploiement et attribuer les questions qui traversent les frontières entre départements. L’organisation peut appeler cela un AI Center of Excellence, c’est-à-dire un groupe qui coordonne l’expertise et les décisions en matière d’IA. Mettre en place cette collaboration ne nécessite ni l’achat d’une plateforme ni une nouvelle bureaucratie.

La valeur du groupe dépend du caractère explicite des responsabilités. Chaque fonction conserve ses missions, tandis que la CX représente l’impact client et aide ses collègues à l’examiner au moment de prendre des décisions. Cela donne à la CX un rôle substantiel tout en laissant la responsabilité de la qualité des données, de la conformité et des autres travaux spécialisés aux équipes concernées. La participation compte lorsqu’elle porte une conséquence client non résolue à l’attention de quelqu’un qui peut agir dessus.

La CX peut établir sa contribution avant même le début de la gouvernance formelle

Les responsables CX peuvent se préparer à ce rôle avant de recevoir une invitation formelle à un groupe de gouvernance. La première étape consiste à établir une relation de travail avec la personne qui dirige l’IA, qu’il s’agisse du chief technology officer, ou CTO, ou du chief AI officer, ou CAIO. Comprendre l’évaluation que fait ce responsable du risque lié à l’IA aide la CX à relier les préoccupations client aux décisions déjà en cours. Établir cette relation tôt donne à la CX une chance d’influencer ces décisions avant qu’elles ne deviennent urgentes.

Une fois cette relation en place, la deuxième étape consiste à intégrer à la conversation les éléments existants sur l’impact client. Les tendances montrant où l’IA aide les clients méritent de l’attention au même titre que celles qui montrent de la confusion ou une baisse de confiance. Ensemble, elles donnent aux collègues des conséquences concrètes à prendre en compte lorsqu’ils évaluent les bénéfices et les risques. La CX dispose aussi d’un sujet précis à soulever et d’une base pour expliquer pourquoi il compte.

Pour maintenir ce lien entre les éléments observés et les décisions, la troisième étape consiste à faire de l’impact client un sujet récurrent des discussions sur l’IA. Poser la question « quel est l’effet sur le client ? » doit faire émerger des éléments concrets, révéler une conséquence non résolue ou identifier une responsabilité non attribuée. Répéter la question instaure une attente, mais un contrôle efficace suppose aussi que quelqu’un examine la réponse. Lorsque la discussion révèle un manque, le groupe de travail doit attribuer la responsabilité d’évaluer cette conséquence client avant le déploiement.

Points clés

• Attribuer la responsabilité des résultats client : L’IA en contact avec les clients peut nuire à la confiance avant que les mesures internes ne signalent une défaillance. Les responsables du déploiement ont besoin d’un contrôle explicite sur les promesses erronées, les services inaccessibles et les clients incapables de joindre une personne.
• Préparer l’organisation avant le déploiement : Les sponsors de l’IA doivent évaluer la préparation des données, les workflows, la compréhension des équipes et les limites du système avant le lancement. Attribuez des contrôles continus de performance afin que la responsabilité se poursuive pendant le fonctionnement du système.
• Évaluer l’expérience client dans son ensemble : La précision, la conformité juridique et les économies de coûts peuvent coexister avec un échec côté client. La CX doit examiner comment ces résultats se combinent, notamment si les clients comprennent les informations obligatoires et peuvent résoudre leurs problèmes via le service.
• Donner à la CX un rôle défini dans la gouvernance : Un groupe de travail IA transverse a besoin de la CX pour représenter l’impact client, tandis que la data, le juridique, le risque, le produit et les opérations conservent leurs responsabilités spécialisées. Attribuez les questions non résolues liées à l’impact client à quelqu’un qui peut agir avant le déploiement.
• Intégrer tôt les éléments client dans les décisions sur l’IA : Les responsables CX peuvent nouer des relations avec le CTO ou le responsable IA avant le début de la gouvernance formelle. Utilisez les éléments montrant les bénéfices client, la confusion et la baisse de confiance pour faire de l’impact client une dimension récurrente des décisions de déploiement.