Comment rendre les données clients plus faciles à corriger

L’IA peut rendre un profil client plus prédictif tout en laissant à l’entreprise une base fragile pour décider comment traiter ce client. Les systèmes marketing peuvent déduire des attributs à partir des transactions, des données d’identité, des signaux comportementaux et d’autres sources. Une probabilité très précise peut malgré tout reposer sur des informations sensibles, trompeuses, erronées dans leur contexte ou difficiles à contester. Pour les dirigeants, la qualité des données doit donc couvrir à la fois la performance prédictive et la capacité à corriger des représentations ayant des conséquences.

La capacité de correction est ici l’enjeu central. Les clients peuvent détenir un contexte dont l’entreprise ne dispose pas au sujet des représentations faites d’eux, tandis que les employés peuvent repérer les hypothèses fragiles utilisées pour créer et appliquer ces représentations. Ces canaux de correction remplissent une fonction différente de celle de la précision prédictive. Ils aident à révéler quand une information ou son interprétation mérite d’être contestée.

La prédiction est une dimension de la qualité des données

Une approche courante des données clients consiste à collecter des sources plus riches, à relier les enregistrements et à les utiliser pour améliorer la prédiction. L’IA peut traiter ces sources et déduire des intentions, des préférences, des dépenses futures et d’autres attributs. Le résultat peut sembler faire autorité parce qu’il est précis. La précision, toutefois, n’établit pas que l’interprétation qui sous-tend une inférence est valide.

Un achat établit qu’une transaction a eu lieu, mais la transaction seule n’établit ni la motivation ni le fait que le comportement persistera dans un autre contexte. À mesure que les entreprises transforment les transactions en profils clients et en prédictions, ces interprétations peuvent façonner des décisions ultérieures. Cela soulève une question de gouvernance : quelles conclusions méritent d’inspirer confiance, et lesquelles doivent rester ouvertes à la correction ?

La qualité des données peut donc être évaluée selon deux dimensions. La performance prédictive demande si l’information aide à anticiper un résultat. La capacité de correction demande si des personnes disposant de connaissances pertinentes peuvent examiner et contester des informations et hypothèses ayant des conséquences. Cette distinction compte particulièrement lorsqu’un profil mélange des conclusions générées par machine et des faits enregistrés.

Des profils détaillés peuvent créer de la précision sans compréhension

La différence entre un comportement observé et une représentation construite à partir de celui-ci est importante. Se souvenir d’une commande précédente peut soutenir une expérience de fidélisation, tandis que des années d’activité peuvent devenir des sources pour des prédictions sur le comportement futur. Ces prédictions ajoutent une couche d’interprétation que les dirigeants doivent distinguer des transactions sous-jacentes.

Les erreurs et les inférences discutables comptent lorsqu’elles alimentent des décisions métier. Un champ incorrect peut placer quelqu’un dans un segment dont il ne remplit pas les critères ; une inférence peut devenir une source pour des messages, des offres ou des expériences. Les dirigeants doivent donc décider du niveau de confiance que mérite chaque représentation significative avant que les systèmes n’agissent sur cette base. Un profil sophistiqué n’établit pas à lui seul sa fiabilité.

La bonne quantité d’informations client dépend de l’objectif, des attentes, des autorisations et de l’usage. Le niveau de détail et la validité sont deux propriétés distinctes. Un profil détaillé peut fournir davantage de sources pour l’analyse tout en contenant des éléments incertains ou incorrects. À mesure que ces éléments influencent davantage de décisions, la confiance, la provenance et la correction prennent plus d’importance.

Une meilleure mesure soulève une autre question de gouvernance

Les informations émotionnelles concernent les motivations d’une personne plutôt qu’une transaction enregistrée. Les entreprises qui les utilisent doivent décider comment une interprétation influencera le traitement du client et que faire lorsque cette interprétation est erronée ou obsolète. La performance prédictive agrégée ne permet pas d’établir que chaque prédiction individuelle est correcte. Les systèmes de données doivent évaluer séparément la performance prédictive et la capacité de correction au niveau individuel.

La correction par le client est une capacité architecturale

L’autonomie sur les données est un terme utile pour désigner les mécanismes qui permettent aux individus de participer à la manière dont des informations les concernant, ayant des conséquences, sont représentées et utilisées. Ici, cela signifie donner aux clients des moyens concrets d’identifier des erreurs, de contester des inférences significatives, d’apporter un contexte pertinent ou d’exercer les contrôles applicables. Sa portée peut dépendre de l’activité et des conséquences de l’information. L’accent est mis sur les représentations susceptibles d’affecter matériellement le traitement.

Une distinction connexe existe entre les informations divulguées et les informations déduites. Les labels first-party et third-party décrivent certains aspects de l’origine de l’information ou de la relation par laquelle elle a été collectée. Ils n’indiquent pas nécessairement à un client si un attribut spécifique a été explicitement fourni ou dérivé ultérieurement par un modèle. Une personne peut divulguer sciemment sa date de naissance tout en restant ignorante des conclusions comportementales ou psychologiques générées à partir d’un dossier plus large.

La provenance consiste à savoir d’où vient l’information et comment elle a été produite. Une provenance claire peut aider une entreprise à distinguer un fait fourni par le client d’une inférence générée par un modèle lorsqu’un litige survient. Un parcours de correction peut alors relier la contestation aux systèmes qui s’appuient sur la représentation contestée. La correction devient une partie de la conception opérationnelle plutôt qu’une interaction isolée de service client.

La correction par le client doit être évaluée sur cette base plutôt qu’à travers une amélioration supposée de la prédiction. Une contestation peut révéler une erreur de modèle. Elle peut aussi concerner une inférence qui fonctionne bien statistiquement mais crée une représentation trompeuse d’une personne en particulier. La capacité requise est un moyen crédible de découvrir et d’évaluer ce type de contestations.

La transparence doit aussi être exploitable. Le volume à lui seul n’indique pas à un client quelles représentations affectent matériellement son traitement ni comment les contester. Un mécanisme de correction utile doit rendre ces représentations suffisamment compréhensibles pour qu’une personne puisse y répondre.

Pour les responsables martech et expérience client, cela crée une tâche de conception concrète. Ils doivent identifier les représentations qui influencent matériellement le traitement, consigner l’origine de ces représentations et déterminer comment une contestation peut atteindre les systèmes qui les utilisent. Chaque étape relie la gouvernance au flux réel de l’information. L’architecture qui en résulte peut recevoir des informations contradictoires aussi bien que générer des prédictions clients.

La correction doit aussi fonctionner à l’intérieur de l’entreprise

Les clients fournissent un canal de correction. Les employés en fournissent un autre, car ils peuvent examiner les hypothèses, les méthodes, les usages proposés et les décisions internes. Un marketeur peut remettre en question les preuves à l’appui d’une définition de segment, un spécialiste de la confidentialité peut contester un usage proposé de l’information, ou un praticien des données peut repérer une incertitude masquée par un tableau de bord. Ces signaux n’ont d’importance que si le processus de décision leur donne un moyen d’influencer l’action.

Les chercheurs utilisent l’expression « silence organisationnel » pour décrire les situations dans lesquelles des personnes retiennent des informations sur des problèmes parce que prendre la parole semble peu judicieux. Le mécanisme importe pour la gouvernance des données, car des éléments de preuve contraires ne peuvent pas améliorer une décision lorsque les employés les taisent. Les processus de décision doivent donc prévoir un moyen pour que des éléments de preuve contraires parviennent aux personnes responsables de la collecte, de l’inférence, de l’interprétation et de l’usage.

L’autonomie du client et la franchise des employés répondent à des lacunes d’information différentes. Les clients peuvent apporter un contexte personnel sur la manière dont une entreprise les représente, tandis que les employés peuvent examiner des méthodes internes et des usages proposés que les clients ne voient généralement pas. Les dirigeants peuvent agir sur cette distinction en intégrant les deux canaux dans les systèmes et les processus de décision qui gouvernent les représentations clients ayant des conséquences. Cette capacité devient plus déterminante à mesure que les systèmes d’IA génèrent davantage d’inférences sur lesquelles les organisations peuvent agir.

Points clés

Traitez la capacité de correction comme une dimension de la qualité des données : La performance prédictive n’établit pas que les représentations clients sont valides. Les dirigeants doivent évaluer si les données et hypothèses ayant des conséquences peuvent aussi être examinées et contestées.
Distinguez le niveau de détail du profil de la compréhension : Davantage de données client peuvent produire des prédictions précises sans établir le contexte derrière le comportement observé. Suivez la confiance, la provenance et la correction en parallèle de la richesse du profil.
Gouvernez séparément les inférences émotionnelles et la mesure : Les données émotionnelles concernent les motivations, et la performance agrégée du modèle ne peut pas confirmer qu’une inférence individuelle est correcte. Évaluez la performance prédictive et la capacité de correction individuelle comme des exigences distinctes.
Intégrez la correction par le client dans l’architecture des données : Donnez aux clients des moyens concrets de contester des représentations significatives et reliez ces contestations aux systèmes qui les utilisent. Préservez la provenance afin que les équipes puissent distinguer les faits fournis des inférences générées par modèle.
Créez des canaux internes pour les éléments de preuve contraires : Les employés peuvent repérer des hypothèses fragiles, des méthodes incertaines et des usages discutables que les clients ne peuvent pas voir. Les processus de décision doivent garantir que ces préoccupations puissent parvenir aux personnes responsables des données client et des systèmes d’IA.