Comment rendre les données clients plus fiables pour l’IA

La précision prédictive n’est pas la même chose que la qualité des données

Un système peut prédire avec précision la prochaine action d’un client tout en conservant une représentation faible des raisons qui ont poussé cette personne à agir. Un clic prouve que le clic a eu lieu. Lui attribuer une intention relève de l’inférence. Les dirigeants doivent maintenir une séparation entre ces affirmations lorsque les dossiers clients alimentent les systèmes marketing et d’IA.

La même distinction s’applique aux informations que les clients fournissent eux-mêmes. Une préférence déclarée enregistre ce qu’une personne a fourni à un moment donné et dans un contexte donné. Elle peut ensuite devenir obsolète ou décrire cette personne de manière inexacte. La qualité des données dépend donc en partie de la provenance, c’est-à-dire de l’origine d’une affirmation, ainsi que de la solidité des preuves qui l’étayent.

Cela compte lorsqu’un même dossier alimente plusieurs décisions. Un achat peut alimenter un segment, qui peut ensuite alimenter une préférence inférée ou un score d’attrition. Chaque étape ajoute une interprétation. Les dirigeants doivent savoir quelles affirmations ont été directement observées, fournies par le client ou générées par un modèle.

Davantage de données peuvent créer une fausse confiance

Un profil richement renseigné peut sembler faire autorité parce qu’il contient de nombreux champs. Le nombre de champs n’établit pas la solidité des preuves. Chaque champ est une affirmation avec sa propre origine, son propre contexte et son propre niveau de confiance. Les dirigeants qui évaluent des dossiers clients doivent examiner le fondement des champs importants plutôt que de traiter l’exhaustivité comme une preuve d’exactitude.

Prenons l’exemple d’une promotion qui collecte le nom d’un client, ses coordonnées, sa date de naissance, sa localisation et ses autorisations marketing. Les valeurs soumises et les autorisations établissent des faits précis sur cette interaction. Des systèmes ultérieurs peuvent ensuite relier ces faits à des achats ou à d’autres dossiers et en déduire de nouveaux attributs. Ces attributs n’ont pas le même statut probatoire que les informations fournies délibérément par le client.

Cette distinction devient plus importante lorsque des attributs dérivés passent d’un système à l’autre. Une inférence créée pour un objectif donné peut perdre son contexte d’origine lorsqu’elle est copiée dans un dossier client ou utilisée par un autre modèle. Une étiquette descriptive peut alors paraître plus certaine que ne le justifient les preuves qui la soutiennent. Préserver la provenance aide les décideurs à comprendre la nature de l’affirmation qu’ils utilisent.

Les conséquences doivent déterminer le niveau de preuve requis

Le niveau d’examen doit augmenter avec les conséquences d’une décision. Une inférence faible utilisée pour sélectionner un message marketing peut produire une offre non pertinente. La même qualité d’inférence utilisée pour une décision qui affecte matériellement l’accès ou le traitement comporte un risque plus élevé. La gouvernance doit refléter cette différence.

Ce principe n’exige pas de remplacer chaque inférence par des informations fournies directement par une personne. Le comportement observé, les déclarations des clients, les informations de tiers et les inférences générées par des modèles peuvent tous apporter des preuves utiles. La fiabilité dépend du contexte et de l’affirmation formulée. L’organisation doit décider du niveau de confiance requis pour chaque décision.

Cela crée une exigence pratique pour les systèmes de données clients. Ils doivent préserver les distinctions entre événements observés, informations fournies, données externes et attributs inférés lorsque ces distinctions influencent une décision. Un champ tel que « susceptible de résilier » doit rester identifiable comme une conclusion générée par un modèle. Ce contexte aide les personnes et les systèmes en aval à juger du degré d’autorité à lui accorder.

Une meilleure mesure augmente les enjeux de gouvernance

Des mesures plus solides peuvent améliorer la compréhension qu’a une entreprise du comportement de ses clients et rendre les informations qui en résultent plus influentes. À mesure que ces informations deviennent plus utiles pour la prédiction et la personnalisation, les dirigeants doivent examiner ce qui a été mesuré, pourquoi cela a été collecté, quelles conclusions cela permet d’étayer et quelles décisions les utiliseront.

La motivation illustre clairement le problème. Deux personnes peuvent effectuer le même achat pour des raisons différentes. La transaction établit ce qu’elles ont acheté dans ce cas précis. Une affirmation sur la raison de cet achat exige davantage de preuves. De meilleures preuves peuvent étayer une interprétation plus solide, mais l’affirmation qui en résulte a toujours besoin d’une origine et d’une portée clairement définies.

La participation directe peut fournir une partie de ces preuves. Les clients peuvent exprimer des préférences, des objectifs ou des besoins que les seuls historiques de transaction n’établissent pas. Ces déclarations ont toujours besoin de contexte, car les préférences peuvent évoluer et les questions peuvent être mal comprises. La qualité des données dépend de la préservation de la distinction entre les preuves collectées et les conclusions qui en sont tirées.

La qualité des données doit inclure la personne représentée

Pour les décisions des dirigeants, l’exhaustivité et la fraîcheur sont des dimensions utiles de la qualité des données. La provenance, le contexte, le niveau de confiance et la correction comptent également lorsque les dossiers contiennent des interprétations sur des personnes. Un dossier client solide rend visibles les distinctions importantes afin que les décideurs puissent juger de ce que l’organisation sait réellement. Le niveau requis doit augmenter lorsqu’une affirmation étaye une décision aux conséquences importantes.

La capacité d’action sur les données offre un cadre utile pour une partie de ce problème. Ici, la capacité d’action sur les données désigne des moyens concrets permettant aux personnes d’examiner les informations personnelles qui leur sont associées, de fournir un contexte pertinent, de corriger des erreurs substantielles et d’exercer un contrôle approprié sur leur utilisation. Les mécanismes appropriés dépendent de la finalité du traitement et des obligations de l’organisation. La question clé de conception est de savoir si des erreurs importantes peuvent être identifiées et corrigées avant de devenir des intrants durables pour des décisions ultérieures.

Le consentement joue un rôle différent. L’autorisation de collecter ou de traiter des informations n’établit pas l’exactitude de chaque interprétation qui en est dérivée. Lorsque le consentement est approprié, la gouvernance doit aussi prévoir des mécanismes de provenance, de limites contextuelles, de révision et de correction. Chacun traite une partie différente du cycle de vie de l’information.

L’IA rend ces distinctions plus importantes, car elle peut réutiliser les données existantes de l’organisation dans de nombreux résultats et décisions. Si une entrée contient une inférence faible, un traitement supplémentaire ne rend pas cette inférence solide. Les dirigeants ont besoin de normes pour décider quelles affirmations sur les clients peuvent alimenter des systèmes automatisés, comment leur provenance est préservée et quand une revue humaine ou une correction est requise.

Les employés font partie de ce processus de correction. Ils peuvent rencontrer des éléments indiquant qu’un attribut, une définition de segment ou une inférence est faible. La gouvernance fonctionne mieux lorsque les employés disposent d’un moyen défini pour consigner ces éléments, examiner l’affirmation contestée et mettre à jour les systèmes en aval si nécessaire. La correction devient alors une propriété opérationnelle du système d’information plutôt qu’une exception informelle.

Points clés

Séparer la prédiction des preuves : La précision prédictive peut coexister avec une compréhension faible de l’intention du client. Les responsables des données doivent préserver l’information indiquant si chaque affirmation importante a été observée, fournie par le client, issue d’une source externe ou inférée.
Suivre les preuves derrière les attributs clients : Des profils riches peuvent créer une confiance injustifiée lorsque des attributs dérivés perdent leur contexte d’origine. Les équipes en charge des données clients doivent conserver les informations de provenance et de niveau de confiance à mesure que les affirmations passent d’un système à l’autre.
Adapter les standards de preuve à l’impact de la décision : Les décisions aux conséquences plus importantes exigent des fondements plus solides pour les affirmations sur les clients qu’elles utilisent. Les équipes de gouvernance doivent définir des seuils de preuve en fonction de l’impact matériel qu’une décision peut avoir sur une personne.
Encadrer soigneusement des mesures plus solides : Une meilleure mesure peut rendre les informations clients plus influentes dans la prédiction et la personnalisation. Les responsables des données doivent documenter ce qui a été mesuré, dans quel but, et quelles conclusions les preuves permettent raisonnablement d’étayer.
Intégrer la correction à la qualité des données : La provenance, le contexte, le niveau de confiance et la correction déterminent si les dossiers clients restent fiables lorsqu’ils alimentent l’IA et d’autres décisions. Les organisations doivent offrir aux clients et aux employés des moyens définis d’identifier les erreurs substantielles et de s’assurer que les corrections validées atteignent les systèmes en aval.