Comment préparer les données aux usages des agents IA

Les agents IA dépendent encore d’un travail qu’ils étaient censés réduire

Déployer un agent IA peut amener les employés à passer des heures à vérifier et corriger le travail qu’il était censé accélérer. Les agents sont des systèmes logiciels qui génèrent des réponses et exécutent des actions, mais leur capacité à agir peut dépasser leur capacité à évaluer les informations qu’ils utilisent. Lorsque les employés doivent fournir ce jugement de manière répétée, la supervision reste un coût opérationnel. Préparer un agent consiste donc à lui donner accès à des données, à un contexte qu’il peut interpréter et à des règles qu’il peut appliquer avant d’agir.

L’interprétation humaine crée un manque lorsque les agents passent à l’action

Dans les workflows de données établis, ce jugement était souvent fourni par des personnes. Van de Maele, de Collibra, explique que les systèmes de données d’entreprise servaient en grande partie à des personnes qui lisaient des tableaux de bord et menaient des analyses. Lorsqu’un élément semblait erroné, une personne le remettait en question et « apportait un contexte que les données ne pouvaient pas fournir à elles seules ». Collibra vend des logiciels permettant de définir les données et d’en contrôler l’usage, l’entreprise a donc un intérêt commercial à ce que les entreprises investissent dans les définitions, le contexte et les contrôles qu’il recommande.

Passer de l’analyse humaine à l’action d’un agent change la source de ce contexte. Une personne peut s’arrêter pour remettre en question une définition ou appliquer ses connaissances avant de décider, alors qu’un agent peut poursuivre malgré cette même incertitude. « Les agents changent cela », a déclaré Van de Maele. « Lorsqu’une définition est ambiguë ou qu’un contexte manque, un agent peut tout de même produire une réponse et agir en conséquence avec assurance. Le travail ne consiste donc pas simplement à nettoyer davantage de données. Les entreprises doivent rendre le contexte disponible sous une forme que les machines peuvent comprendre et utiliser : que signifient ces données, puis-je m’y fier à cet instant, et que suis-je autorisé à en faire ? »

Donner à un logiciel accès à ces jugements exige plus que la correction d’erreurs dans un jeu de données. Même des données propres peuvent avoir des définitions peu claires, avec des usages autorisés qui dépendent des connaissances d’un employé. Selon Van de Maele, le déploiement d’un agent met en lumière un travail d’interprétation que les personnes effectuaient auparavant au sein du workflow. Si cette interprétation reste en dehors du système, les employés doivent continuer à la fournir via des vérifications, des revues et des corrections.

PARLONS-EN !

Un projet en tête ?
Planifiez un appel de 30 minutes avec nous.

Des experts senior pour vous aider à avancer plus vite : produit, tech, cloud & IA.

Planifier un appel

Veuillez saisir une adresse email professionnelle valide.

Une supervision récurrente alourdit le coût d’utilisation des agents

La fréquence signalée de ces vérifications fait de la supervision une préoccupation opérationnelle immédiate. Dans une enquête menée par Collibra et Harris Poll, 87 % des décideurs ont déclaré que leurs équipes vérifient régulièrement si le contexte disponible pour les agents IA reste exact et à jour. Il s’agit de deux questions distinctes : une information peut décrire correctement une situation antérieure tout en étant inadaptée à une décision prise maintenant. Les équipes doivent vérifier à la fois l’information elle-même et le fait qu’elle s’applique encore à la tâche de l’agent.

Une fois qu’un agent produit un résultat, un autre type de travail commence. Plus de la moitié des répondants à l’enquête Collibra et Harris Poll ont indiqué que les employés passent des heures à examiner et corriger manuellement les résultats produits par les agents IA. Ces revues ajoutent du travail entre la réponse de l’agent et un résultat exploitable par l’entreprise. Les dirigeants qui évaluent un déploiement doivent donc prendre en compte le temps que les employés consacrent à inspecter et corriger ses résultats.

Les équipes peuvent analyser ce coût en examinant pourquoi les employés interviennent dans le travail d’un agent. Les recommandations de Van de Maele leur donnent des questions précises sur le contexte manquant et les règles appliquées lorsque l’agent agit. L’enquête décrit le travail de vérification et de correction effectué par les employés, tandis que cet examen peut aider une équipe à identifier les conditions qui expliquent la supervision dans son propre déploiement.

L’accès aux données et un contexte exploitable répondent à des contraintes différentes

Avant qu’un agent puisse interpréter une information, il doit pouvoir y accéder. Un rapport d’août de Google Cloud et MIT Technology Review Insights a constaté que l’IA pouvait accéder en moyenne à 45 % des données d’une entreprise. Le rapport identifie une base de données solide et un meilleur accès comme des conditions nécessaires à l’extension de l’usage des agents. Google Cloud vend des services cloud et d’IA, et bénéficie donc commercialement lorsque les entreprises investissent dans l’infrastructure nécessaire pour étendre ces déploiements.

Un accès plus large donne à un agent davantage d’informations, mais il doit encore interpréter ce qu’il récupère. Les recommandations de Van de Maele portent sur cette étape suivante : établir le sens, évaluer si les données sont fiables à cet instant et vérifier l’autorisation d’agir. L’accès et l’interprétation sont donc deux exigences distinctes du déploiement. Améliorer la récupération élargit les informations disponibles ; fournir un contexte exploitable aide l’agent à juger comment les utiliser.

La question de savoir si les organisations font confiance aux résultats en est une autre. Seule la moitié des organisations faisaient confiance à la pertinence et à l’exactitude des résultats de leurs agents IA, selon le rapport de Google Cloud et MIT Technology Review Insights. Ce constat mesure la confiance dans les résultats, tandis que les conclusions de Collibra et Harris Poll décrivent le travail de supervision des employés. Lorsqu’elles décident d’étendre l’usage des agents, les équipes doivent examiner séparément la disponibilité, la confiance et la supervision, car chacun de ces éléments influe sur la manière dont l’entreprise peut utiliser un agent.

Les agents ont besoin de contrôles sur le sens, la fiabilité actuelle et l’action autorisée

Rendre les informations récupérées exploitables commence par les définitions et les règles qui leur sont associées. Van de Maele recommande des définitions métier alignées et des politiques encodées, c’est-à-dire des règles rédigées sous une forme que le logiciel peut vérifier, comme éléments d’une base de données conçue pour les agents. Un contexte structuré met les informations nécessaires à l’interprétation des données sous une forme exploitable par le logiciel. La gouvernance en temps réel rend les règles disponibles pour vérification pendant que l’agent fonctionne, y compris juste avant qu’il n’exécute une action.

Le sens vient d’abord, car un agent doit établir ce que représente l’information dans la tâche qui lui est assignée. L’alignement des définitions métier réduit l’ambiguïté que les employés résolvaient auparavant par des questions et des explications. Une équipe de déploiement peut le tester en se demandant si l’agent peut interpréter un élément de donnée à l’aide des informations disponibles dans son workflow. Si un employé doit expliquer la définition à chaque fois, une partie de la décision repose encore sur cette personne.

Même une définition claire laisse ouverte la question de savoir si l’information est adaptée au moment présent. L’agent a besoin de contexte pour évaluer l’exactitude et l’actualité des données au moment de leur utilisation. Les équipes déclarent vérifier ce jugement de manière répétée, c’est donc un point utile pour examiner où la supervision humaine entre dans le workflow. Van de Maele propose de mettre le contexte pertinent sous une forme que l’agent peut utiliser pendant son travail.

Même des informations fiables exigent une vérification distincte des autorisations, car l’autorité dépend de l’usage envisagé. Van de Maele recommande d’encoder les politiques afin qu’un agent puisse vérifier si une action est autorisée juste avant d’agir. La règle doit donc être disponible au point de décision et s’appliquer à l’action envisagée. Si quelqu’un doit interpréter la politique séparément à chaque fois, le workflow dépend encore de l’intervention de cette personne.

La préparation réglementaire crée d’autres exigences pour les bases de données

Les contrôles de politique encadrent le fonctionnement d’un agent, tandis que la préparation réglementaire exige aussi des organisations qu’elles rendent compte de leurs données et de leur traitement. Selon l’enquête Collibra et Harris Poll, neuf dirigeants d’entreprise sur dix se préparent activement aux réglementations sur l’IA aux États-Unis et dans le monde. L’enquête a également révélé que 51 % des dirigeants d’entreprise investissent dans la traçabilité des données et la documentation. La traçabilité enregistre l’origine des données et la manière dont elles évoluent ; la documentation décrit leurs caractéristiques et leur traitement. Les deux fournissent aux équipes des éléments de preuve qu’elles peuvent utiliser dans leur préparation.

Cette préparation se déroule parallèlement à un débat sur la capacité des garde-fous à suivre le rythme d’une IA de plus en plus performante. Des dirigeants d’OpenAI, Anthropic, Microsoft et SpaceXAI ont appelé à ralentir le développement de l’IA, en invoquant des frameworks de sécurité qui ne parviennent plus à suivre les modèles de pointe, c’est-à-dire les modèles les plus avancés en cours de développement. Ces entreprises développent ou commercialisent de l’IA, leurs dirigeants ont donc un intérêt économique dans les règles qui encadrent son développement et son déploiement. Leurs appels portent sur le rythme et la supervision du développement, une question plus large que la supervision d’un agent d’entreprise individuel.

Ce débat plus large produit plusieurs types de réponses politiques. Le sénateur Bernie Sanders, I-Vt., prévoit de présenter une législation qui suspendrait temporairement le développement avancé de l’IA. En Californie, le gouverneur Gavin Newsom a signé deux lois sur l’IA établissant un framework pour des audits indépendants des grands modèles de langage, qui génèrent et traitent le langage. En Europe, les obligations de l’AI Act de l’UE en matière de culture de l’IA, qui concernent la compréhension de l’IA et de son usage par les personnes, ainsi que les interdictions portant sur les cas d’usage inacceptables, sont entrées en vigueur en août.

Ces interventions créent des tâches de préparation différentes, car elles portent sur le développement, l’examen indépendant, les connaissances organisationnelles et les usages autorisés. La traçabilité et la documentation peuvent aider une entreprise à expliquer ses données et ses pratiques de traitement. La préparation aux audits doit répondre aux exigences d’audit, tandis que le travail sur la culture de l’IA et les usages interdits doit répondre aux connaissances et aux comportements exigés par ces obligations. Chaque tâche de préparation doit avoir un lien clair avec l’obligation à laquelle elle répond.

Points clés à retenir pour les décideurs

• Prévoir un budget pour la supervision : Les déploiements d’agents entraînent un coût continu lorsque les employés doivent vérifier et corriger leur travail. Les responsables du déploiement doivent inclure cette charge de travail lorsqu’ils évaluent les gains de productivité et les plans d’extension.
• Rendre le contexte métier exploitable : Les responsables des données doivent transformer les définitions et jugements que les employés appliquent de manière informelle en un contexte que les agents peuvent interpréter. Des définitions ambiguës laissent aux personnes la responsabilité de résoudre l’incertitude pendant le fonctionnement des agents.
• Suivre les raisons des interventions des employés : Dans l’enquête Collibra et Harris Poll, plus de la moitié des répondants ont signalé des heures passées à examiner et corriger les résultats des agents. Les équipes opérationnelles peuvent analyser ces interventions pour identifier les manques récurrents en matière de contexte, d’actualité des données et de règles.
• Évaluer séparément l’accès et la confiance : L’IA pouvait accéder en moyenne à 45 % des données d’entreprise, selon le rapport de Google Cloud et MIT Technology Review Insights. Les revues de déploiement doivent prévoir des vérifications distinctes de la disponibilité des données, du contexte exploitable et de la confiance dans les résultats.
• Placer les contrôles au point de décision : Les workflows d’agents ont besoin de contrôles sur le sens des données, leur fiabilité actuelle et l’autorisation d’agir. Les équipes plateforme et gouvernance doivent rendre les définitions, le contexte et les politiques disponibles lorsque l’agent utilise des informations ou exécute une action.
• Faire correspondre la préparation à des obligations précises : La préparation réglementaire couvre la documentation, les audits, la culture de l’IA et les usages autorisés. Les responsables de la conformité doivent relier chaque investissement à l’exigence à laquelle il répond ; la traçabilité et la documentation fournissent des éléments sur l’origine et le traitement des données.