Mettre des agents en production ne prouve plus que l’entreprise est prête
Déployer un agent montre qu’une organisation peut mettre en œuvre la technologie. La préparation à la production exige aussi d’avoir confiance dans les données, le contexte métier et la responsabilité qui sous-tendent ses décisions et ses actions. Les dirigeants devraient évaluer l’état de préparation à l’IA en fonction de la capacité des agents à agir en toute sécurité sur les données de l’entreprise.
Le goulot d’étranglement se déplace sous la couche IA
Les entreprises peuvent améliorer les modèles, recruter des spécialistes de l’IA et acheter des outils d’agents plus récents tout en laissant inchangées les contraintes liées aux données et à la gouvernance.
La traçabilité indique d’où proviennent les informations et comment elles ont évolué. Le contexte métier regroupe les définitions, les relations et les politiques qui déterminent comment les données doivent être interprétées et utilisées. Les deux sont importants lorsque des logiciels utilisent les données de l’entreprise pour prendre ou exécuter des décisions.
Un projet en tête ?
Planifiez un appel de 30 minutes avec nous.
Des experts senior pour vous aider à avancer plus vite : produit, tech, cloud & IA.
Les agents peuvent transformer des données faibles en actions
Dans l’analytique conventionnelle, une personne peut avoir la possibilité de remettre en question la fiabilité avant d’agir sur un résultat. Un agent opérant à travers les systèmes et les workflows peut transformer des données douteuses en actions. Une supervision humaine peut rester en place, et les agents peuvent disposer de différents degrés d’autorité. À mesure que cette autorité augmente, les erreurs peuvent se rapprocher de l’exécution.
La qualité des données, le contexte et la gouvernance deviennent donc des risques de production. Les données sous-jacentes peuvent rester les mêmes tandis que les conséquences changent à mesure que le logiciel gagne en autorité.
La confiance, le contexte et la responsabilité accusent un retard sur le déploiement
Une piste d’audit enregistre ce qui entre et sort d’un système d’IA. Les liens entre décision et source relient un résultat aux informations d’origine qui l’ont étayé. Ensemble, ces enregistrements peuvent aider une organisation à reconstituer ce qui s’est passé lorsqu’une décision est contestée.
Saurabh Gupta, President and Chief Executive Officer of The Modern Data Company, décrit un écart croissant entre déploiement et préparation. Son entreprise a un intérêt commercial dans les approches de gestion des données d’entreprise, cette caractérisation représente donc le point de vue d’un fournisseur.
L’état de préparation à l’IA doit être mesuré par ce qui peut agir en toute sécurité
Pour les DSI, CTO ainsi que les responsables des données et de l’IA, une évaluation de la préparation des agents peut vérifier si les données de production répondent à une norme explicite de confiance, si les agents reçoivent la traçabilité et le contexte métier requis par leurs tâches, et si les décisions peuvent être reliées à leurs sources d’origine et à des responsables identifiables.
La structure de la plateforme ajoute un autre facteur. Pour les dirigeants qui conçoivent les contrôles, la question pratique est de savoir si les définitions de données, la traçabilité, les politiques et la responsabilité restent disponibles dans l’ensemble de leur environnement technologique à mesure que les agents passent d’un système à l’autre et agissent sur les données de l’entreprise.
Points clés
- Le déploiement en production n’est pas synonyme de préparation : Les dirigeants devraient évaluer si les agents d’IA peuvent agir en toute sécurité sur les données de l’entreprise, et non simplement s’ils peuvent être déployés.
- Les fondations data deviennent le nouveau goulot d’étranglement : Les investissements dans les modèles, les talents et les outils d’agents ne peuvent pas compenser une traçabilité, un contexte métier et une gouvernance insuffisants.
- L’autorité des agents augmente le coût de mauvaises données : À mesure que les agents se rapprochent de l’exécution, des données de mauvaise qualité ou mal interprétées peuvent se traduire directement par des actions métier et des risques de production.
- La traçabilité soutient la responsabilité : Les organisations devraient relier les décisions des agents aux données sources, aux entrées et aux responsables identifiables afin que les résultats puissent être reconstitués et contestés.
- La préparation doit refléter la capacité à agir en toute sécurité : Les DSI, CTO et responsables data devraient définir des normes explicites de confiance dans les données, de contexte, de traçabilité et de responsabilité à travers les systèmes utilisés par les agents.
Un projet en tête ?
Planifiez un appel de 30 minutes avec nous.
Des experts senior pour vous aider à avancer plus vite : produit, tech, cloud & IA.
