Les agents IA progressent plus vite que leur gouvernance

Les entreprises ont adopté prématurément des agents d’IA sans avoir mis en place les contrôles de gouvernance nécessaires

L’IA d’entreprise évolue plus rapidement que la gouvernance d’entreprise. C’est là le cœur du problème. De nombreuses organisations ont déployé des agents d’IA avant de disposer des mécanismes de contrôle nécessaires pour les gérer correctement. Elles avaient conscience des risques, mais l’opportunité d’améliorer leur productivité et de rester compétitives était trop importante pour être ignorée.

La phase suivante est différente. L’accent n’est plus uniquement mis sur le déploiement de l’IA. Il s’agit désormais de rendre l’IA fiable. Cela nécessite une gouvernance couvrant cinq domaines clés identifiés par VentureBeat Research : l’identité, l’évaluation, la télémétrie des coûts, la gestion du contexte et l’orchestration. Ensemble, ces éléments déterminent si un agent IA est capable de fonctionner en toute sécurité, de produire des résultats fiables, de maîtriser les coûts, d’utiliser les informations métier pertinentes et de coordonner des tâches complexes.

Chacun de ces contrôles remplit une fonction distincte. L’identité détermine à quoi un agent est autorisé à accéder et sous quelles identifiants il opère. L’évaluation permet de vérifier si ses résultats sont effectivement corrects. La télémétrie des coûts permet de suivre l’impact financier de l’exécution des charges de travail d’IA. La gestion du contexte garantit que les agents s’appuient sur des définitions métier et des données précises. L’orchestration coordonne plusieurs agents et processus lorsqu’ils collaborent entre différents systèmes.

De nombreuses organisations investissent désormais massivement pour renforcer ces capacités, car elles ont pris conscience que le déploiement de l’IA n’est qu’un début. La valeur à long terme réside dans la capacité à rendre les systèmes d’IA suffisamment fiables pour soutenir les opérations commerciales essentielles.

Pour les dirigeants, cela modifie la manière dont les investissements dans l’IA doivent être évalués. La question n’est plus de savoir si un modèle d’IA fonctionne bien lors d’une démonstration. La véritable question est de savoir si l’organisation dispose d’une visibilité, d’un contrôle et d’une responsabilisation suffisants pour faire confiance à ce système en production. La gouvernance ne doit pas être considérée comme un frein à l’innovation. C’est elle qui permet à l’innovation de se déployer en toute sécurité à l’échelle de l’entreprise.

Les enquêtes menées en juin par VentureBeat Research montrent à quel point cette évolution est désormais généralisée. Sur l’ensemble des cinq niveaux de gouvernance, entre 57 % et 68 % des entreprises prévoient d’ajouter de nouveaux fournisseurs ou de remplacer ceux existants au cours des 12 prochains mois. Environ un tiers d’entre elles s’attendent à des changements dès ce trimestre. Ce niveau d’investissement prévu montre que la gouvernance est désormais une priorité stratégique plutôt qu’une simple obligation de conformité.

Une grande partie des agents d’IA déployés sont des chatbots basiques

L’une des plus grandes idées fausses concernant l’IA d’entreprise aujourd’hui porte sur la signification du terme « agent ». De nombreux produits sont commercialisés comme des agents IA, mais dans la pratique, ils fonctionnent comme des chatbots classiques. Ils répondent à des questions, génèrent du contenu ou effectuent une tâche unique avant de redonner le contrôle à une personne.

Un véritable agent d’IA est différent. Il est capable d’effectuer de manière autonome plusieurs tâches interdépendantes, de prendre des décisions dans des limites définies, d’interagir avec différents systèmes et de poursuivre ses efforts en vue d’atteindre un objectif sans nécessiter d’intervention humaine constante. Ce niveau d’autonomie génère une valeur ajoutée bien plus importante pour l’entreprise, mais il implique également des exigences bien plus strictes en matière de gouvernance.

Cette distinction est importante, car les dirigeants évaluent souvent les investissements dans l’IA en se basant sur les affirmations des fournisseurs plutôt que sur les capacités opérationnelles. Un chatbot qui génère du texte est fondamentalement différent d’un système autonome qui met à jour des bases de données, interagit avec les clients, gère des flux de travail ou modifie des systèmes de production. Considérer ces deux types de systèmes comme une seule et même technologie peut conduire à de mauvaises décisions d’investissement et à des lacunes en matière de gouvernance.

Les conclusions de l’étude VentureBeat Research indiquent que de nombreuses entreprises n’ont pas encore généralisé le déploiement d’agents entièrement autonomes. D’après les enquêtes, 71 % des organisations ont déclaré que pas plus d’un quart de leurs « agents » déployés sont capables d’effectuer de manière autonome des tâches comportant plusieurs étapes. Seules 10 % ont indiqué que les agents autonomes constituaient la majorité de ceux qu’elles exploitent actuellement.

Cela reflète l’état actuel de la technologie et du niveau de préparation des entreprises. La plupart des organisations en sont encore à apprendre à gérer des systèmes de plus en plus autonomes avant d’étendre leur utilisation à des fonctions métier critiques.

Pour les dirigeants d’entreprise, les implications pratiques sont claires. Les investissements en matière de gouvernance doivent correspondre au niveau réel d’autonomie. Les déploiements de chatbots simples nécessitent généralement moins de contrôles, car les utilisateurs restent étroitement impliqués dans la vérification des résultats. À mesure que les organisations mettent en place des agents capables de prendre des décisions de manière autonome et d’exécuter des flux de travail complexes, la gouvernance doit devenir nettement plus sophistiquée. L’identité, l’évaluation, l’orchestration, le contexte métier et la gestion des coûts deviennent alors des capacités essentielles, et non plus de simples améliorations facultatives.

Les résultats de cette enquête revêtent d’autant plus d’importance que les personnes interrogées étaient directement impliquées dans les décisions relatives à l’IA au sein de leur entreprise. Selon VentureBeat Research, 81 % des participants recommandent ou prennent eux-mêmes les décisions d’achat en matière d’IA au sein de leur organisation. Leurs réponses offrent un aperçu utile de la manière dont l’adoption de l’IA en entreprise évolue, passant du discours marketing à la réalité opérationnelle.

L’IA autonome progresse plus rapidement que les systèmes utilisés pour l’évaluer et la contrôler

De nombreuses entreprises n’hésitent plus à confier davantage de responsabilités aux agents d’IA. Dans certaines organisations, les agents sont déjà en mesure de déployer du code ou d’apporter des modifications au système en se basant uniquement sur les résultats d’évaluations automatisées. D’autres s’efforcent activement d’atteindre ce niveau d’autonomie d’ici un an. Il s’agit là d’une évolution majeure dans la manière dont les logiciels et les opérations sont gérés.

Le problème réside dans le fait que la confiance accordée aux systèmes d’évaluation n’a pas suivi le rythme de cette autonomie accrue. Un cadre d’évaluation permet de déterminer si un agent d’IA a correctement accompli sa tâche avant que son travail ne soit validé. Si ce cadre ne permet pas de prédire avec précision les performances en conditions réelles, l’augmentation de l’autonomie entraîne également une augmentation du risque opérationnel.

Une étude de VentureBeat Research a révélé qu’environ deux tiers des entreprises autorisent déjà des agents d’IA à mettre en œuvre des modifications en production sans contrôle humain, ou prévoient de le faire au cours des 12 prochains mois. Pourtant, seules 5 % des organisations ont déclaré faire pleinement confiance aux systèmes d’évaluation qui prennent ces décisions. Cet écart mérite l’attention des dirigeants, car il signifie que de nombreuses organisations développent l’automatisation avant d’avoir validé les contrôles qui la sous-tendent.

Les conséquences sont déjà visibles. Selon cette étude, la moitié des entreprises ont connu au moins un incident en contact avec la clientèle au cours de l’année écoulée, imputable à un agent d’IA qui avait pourtant réussi les évaluations internes. Les tests internes ne suffisent pas à eux seuls à garantir qu’un agent fonctionnera de manière fiable dans des conditions d’exploitation réelles.

Les dirigeants doivent considérer l’évaluation comme une capacité opérationnelle permanente plutôt que comme un test technique ponctuel. Les systèmes d’évaluation doivent faire l’objet d’une amélioration continue à mesure que les modèles d’IA, les processus métier et les attentes des clients évoluent. Les données de production doivent être utilisées pour déterminer si les cadres d’évaluation permettent de prédire avec précision la réussite en dehors des environnements de test contrôlés.

Les organisations ont également besoin de niveaux d’évaluation différents selon la fonction métier concernée. Un assistant de connaissances interne ne nécessite pas le même niveau de validation qu’un agent d’IA qui modifie des documents comptables, met à jour des systèmes de production ou prend des décisions ayant une incidence sur les clients. La gouvernance doit tenir compte de l’impact potentiel sur l’activité de chaque déploiement.

Les opportunités restent considérables. Une plus grande autonomie peut permettre de gagner en rapidité, de réduire les tâches répétitives et d’accroître l’efficacité opérationnelle. Ces avantages ne deviennent durables que lorsque les organisations sont en mesure de démontrer que les décisions automatisées respectent systématiquement les normes de l’entreprise. La supervision humaine peut alors être progressivement réduite à mesure que la confiance s’installe grâce à des performances mesurables plutôt qu’à des hypothèses.

Le partage des identifiants engendre des risques de sécurité évitables pour les agents d’IA d’entreprise

La gestion des identités revêt une importance croissante à mesure que les agents d’IA accèdent aux systèmes d’entreprise. Chaque agent doit disposer d’autorisations clairement définies, correspondant à ses responsabilités spécifiques. Sans cette rigueur, les organisations perdent la visibilité nécessaire pour savoir quel agent a effectué quelle action et si cette action était autorisée.

De nombreuses entreprises n’ont pas encore atteint ce niveau de contrôle. Au contraire, il arrive souvent que plusieurs agents d’IA fonctionnent sous la même clé API ou le même compte de service. Si cela peut simplifier le déploiement, cela affaiblit la traçabilité et complique les enquêtes de sécurité. Lorsque plusieurs agents partagent des identifiants identiques, les équipes de sécurité ne peuvent pas déterminer facilement lequel d’entre eux a déclenché une action spécifique ni identifier la source d’un comportement inattendu.

Les conclusions de l’étude VentureBeat Research montrent que cette pratique reste courante. Soixante-neuf pour cent des entreprises autorisent au moins certains agents IA à partager leurs identifiants. Ces organisations ont signalé des incidents de sécurité ou des incidents évités de justesse à un taux de 63,5 %, soit 47 des 74 entreprises interrogées. Parmi les organisations où chaque agent disposait de sa propre identité à portée limitée, ce taux est tombé à 40,9 %, soit 9 entreprises sur 22.

Bien que les résultats de cette enquête mettent en évidence un lien étroit entre le partage d’identifiants et des taux d’incidents plus élevés, ils ne prouvent pas à eux seuls que ce partage soit la seule cause. D’autres différences dans les pratiques de sécurité peuvent également jouer un rôle. Néanmoins, ces conclusions viennent renforcer un principe de sécurité bien établi : limiter les accès et attribuer des identités uniques permet d’améliorer le contrôle et la responsabilisation.

Pour les dirigeants, la gestion des identités doit être considérée comme un investissement stratégique plutôt que comme un simple détail technique. À mesure que les agents d’IA commencent à interagir avec les données clients, les systèmes financiers, les environnements de développement logiciel et l’infrastructure opérationnelle, l’identité devient le fondement de la gouvernance. Chaque action doit pouvoir être attribuée à un agent spécifique opérant dans le cadre d’autorisations clairement définies.

Cette approche permet également de respecter les exigences réglementaires et les critères d’audit. De nombreux secteurs attendent de plus en plus des organisations qu’elles puissent indiquer qui a accédé à des systèmes sensibles, à quel moment cet accès a eu lieu et quelles actions ont été effectuées. L’attribution d’identités uniques aux agents d’IA rend ces enregistrements bien plus fiables et plus faciles à vérifier.

Les organisations n’ont pas besoin de repenser immédiatement tous leurs systèmes d’IA. Une approche pragmatique consiste à commencer par les agents qui interagissent directement avec les environnements de production ou les données métier sensibles. Sécuriser ces systèmes en priorité permet de réduire au maximum les risques opérationnels, tout en mettant en place des pratiques de gouvernance susceptibles d’être étendues à mesure que l’adoption de l’IA se développe.

Les infrastructures d’IA sont sous-utilisées, tandis que de nombreuses organisations ne disposent toujours pas d’une vision claire des coûts liés à l’IA

Les discussions sur l’IA en entreprise portent souvent sur l’acquisition d’une puissance de calcul accrue. Dans de nombreux cas, ce n’est pas là le défi immédiat. La véritable opportunité réside dans l’optimisation de l’utilisation de l’infrastructure existante et dans la compréhension du coût réel de l’exécution des charges de travail liées à l’IA.

Une étude de VentureBeat Research a révélé que plus de 80 % des entreprises exploitant leurs propres GPU ont déclaré des taux d’utilisation inférieurs ou égaux à 50 %. Cela suggère qu’une part importante de cette capacité de calcul coûteuse reste inutilisée ou n’est pas planifiée de manière efficace. Par ailleurs, seules 44 % des organisations ont déclaré suivre rigoureusement les coûts et les retours sur investissement de leurs ressources de calcul dédiées à l’IA.

Cela soulève deux problèmes distincts. Premièrement, les organisations risquent d’acheter du matériel supplémentaire avant d’avoir tiré pleinement parti de ce dont elles disposent déjà. Deuxièmement, sans données fiables sur les coûts, les dirigeants ne peuvent pas évaluer avec certitude si les initiatives en matière d’IA génèrent un retour sur investissement acceptable.

La télémétrie des coûts permet de relever ce défi. Elle offre une visibilité sur le coût d’exécution de chaque charge de travail d’IA, sur l’efficacité avec laquelle les ressources informatiques sont utilisées, et permet de déterminer si la valeur commerciale qui en résulte justifie l’investissement. Ces informations prennent de plus en plus d’importance à mesure que les organisations déploient davantage d’agents d’IA dans différents services et fonctions métier.

Les dirigeants doivent s’attendre à ce que les investissements dans l’IA soient évalués avec la même rigueur financière que celle appliquée aux autres grands programmes technologiques. Il ne suffit plus de savoir qu’une application d’IA fonctionne bien. Les entreprises doivent également déterminer quelles charges de travail génèrent des résultats commerciaux significatifs, lesquelles consomment des ressources excessives et où l’infrastructure peut être optimisée avant que des dépenses supplémentaires ne soient approuvées.

L’optimisation de l’utilisation des ressources génère souvent des retombées financières plus rapides que l’extension des infrastructures. Une meilleure planification des charges de travail, la suppression des capacités inutilisées, l’affectation des charges de travail au matériel approprié et la surveillance continue de la consommation des ressources permettent d’accroître l’efficacité sans nécessiter de nouveaux investissements.

À mesure que l’adoption de l’IA se généralise, la visibilité sur les coûts deviendra un avantage concurrentiel majeur. Les organisations qui maîtrisent les aspects économiques de chaque charge de travail liée à l’IA seront mieux à même de développer à grande échelle les initiatives fructueuses, d’abandonner les projets à faible valeur ajoutée et d’allouer les ressources informatiques là où elles génèrent le plus grand impact commercial.

Une gestion insuffisante des données d’entreprise est l’une des principales causes des réponses inexactes générées par l’IA

La qualité d’un agent d’IA dépend fortement de la qualité des informations qu’il reçoit. Même les modèles les plus avancés ne peuvent pas fournir systématiquement des réponses fiables lorsque les données métier sous-jacentes sont incomplètes, obsolètes, incohérentes ou mal gérées.

VentureBeat Research a identifié le contexte métier comme l’une des sources les plus courantes d’erreurs liées à l’IA. D’après les enquêtes, 57 % des entreprises ont attribué au moins une réponse de l’IA, donnée avec certitude mais erronée, au cours des six derniers mois, à un contexte métier manquant ou incohérent. La plupart des organisations ont déclaré avoir rencontré ce problème à plusieurs reprises.

Le contexte métier englobe les informations internes qui permettent aux systèmes d’IA de comprendre le fonctionnement d’une organisation. Cela comprend les définitions des indicateurs de performance, les informations sur les clients, la documentation relative aux produits, les politiques internes, les procédures opérationnelles et d’autres connaissances propres à l’entreprise. Si ces sources sont contradictoires ou ne sont pas régulièrement mises à jour, les agents d’IA peuvent générer des réponses qui semblent exactes alors qu’elles reposent sur des informations erronées.

Il s’agit là d’une distinction importante pour les dirigeants. De nombreux problèmes de précision liés à l’IA ne sont pas dus au modèle linguistique lui-même. Ils trouvent plutôt leur origine dans les faiblesses de la gestion des données d’entreprise. Le remplacement du modèle ne résoudra peut-être pas le problème sous-jacent si les informations de l’entreprise restent incohérentes.

Cette étude souligne que la gouvernance doit commencer par les informations que les systèmes d’IA utilisent le plus fréquemment. La normalisation des indicateurs de performance, le maintien de définitions cohérentes d’un service à l’autre et la mise à jour régulière des documents peuvent améliorer considérablement la fiabilité de l’IA avant que les organisations ne déploient des flux de travail autonomes.

Les organisations doivent également prendre conscience que la gouvernance des données relève d’une responsabilité opérationnelle permanente et non d’un projet technique ponctuel. Les politiques d’entreprise changent, les produits évoluent, les réglementations sont mises à jour et de nouvelles informations sont créées chaque jour. Pour que les systèmes d’IA puissent fournir des résultats fiables, il est indispensable de mettre en place des processus permettant d’aligner en permanence leurs sources de connaissances sur ces changements.

Pour les équipes de direction, cela signifie que la stratégie en matière d’IA et la stratégie en matière de données doivent être élaborées conjointement. Les investissements dans les modèles d’IA, les plateformes d’automatisation et les outils d’orchestration apportent une plus grande valeur ajoutée lorsqu’ils s’appuient sur des informations métier précises et gérées de manière rigoureuse. Des données fiables renforcent la prise de décision, améliorent les interactions avec les clients et renforcent la confiance à mesure que les organisations étendent le rôle de l’IA à l’ensemble de l’entreprise.

Le marché de la gouvernance de l’IA en entreprise reste ouvert, ce qui offre aux organisations la flexibilité nécessaire pour définir leur stratégie à long terme

La gouvernance de l’IA en entreprise en est encore à ses débuts. Contrairement aux marchés des logiciels d’entreprise, plus matures, aucun fournisseur ne s’est imposé comme leader incontesté à tous les niveaux de la gouvernance. Cette situation représente à la fois une opportunité et une source d’incertitude pour les organisations qui élaborent leur stratégie à long terme en matière d’IA.

Aujourd’hui, de nombreuses entreprises s’appuient sur les fonctionnalités de gouvernance intégrées aux principales plateformes d’IA qu’elles utilisent déjà. Ces outils intégrés constituent un point de départ pratique, car ils réduisent la complexité du déploiement et simplifient la gestion. Cependant, à mesure que les déploiements d’IA prennent de l’ampleur et gagnent en autonomie, les organisations s’interrogent de plus en plus sur la capacité de ces fonctionnalités intégrées à offrir suffisamment de flexibilité, de visibilité et de contrôle.

VentureBeat Research a constaté que c’est dans le domaine de l’orchestration, qui coordonne la collaboration des agents d’IA entre plusieurs tâches et systèmes, que les changements prévus sont les plus importants. D’après les enquêtes, 68 % des entreprises prévoient d’adopter, d’ajouter ou de remplacer des plateformes d’orchestration au cours des 12 prochains mois, tandis que 34 % prévoient d’effectuer ces changements au cours du trimestre en cours. Cela suggère que de nombreuses organisations sont encore en train de définir à quoi devrait ressembler leur architecture de gouvernance à long terme.

Cette étude souligne également une limite importante. Elle ne précise pas à quoi ces dépenses seront consacrées. Certaines organisations pourraient recourir davantage aux outils de gouvernance proposés par les grands fournisseurs de plateformes d’IA, tandis que d’autres pourraient opter pour des prestataires spécialisés dans les domaines de l’identité, de l’orchestration, de l’évaluation ou de l’observabilité. Ce paysage concurrentiel reste encore incertain.

Pour les dirigeants, cela signifie que le choix d’un fournisseur doit se concentrer sur les capacités à long terme plutôt que sur les fonctionnalités à court terme. Les plateformes de gouvernance de l’IA doivent s’intégrer aux investissements technologiques existants, s’adapter à l’évolution des exigences réglementaires et rester flexibles à mesure que les modèles d’IA et les besoins de l’entreprise évoluent. Choisir une plateforme en se basant uniquement sur ses fonctionnalités actuelles peut entraîner ultérieurement des coûts de migration inutiles, à mesure que l’IA d’entreprise gagne en maturité.

Cela souligne également l’importance d’éviter toute dépendance inutile vis-à-vis d’un fournisseur. À mesure que les normes de gouvernance continuent d’évoluer, les organisations tirent profit d’architectures permettant de remplacer ou d’étendre des composants sans nécessiter de modifications majeures dans l’ensemble de l’environnement d’IA. L’intégration ouverte, l’interopérabilité et la définition claire de la propriété des données doivent être prises en compte au même titre que les performances et les coûts lors des décisions d’achat.

Les prochaines années devraient déterminer la manière dont la gouvernance de l’IA en entreprise va évoluer. Les organisations qui réévaluent régulièrement leur stratégie de gouvernance, vérifient que les capacités des fournisseurs correspondent à leurs objectifs métier et savent s’adapter aux évolutions du marché seront mieux placées pour déployer l’IA de manière sûre et efficace. L’objectif n’est pas simplement de choisir le bon fournisseur aujourd’hui. Il s’agit de mettre en place un cadre de gouvernance qui continue à soutenir l’innovation à mesure que les capacités de l’IA d’entreprise progressent.

Le bilan

L’IA d’entreprise entre dans une nouvelle phase. Le débat ne porte plus sur la question de savoir si les organisations doivent adopter l’IA, mais plutôt sur la manière dont elles peuvent l’exploiter de manière responsable à grande échelle. Cette évolution nécessite bien plus que de meilleurs modèles. Elle exige une gouvernance plus solide.

Les conclusions de VentureBeat Research mettent particulièrement en évidence un point. Les principaux obstacles à la réussite des déploiements d’IA ne sont plus uniquement d’ordre technique. Ils sont d’ordre opérationnel. L’identité, l’évaluation, la qualité des données, l’efficacité de l’infrastructure, la visibilité des coûts et l’orchestration sont désormais devenues des capacités métier essentielles. Les organisations qui renforcent ces domaines seront mieux à même de développer l’IA en toute confiance, tandis que celles qui les négligent seront confrontées à des risques opérationnels, de sécurité et financiers croissants.

Pour les dirigeants, il s’agit là d’une occasion de dépasser le stade des projets d’IA isolés et d’élaborer une stratégie à l’échelle de l’entreprise. La gouvernance ne doit pas être considérée comme une exigence de conformité qui freine l’innovation. Elle doit être perçue comme le cadre permettant à l’IA de s’intégrer en toute confiance dans les opérations quotidiennes de l’entreprise. Une gouvernance solide offre aux dirigeants une meilleure visibilité sur les performances, une responsabilité plus claire quant aux décisions prises et la confiance nécessaire pour automatiser les tâches à forte valeur ajoutée.

Le marché lui-même évolue également rapidement. Les offres des fournisseurs continueront de s’améliorer, les normes de gouvernance gagneront en maturité et les capacités d’intelligence artificielle deviendront plus autonomes. Les organisations qui réévaluent régulièrement leur stratégie de gouvernance et font preuve de souplesse dans leurs choix technologiques seront mieux préparées à s’adapter à l’évolution du contexte.

Les entreprises qui créeront de la valeur durable grâce à l’IA ne seront pas nécessairement celles qui la déploieront en premier. Ce seront celles qui mettront en place très tôt les bases d’une gouvernance adéquate, qui mesureront les résultats de manière cohérente et qui développeront l’IA avec la même rigueur que celle qu’elles appliquent à toutes leurs autres capacités métier essentielles. Dans les années à venir, cette combinaison d’innovation et de maîtrise opérationnelle devrait devenir l’un des avantages concurrentiels les plus solides qu’une entreprise puisse se forger.