Les agents d’IA gagnent en autonomie avant d’avoir fait leurs preuves

L’IA d’entreprise est confrontée à un déficit d’évaluation

L’IA d’entreprise entre dans une nouvelle phase. Le débat ne porte plus sur la capacité des agents IA à accomplir des tâches utiles. Il est clair qu’ils en sont capables. La véritable question est de savoir s’ils peuvent accomplir ces tâches avec suffisamment de régularité pour gagner en autonomie.

De nombreuses organisations accordent de plus en plus d’autonomie à leurs agents d’IA. Elles leur permettent de prendre des décisions, d’exécuter des flux de travail, d’appeler des applications métier et d’interagir avec les clients avec une intervention humaine réduite. Cette évolution offre d’importantes opportunités en termes de productivité, mais elle met également en évidence une faiblesse croissante. Les systèmes utilisés pour évaluer ces agents ne se sont pas améliorés au même rythme.

C’est ce qui crée le « fossé d’évaluation ». Les entreprises augmentent le niveau d’autonomie avant d’avoir mis en place des systèmes tout aussi solides pour évaluer la fiabilité, la gouvernance et la sécurité opérationnelle. En conséquence, on peut confier à des agents d’IA des décisions importantes avant même de disposer de preuves suffisantes garantissant qu’ils se comporteront correctement dans un large éventail de situations professionnelles réelles.

Cette tendance est compréhensible. La pression concurrentielle est forte, et chaque entreprise souhaite tirer parti des gains de productivité offerts par l’IA. Repousser indéfiniment le déploiement constitue rarement une stratégie commerciale réaliste. Le défi consiste à s’assurer que la gouvernance évolue au même rythme que les capacités. La gestion des identités, l’application des politiques, l’orchestration, le contrôle des coûts, la surveillance et l’évaluation doivent faire partie intégrante de la plateforme d’IA elle-même, plutôt que d’être considérées comme des projets distincts pouvant être reportés à plus tard.

Pour les dirigeants, cela devient un enjeu stratégique plutôt qu’un simple enjeu technique. Une stratégie en matière d’IA se définit de plus en plus par la capacité de l’organisation à exploiter l’IA en toute sécurité et à grande échelle. Les entreprises qui se dotent très tôt de solides capacités de gouvernance devraient progresser plus rapidement à long terme, car elles passeront moins de temps à remédier à des défaillances imprévues en production.

L’enquête VB Pulse de juin 2026 montre à quelle vitesse cet écart se creuse. Parmi les 157 entreprises éligibles interrogées, comptant au moins 100 salariés, 66 % ont indiqué qu’elles autorisaient déjà certains déploiements en production sans intervention humaine ou qu’elles mettaient en place des systèmes qui le permettront dans les 12 prochains mois. Dans le même temps, seuls 5 % ont déclaré faire pleinement confiance aux évaluations automatisées qui sous-tendent ces décisions de déploiement. L’enquête précise également que ses répondants ont été sélectionnés sur la base d’une auto-sélection ; les résultats doivent donc être considérés comme indicatifs plutôt que statistiquement représentatifs.

La conclusion est claire. L’autonomie de l’IA progresse à un rythme accéléré. Ce n’est pas le cas de la confiance dans les évaluations. Combler cet écart deviendra l’une des priorités majeures de l’IA d’entreprise au cours des prochaines années.

La réussite aux évaluations internes ne garantit pas le succès opérationnel dans la pratique.

Il ne faut en aucun cas confondre le fait de réussir une évaluation interne avec la démonstration qu’un agent d’IA est prêt à être mis en production. Il s’agit là de deux questions distinctes.

Les logiciels traditionnels suivent généralement une logique prévisible. Une même entrée produit toujours la même sortie. Les agents d’IA fonctionnent différemment. Ils font des choix au cours de leur exécution. Ils décident quels outils utiliser, quelles informations extraire, quelle séquence d’actions suivre et comment réagir à l’évolution du contexte. Deux exécutions d’une même tâche peuvent suivre des chemins différents, même si l’objectif final est identique.

Cette flexibilité confère aux agents IA toute leur puissance, mais elle rend également leur validation beaucoup plus difficile. Un agent peut effectuer plusieurs étapes correctement tout en produisant un résultat commercial inacceptable. Il peut par exemple récupérer le bon compte client, mais mettre à jour le mauvais champ. Il peut générer une demande de remboursement exacte, mais la soumettre avant qu’elle n’ait été approuvée. Il peut effectuer avec succès plusieurs appels d’outils avant de divulguer des informations sensibles lors de l’étape finale.

Il ne s’agit pas là de défaillances que les tests logiciels traditionnels ont été conçus pour détecter. Elles n’apparaissent que lorsque les systèmes fonctionnent dans des environnements complexes où les utilisateurs, les invites, les règles métier et les systèmes externes évoluent constamment.

Pour les dirigeants, cela modifie la manière dont le risque lié à l’IA doit être évalué. Un score élevé lors d’un test de référence ou une démonstration réussie sont certes utiles, mais ne constituent pas des preuves suffisantes pour justifier un déploiement à grande échelle. Le véritable critère de valeur réside dans la capacité de l’agent à produire des résultats opérationnels fiables dans des conditions d’exploitation normales, y compris dans des situations qui n’avaient pas été explicitement anticipées lors des tests.

Cela revêt une importance particulière pour les applications destinées aux clients. Ce sont les clients qui jugent le résultat final. Une seule action incorrecte peut ébranler la confiance bien plus rapidement que de nombreuses interactions réussies ne peuvent la renforcer. C’est pourquoi la cohérence opérationnelle est tout aussi importante que les capacités du modèle.

L’enquête VB Pulse de juin 2026 met en évidence à quel point ce problème est désormais courant. La moitié des entreprises interrogées ont indiqué avoir déployé un agent d’IA ou une fonctionnalité LLM qui, bien qu’ayant satisfait aux évaluations internes, a néanmoins entraîné une défaillance au niveau du service client. Une organisation sur quatre a connu cette situation à plusieurs reprises.

Les raisons pour lesquelles les organisations se méfient de l’évaluation automatisée sont également révélatrices. Selon l’enquête, 29 % des personnes interrogées ont déclaré que les évaluations existantes ne reflétaient pas les résultats concrets. 21 % ont évoqué des biais ou un manque de cohérence, 18 % ont souligné un manque d’explicabilité, et 17 % ont fait état de fuites de données ou de préoccupations liées à la confidentialité.

Ceci s’inscrit dans le cadre des recommandations générales du secteur. L’Institut national américain des normes et des technologies (NIST), dans son « Generative AI Profile », souligne que les mesures recueillies dans des environnements de test contrôlés peuvent ne pas être transposables de manière fiable en environnement de production, car le comportement des modèles varie en fonction des invites, des utilisateurs, des contextes et des conditions d’exploitation. Le NIST recommande de procéder à des essais sur le terrain, d’assurer une surveillance continue après le déploiement et de mettre en place des processus clairs pour identifier et signaler les défaillances.

La conclusion est d’ordre pratique. Les tests internes restent nécessaires, mais ils ne suffisent plus. Les organisations qui tireront le meilleur parti de l’IA seront celles qui mesureront leur réussite à l’aune de résultats commerciaux fiables.

Une évaluation rigoureuse des agents doit mettre l’accent sur la reproductibilité et la résilience dans des conditions réelles

La prochaine étape de l’IA d’entreprise ne consiste pas à rendre les agents capables d’accomplir une tâche une seule fois. Il s’agit de démontrer qu’ils sont capables d’accomplir cette même tâche correctement, de manière constante et dans des conditions changeantes. C’est la norme à laquelle les entreprises doivent s’attendre avant d’étendre l’autonomie de leurs agents.

Une démonstration réussie vous prouve qu’un agent d’IA est performant. Dans un contexte professionnel, la cohérence est souvent plus importante que l’excellence ponctuelle. Les clients, les collaborateurs et les autorités de régulation s’attendent à des résultats prévisibles, en particulier lorsque l’IA intervient dans les processus opérationnels.

Cela modifie la manière dont les organisations doivent aborder l’évaluation. Les tests ne doivent plus se concentrer sur une seule exécution. Un même scénario doit être exécuté à plusieurs reprises avec des invites différentes, des contextes utilisateur différents, des données différentes et des conditions système différentes. L’objectif n’est pas simplement de vérifier que l’agent parvient à la bonne réponse, mais de s’assurer qu’il aboutit au résultat métier correct dans de nombreuses situations réalistes.

Les tests doivent également porter sur des situations dans lesquelles les systèmes connexes ne fonctionnent pas de manière optimale. Il peut arriver que des outils externes ne soient plus disponibles. Les données peuvent être incomplètes ou retardées. Les API peuvent renvoyer des réponses inattendues. Les règles métier peuvent évoluer. Un agent d’IA doit démontrer qu’il est capable soit de se remettre de ces situations en toute sécurité, soit de les signaler de manière appropriée, plutôt que de créer de nouveaux risques opérationnels.

Un autre changement important concerne la manière dont les organisations tirent les leçons de leurs échecs. Les incidents de production devraient déboucher sur des améliorations permanentes du processus d’évaluation. Chaque escalade client, chaque workflow ayant échoué, chaque validation erronée, chaque problème de confidentialité ou chaque défaillance imprévue d’un outil constitue une donnée opérationnelle précieuse. Au lieu de les traiter comme des cas d’assistance isolés, les organisations devraient les transformer en tests de régression que chaque future version devra réussir.

Cela permet de mettre en place un système d’évaluation en constante amélioration. À mesure que l’on recueille davantage d’expériences concrètes, le cadre de test s’aligne de plus en plus sur les opérations réelles de l’entreprise plutôt que sur des scénarios théoriques. Au fil du temps, la confiance repose sur des données factuelles accumulées plutôt que sur des hypothèses.

Cette approche est conforme aux recommandations émanant tant des pouvoirs publics que du secteur privé. L’Institut national américain des normes et des technologies (NIST), dans son « Generative AI Profile », souligne que les résultats obtenus dans des environnements de test contrôlés peuvent ne pas refléter fidèlement le comportement en production, car les systèmes d’IA réagissent différemment selon les utilisateurs, les invites, les contextes et les conditions d’exploitation. Le NIST recommande donc de procéder à des essais sur le terrain, à une surveillance continue après le déploiement, ainsi qu’à la mise en place de processus structurés permettant d’identifier les défaillances et d’y remédier.

Anthropic parvient à une conclusion similaire dans ses recommandations relatives à l’évaluation des agents. L’entreprise établit une distinction entre le fait de démontrer qu’un système peut réussir au moins une fois et celui de démontrer qu’il réussit de manière constante lors d’essais répétés. Cette distinction est importante, car la valeur de l’entreprise repose sur une exécution fiable.

Pour les dirigeants, cela a des implications directes sur les priorités d’investissement. Les organisations qui intègrent la reproductibilité, les tests de régression et la surveillance continue dans leur processus de développement de l’IA disposeront d’une base plus solide pour le déploiement à grande échelle de systèmes autonomes. Ces capacités doivent être considérées comme une infrastructure essentielle.

L’autonomie de l’IA devrait évoluer en fonction du risque opérationnel

Toutes les décisions prises par l’IA ne nécessitent pas un contrôle humain. Exiger une validation pour chaque action réduirait à néant une grande partie des gains d’efficacité qui font justement l’intérêt de l’IA. L’objectif n’est pas d’assurer un contrôle maximal, mais un contrôle adapté.

Le niveau d’autonomie doit tenir compte des conséquences d’un éventuel échec. Les activités à faible risque se prêtent particulièrement bien à des niveaux d’automatisation plus élevés, car les erreurs peuvent généralement être corrigées sans impact significatif sur l’activité. Citons, à titre d’exemple, la rédaction de comptes rendus de réunions internes, le classement de documents ou le tri d’informations à usage interne.

Les activités à haut risque nécessitent une norme différente. Les transactions financières, les communications avec les clients, le déploiement de logiciels, les modifications des droits d’accès et la suppression de données sont autant d’éléments susceptibles d’entraîner des conséquences importantes sur le plan opérationnel, juridique, financier ou en matière de réputation. Avant de confier davantage de responsabilités aux agents d’IA dans ces domaines, les organisations devraient exiger des preuves plus solides de leur fiabilité.

Ces éléments de preuve doivent inclure des tests de cohérence répétés, la validation des politiques, des contrôles de sécurité, des mécanismes de restauration, des pistes d’audit et des procédures d’escalade vers des intervenants humains clairement définies. Ces contrôles réduisent le risque opérationnel tout en permettant aux organisations de poursuivre le développement de l’automatisation lorsque cela s’avère approprié.

Il s’agit ici d’adapter la gouvernance à l’impact sur l’activité. Les systèmes d’IA devraient gagner en autonomie en faisant la preuve de performances fiables au fil du temps. À mesure que la confiance s’accroît grâce aux résultats opérationnels, les organisations peuvent élargir en toute sécurité le champ d’application de la prise de décision autonome.

Les dirigeants d’entreprise doivent également prendre conscience que les risques ne sont pas répartis de manière uniforme au sein des organisations. Les grandes entreprises gèrent souvent des opérations plus complexes, une clientèle plus importante et des obligations réglementaires plus strictes. Par conséquent, les conséquences d’une défaillance de l’IA peuvent s’amplifier rapidement si la gouvernance ne suit pas le rythme du déploiement.

L’enquête VB Pulse de juin 2026 reflète cette tendance. Parmi les organisations interrogées, les entreprises comptant 2 500 salariés ou plus s’orientent plus résolument vers un déploiement sans intervention humaine que les plus petites structures : 70 % d’entre elles font état de telles initiatives, contre 64 % parmi les petites entreprises. Parallèlement, les grandes entreprises ont également signalé un taux plus élevé de défaillances des agents IA déployés en contact avec la clientèle, soit 54 % contre 48 %.

Cela ne signifie pas pour autant que les grandes organisations doivent revoir à la baisse leurs ambitions en matière d’IA. Cela signifie plutôt que la gouvernance revêt une importance croissante à mesure que le déploiement s’étend. Une plus grande autonomie doit s’accompagner de contrôles opérationnels plus rigoureux.

Pour les dirigeants de haut niveau, la question stratégique n’est plus de savoir si l’IA va gagner en autonomie. Cette évolution est déjà évidente. La question la plus importante est de savoir si les capacités de l’organisation en matière de gouvernance, d’évaluation et de gestion des risques se développent suffisamment rapidement pour accompagner cette autonomie de manière responsable.

La réussite à long terme des entreprises dépendra du renforcement de la gouvernance de l’IA

L’avantage concurrentiel en matière d’IA d’entreprise ne viendra pas du déploiement d’un nombre maximal d’agents. Il viendra du déploiement d’agents auxquels les organisations peuvent faire confiance pour fonctionner de manière cohérente, sûre et à grande échelle.

L’intérêt économique de l’automatisation est bien réel, et il continuera à pousser les organisations vers des niveaux d’autonomie de l’IA toujours plus élevés. Les entreprises qui hésitent indéfiniment risquent de se faire distancer par des concurrents capables d’accomplir leur travail plus rapidement et de fonctionner plus efficacement. Dans le même temps, aller trop vite sans mettre en place les contrôles appropriés peut entraîner des défaillances de production qui sapent la confiance des clients et augmentent les coûts opérationnels.

Les organisations qui réussiront à long terme considéreront la gouvernance comme une compétence fondamentale plutôt que comme une simple obligation de conformité. La gouvernance doit être intégrée à chaque étape du cycle de vie de l’IA, depuis l’évaluation préalable au déploiement jusqu’au suivi post-déploiement, en passant par l’amélioration continue fondée sur l’expérience opérationnelle.

Cela implique d’aller au-delà de la simple disponibilité du système. De nombreuses organisations vérifient déjà si un service d’IA est en ligne et réactif. C’est important, mais ce n’est qu’un indicateur parmi d’autres de la santé opérationnelle. Les dirigeants doivent également pouvoir s’assurer que les agents produisent des résultats corrects, respectent les politiques de l’entreprise, protègent les données sensibles et maintiennent des performances constantes dans le temps.

La surveillance continue devrait devenir une pratique courante. Chaque déploiement génère de nouvelles informations opérationnelles susceptibles d’améliorer les performances futures. Les réclamations des clients, les défaillances des flux de travail, les violations des politiques, les décisions erronées et les comportements inattendus du système doivent être analysés de manière systématique et pris en compte dans les tests futurs. Cela permet de mettre en place un processus d’évaluation qui se renforce à mesure que l’organisation acquiert davantage d’expérience sur le terrain.

Une autre priorité importante est l’alignement organisationnel. La gouvernance de l’IA ne relève plus de la seule responsabilité des équipes techniques. Les dirigeants d’entreprise, les équipes juridiques, les spécialistes de la conformité, les professionnels de la sécurité et les responsables opérationnels influencent tous la manière dont les systèmes d’IA sont déployés et gérés. Une attribution claire des responsabilités, des processus d’escalade bien définis et des normes de performance mesurables contribuent à garantir que les systèmes autonomes restent alignés sur les objectifs de l’entreprise.

Les dirigeants devraient également considérer la gouvernance comme un catalyseur de l’innovation plutôt que comme un frein à celle-ci. Lorsque les organisations ont confiance dans leurs processus d’évaluation, leurs capacités de suivi et leurs contrôles opérationnels, elles peuvent étendre plus rapidement le déploiement de l’IA, car les décisions s’appuient sur des données factuelles plutôt que sur des hypothèses. Une gouvernance fiable réduit l’incertitude et permet aux entreprises de développer l’automatisation avec davantage d’assurance.

La rapidité à elle seule ne suffira pas à déterminer quelles organisations seront à la pointe de la prochaine étape de l’IA d’entreprise. La rapidité de déploiement est importante, mais la fiabilité l’est tout autant. Les entreprises qui investissent dans la reproductibilité, les tests de régression, la surveillance post-déploiement et une gouvernance structurée seront mieux placées pour tirer parti de la valeur à long terme de l’IA autonome tout en réduisant les risques opérationnels inutiles.

Les recommandations du secteur viennent renforcer cette orientation. L’Institut national américain des normes et des technologies (NIST), dans son « Generative AI Profile », préconise la réalisation d’essais sur le terrain de manière continue, un suivi après déploiement, ainsi que des processus bien définis pour identifier et signaler les défaillances, car le comportement de l’IA peut varier selon les utilisateurs, les invites, les contextes et les conditions d’exploitation. Les recommandations d’Anthropic concernant l’évaluation des agents mettent également l’accent sur la cohérence des performances au fil d’essais répétés plutôt que sur des résultats positifs isolés. Ensemble, ces recommandations soutiennent un modèle de gouvernance fondé sur une vérification continue plutôt que sur une validation ponctuelle.

Pour les dirigeants de haut niveau, la priorité stratégique est claire. La question n’est plus de savoir si l’IA doit s’intégrer à l’entreprise. C’est déjà le cas. La véritable opportunité consiste à mettre en place une organisation capable de déployer en toute confiance une IA de plus en plus autonome, car sa gouvernance, son évaluation et sa discipline opérationnelle évoluent au même rythme que la technologie.

Principaux faits marquants

• Combler le fossé en matière d’évaluation : les agents d’IA gagnent en autonomie à un rythme plus rapide que celui des améliorations apportées aux méthodes de validation des entreprises. Les dirigeants devraient investir dans l’évaluation, la gouvernance et le suivi parallèlement au déploiement, afin que l’autonomie s’accompagne d’une confiance accrue plutôt que de risques.
• Mesurer les résultats opérationnels : la réussite aux évaluations internes ne garantit pas pour autant des performances fiables vis-à-vis des clients. Les équipes de direction devraient évaluer l’IA en se basant sur des résultats commerciaux cohérents obtenus dans des conditions d’exploitation réelles, plutôt que sur les seuls résultats des tests comparatifs.
• Faites de la reproductibilité un indicateur de performance essentiel : un cycle réussi suffit à prouver la capacité du système. Les organisations doivent tester les agents de manière répétée dans différents scénarios, transformer les incidents de production en tests de régression et renforcer en permanence leur évaluation à l’aide de retours d’expérience concrets.
• Adapter le niveau d’autonomie en fonction du risque opérationnel : toutes les tâches liées à l’IA ne nécessitent pas une vérification humaine, mais les décisions à fort impact exigent des contrôles bien plus rigoureux que les activités à faible risque. Les dirigeants doivent adapter la gouvernance, les tests et la surveillance aux conséquences potentielles d’un échec plutôt qu’à la rapidité de déploiement.
• Intégrer la gouvernance au modèle opérationnel de l’IA : l’avantage à long terme de l’IA résidera dans la fiabilité de ses opérations. Les organisations qui associent une surveillance continue, une gouvernance structurée et une démarche d’amélioration rigoureuse seront mieux à même de déployer à grande échelle une IA autonome tout en réduisant les risques opérationnels et de réputation.