Vos agents IA ont besoin de limites clairement définies

Les agents d’IA créent un problème de sécurité différent lorsqu’ils obtiennent l’autorisation de modifier des systèmes métier. Lire des e-mails ou interroger une base de données expose des informations. Appeler des API ou lancer des opérations peut modifier immédiatement un autre système.

Google Cloud indique que 35 % des décideurs IT seniors citent une sécurité insuffisante pour les accès entre plusieurs systèmes comme principal frein au déploiement de l’IA agentique. Google Cloud vend de l’IA et des infrastructures cloud, et en tire donc un bénéfice commercial lorsque les entreprises investissent dans l’infrastructure et la sécurité pour ces déploiements. Ce constat met en évidence une préoccupation concrète pour les dirigeants : un agent qui agit entre plusieurs systèmes a besoin d’une identité, d’autorisations et d’une supervision strictement définies.

La sécurité des agents d’IA change lorsqu’ils peuvent agir

Un agent doté d’une autorité opérationnelle a besoin de garde-fous autour des actions qu’il peut entreprendre. Une réponse incorrecte peut induire un utilisateur en erreur. Une action incorrecte peut immédiatement affecter un autre système.

La sécurité devient donc une composante de la conception des workflows. Les entreprises doivent décider à quels systèmes un agent peut accéder, quelles actions il peut lancer et à quel moment une personne doit intervenir.

Google Cloud décrit les agents disposant de ce niveau d’accès comme des « initiés ultimes ». C’est ainsi que Google Cloud qualifie des logiciels auxquels on fait confiance pour opérer sur des systèmes sensibles.

Les agents utiles ont besoin d’autorisations soigneusement délimitées

Un agent d’entreprise peut avoir besoin de lire des e-mails, d’interroger des bases de données et d’invoquer des API pour accomplir une tâche entre plusieurs applications. L’accès à plusieurs systèmes crée un défi de déploiement, car les autorisations qui rendent un agent utile déterminent aussi l’étendue de son autorité.

Les dirigeants doivent définir cette autorité au niveau de la tâche : à quelles ressources l’agent peut accéder, quelles opérations il peut effectuer et quelles actions nécessitent une approbation. Google Cloud identifie la revue humaine des actions critiques comme un contrôle possible, permettant qu’une étape à fort impact exige une approbation avant exécution.

Les agents autorisés peuvent aussi être manipulés

Les identifiants d’accès ne représentent qu’une partie du modèle de menace. Google Cloud identifie également l’empoisonnement d’outils et l’injection indirecte de prompt comme des risques. L’empoisonnement d’outils consiste à compromettre ou manipuler un outil ou sa description afin d’orienter un agent vers un comportement nuisible. L’injection indirecte de prompt se produit lorsque des instructions malveillantes sont intégrées dans un contenu qu’un agent traite.

Ces attaques peuvent influencer un logiciel qui a déjà l’autorisation d’agir. La conception de la sécurité doit donc aussi prendre en compte les informations et les outils qui façonnent le comportement d’un agent.

Google Cloud plaide pour une conception secure-by-default, c’est-à-dire des mesures de sécurité intégrées aux systèmes d’IA dès le départ. Ses recommandations incluent des mesures destinées à réduire l’exposition à l’injection de prompt, ainsi que des contrôles d’identité spécifiques aux agents, des structures d’autorisations et une visibilité sur ce à quoi un agent peut accéder et ce qu’il peut faire. Ces recommandations s’alignent sur l’intérêt commercial de Google Cloud à vendre de l’infrastructure et des services de sécurité pour les déploiements d’IA, et doivent être évaluées dans ce contexte.

Google Cloud soutient également que les organisations qui déploient des agents dans des workloads sensibles peuvent devoir reconstruire certaines parties de leur stack technologique autour de la sécurité et de la gouvernance. Il s’agit d’une recommandation fournisseur, et non d’une exigence universelle. Le résultat de l’enquête établit une préoccupation concernant la sécurité des accès entre plusieurs systèmes. Il n’établit pas que la reconstruction de la stack soit la réponse requise.

Les défis d’infrastructure vont au-delà des autorisations des agents

Google Cloud indique que 79 % des responsables technologiques identifient la sécurité, la gouvernance ou les opérations comme leur principal défi pour étendre les workloads d’inférence. L’inférence est le processus qui consiste à exécuter un modèle d’IA entraîné pour produire un résultat.

Ce chiffre regroupe trois catégories et ne permet donc pas d’établir que l’identité ou les autorisations des agents constituent le principal problème d’infrastructure. Il mesure également un enjeu plus large que le constat sur la sécurité des accès entre plusieurs systèmes pour le déploiement de l’IA agentique.

Ces deux constats répondent à des questions différentes. L’un concerne l’extension des workloads d’inférence à travers la sécurité, la gouvernance ou les opérations. L’autre se concentre sur l’accès entre plusieurs systèmes lorsque les agents peuvent agir.

Les plateformes intégrées constituent une réponse possible des fournisseurs

Google Cloud indique que 69 % des dirigeants interrogés considèrent une plateforme full-stack comme une exigence critique, tandis que 80 % affirment que la conformité des données est le principal facteur qui oriente ce choix. Une plateforme full-stack fournit plusieurs couches d’infrastructure et de gestion dans un même environnement technologique.

Google Cloud a un intérêt commercial direct dans cette manière de présenter les choses, car l’entreprise vend des infrastructures cloud et d’IA. Les résultats de son enquête constituent des éléments produits par un fournisseur sur les priorités des clients. Ils n’établissent pas de manière indépendante que les entreprises devraient se consolider sur une seule plateforme.

Google Cloud relie son approche à un plan de contrôle central pour l’activité des agents et à son Secure AI Framework, ou SAIF. Un plan de contrôle est une couche de gestion permettant d’appliquer des politiques et une supervision entre plusieurs systèmes. Dans le cadre présenté par Google Cloud, les identités, les données, les modèles, les API, les politiques et la surveillance peuvent être gouvernés via une infrastructure coordonnée.

Pour les dirigeants, la décision de plateforme se résume à un test concret : savoir si l’architecture peut donner à un agent une identité définie, limiter ce que cette identité peut faire, observer son comportement et acheminer les opérations importantes vers une approbation humaine. Chaque entreprise doit encore déterminer quelle architecture peut faire respecter ces limites dans ses propres workflows sensibles.

Principaux enseignements pour les dirigeants

Contrôler les agents capables d’agir : Les agents d’IA ayant l’autorité de modifier des systèmes métier nécessitent des garde-fous plus solides que les outils qui se contentent de récupérer des informations. Définissez à quels systèmes et à quelles actions chaque agent peut accéder, et où une approbation humaine est requise.
Délimiter les autorisations au niveau de la tâche : Accordez aux agents uniquement l’accès nécessaire à des workflows spécifiques. Les identités des agents, les autorisations sur les ressources et les exigences d’approbation doivent limiter la portée des actions importantes.
Protéger les agents autorisés contre la manipulation : Les identifiants seuls ne suffisent pas à traiter l’empoisonnement d’outils ou l’injection indirecte de prompt. Les dirigeants doivent évaluer les outils et les informations susceptibles d’influencer un agent une fois l’accès accordé.
Distinguer la sécurité des agents des préoccupations d’infrastructure plus larges : Google Cloud fait état de défis couvrant la sécurité, la gouvernance et les opérations pour les workloads d’inférence, mais ces résultats n’établissent pas que les autorisations des agents constituent le principal problème d’infrastructure. Évaluez chaque risque en fonction du workload concerné.
Tester les plateformes à l’aune de contrôles concrets : Les plateformes intégrées peuvent simplifier la gouvernance, mais les données d’enquête des fournisseurs n’établissent pas que la consolidation soit l’approche requise. Évaluez si l’architecture peut faire respecter l’identité des agents, les autorisations, la surveillance et l’approbation humaine dans l’ensemble des workflows sensibles.