Google renforce la sécurité des agents IA dans chrome

Les agents IA d’entreprise créent un problème d’autorité

Un agent IA qui se connecte à un portail de facturation peut traiter les mêmes données financières que l’employé qui lui a délégué la tâche. Un agent de recrutement peut passer de profils professionnels publics à un système de suivi des candidatures sur le web et créer des dossiers de candidats. Dans les deux cas, le logiciel navigue entre des applications SaaS, des données internes et des sites web publics pour le compte d’un employé.

Cela change la question de la gouvernance. Les entreprises doivent définir l’autorité accordée au logiciel lorsqu’il agit pour un employé. Le modèle proposé par Google pour Chrome Enterprise repose d’abord sur des autorisations héritées : un agent doit être soumis aux mêmes restrictions que son utilisateur. Si l’employé ne peut pas consulter ou exporter certaines informations, l’agent agissant pour cet employé ne doit pas non plus pouvoir le faire.

Les autorisations des employés ne couvrent qu’une partie du risque lié aux agents

Le modèle proposé par Google utilise les autorisations des employés comme première limite. Mais un agent peut tout de même créer des problèmes dans le cadre d’un accès qu’un employé a reçu légitimement.

Prenons le cas d’un employé de la finance autorisé à accéder à des portails de facturation et à des documents de factures. Un agent utilisant ces autorisations pourrait tenter de transférer des données sensibles vers un grand modèle de langage public non autorisé, extraire des informations d’une page, accéder à un service connecté sans lien avec la tâche ou suivre des instructions qui le détournent de la mission initiale de l’employé.

Le même risque existe dans le recrutement. Un agent peut avoir besoin de lire des informations sur les candidats et d’écrire dans un système de suivi des candidatures. Google estime que des contrôles supplémentaires doivent encadrer la manière dont les informations circulent entre ces services et ce que l’agent peut faire une fois l’accès accordé.

Les contrôles de Google créent plusieurs périmètres d’application

La prévention des pertes de données (DLP) contrôle la manière dont les informations sensibles peuvent circuler. Google indique que Chrome Enterprise Premium intègre des contrôles DLP dans les workflows d’agents basés sur le navigateur. Selon l’entreprise, ces contrôles inspectent les flux de données en temps réel et bloquent les transferts non autorisés de propriété intellectuelle sensible, d’informations personnellement identifiables ou de données financières vers des grands modèles de langage publics.

Les contrôles des extensions traitent un autre vecteur. Google indique que les administrateurs peuvent gérer les autorisations et identifier les signaux de risque associés à l’extraction du contenu des pages, en limitant les agents ou logiciels connectés qui tentent d’extraire des informations de pages web sans autorisation.

Le détournement d’objectif exige une défense différente. Le User Alignment Critic de Google, que l’entreprise dit avoir été en partie inspiré par des recherches de Google DeepMind, vérifie les métadonnées d’une action proposée de navigation automatique dans Chrome par rapport à l’objectif initial de l’utilisateur. Google indique que le système est conçu pour bloquer les actions lorsqu’une attaque tente de détourner l’agent de cet objectif.

Les déplacements entre sites créent un autre point de contrôle. En s’appuyant sur l’architecture d’isolation des sites de Chrome, Google indique qu’il limite l’activité des agents aux origines de sites web directement pertinentes pour une tâche. L’entreprise entend ainsi empêcher qu’un agent compromis n’accède à des services sans rapport où l’employé est déjà connecté.

Google indique également qu’il teste ces protections avec des systèmes automatisés de red teaming en machine learning qui simulent des attaques contre les fonctionnalités agentiques de Chrome. L’entreprise a étendu son Vulnerability Rewards Program à ces fonctions.

La visibilité facilite l’intervention et l’audit

Lorsque l’automatisation peut naviguer seule entre plusieurs services, la visibilité remplit deux fonctions : les personnes doivent disposer de suffisamment d’informations pour intervenir pendant l’exécution, et les administrateurs doivent avoir un enregistrement durable pour une enquête ultérieure.

Google indique qu’un journal de travail dans l’onglet montrera comment un agent est parvenu à une décision, permettant à l’employé d’intervenir pendant qu’une tâche est en cours. L’entreprise indique également que l’historique Chrome signalera les pages d’arrière-plan visitées par les agents comme des actions d’agent, créant une piste d’audit pour la session de navigation.

Google a relié ces contrôles à des travaux antérieurs sur la visibilité des extensions, destinés à montrer aux équipes technologiques de l’entreprise comment les agents logiciels accèdent aux données sensibles du navigateur et les traitent. Cela donne aux administrateurs un enregistrement des actions qui ont produit le résultat d’un agent.

L’approbation humaine définit où l’automatisation s’arrête

La conception de Google réserve certaines actions à fort impact à l’approbation de l’employé.

Google indique que la navigation automatique de Chrome est conçue pour s’arrêter avant de finaliser un contrat, de soumettre une transaction financière ou d’envoyer un e-mail de masse. L’employé doit approuver explicitement l’étape. Le logiciel peut préparer et parcourir le workflow tandis que l’employé conserve l’autorité sur certains engagements définis.

Pour les dirigeants qui décident de la part de travail à automatiser, la politique d’approbation devient une décision d’architecture. Une entreprise peut laisser les agents gérer des tâches de navigation définies tout en réservant les décisions juridiques, financières ou de communication à un responsable humain.

Le navigateur est le point d’application proposé par Google

Google positionne le navigateur comme point d’application, car Chrome peut combiner l’identité de l’employé, les paramètres d’accès, les contrôles d’entreprise et le contexte en direct des sessions web connectées. Google veut que Chrome applique des contrôles d’isolation, de DLP, de visibilité et d’approbation à mesure que les agents se déplacent entre les applications web.

C’est aussi une position commerciale. Google vend des produits Chrome Enterprise et en bénéficie si les entreprises considèrent la gouvernance du navigateur comme un élément important du déploiement des agents. Les DSI, CTO et responsables de la sécurité doivent donc évaluer l’architecture selon ses propriétés d’application, indépendamment du cadrage du fournisseur.

La question d’architecture pratique est de savoir où une entreprise peut observer et contraindre un agent lorsqu’il se déplace entre les services. La proposition de Google confie une grande partie de ce rôle à Chrome. Les équipes de sécurité peuvent tester si ces contrôles appliquent bien les limites requises dans les conditions hostiles que leurs propres environnements doivent supporter.

Points clés

Définir l’autorité des agents : Les agents IA agissant pour les employés doivent hériter des restrictions d’accès des utilisateurs, mais l’identité et les autorisations seules ne traitent pas les risques créés par des actions autonomes entre services web.
Contrôler les données dans le cadre d’un accès légitime : Les agents peuvent faire un mauvais usage des informations auxquelles ils sont autorisés à accéder. Les équipes de sécurité doivent encadrer les transferts de données, l’extraction du contenu des pages et les déplacements vers des services connectés sans lien avec la tâche.
Appliquer des contrôles à plusieurs niveaux : Le modèle de Google combine DLP, contrôles des extensions, vérifications d’alignement sur l’objectif et isolation des sites. Les entreprises doivent tester si ces contrôles résistent aux attaques dans leurs propres environnements.
Préserver la visibilité et l’auditabilité : Les journaux de travail dans l’onglet et l’historique du navigateur étiqueté par agent peuvent faciliter l’intervention des employés et l’enquête après incident. Les déploiements d’agents doivent offrir à la fois une supervision en temps réel et des enregistrements d’activité durables.
Maintenir la responsabilité humaine pour les actions à conséquence : Les contrats, les transactions financières et les communications de masse sont des exemples d’actions qui doivent exiger l’approbation explicite d’un employé. Les dirigeants doivent définir ces limites d’approbation avant d’élargir l’autonomie des agents.
Évaluer le navigateur comme point d’application : Google positionne Chrome pour combiner identité, DLP, isolation, visibilité et contrôles d’approbation pour les agents basés sur le web. Les DSI et les responsables de la sécurité doivent évaluer si l’application au niveau du navigateur convient à leur architecture, indépendamment du cadrage commercial de Google.