Les tests traditionnels sous-estiment les risques liés aux modèles d’IA

Les attaques en plusieurs étapes mettent en évidence des failles fondamentales en matière de sécurité de l’IA

Aujourd’hui, la plupart des tests de sécurité liés à l’IA se concentrent encore sur une seule requête suivie d’une seule réponse. Cette approche n’est plus suffisante. Les véritables attaquants ne s’arrêtent pas après une seule tentative infructueuse. Ils adaptent leurs questions, tirent des enseignements des réponses du modèle et poursuivent la conversation jusqu’à ce qu’ils trouvent un moyen de contourner les mesures de sécurité. Si vos tests ne reflètent pas ce comportement, vous évaluez le mauvais problème.

Les recherches de Cisco le montrent très clairement. L’entreprise a testé 15 modèles phares d’IA propriétaires en utilisant à la fois des attaques en un seul tour et des attaques en plusieurs tours. La différence était significative. Sur 6 986 attaques en plusieurs tours, les taux de réussite variaient de 7,89 % à 88,3 %, selon le modèle. Chaque modèle présentait une vulnérabilité notable. Plus important encore, les modèles n’ont pas obtenu les mêmes classements lors des tests à un seul tour et à plusieurs tours. Un modèle qui semblait sûr lors des tests traditionnels pouvait afficher des performances bien inférieures lorsqu’un attaquant adaptait sa stratégie au fil de plusieurs échanges.

Cela modifie la manière dont les dirigeants doivent envisager risques liés à l’IA. La sécurité ne consiste plus seulement à empêcher une instruction malveillante. Il s’agit désormais de comprendre comment un système d’IA se comporte tout au long d’une conversation. Chaque réponse crée un nouveau contexte, et ce contexte peut être exploité par un attaquant pour influencer les réponses futures. À mesure que les agents IA prennent en charge davantage de processus métier, ces interactions prolongées deviennent la norme plutôt que l’exception.

Amy Chang, responsable de l’intelligence sur les menaces liées à l’IA et de la recherche en sécurité chez Cisco, a souligné que les organisations ne peuvent pas déterminer où une application d’IA va présenter des failles si elles ne comprennent pas comment les différentes méthodes d’attaque affectent le modèle sous-jacent. Elle a expliqué que les conversations à plusieurs échanges reflètent plus fidèlement la manière dont les personnes interagissent réellement avec les systèmes d’IA, ce qui en fait un bien meilleur indicateur de la sécurité opérationnelle que les requêtes isolées.

Cisco a également étendu ses efforts d’évaluation au-delà des tests manuels traditionnels. Mme Chang a décrit un cadre basé sur des agents dans lequel des agents d’IA analysent des scénarios de déploiement, génèrent des attaques pertinentes, décident quelles attaques méritent d’être menées, les exécutent et en évaluent les résultats. Ce niveau d’automatisation accélère les tests, mais sa conclusion est claire : une sécurité solide repose toujours sur la maîtrise des principes fondamentaux. Les tests avancés doivent renforcer les bonnes pratiques de sécurité, et non les remplacer.

Pour les dirigeants d’entreprise, les implications sont concrètes. Les indicateurs de sécurité liés à l’IA qui reposent uniquement sur des tests ponctuels peuvent susciter une confiance qui ne se vérifie pas en conditions réelles d’exploitation. Les décisions d’achat, les examens de gouvernance et les autorisations de déploiement devraient de plus en plus exiger la preuve que les systèmes ont été évalués dans le cadre de scénarios d’attaque réalistes et comportant plusieurs étapes. Cela permet d’obtenir une image bien plus précise du risque opérationnel.

De nombreuses entreprises ne sont toujours pas suffisamment préparées en matière de sécurité des agents

Le marché évolue rapidement, mais de nombreuses organisations continuent de mettre en place une sécurité de l’IA sur des bases incomplètes. Les agents d’IA ont de plus en plus accès aux systèmes d’entreprise, aux informations clients, aux données financières et aux processus métier. Pourtant, de nombreuses entreprises continuent de s’appuyer principalement sur les contrôles de sécurité par défaut fournis par les fournisseurs d’IA et les plateformes cloud.

L’enquête « Pulse » menée par VentureBeat en juin 2026 met en évidence ce fossé. Parmi les 107 entreprises interrogées, 54 % ont signalé soit un incident de sécurité confirmé impliquant un agent d’IA, soit un incident évité de justesse. Plus précisément, 18 % ont subi un incident confirmé, tandis que 36 % ont parvenu à contrer une attaque avant que des dommages ne se produisent. Dans le même temps, seules 32 % des entreprises ont attribué à chaque agent d’IA une identité propre, gérée et délimitée, et à peine 30 % ont isolé leurs agents présentant le plus grand risque au sein d’environnements de type « sandbox ». Par ailleurs, 82 % ont déclaré que les contrôles natifs des fournisseurs ou des hyperscalers restaient leur principale couche de protection.

Ces chiffres indiquent que l’adoption de l’IA progresse plus rapidement que la maturité en matière de sécurité. Les organisations déploient des agents de plus en plus performants sans appliquer de manière cohérente la gestion des identités, les contrôles d’accès et l’isolation des charges de travail, qui constituent pourtant depuis des années des pratiques courantes en matière de cybersécurité. Il en résulte une surface d’attaque plus étendue, associée à une visibilité limitée sur les actions autorisées à chaque agent.

Le secteur a pris conscience de cette évolution. Les grandes entreprises de cybersécurité investissent massivement dans des technologies qui renforcent l’identité, l’autorisation et l’isolation. Palo Alto Networks a finalisé en février 2026 l’acquisition de CyberArk pour 25 milliards de dollars. CrowdStrike a conclu en janvier 2026 un accord en vue d’acquérir SGNL pour 740 millions de dollars. Cisco a également annoncé son intention d’acquérir Astrix Security dans le cadre d’une opération dont le montant s’élèverait à environ 400 millions de dollars. Bien que chaque acquisition poursuive ses propres objectifs stratégiques, elles indiquent toutes ensemble que la gestion des identités et des accès est désormais au cœur de la sécurisation des agents d’IA.

Pour les dirigeants, le message est clair. La sécurité de l’IA relève désormais davantage d’un choix architectural que d’un choix de produit. L’acquisition d’une plateforme d’IA dotée de fonctionnalités de sécurité intégrées est certes utile, mais elle ne dispense pas de la mise en place d’une gestion des identités d’entreprise, de contrôles d’accès, d’une surveillance et d’un isolement. Ce sont ces capacités qui déterminent l’ampleur des dégâts qu’un attaquant peut causer si un agent d’IA est compromis.

Les organisations doivent également reconnaître que les agents d’IA méritent de se voir appliquer les mêmes normes de gouvernance que celles qui s’appliquent aux utilisateurs humains et aux applications critiques. Chaque agent doit disposer d’une identité clairement définie, d’autorisations strictement délimitées, d’une surveillance continue et de limites opérationnelles bien définies. Ces investissements renforcent la sécurité dès aujourd’hui, tout en jetant des bases plus solides à mesure que les systèmes d’IA gagnent en autonomie et s’intègrent de plus en plus profondément dans les opérations commerciales.

En matière de sécurité, il faut privilégier les principes fondamentaux intemporels plutôt que les systèmes de défense complexes

À mesure que les systèmes d’IA gagnent en performances, on a tendance à penser que la sécurité doit devenir tout aussi complexe. Or, ce n’est pas ce que montrent les faits. Les attaques avancées gagnent certes en sophistication, mais les défenses les plus efficaces reposent toujours sur l’application systématique des principes fondamentaux de sécurité à l’échelle de l’organisation.

Amy Chang, responsable de l’intelligence des menaces liées à l’IA et de la recherche en sécurité chez Cisco, a abordé ce sujet sans détour lors de la table ronde. Cisco a investi massivement dans des tests de sécurité avancés, notamment des agents d’IA capables d’analyser des scénarios de déploiement, de générer des stratégies d’attaque, d’exécuter ces attaques et d’en évaluer automatiquement les résultats. Même après avoir développé ces capacités avancées, la conclusion de Mme Chang est restée claire et simple. Les entreprises n’ont pas tant besoin de défenses de plus en plus innovantes que de bien maîtriser les principes fondamentaux.

L’une des principales recommandations de Cisco concerne son cadre intégré de sécurité et de sûreté en matière d’IA. Selon M. Chang, ce cadre recense les failles potentielles des systèmes d’IA tout au long de leur cycle de vie, depuis les modèles sous-jacents et les sources de données jusqu’aux chaînes d’approvisionnement logicielles et au déploiement. Plutôt que de réagir uniquement après la survenue d’incidents, les organisations devraient identifier les risques avant que les systèmes n’entrent en production.

Cette approche modifie également la manière dont les équipes de sécurité doivent mener leurs enquêtes sur les incidents. Au lieu de se contenter de résoudre le problème immédiat, elles doivent remonter le fil des événements pour comprendre exactement comment une attaque a pu aboutir. Cette analyse permet d’identifier les faiblesses au niveau de la gouvernance, de la gestion des identités, du comportement des modèles, de l’accès aux données et des contrôles opérationnels. Une fois ces schémas clairement identifiés, les organisations peuvent mettre en place des mesures de protection ciblées afin de réduire les risques futurs.

Pour les dirigeants, cela a des implications importantes. La sécurité de l’IA ne doit pas devenir une discipline distincte, déconnectée des programmes de cybersécurité existants. Les organisations les plus performantes intégreront la gouvernance de l’IA dans leurs cadres de sécurité établis, leurs processus de gestion des risques, leurs programmes de conformité et leurs contrôles opérationnels. Cela permet d’assurer la cohérence à l’échelle de l’entreprise, plutôt que de créer une nouvelle fonction de sécurité isolée.

Les investissements en matière de sécurité doivent également être hiérarchisés en fonction de leur impact sur l’activité plutôt que de leur complexité technique. Il est souvent plus judicieux de renforcer les contrôles d’identité, la gestion des accès, la surveillance et la réponse aux incidents que de se tourner vers des technologies défensives hautement spécialisées qui ne traitent qu’un ensemble restreint de menaces. À mesure que l’adoption de l’IA s’accélère, la mise en œuvre rigoureuse de pratiques de sécurité éprouvées continuera d’offrir le meilleur retour sur investissement.

Il est essentiel de mettre en place des activités continues de simulation d’attaques (red teaming) et de surveillance à plusieurs niveaux.

Le déploiement d’un système d’IA ne marque pas la fin des tests de sécurité. C’est le moment où une validation continue devient indispensable. Les modèles évoluent, les processus métier changent, les autorisations sont mises à jour et les attaquants adaptent sans cesse leurs méthodes. La sécurité doit évoluer au même rythme.

Heather Ceylan, responsable de la sécurité des systèmes d’information chez Box, a expliqué que de nombreuses organisations s’appuient encore sur des exercices de « red teaming » en un seul tour, alors même que les utilisateurs interagissent avec l’IA dans le cadre de conversations continues. Pour pallier cette lacune, Box a développé des agents d’IA adversaires qui tentent à plusieurs reprises de compromettre les agents de production au cours d’interactions à plusieurs échanges. Ces attaquants automatisés affinent en permanence leur approche, ce qui permet d’obtenir une évaluation bien plus réaliste des performances des systèmes soumis à une pression soutenue.

Une leçon s’est dégagée de l’expérience opérationnelle de Box. L’entreprise a intégré des agents d’IA dans son centre d’opérations de sécurité, chaque action devant être validée par un humain. À mesure que la confiance envers ces agents s’est renforcée, les analystes se sont concentrés davantage sur la surveillance plutôt que sur la validation de chaque décision. Puis une seule erreur s’est produite. Selon M. Ceylan, la confiance qui s’était construite au fil du temps s’est immédiatement effondrée, et l’équipe a dû la rétablir à partir de zéro.

Cette expérience met en lumière une réalité importante pour les dirigeants. La confiance dans l’IA doit se mériter en permanence grâce à des performances fiables, à un contrôle transparent et à une responsabilité mesurable. Un déploiement réussi aujourd’hui ne garantit pas un fonctionnement fiable demain, car les modèles, les données et les dépendances externes ne cessent d’évoluer.

Une surveillance continue permet de relever ce défi. Les organisations doivent surveiller le comportement des agents, évaluer les résultats, examiner les modifications apportées aux autorisations et détecter toute activité inhabituelle tout au long du cycle de vie d’un système d’IA. Même si les humains ne participent plus à chaque décision, ils doivent conserver une visibilité sur le fonctionnement des agents et garder la possibilité d’intervenir en cas de besoin.

Pour les conseils d’administration et les équipes de direction, cela implique d’étendre les indicateurs de performance au-delà de la vitesse de déploiement ou des gains d’automatisation. La gouvernance de l’IA doit inclure une validation continue de la sécurité, une surveillance opérationnelle, le signalement des incidents et une réévaluation périodique du comportement des modèles. Ces pratiques permettent d’identifier rapidement les risques émergents avant qu’ils ne se transforment en perturbations pour l’activité.

Le message général est clair. Les tests de sécurité doivent devenir une capacité opérationnelle permanente plutôt qu’une étape à franchir avant le déploiement. Les organisations qui testent et surveillent en permanence leurs systèmes d’IA seront mieux à même de s’adapter à mesure que les menaces évoluent et que les agents d’IA assument des responsabilités de plus en plus importantes au sein de l’entreprise.

Des contrôles d’autorisation à plusieurs niveaux et des restrictions d’exécution permettent de limiter les dégâts

Aucun système de sécurité ne peut garantir qu’un agent IA ne sera jamais compromis. L’objectif le plus judicieux consiste à veiller à ce que, si un incident venait à se produire, son impact soit limité. Cela nécessite la mise en place de contrôles de sécurité qui interviennent avant, pendant et après l’exécution d’une tâche par un agent.

Heather Ceylan, responsable de la sécurité des systèmes d’information chez Box, a décrit l’approche de l’entreprise comme reposant sur trois niveaux complémentaires. Le premier concerne la gestion des autorisations. Un agent d’IA ne doit jamais bénéficier d’un accès plus étendu que la personne à l’origine de la demande. Chaque action commence par une autorisation strictement contrôlée qui limite ce que l’agent peut voir et faire.

Le deuxième niveau concerne l’isolation des tâches. Box crée un environnement de type « sandbox » éphémère pour chaque tâche d’agent. Ces environnements temporaires permettent de confiner toute compromission à une seule exécution, plutôt que de la laisser se propager à l’ensemble des systèmes ou persister une fois la tâche terminée. Cela réduit considérablement le risque opérationnel, en particulier pour les agents qui interagissent avec des données d’entreprise sensibles.

Le troisième niveau porte sur les contrôles d’exécution. Au lieu de permettre aux agents d’accéder sans restriction aux outils disponibles, Box limite chaque agent aux seules fonctions nécessaires à la tâche qui lui est assignée. M. Ceylan a donné un exemple concret. Si la mission d’un agent consiste à résumer un document, une attaque par injection de prompt lui ordonnant de transmettre ce document à un attaquant externe ne peut aboutir, car l’envoi d’e-mails ne fait pas partie des outils autorisés pour cette tâche. L’agent n’a tout simplement pas l’autorisation d’effectuer cette action.

Box classe également les actions des agents en trois catégories en fonction du risque opérationnel. Les activités à faible risque, telles que la lecture ou la synthèse d’informations, peuvent être effectuées sans autorisation humaine. Les actions modérément sensibles peuvent être exécutées automatiquement, mais elles sont consignées et surveillées en vue d’un contrôle ultérieur. Les actions à haut risque, notamment les opérations destructrices telles que la suppression massive de fichiers, nécessitent toujours une autorisation humaine avant leur exécution.

Cette gouvernance structurée offre aux organisations une certaine souplesse tout en leur permettant de garder le contrôle. À mesure que les capacités de l’IA évoluent, certaines activités peuvent passer d’une catégorie à l’autre, mais le cadre sous-jacent reste cohérent. Cette cohérence est précieuse, car elle permet aux politiques de sécurité d’évoluer sans que les organisations aient à repenser l’intégralité de leur modèle de gouvernance.

Pour les dirigeants, cette approche renforce un principe important. Les agents d’IA ne doivent pas se voir accorder un accès étendu et permanent au seul motif qu’ils pourraient en avoir besoin à l’avenir. Chaque autorisation doit être limitée à un objectif métier clairement défini, accordée uniquement lorsque cela est nécessaire et retirée une fois la tâche accomplie. Cela permet de réduire les risques inutiles tout en améliorant la traçabilité et la conformité réglementaire.

Les avantages pour l’entreprise vont bien au-delà de la sécurité. Des autorisations clairement définies permettent de mieux comprendre comment les systèmes d’IA interagissent avec les données de l’entreprise, simplifient l’établissement des rapports de conformité et renforcent la confiance des collaborateurs, des clients et des autorités de régulation. À mesure que les organisations déploient des agents de plus en plus autonomes, une gestion rigoureuse des autorisations devient une exigence opérationnelle plutôt qu’une simple amélioration facultative de la sécurité.

Les plateformes de sécurité IA centralisées renforcent la protection globale

À mesure que les organisations déploient des dizaines, voire des centaines d’agents d’IA, il devient de plus en plus difficile de gérer la sécurité de chaque application individuellement. Les différentes équipes de développement mettent souvent en œuvre des contrôles de manière hétérogène, ce qui engendre des incohérences qui accroissent le risque opérationnel. Une plateforme de sécurité centralisée offre une solution plus évolutive.

Rajesh Parekh, vice-président chargé de l’IA et de l’apprentissage automatique chez Intuit, a présenté la réponse apportée par l’entreprise à ce défi : GenOS, abréviation de « Generative AI Operating System » (système d’exploitation d’IA générative). Plutôt que d’attendre de chaque équipe de développement qu’elle mette en place ses propres contrôles de sécurité, GenOS fournit des fonctionnalités centralisées pour la gestion des identités, la sécurité, la détection des fraudes et la gestion des risques. Les développeurs bénéficient automatiquement de ces protections, ce qui leur permet de se concentrer sur la résolution des problèmes métier tout en respectant des normes de sécurité cohérentes.

L’un des changements les plus importants apportés par Intuit concerne la gestion des identités. Auparavant, les systèmes d’IA reprenaient souvent les autorisations de l’utilisateur humain. Intuit s’est éloigné de ce modèle. Aujourd’hui, chaque agent d’IA dispose de sa propre identité, assortie d’autorisations strictement définies et vérifiables, liées à des responsabilités spécifiques.

M. Parekh a expliqué que l’octroi d’autorisations ne consiste pas à donner à l’IA un accès illimité. Il s’agit de définir précisément les prérogatives dont dispose un agent pour une tâche donnée et de veiller à ce que chaque action puisse être tracée et vérifiée. L’entreprise étudie également la possibilité de modifier dynamiquement les autorisations au cours des sessions actives, afin que les prérogatives d’un agent puissent s’adapter à l’évolution du travail, plutôt que de rester fixes tout au long de l’interaction.

Intuit s’appuie également sur l’expérience acquise lors des tests de sécurité pour renforcer ses futurs déploiements. Lorsque des exercices manuels de « red team » identifient des vulnérabilités récurrentes, ces schémas d’attaque sont convertis en tests automatisés au sein de la plateforme GenOS. Les futurs agents IA sont évalués automatiquement par rapport à ces scénarios avant leur déploiement. Cela permet d’accumuler des connaissances en matière de sécurité à l’échelle de l’organisation, plutôt que de les confiner au sein de projets individuels.

La surveillance en temps réel offre un niveau de protection supplémentaire. GenOS analyse en permanence les requêtes et les réponses du modèle afin de détecter tout comportement suspect. Si une activité potentiellement dangereuse est détectée, la plateforme peut interrompre l’exécution et transmettre la décision à un expert humain. Cela permet d’établir un équilibre pratique entre automatisation et supervision, sans pour autant obliger les utilisateurs à examiner manuellement chaque interaction.

M. Parekh a également décrit la vision plus large d’Intuit comme une plateforme d’expertise alimentée par l’IA, au sein de laquelle les utilisateurs, les agents IA et les experts humains travaillent ensemble. Dans ce modèle, l’expertise humaine est directement intégrée aux flux de travail opérationnels, au lieu de ne servir qu’à l’étape finale de validation. Cela permet aux organisations d’automatiser les tâches routinières tout en conservant une gouvernance appropriée sur les décisions présentant un risque plus élevé.

Pour les dirigeants, la sécurité centralisée de l’IA offre plusieurs avantages stratégiques. Elle simplifie la gouvernance, garantit une application cohérente des politiques de sécurité, réduit les efforts d’ingénierie redondants et améliore la visibilité sur l’ensemble du parc d’IA de l’organisation. Elle facilite également la mise en conformité, car les contrôles de sécurité, les journaux d’audit et les mises à jour des politiques peuvent être gérés de manière centralisée plutôt que séparément pour chaque application.

À mesure que l’adoption de l’IA s’accélère, les organisations auront besoin de plateformes de sécurité capables de s’adapter à un nombre croissant d’agents autonomes. La standardisation de la gestion des identités, de la surveillance, des tests et de l’application des politiques à l’échelle de l’entreprise deviendra probablement l’une des caractéristiques essentielles d’une gouvernance de l’IA aboutie.

Le développement logiciel basé sur l’IA redéfinit les processus d’évaluation de la sécurité

L’IA transforme le développement logiciel à un rythme bien plus rapide que les outils de développement précédents. Le code est généré plus rapidement, les cycles de développement se raccourcissent et les équipes de sécurité ne peuvent plus se contenter de processus de vérification conçus pour des calendriers de mise en production plus lents. Cela signifie que la sécurité elle-même doit devenir plus automatisée.

Heather Ceylan, responsable de la sécurité des systèmes d’information chez Box, s’est exprimée sans détour au sujet de cette évolution. Elle a fait valoir que les revues de code sécurisées traditionnelles, menées manuellement par des ingénieurs et des architectes en sécurité, ne suffisent plus face au rythme effréné du développement assisté par l’IA. Les organisations qui continuent de s’appuyer principalement sur ces méthodes risquent de freiner l’innovation sans pour autant améliorer significativement la sécurité.

Au contraire, Box s’efforce de mettre en place un cycle de vie du développement dans lequel des agents d’IA interviennent tout au long du processus d’ingénierie logicielle. Ces agents examinent les documents de conception, appliquent les exigences de sécurité avant le début de la mise en œuvre, analysent le code à la recherche de vulnérabilités et identifient les problèmes de manière continue à mesure que le logiciel évolue. Plutôt que de concentrer la sécurité en fin de développement, celle-ci s’intègre désormais à chaque étape.

Mme Ceylan s’est également montrée optimiste quant au potentiel à long terme des logiciels générés par l’IA. Elle estime que les modèles d’IA continueront à améliorer leur capacité à écrire du code sécurisé présentant moins de vulnérabilités. Dans le même temps, elle a reconnu que le secteur était encore loin d’atteindre ce niveau de fiabilité. Une supervision humaine reste nécessaire, en particulier pour les systèmes à fort impact et les logiques métier complexes.

Cela met en évidence une réalité importante pour les dirigeants. L’IA ne doit pas être considérée comme un substitut à la gouvernance. Il s’agit d’un outil capable d’améliorer considérablement la productivité et de renforcer la sécurité lorsqu’il est déployé dans des cadres opérationnels bien définis. Les organisations doivent continuer à valider le code généré par l’IA, à surveiller les systèmes de production et à garantir une responsabilité claire quant aux résultats en matière de sécurité.

Malgré les progrès réalisés dans le domaine du développement assisté par l’IA, M. Ceylan a souligné qu’un principe n’avait pas changé : le principe du « privilège minimal ». Les agents IA ne devraient disposer que des autorisations nécessaires à l’exercice des responsabilités qui leur sont confiées. L’octroi d’autorisations étendues lors du déploiement initial peut certes accélérer le développement à court terme, mais il engendre des problèmes de sécurité qui deviennent de plus en plus difficiles à résoudre à mesure que les systèmes se développent.

Ce conseil ne s’adresse pas uniquement aux équipes de développement logiciel. Les organisations devraient définir des politiques d’accès avant le déploiement à grande échelle des applications d’IA, plutôt que de tenter de restreindre les autorisations une fois que ces applications sont profondément intégrées aux opérations métier. Une gouvernance solide mise en place dès le début s’avère généralement plus efficace et moins perturbatrice que la refonte ultérieure des contrôles de sécurité.

Pour les dirigeants d’entreprise, l’objectif ne se limite pas à une mise à disposition plus rapide des logiciels. Il s’agit de parvenir à un développement durable qui préserve la qualité, la sécurité et la conformité tout en tirant parti des gains de productivité offerts par l’intelligence artificielle. Les organisations qui réussiront seront celles qui intégreront l’automatisation à une gouvernance rigoureuse, au lieu de les considérer comme des priorités distinctes.

L’élargissement des capacités des agents augmente les surfaces d’attaque

À mesure que les agents d’IA gagnent en capacités, ils deviennent également des cibles de plus en plus attractives. Chaque nouvelle fonctionnalité, source de données, application externe ou processus métier connecté à un agent crée de nouvelles opportunités pour les attaquants. Une fonctionnalité accrue implique une responsabilité accrue en matière de sécurité.

Rajesh Parekh, vice-président chargé de l’IA et de l’apprentissage automatique chez Intuit, a expliqué que les agents d’IA possèdent désormais des compétences qui vont bien au-delà de la simple génération de texte. Ils interagissent avec les données d’entreprise, exécutent des flux de travail, accèdent à des outils logiciels et prennent des décisions dans le cadre des processus métier. Ces capacités améliorent la productivité, mais elles multiplient également les moyens dont dispose un pirate pour tenter d’exploiter le système.

Selon M. Parekh, les compétences d’un agent peuvent elles-mêmes devenir des points faibles si elles ne sont pas rigoureusement encadrées. L’accès à des outils externes, à des informations sensibles et à des services connectés accroît l’impact potentiel d’invites malveillantes ou de comportements compromis. À mesure que les systèmes s’interconnectent davantage, les conséquences d’une attaque réussie peuvent s’étendre bien au-delà d’une simple application.

C’est pourquoi les tests de sécurité continus ont pris une importance croissante. Intuit mène des exercices manuels de « red team » afin d’identifier les nouveaux schémas d’attaque et les faiblesses. Une fois les vulnérabilités récurrentes identifiées, ces résultats sont intégrés à la plateforme GenOS de l’entreprise sous forme de tests de sécurité automatisés. Chaque futur agent développé sur la plateforme bénéficie ainsi de protections fondées sur l’expérience acquise en matière de sécurité.

L’entreprise procède également à une analyse en temps réel des invites et des réponses du modèle. Les comportements suspects peuvent être identifiés pendant même qu’une interaction est en cours, ce qui permet au système d’interrompre les actions potentiellement dangereuses avant qu’elles ne soient menées à terme. Si nécessaire, les décisions douteuses sont transmises à des experts humains pour un examen plus approfondi.

M. Parekh a souligné que les tests de sécurité ne peuvent pas être considérés comme une opération ponctuelle. Les systèmes d’IA évoluent en permanence sous l’effet des mises à jour des modèles, des nouvelles intégrations, de l’évolution des besoins métier et des changements de dépendances. Les organisations doivent vérifier en permanence que les contrôles de sécurité existants restent efficaces dans ce contexte en constante évolution.

Pour les équipes de direction, cela implique une réorientation des priorités en matière de gouvernance. La sécurité doit être évaluée chaque fois qu’un agent d’IA se voit doter de nouvelles capacités, se connecte à d’autres systèmes d’entreprise ou accède à des informations plus sensibles. L’extension des fonctionnalités doit toujours s’accompagner d’une évaluation des risques supplémentaires qui en découlent.

La leçon générale à en tirer est que les capacités de l’IA et les risques qu’elle présente évoluent de pair. Les organisations qui gèrent activement cette relation par le biais de tests continus, d’une validation automatisée de la sécurité, d’une surveillance en temps réel et d’une gouvernance rigoureuse seront mieux à même d’étendre l’adoption de l’IA en toute confiance. Celles qui se concentrent principalement sur les nouvelles capacités sans renforcer leurs contrôles de sécurité risquent de se heurter à des défis opérationnels et réglementaires croissants à mesure que leurs environnements d’IA gagneront en complexité.

Les systèmes d’IA actuels ne sont pas en mesure de déduire de manière fiable l’intention de l’utilisateur, ce qui rend indispensables des contrôles déterministes

L’une des principales questions en matière de sécurité de l’IA est de savoir si les modèles sont capables de déterminer avec précision ce qu’un utilisateur cherche réellement à accomplir. À l’heure actuelle, la réponse est encore « non ». Les systèmes d’IA peuvent reconnaître des schémas et estimer des probabilités, mais ils ne sont pas en mesure de déterminer de manière systématique l’intention avec le niveau de certitude requis pour la sécurité des entreprises.

Cette question a été au cœur des débats lors de la table ronde. Heather Ceylan, responsable de la sécurité des systèmes d’information chez Box, a expliqué que Box se sentait plus en confiance lorsque son propre agent d’IA opérait au sein d’environnements contrôlés par l’entreprise. Dans ces cas-là, le système comprend le contexte de la demande de l’utilisateur, car il gère l’interaction dès le début. Cela permet à Box d’appliquer des mesures de protection et des restrictions d’outils avec une bien plus grande précision.

La situation change lorsque des agents d’IA externes interagissent avec les systèmes d’entreprise. Ces requêtes s’accompagnent souvent d’un contexte incomplet ou inconnu. Les organisations peuvent ne pas savoir pourquoi une action est demandée, ni si cette requête s’inscrit dans le cadre d’un processus métier légitime ou s’il s’agit d’une tentative malveillante visant à manipuler le système. Cette incertitude constitue un défi majeur en matière de sécurité.

Amy Chang, responsable de l’intelligence des menaces liées à l’IA et de la recherche en sécurité chez Cisco, a expliqué que les modèles d’IA actuels ne sont pas entraînés de manière à leur permettre de déduire de manière fiable l’intention de l’utilisateur à partir des seules invites. En raison de cette limite, les organisations ne devraient pas se fier à l’IA pour déterminer si une requête est sûre. Elles devraient plutôt mettre en place des contrôles déterministes qui prennent des décisions de sécurité sur la base de règles clairement définies.

Ces contrôles comprennent des autorisations strictement délimitées, un accès restreint aux outils, la vérification de l’identité, l’application des politiques et une surveillance continue. Contrairement aux jugements probabilistes émis par les modèles d’IA, les contrôles déterministes produisent des résultats prévisibles qui peuvent être audités, testés et appliqués de manière cohérente à l’échelle de l’organisation.

Cette discussion a également mis en lumière un débat plus large au sein du secteur. Mastercard développe actuellement un cadre open source destiné à normaliser et à communiquer l’intention dans le cadre des interactions basées sur l’IA, en particulier pour les transactions interentreprises complexes. Parallèlement, certains fournisseurs de solutions de sécurité des terminaux ont indiqué qu’ils se concentraient moins sur l’inférence d’intention et davantage sur la détection basée sur les probabilités pour les environnements de production. Cela reflète une industrie qui continue d’explorer différentes approches pour résoudre l’un des problèmes de sécurité les plus complexes liés à l’IA.

Pour les dirigeants, la conclusion pratique est claire. L’IA doit faciliter la prise de décisions en matière de sécurité, mais elle ne doit pas devenir l’autorité ultime en matière de contrôle d’accès ou d’application des politiques. Les actions ayant un impact important doivent continuer à reposer sur des règles d’autorisation explicites, des identités vérifiées et des politiques d’entreprise clairement définies.

À mesure que les modèles d’IA continuent de s’améliorer, leur capacité à interpréter le contexte deviendra sans doute plus sophistiquée. Même dans ce cas, les organisations doivent faire preuve de prudence lorsqu’il s’agit de remplacer des contrôles déterministes par un jugement fondé sur des modèles. La prévisibilité, la responsabilité et la vérifiabilité restent des exigences essentielles pour la sécurité de l’entreprise, la conformité réglementaire et la résilience opérationnelle.

Les organisations devraient tester l’IA en simulant les méthodes d’attaque réelles des pirates

Les échanges qui ont eu lieu tout au long de la table ronde ont abouti à une conclusion unanime. La sécurité de l’IA n’est pas un problème que les organisations résolvent une fois pour toutes. Il s’agit d’une capacité qui doit s’améliorer en permanence, à mesure que les modèles, les processus métier et les techniques d’attaque évoluent.

L’un des enseignements les plus évidents est que les tests de sécurité doivent refléter le comportement réel des attaquants. Ces derniers se contentent rarement d’une seule requête. Ils adaptent leur approche, observent les réponses, changent de tactique et poursuivent leurs interactions jusqu’à ce qu’ils découvrent des failles. Les organisations qui évaluent les systèmes d’IA en utilisant uniquement des requêtes isolées ont peu de chances de mettre au jour bon nombre des vulnérabilités qui apparaissent au cours de conversations prolongées.

Ce point de vue est corroboré par les expériences partagées par Cisco, Box et Intuit. Cisco a démontré, grâce à des recherches, que les tests en plusieurs phases permettent de mettre au jour des vulnérabilités que les évaluations traditionnelles négligent souvent. Box a montré que la surveillance continue est indispensable, car la confiance peut être rapidement ébranlée à la suite d’un seul incident opérationnel. Intuit a souligné que les tests de sécurité devaient s’inscrire dans un processus d’apprentissage continu, dans lequel les nouvelles vulnérabilités identifiées lors des exercices de « red teaming » sont automatiquement intégrées aux tests futurs.

L’enquête « Pulse » de VentureBeat de juin 2026 suggère que de nombreuses organisations ont encore du chemin à parcourir. L’enquête a révélé que 82 % des entreprises s’appuient principalement sur les contrôles natifs des fournisseurs ou des hyperscalers comme principale couche de sécurité en matière d’IA. Elle indique également que 59 % d’entre elles évaluent ou prévoient d’acquérir des outils de sécurité à agent dédié au cours des 12 prochains mois. Ces résultats témoignent d’une prise de conscience croissante du fait que les protections par défaut des plateformes ne suffiront probablement pas à elles seules à répondre aux exigences de sécurité à long terme des entreprises.

Pour les dirigeants, il s’agit en fin de compte d’une question de gouvernance plutôt que d’un simple enjeu technologique. Les audits de sécurité doivent permettre de vérifier si les systèmes d’IA font l’objet de tests continus, si des scénarios d’attaque réalistes sont intégrés aux exercices de validation et si la surveillance se poursuit après le déploiement. Le succès doit être mesuré à l’aune de la capacité d’une organisation à détecter les menaces en constante évolution, à y répondre et à en tirer des enseignements, plutôt qu’à l’absence de vulnérabilités connues à un moment donné.

Les organisations qui se doteront rapidement de ces capacités seront mieux préparées lorsque les agents d’IA assumeront des responsabilités opérationnelles plus étendues. Une validation continue, une gestion rigoureuse des identités, des contrôles stricts des autorisations et une surveillance permanente constituent une base plus solide pour une adoption responsable de l’IA que le simple recours aux protections intégrées aux plateformes.

Le rythme de développement de l’IA continuera de s’accélérer. Les pratiques en matière de sécurité doivent évoluer au même rythme. Les organisations qui testent en permanence leurs systèmes dans des conditions réalistes, renforcent leur gouvernance à mesure que les capacités de l’IA se développent et considèrent la sécurité comme une fonction opérationnelle permanente seront bien mieux à même de déployer l’IA en toute confiance à l’échelle de l’entreprise.

Dernières réflexions

L’IA d’entreprise entre dans une nouvelle phase. Le débat ne porte plus sur la question de savoir si les organisations doivent adopter l’IA. Il s’agit désormais de déterminer si elles sont en mesure d’utiliser l’IA de manière responsable, à mesure que les agents gagnent en autonomie, s’interconnectent avec davantage de systèmes d’entreprise et prennent des décisions de plus en plus importantes.

Le message de Cisco, Box et Intuit est remarquablement cohérent. La sécurité de l’IA ne peut reposer sur des tests ponctuels, des autorisations trop larges ou les protections par défaut des plateformes. Elle nécessite une validation continue, une gestion rigoureuse des identités, des accès à portée restreinte, une surveillance en temps réel et une gouvernance qui évolue au rythme de la technologie. Il ne s’agit pas d’initiatives distinctes. Ensemble, elles constituent le fondement d’une stratégie d’IA sécurisée.

Les dirigeants d’entreprise doivent également prendre conscience que la sécurité de l’IA devient un atout concurrentiel. Les organisations capables de faire preuve d’une gouvernance rigoureuse, d’expliquer comment leurs systèmes d’IA sont contrôlés et de réagir rapidement aux menaces émergentes gagneront davantage la confiance de leurs clients, des autorités de régulation, de leurs partenaires et de leurs investisseurs. Cette confiance prendra de plus en plus de valeur à mesure que l’IA s’intégrera aux activités principales de l’entreprise.

Le rythme des innovations en matière d’IA va continuer à s’accélérer. Les programmes de sécurité doivent suivre ce rythme sans freiner l’activité de l’entreprise. Cela implique d’investir dans des processus évolutifs, d’automatiser les processus lorsque cela s’avère pertinent et de considérer la sécurité de l’IA comme une discipline opérationnelle continue plutôt que comme un simple exercice de mise en conformité à réaliser avant le déploiement.

Les entreprises qui réussiront ne seront pas nécessairement celles qui déploieront le plus grand nombre d’agents d’IA. Ce seront celles qui développeront l’IA en s’appuyant sur une gouvernance solide, une responsabilité mesurable et une amélioration continue. À mesure que l’IA s’intègre durablement dans les activités des entreprises, ces capacités détermineront de plus en plus la confiance avec laquelle les organisations pourront innover tout en gérant les risques.