Le Royaume-Uni renforce sa réponse aux cyberattaques grâce à l’IA

Le système de réponse par IA du Royaume-Uni résout un vrai problème, mais laisse un angle mort en matière de détection précoce

Le gouvernement britannique veut qu’un système d’IA agentique soit prêt à intervenir lorsqu’un incident cyber majeur se produit. Le ministre de l’IA, Kanishka Narayan, a déclaré cette semaine au Parlement, en informant les députés de l’évolution rapide des capacités des modèles d’IA de pointe, qu’un financement lié au Defence Investment Plan soutiendrait cet effort. « Nous avons engagé 115 millions de livres sterling pour deux nouveaux programmes : l’un sur la biosécurité liée à l’IA, et l’autre pour développer une capacité de réponse aux incidents par IA agentique pour le gouvernement britannique. »

Cet investissement répond à un besoin opérationnel réel, car la réponse aux incidents par IA agentique est déjà activement utilisée dans de nombreux centres d’opérations de sécurité (SOC). Un système agentique peut agir avec une certaine autonomie pendant le triage, l’investigation et la remédiation, en réduisant le nombre d’étapes nécessitant une intervention humaine directe. Pour les responsables de la sécurité, cet investissement soulève aussi une question en amont : les défenses disposent-elles d’une visibilité suffisante pour identifier une activité dangereuse avant que des actions distinctes ne deviennent un incident visible ?

Cette question relève d’une autre étape du processus de sécurité. Un système de réponse performant peut raccourcir ou améliorer le travail une fois qu’un comportement malveillant est identifiable, mais une activité potentiellement dangereuse peut être répartie entre plusieurs modèles d’IA, chaque système ne voyant que ses propres interactions. Dans ce cas, le défi de la détection se pose avant même que le système de réponse ne dispose d’un incident clair à investiguer.

Pourquoi la réponse agentique est utile une fois qu’un incident commence

Une fois l’activité malveillante visible, l’action autonome peut alléger la charge des équipes humaines de sécurité. Les systèmes de réponse agentiques peuvent trier l’activité, enquêter sur ce qui s’est passé et y remédier, en prenant en charge un travail qui mobiliserait autrement l’attention de spécialistes. Les équipes humaines peuvent alors concentrer leurs efforts là où le jugement est le plus utile, en particulier lorsqu’un volume élevé d’alertes menace de submerger un SOC et de contribuer à l’épuisement professionnel.

Ce modèle opérationnel explique pourquoi l’investissement du Royaume-Uni cible un workflow de gestion des incidents déjà établi. Un système de réponse capable de progresser d’une alerte jusqu’à l’investigation et à la remédiation peut prendre en charge certaines parties de ce workflow sans attendre un analyste humain à chaque étape. Le bénéfice est particulièrement important lorsque le volume d’alertes limite l’attention qu’une équipe de sécurité peut accorder à chaque cas.

Sukhveer Sanghera, cofondateur de Potentially AI, soutient cet investissement tout en fixant clairement les limites de ce qu’il résout. En tant que cofondateur d’une entreprise active sur le marché de l’IA, Sanghera a un intérêt commercial dans la manière dont les organisations définissent et traitent les besoins de sécurité liés à l’IA ; son évaluation doit donc être lue dans ce contexte. « Le fait que le gouvernement mette en place une capacité de réponse aux incidents par IA agentique est une bonne chose – nous avons tous vu ce qui s’est passé avec les récents “breakouts”. »

Ce soutien conduit directement à la préoccupation de Sanghera concernant une étape plus précoce de la défense. « Financer la réponse aux incidents est la bonne décision. Mais il faut détecter cela plus tôt, et cela signifie examiner comment les modèles sont utilisés ensemble. » Sa distinction déplace la question de sécurité : il ne s’agit plus de savoir à quelle vitesse un système peut agir sur un incident identifié, mais de déterminer si les défenseurs peuvent reconnaître une activité liée avant que la remédiation n’ait quoi que ce soit de concret sur quoi agir.

Le manque le plus difficile apparaît avant même qu’il y ait un incident à traiter

Cette préoccupation liée à la détection précoce repose sur un processus d’attaque hypothétique impliquant plusieurs modèles. Dans le scénario de Sanghera, une personne compétente divise un objectif plus large en demandes plus petites et les envoie à des systèmes d’IA distincts. Chaque interaction peut sembler relativement anodine, car un modèle ne reçoit qu’une seule partie de l’activité, ce qui laisse l’objectif global hors de son champ de vision.

Sanghera décrit le mécanisme ainsi : « Ce qui m’inquiète davantage, c’est une personne qui sait ce qu’elle fait. Elle ne demandera pas à un seul modèle l’ensemble de la tâche. Elle en sollicitera trois ou quatre pour une partie chacun, et aucune de ces questions ne semblera vraiment significative. Chaque modèle vérifie sa propre conversation. Personne ne vérifie l’ensemble. » La séquence combinée crée le problème de sécurité, car trois ou quatre systèmes peuvent chacun évaluer une conversation limitée sans qu’aucun système ne voie l’activité complète.

Cette fragmentation change ce que les défenseurs doivent observer. Les contrôles au sein d’un modèle peuvent inspecter les prompts, le contexte et les actions qui y sont disponibles, tandis qu’un comportement coordonné entre plusieurs modèles exige un moyen de reconnaître que des interactions distinctes sont liées entre elles. Un système de réponse aux incidents reste utile une fois que les conséquences malveillantes deviennent apparentes, mais la détection intermodèle exige des informations disponibles plus tôt et au-delà des frontières entre systèmes.

Cette distinction compte aussi lorsqu’il s’agit d’interpréter les incidents récents impliquant des modèles de pointe. Plusieurs « échappées » se sont produites au cours des dernières semaines, avec des exemples notables impliquant OpenAI et le laboratoire de l’AI Security Institute (AISI) du Royaume-Uni. Sanghera décrit précisément les conditions : « Il est important de noter que ces incidents concernaient des agents fonctionnant dans un environnement de test avec les garde-fous désactivés. »

Ces breakouts donnent aux défenseurs une raison d’examiner la sécurité des systèmes autonomes, tandis que le scénario distribué de Sanghera soulève une question prospective reposant sur un mécanisme différent. Les breakouts impliquaient des agents opérant dans des conditions de test avec les contrôles de sécurité désactivés. Le scénario de Sanghera concerne une personne compétente susceptible de répartir l’activité entre plusieurs modèles dont les vérifications individuelles ne révèlent jamais l’objectif combiné ; il reste donc une hypothèse sur un comportement possible d’attaquant.

Parce que les mécanismes diffèrent, leurs exigences opérationnelles diffèrent également. Une détection plus précoce entre modèles dépendrait de la capacité à observer suffisamment d’usages liés pour déterminer que des demandes individuellement limitées forment un ensemble préoccupant, ce qui soulève des questions sur les informations pouvant être corrélées et sur les acteurs capables d’effectuer cette corrélation. La réponse aux incidents commence une fois que l’activité malveillante peut être triée et investiguée ; la détection intermodèle dépend de l’assemblage d’éléments probants utiles avant cela.

Pour les responsables SOC et les responsables de l’ingénierie, cette séquence détermine ce que chaque capacité peut accomplir. Une meilleure remédiation peut améliorer ce qui se passe après que les défenses ont identifié un problème, et l’automatisation peut préserver une attention humaine rare pendant ce travail. Lorsque l’activité est délibérément répartie entre plusieurs systèmes, les défenseurs ont toutefois aussi besoin d’un moyen en amont de reconnaître le comportement combiné avant que la réponse en aval puisse commencer.

Le programme plus large du gouvernement va au-delà de la reprise

Ce besoin de capacités à plusieurs étapes rend le programme plus large du Royaume-Uni en matière de sécurité de l’IA pertinent pour le système de réponse prévu. Narayan décrit trois exigences parallèles autour d’une IA de plus en plus puissante : « Alors que le Royaume-Uni investit dans la capacité à utiliser une IA de plus en plus puissante, nous investirons en parallèle dans la capacité à la comprendre, à la contrôler et à rétablir la situation lorsque quelque chose tourne mal. » Le rétablissement n’est qu’un élément de cette formulation, aux côtés de la compréhension et du contrôle.

Ces exigences couvrent déjà plusieurs institutions et mécanismes de politique publique. Le National Cyber Security Centre (NCSC) a récemment publié des orientations sur la sécurité des systèmes agentiques, Cyber Shield est en cours de développement en tant que programme défensif, et le Cyber Security and Resilience Bill suit son parcours au Parlement. Le Government Cyber Action Plan complémentaire prévoit un financement de 210 millions de livres sterling pour renforcer la résilience des services publics.

Dans ce programme plus large, les incidents récents façonnent déjà le travail sur les futurs contrôles. Narayan travaille avec le ministre de la sécurité Dan Jarvis afin que les enseignements tirés des événements récents puissent éclairer le futur framework cyber du Royaume-Uni. Ce travail relie l’expérience acquise avec les systèmes agentiques aux décisions concernant les règles, les évaluations et les orientations techniques appliquées à mesure que ces systèmes deviennent plus autonomes.

Ces décisions pourraient se traduire dans le Cyber Assessment Framework, un futur code de bonnes pratiques statutaire et les orientations techniques du NCSC, avec l’AISI apportant son expertise technique et ses éléments probants. Narayan a déclaré : « Nous examinerons si les protections pour les systèmes d’IA de plus en plus autonomes doivent être clarifiées ou renforcées via le Cyber Assessment Framework, le futur code de bonnes pratiques statutaire ou les orientations techniques du NCSC. L’AISI fournira des éléments probants et une expertise technique pour soutenir ce travail. »

Ensemble, ces mécanismes répartissent la sécurité de l’IA entre plusieurs fonctions. La recherche peut établir des preuves sur le comportement des systèmes, tandis que les frameworks d’évaluation et les codes peuvent fixer des attentes, et les orientations techniques peuvent influencer la mise en œuvre. Les programmes de résilience peuvent préparer les services publics, et la capacité de réponse peut agir lorsque quelque chose tourne mal. La détection intermodèle traverse l’ensemble de ces fonctions, car la reconnaissance d’une activité combinée peut dépendre de contrôles et de pratiques d’information établis avant qu’un incident ne devienne visible.

La visibilité intermodèle se heurte à une frontière transfrontalière

Même si ces mécanismes nationaux améliorent la détection intermodèle, les systèmes d’IA sont développés et déployés à travers plusieurs juridictions. Narayan décrit les risques liés à l’IA comme « intrinsèquement transnationaux », ce qui fait de la coopération avec des partenaires et alliés étrangers une composante de l’approche du Royaume-Uni. Parce que le développement, le déploiement et l’usage d’un modèle peuvent impliquer différents pays, une sécurité efficace peut nécessiter un accès à des institutions et à des informations au-delà d’une seule juridiction.

Narayan explique directement cette exigence internationale : « Les systèmes concernés sont développés et déployés au-delà des frontières, et aucun pays ne peut y répondre seul, comme c’est le cas dans l’ensemble du secteur technologique depuis trois décennies. » La coordination transfrontalière pose un problème de gouvernance distinct de celui consistant à corréler une activité liée entre plusieurs modèles. La détection intermodèle au niveau national peut s’améliorer tout en restant limitée lorsque les systèmes, opérateurs ou éléments probants pertinents se trouvent dans des juridictions différentes.

Ces limites juridictionnelles expliquent pourquoi le gouvernement entend s’appuyer sur les relations internationales existantes. L’AISI entretient des liens avec des organisations comparables à l’étranger, tandis que le NCSC travaille avec des agences cyber homologues. « Le Royaume-Uni continuera à travailler étroitement avec ses partenaires internationaux, notamment via les relations de l’AISI avec des organismes homologues à l’étranger et les agences homologues du NCSC », a déclaré Narayan.

Les deux types de fragmentation créent des exigences différentes pour la planification de la sécurité. La fragmentation intermodèle concerne la capacité des défenseurs à relier des usages liés lorsque chaque système individuel ne voit qu’une partie ; la fragmentation transfrontalière concerne la capacité des institutions à se coordonner lorsque le développement et le déploiement s’étendent sur plusieurs juridictions. L’attaque multi-modèles de Sanghera reste un scénario hypothétique, mais elle met en évidence le type de problème informationnel auquel les systèmes de réponse peuvent être confrontés avant qu’une activité malveillante ne devienne un incident.

Ce problème informationnel clarifie aussi la place du système de réponse prévu dans le cadre plus large. Son rôle direct commence lorsqu’un incident cyber majeur exige triage, investigation et remédiation, tandis que les contrôles en amont, les éléments probants et la coordination internationale façonnent ce que les défenseurs peuvent reconnaître avant cela. Narayan présente la posture gouvernementale visée à la fois sous l’angle de l’opportunité et du risque : « Nous aborderons ce défi avec confiance et urgence, en veillant à ce que le Royaume-Uni puisse exploiter les bénéfices de l’IA de pointe tout en gérant les risques de manière responsable. » Pour les responsables de la sécurité, la limite opérationnelle est claire : planifier la réponse aux incidents en même temps que la visibilité intermodèle nécessaire pour identifier les incidents suffisamment tôt pour que cette réponse puisse agir.

Points clés à retenir pour les dirigeants

• Accélérer la réponse avec l’IA agentique : L’investissement de 115 millions de livres sterling du Royaume-Uni cible le triage, l’investigation et la remédiation, où les systèmes autonomes peuvent réduire la charge de travail des SOC et préserver l’attention des spécialistes pour des décisions à plus forte valeur ajoutée.
• Construire la visibilité avant la réponse : Les équipes de sécurité ont besoin de contrôles capables d’identifier une activité dangereuse avant qu’elle ne devienne un incident clair. La surveillance intermodèle est importante lorsque des actions liées sont réparties entre plusieurs systèmes d’IA.
• Se préparer à une activité IA fragmentée : Un attaquant compétent pourrait répartir un objectif plus large entre plusieurs modèles, laissant à chacun trop peu de contexte pour reconnaître l’intention combinée. Les architectes sécurité devraient évaluer si la télémétrie existante permet de relier une activité liée entre systèmes.
• Traiter la sécurité de l’IA comme un problème de contrôle plus large : Le Royaume-Uni combine la réponse aux incidents avec la recherche, les programmes de résilience, les frameworks d’évaluation et les orientations techniques. Les organisations qui adoptent des systèmes agentiques devraient, de la même manière, relier les plans de réponse aux contrôles préventifs et à la collecte d’éléments probants.
• Planifier les dépendances transfrontalières : Les systèmes d’IA et les éléments probants de sécurité pertinents peuvent s’étendre sur plusieurs juridictions, ce qui fait de la coordination internationale une composante de la détection et de la réponse efficaces. Les responsables de la sécurité devraient identifier dans quels cas l’accès à des fournisseurs externes, à la télémétrie ou aux autorités pourrait affecter la gestion des incidents.