Les prévisions de 4,8 milliards de dollars pour la sécurité de l’IA indiquent une évolution de l’architecture de sécurité
Gartner prévoit que les dépenses consacrées à la sécurisation de l’IA passeront de 2,835 milliards de dollars US en 2026 à 4,783 milliards de dollars en 2027, soit une hausse de 68,7%, avant d’approcher 7,7 milliards de dollars en 2028. Gartner définit cette catégorie comme les logiciels et plateformes qui protègent les modèles d’IA, les applications et l’usage organisationnel de l’IA, y compris le support d’une utilisation sûre et de la conformité réglementaire. Les produits de cybersécurité qui utilisent l’IA et le machine learning pour détecter les menaces ou y répondre n’entrent pas dans cette définition.
Ces prévisions signalent un changement dans la manière dont les entreprises pourraient assembler leurs contrôles de sécurité. Gartner s’attend à ce que les entreprises combinent les systèmes de sécurité existants avec des produits dédiés à la sécurité de l’IA à mesure qu’elles déploient davantage d’IA. Les plateformes établies de gouvernance, de gestion des données et de gestion des API peuvent ajouter certaines protections de l’IA, tandis que des produits spécialisés traitent d’autres risques dans les prévisions de Gartner. Gartner a un intérêt commercial à définir et suivre les marchés technologiques ; sa segmentation et ses prévisions doivent donc être lues comme la vision du marché selon Gartner.
La sécurité de l’IA répond à des risques distincts
Shailendra Upadhyay, Senior Principal Analyst chez Gartner, attribue cette forte hausse des dépenses au besoin des entreprises de sécuriser les systèmes d’IA, de traiter les vulnérabilités émergentes et de renforcer leurs défenses contre les cybermenaces. Il souligne également les vulnérabilités et les attaques de la chaîne d’approvisionnement impliquant des logiciels tiers et open source dans les projets d’IA. Selon Gartner, des contrôles de sécurité et de visibilité insuffisants exposent les initiatives d’IA des entreprises à un risque élevé d’échec. Ces affirmations étayent l’argumentaire de Gartner en faveur de contrôles centrés sur les modèles d’IA, les applications et leur usage.
Gartner prévoit que plus de la moitié des cyberattaques réussies contre des agents IA d’ici 2029 exploiteront des faiblesses du contrôle d’accès et des injections de prompt. Une injection de prompt consiste à fournir des instructions qui manipulent un système d’IA pour l’amener à se comporter d’une manière que son opérateur n’avait pas prévue. Le contrôle d’accès est une discipline de sécurité établie, et un agent IA peut utiliser les autorisations, les systèmes et les informations auxquels il a accès lorsqu’il exécute des actions.
Gartner affirme que les organisations subissent une pression pour identifier, surveiller et protéger les modèles d’IA contre des menaces différentes de celles des environnements logiciels conventionnels. Upadhyay soutient que les outils de sécurité traditionnels traitent souvent les applications d’IA comme n’importe quel autre logiciel et nécessitent des mises à jour importantes pour répondre aux menaces propres à l’IA. Dans cette logique, les contrôles portant sur les identités, les logiciels, les données et l’infrastructure restent pertinents, tandis que les applications d’IA ajoutent des exigences concernant les instructions, les sorties et le comportement du modèle. Gartner s’attend à ce que des domaines spécialisés tels que le contrôle de l’usage de l’IA et la sécurité des applications d’IA connaissent une croissance rapide à mesure que les entreprises répondent à ces exigences.
La chaîne d’approvisionnement logicielle ajoute une autre exposition identifiée par Upadhyay. Les projets d’IA en entreprise peuvent dépendre de logiciels tiers et open source, et il relie les vulnérabilités et les attaques de la chaîne d’approvisionnement dans ces dépendances au besoin d’une sécurité de l’IA renforcée. L’IA autonome élargit encore cette préoccupation. Upadhyay affirme que l’extension des initiatives d’IA, en particulier l’IA autonome, introduit des vulnérabilités qui échappent à la surveillance traditionnelle et accroît la demande de solutions de sécurité spécialisées.
Un projet en tête ?
Planifiez un appel de 30 minutes avec nous.
Des experts senior pour vous aider à avancer plus vite : produit, tech, cloud & IA.
La répartition des dépenses indique une stack de sécurité hybride
Gartner divise la sécurisation de l’IA en sécurité des applications d’IA, contrôle de l’usage de l’IA, plateformes de gouvernance de l’IA, passerelles d’IA et une cinquième catégorie appelée autres solutions de sécurisation de l’IA. Ses chiffres montrent des rythmes de croissance différents selon les segments nommés ainsi qu’une importante catégorie résiduelle. Gartner s’attend à ce qu’une partie des dépenses se dirige vers des produits spécialisés à mesure que les fournisseurs établis ajoutent des fonctions d’IA aux systèmes de gouvernance, de gestion des données et de gestion des API. Cette structure de marché soutient l’idée de Gartner selon laquelle les systèmes existants et les produits dédiés à la sécurité de l’IA coexisteront.
Le contrôle de l’usage de l’IA affiche la hausse annuelle la plus rapide parmi les catégories nommées par Gartner, ce qui en fait un domaine important pour les fournisseurs spécialisés. La sécurité des applications d’IA est le plus grand segment spécifiquement nommé cette année-là. Gartner s’attend à ce que de nouveaux entrants et des startups investissent ces deux domaines à mesure que les acheteurs recherchent des produits adaptés aux nouveaux risques liés à l’IA. Ces prévisions reflètent la vision de Gartner sur les domaines dans lesquels les fournisseurs spécialisés peuvent gagner du terrain.
Les plateformes de gouvernance et les passerelles suivent une dynamique concurrentielle différente dans les prévisions de Gartner. Une passerelle est un point de contrôle à travers lequel les interactions avec l’IA peuvent être gérées, ce qui rapproche cette catégorie de capacités déjà présentes dans les systèmes de gestion des API et des données. Gartner s’attend à ce que les grands fournisseurs établis conservent des positions plus solides dans ces domaines en ajoutant des fonctions liées à l’IA ou en intégrant des produits spécialisés dans les systèmes existants de gouvernance, de gestion des données et de gestion des API.
Upadhyay s’attend à ce que les organisations gagnent en confiance à mesure que des défenses telles que la protection de l’IA en runtime et les passerelles dédiées deviennent plus fiables, ce qui accélérera l’adoption. La protection en runtime désigne les contrôles appliqués pendant qu’un système d’IA fonctionne, lorsque les entrées, les sorties et le comportement réels peuvent être observés. Il s’attend également à ce que la pression concurrentielle entraîne une consolidation et des acquisitions, les grandes entreprises de cybersécurité rachetant des startups pour élargir leur offre. Il s’agit d’anticipations d’analystes de Gartner sur l’évolution possible du marché des fournisseurs, et non de résultats déjà établis.
La catégorie « autres solutions de sécurisation de l’IA » représente une part importante des prévisions
D’après les chiffres de Gartner, la catégorie « autres solutions de sécurisation de l’IA » représente environ 48% du total projeté. Les quatre segments spécifiquement nommés ne représentent donc qu’une partie du marché mis en avant dans le titre. Les dirigeants qui utilisent ces prévisions pour planifier doivent distinguer l’estimation de croissance du marché total des signaux plus précis fournis par les catégories nommées.
Cette distinction a également un impact sur l’évaluation des fournisseurs. Les catégories nommées par Gartner identifient des rôles attendus différents pour la sécurité des applications, le contrôle de l’usage, la gouvernance et les passerelles, tandis que la catégorie « autres solutions de sécurisation de l’IA » reste une composante large du total. Gartner s’attend également à ce que les organisations combinent les systèmes de sécurité existants avec des produits dédiés à la sécurité de l’IA. Les acheteurs doivent donc faire correspondre chaque risque IA identifié à la couche de contrôle et à la capacité fournisseur qui y répond.
Cette cartographie devient plus importante à mesure que l’IA autonome se développe. La préoccupation d’Upadhyay est que les systèmes autonomes peuvent introduire des vulnérabilités qui échappent à la surveillance traditionnelle, tandis que les prévisions de Gartner mettent en avant les faiblesses du contrôle d’accès et les injections de prompt comme vecteurs d’attaque attendus contre les agents IA. Pour les DSI, les RSSI et les responsables IA, la frontière du contrôle est une question d’architecture : quels contrôles existants couvrent le risque, quelles plateformes peuvent être étendues, et quels risques nécessitent une protection spécifique à l’IA. Ces arbitrages déterminent où les produits dédiés à la sécurité de l’IA s’intègrent dans l’architecture de sécurité existante de l’entreprise.
Points clés
- Prévoir une croissance rapide de la sécurité de l’IA : Gartner prévoit que les dépenses consacrées à la sécurisation de l’IA augmenteront de 68,7% pour atteindre 4,8 milliards de dollars en 2027. Les dirigeants doivent évaluer dans quels cas les contrôles existants restent suffisants et où des protections spécifiques à l’IA sont nécessaires.
- Prioriser les vecteurs d’attaque propres à l’IA : Gartner prévoit que les faiblesses du contrôle d’accès et les injections de prompt représenteront plus de la moitié des attaques réussies contre les agents IA d’ici 2029. Les plans de sécurité doivent couvrir les autorisations des agents, le comportement du modèle, l’activité en runtime et les risques liés à la chaîne d’approvisionnement logicielle.
- Construire une stack de sécurité hybride : Gartner s’attend à ce que les entreprises combinent les systèmes existants de gouvernance, de gestion des données et de gestion des API avec des produits spécialisés de sécurité de l’IA. Les dirigeants doivent cartographier les risques IA sur des couches de contrôle spécifiques avant d’ajouter de nouveaux fournisseurs.
- Examiner de près les prévisions globales du marché : La vaste catégorie « autres solutions de sécurisation de l’IA » de Gartner représente environ 48% du marché projeté. Les dirigeants doivent utiliser les prévisions de 4,8 milliards de dollars comme un signal de marché tout en évaluant les catégories et produits de sécurité individuels selon leurs capacités spécifiques.
Un projet en tête ?
Planifiez un appel de 30 minutes avec nous.
Des experts senior pour vous aider à avancer plus vite : produit, tech, cloud & IA.
