L’IA pose problème pour 80 % des dirigeants IT

L’utilisation généralisée d’outils d’IA générative non approuvés a eu des conséquences négatives.

La plupart des leaders de la technologie comprennent déjà le potentiel de l’IA générative, mais la menace silencieuse n’est pas l’ innovation, c’est ce qui se passe sans surveillance. Près de 80 % des responsables informatiques ont vu leur organisation subir un préjudice parce que des employés ont utilisé des outils d’IA générative sans autorisation ou sans garde-fous clairs. Les conséquences ne sont pas mineures. Ils’agit de résultats inexacts qui passent pour la vérité et de données sensibles de l’entreprise qui entrent dans des modèles d’IA externes sans intention ni réalisation.

Ces outils sont faciles d’accès, et c’est là une partie du problème. Ils sont accessibles à tout le monde dans votre entreprise, et pas seulement à vos data scientists. Lorsque quelqu’un introduit des informations propriétaires dans un chatbot IA gratuit, il ne s’agit pas seulement d’une perte de données, mais aussi d’une perte de contrôle. Ce qui semble être un gain de productivité peut se transformer en une grave responsabilité. En l’absence de limites claires, les erreurs ne restent pas seulement internes, elles s’échappent et se reproduisent.

Une stratégie structurée autour de l’utilisation de l’IA n’est plus optionnelle. Ce type de comportement non géré, appelé « IA fantôme », est de plus en plus courant dans les grandes entreprises. Les employés n’essaient pas de créer des risques, ils ne savent tout simplement pas ce qui est autorisé. Si votre entreprise ne définit pas activement les règles d’engagement de l’IA, vous jouez à la défense sans tableau d’affichage.

Les données le confirment. En avril 2024, Komprise a interrogé 200 responsables informatiques d’entreprises américaines de plus de 1 000 employés. Ils ont constaté que 46 % d’entre eux avaient été confrontés à des contenus faux ou inexacts générés par l’IA, et que 44 % avaient signalé des fuites de données. Pour 13 % des personnes interrogées, ces erreurs n’étaient pas seulement internes, mais elles ont également porté atteinte aux résultats financiers, à la confiance des clients ou à l’intégrité de leur marque.

Les politiques ne suffisent pas à résoudre ce problème. Vous avez besoin de visibilité, de surveillance en temps réel et d’éducation à tous les niveaux de l’organisation. C’est ainsi que vous protégez les données et que vous responsabilisez votre entreprise dans un marché dominé par l’IA. Les dirigeants doivent passer d’une reconnaissance passive des risques à une gestion active des risques, ou s’attendre à des pertes tant au niveau des opérations que de la réputation.

Les problèmes de sécurité et de protection de la vie privée sont au cœur des défis posés par l’IA fantôme.

S’il est une chose que les dirigeants ne peuvent se permettre de sous-estimer, c’est l’impact d’une mauvaise hygiène des données lorsque l’IA générative entre en jeu. L’utilisation non autorisée d’outils d’IA, ce que beaucoup appellent aujourd’hui « l’IA fantôme », n’estpas seulement un oubli opérationnel. Il s’agit d’un risque croissant pour la sécurité et la vie privée. Lorsque des données sensibles circulent dans des outils sans supervision informatique, l’organisation ne contrôle plus l’endroit où ces données atterrissent ni la manière dont elles sont utilisées en aval.

La plupart des entreprises sont déjà sous pression pour sécuriser les données des clients et de l’entreprise. Ajoutez l’IA au mélange, et la complexité se multiplie. Les informations clés, les données personnelles identifiables, les dossiers financiers, les modèles propriétaires peuvent se retrouver dans des moteurs de génération qui fonctionnent en dehors de votre infrastructure. Il ne s’agit pas seulement d’une menace théorique. Il s’agit d’une violation active de la gouvernance des données et, selon votre secteur d’activité, d’une violation de la réglementation.

Les responsables informatiques sont clairement conscients de ce changement. Selon l’enquête réalisée par Komprise en avril 2024 auprès de 200 responsables informatiques d’entreprise, 90 % d’entre eux se sont déclarés préoccupés par l’impact de l’IA fantôme sur la sécurité et la confidentialité. Cette inquiétude n’est pas anodine. Près de la moitié d’entre eux (46 %) se disent « extrêmement inquiets ». Cela vous dit quelque chose : la technologie évolue rapidement, mais les contrôles internes sont à la traîne.

Pour les dirigeants, cette préoccupation n’est pas seulement technique, elle est aussi stratégique. La sécurité des données conditionne la continuité de l’activité, la fidélisation des clients et la confiance dans la marque. Vous ne pouvez pas vous développer de manière fiable tant que l’utilisation interne des outils d’IA reste fragmentée et largement invisible. Savoir qui utilise l’IA générative, et dans quel but, doit faire partie intégrante des responsabilités de supervision de tout dirigeant.

Une gouvernance solide ne signifie pas qu’il faille fermer l’IA, mais qu’il faut établir des garde-fous qui garantissent la sécurité de l’entreprise tout en tirant parti des possibilités offertes par la technologie. Cela signifie une politique claire, une surveillance active et l’intégration de la sensibilisation à l’IA dans la formation des employés. Le message doit être simple : L’IA est la bienvenue, mais seulement si la sécurité n’est pas reléguée au second plan.

Les entreprises investissent activement dans la technologie pour contrer les risques associés à l’IA fantôme.

Les organisations prennent au sérieux les risques liés à l’IA non surveillée, et nombre d’entre elles agissent rapidement. La majorité des responsables informatiques des entreprises réagissent en investissant de manière ciblée dans des infrastructures capables de détecter, de surveiller et de contrôler la manière dont l’IA est utilisée au sein de l’entreprise. Il ne s’agit pas de spéculation, mais d’un changement de priorité opérationnelle.

Les dirigeants orientent leurs ressources vers des plateformes qui gèrent les flux de données, détectent l’utilisation non autorisée de l’IA et vérifient la manière dont les outils sont déployés en interne. Il ne s’ agit pas d ‘acquisitions expérimentales, mais d’éléments essentiels d’une stratégie visant à apporter visibilité et contrôle à quelque chose d’actuellement opaque. L’objectif est simple : réduire l’exposition, assurer la conformité et protéger les données sensibles sans ralentir les progrès.

L’étude 2024 de Komprise confirme cette tendance. Parmi les 200 responsables informatiques interrogés, 75 % ont déclaré qu’ils prévoyaient de mettre en œuvre des plateformes de gestion des données. Par ailleurs, 74 % investissent dans des outils de découverte et de surveillance de l’IA. Ces investissements sont conçus pour donner aux équipes informatiques une vision claire de l’endroit où l’IA est déployée, de ce qu’elle fait et des données qu’elle touche. Ce niveau de visibilité est essentiel si une entreprise veut faire évoluer les flux de travail alimentés par l’IA sans hériter d’un risque chaotique.

L’adoption des technologies ne s’arrête pas là. Environ 55 % des équipes informatiques associent également ces outils à des systèmes de gestion des accès et à des logiciels de prévention des pertes de données. En ajoutant à cela la formation des employés, les organisations disposent d’une approche plus complète, la technologie étant soutenue par la conscience humaine. Pour les dirigeants, c’est là que la stratégie devient exécution. Vous ne pouvez pas déléguer entièrement la gestion des risques liés à l’IA à l’informatique. Elle nécessite l’adhésion de la direction pour aligner les budgets, les changements de politique et l’adoption d’une culture.

L’IA fantôme n ‘est pas une nuance technique, c’est une question de gouvernance. Les entreprises qui agiront le plus rapidement pour la contenir et la contrôler se donneront un avantage certain, non seulement en évitant les risques, mais aussi en construisant un cadre d’IA intelligent et responsable qui soutiendra la croissance à long terme.

Une préparation et une gestion adéquates des données non structurées sont essentielles pour une intégration sûre de l’IA.

La valeur réelle de l’IA générative ne provient pas de l’outil lui-même, mais de ce que vous lui apportez. Les données non structurées, qui constituent la majorité des informations de l’entreprise, ont besoin d’être structurées avant d’entrer en contact avec les systèmes d’IA. Cela signifie que les équipes informatiques doivent préparer, classer et régir les données de manière à protéger les informations propriétaires, financières et personnellement identifiables d’une exposition incontrôlée.

La classification des données est le point sur lequel la plupart des organisations se concentrent. C’est une chose de restreindre l’accès aux données confidentielles, mais lorsque les employés interagissent avec les outils d’IA, cette ligne devient plus difficile à maintenir sans automatisation. Les entreprises qui relèvent ce défi automatisent les flux de travail pour scanner, étiqueter et contrôler la façon dont des ensembles de données spécifiques sont utilisés avec des modèles génératifs. Cela leur permet de savoir en temps réel quelles données sont approuvées pour le traitement de l’IA et lesquelles ne le sont pas.

Selon l’enquête Komprise d’avril 2024, 73 % des équipes informatiques classent déjà les données sensibles et utilisent l’automatisation des flux de travail pour appliquer les règles d’accès. Nombre d’entre elles déploient des outils capables d’analyser de grands volumes de contenu, de les étiqueter avec des métadonnées et de restreindre les informations à haut risque. Des technologies telles que les bases de données vectorielles sont utilisées pour permettre la recherche sémantique ou la génération augmentée par récupération (RAG), ce qui permet aux modèles de récupérer des informations sans ingérer les données de manière permanente. Les modèles peuvent ainsi récupérer des informations sans ingérer les données de manière permanente, ce qui offre une plus grande souplesse tout en permettant de mieux contrôler l’exposition des données.

L’effort technique est important, mais c’est la réflexion stratégique qui est à l’origine du changement. L’adoption de l’IA n’est plus limitée à quelques départements, elle s’étend à toutes les équipes. Si l’intégrité des données internes n’est pas renforcée avant que l’utilisation de l’IA ne se développe, l’organisation sera confrontée à des risques croissants liés à la conformité, à la qualité et à la confiance.

Pour les dirigeants, c’est le moment d’aligner la gouvernance des données sur la politique de l’IA. L’IA sûre ne consistepas à limiter l’utilisation, mais à s’assurer que ce que l’IA voit est propre, catégorisé et conforme. Les entreprises qui investissent aujourd’hui dans la préparation des données fondamentales seront en meilleure position pour évoluer en toute sécurité et en toute confiance au fil du temps.

Principaux faits marquants

• L’IA fantôme déclenche un risque commercial réel : 80 % des responsables informatiques signalent des résultats négatifs liés à l’utilisation non autorisée de l’IA, notamment des pertes financières, des fuites de données et des dommages à la marque. Les dirigeants doivent mettre en œuvre des politiques claires en matière d’utilisation de l’IA et renforcer la surveillance afin d’éviter toute exposition cachée.
• La sécurité et la protection de la vie privée sont les principales préoccupations : 90 % des responsables informatiques s’inquiètent de la compromission des données sensibles par l’IA fantôme, près de la moitié d’entre eux étant extrêmement préoccupés. Les dirigeants devraient traiter la gouvernance de l’IA comme une priorité au niveau du conseil d’administration afin de protéger la confiance des clients et d’assurer la conformité réglementaire.
• Les entreprises investissent dans la visibilité et le contrôle : 75 % des organisations déploient des outils de gestion des données et de surveillance de l’IA pour mettre en évidence l’activité de l’IA de l’ombre. Les dirigeants devraient financer des technologies qui offrent une vision en temps réel et équiper les équipes pour auditer l’utilisation de l’IA en interne.
• Les données non structurées doivent être gérées à l’échelle : 73 % des équipes informatiques classent les données sensibles et utilisent l’automatisation pour les préparer en toute sécurité à l’IA. Pour faire évoluer l’IA générative en toute sécurité, les décideurs doivent donner la priorité à des flux de travail de préparation des données solides et à des solutions de gouvernance automatisées.