La dette de chaos augmente quand l’IA manque de gouvernance

Une adoption réussie de l’IA peut créer des risques que les dirigeants découvrent plus tard

Un employé de la finance construit un workflow de rapprochement avec l’IA, un recruteur crée un projet qui rédige des descriptions de poste, et deux employés du support assemblent un système pour les réponses de premier niveau. Le système de support fonctionne suffisamment bien pour qu’une autre équipe commence à y acheminer des tickets. Aucun de ces projets ne figurait peut-être sur la feuille de route d’adoption de l’IA initiale de l’entreprise, et pourtant chacun résout un problème réel avant qu’un processus d’adoption formel ne reconnaisse le besoin.

Ce succès apparent peut lui-même créer un risque. Analiese Brown, directrice des ressources humaines chez Campminder, appelle « chaos debt » les passifs qui s’accumulent lorsque l’IA décentralisée se développe sans niveau suffisant de responsabilité ni de visibilité. L’adoption progresse, les employés disent gagner du temps, et les managers comme les cadres dirigeants ont de bonnes raisons de laisser se poursuivre des expérimentations utiles. Pourtant, ces mêmes signaux peuvent aussi indiquer que des dépendances non documentées commencent à s’accumuler.

Ces dépendances sont difficiles à voir, car les employés de la finance, du recrutement, du support et d’autres équipes peuvent désormais créer des workflows utiles sans attendre un projet technologique formel. Leurs expérimentations révèlent tôt les lacunes des workflows, et celles qui réussissent peuvent se diffuser avant que les processus centraux ne rattrapent leur retard. Dès que des collègues commencent à s’appuyer sur une expérimentation, la question de la gouvernance change : l’organisation doit comprendre ce qui en dépend et qui en est responsable.

Le véritable passif commence lorsqu’un workflow personnel devient une infrastructure

Ce besoin de responsabilité apparaît parce que les gens étendent des systèmes qui fonctionnent déjà. Le workflow d’un employé peut fournir des données au rapport d’un autre employé, et ce rapport peut devenir une entrée dans les décisions d’une équipe. Personne n’a besoin de décider explicitement que le premier workflow constitue une infrastructure métier. La dépendance à son résultat lui confère ce rôle.

Une fois cette chaîne en place, il devient difficile de la reconstituer, car le travail n’a peut-être jamais été documenté et personne n’est forcément chargé d’en assurer le fonctionnement. L’employé qui l’a construit peut passer dans une autre équipe tandis que la logique opérationnelle reste dans ses notes personnelles. Ce qui avait commencé comme une commodité individuelle porte alors un risque de continuité pour des personnes qui ne savent peut-être même pas comment le workflow fonctionne.

Ce risque de continuité rend la responsabilité plus fondamentale que le simple fait de classer un outil comme approuvé ou non approuvé. Une approbation peut établir quels produits les employés sont autorisés à utiliser, mais les dirigeants doivent toujours savoir qui est responsable d’un workflow, quels rapports s’appuient sur lui et quelles décisions utilisent ces rapports. Un modèle de gouvernance utile doit suivre ces dépendances, car ce sont elles qui déterminent la conséquence métier d’une défaillance.

Ces conséquences augmentent à mesure que l’IA facilite la création à petite échelle. Un workflow personnel reste relativement circonscrit tant que son résultat n’affecte que son créateur ; dès que d’autres processus utilisent ce résultat, l’organisation a besoin d’un responsable capable d’en expliquer la logique, d’en assurer la maintenance malgré les changements de personnel et de comprendre ce qui casse lorsqu’il évolue. Le chaos debt est l’exposition cumulée créée par ces questions non résolues.

Mettre fin au shadow AI peut effacer la cartographie de ce qu’il faut corriger

Le passif inverse apparaît lorsque les organisations empêchent les employés de repenser un travail inefficace. Bradford Wilkins, vice-président people and organization chez Cognite, décrit le « talent debt », un terme qu’il attribue à Boston Consulting Group (BCG) et EY, comme un potentiel inexploité piégé dans des workflows qui n’ont pas encore été repensés. Les dirigeants font donc face à des passifs dans les deux sens : aller vite sans responsabilité accumule du chaos debt, tandis que laisser un travail inefficace inchangé accumule du talent debt.

Découvrir une prolifération de l’IA conduit souvent les dirigeants à limiter les employés aux outils approuvés, à exiger que les demandes passent par l’IT et à définir des politiques d’usage acceptable. Ces contrôles peuvent répondre à de vraies préoccupations liées à une technologie non maîtrisée, mais ils peuvent aussi effacer les preuves expliquant pourquoi les employés ont créé leurs propres systèmes. Le workflow officieux contient des informations sur la demande.

L’exemple de la finance montre ce que ces informations peuvent révéler. Le workflow de rapprochement de l’employé existe parce que le système financier présente une lacune en matière de rapprochement. De même, le système de support révèle que le logiciel de help desk ne peut pas rédiger les réponses de premier niveau dont ses utilisateurs ont besoin. D’un point de vue opérationnel, chaque contournement est une exigence découverte dans le travail réel : il identifie une fonction manquante et montre que cette lacune est suffisamment importante pour qu’un employé construise une solution autour.

Cela rend le shadow AI utile pour découvrir les exigences, même lorsque l’implémentation ne convient pas à un usage officieux prolongé. Un workflow peut avoir une responsabilité floue, un accès aux données discutable ou des dépendances qui nécessitent un contrôle formel. Son existence indique malgré tout aux responsables technologiques et opérationnels où un workflow officiel ne répond pas aux besoins des employés. Fermer l’expérimentation sans capturer cette information revient à écarter des preuves nécessaires à la refonte.

Perdre ces preuves peut laisser la fragmentation sous-jacente en place, car les employés restent confrontés au problème de rapprochement, de rédaction ou de support. Le travail peut alors se poursuivre ailleurs sous des formes plus difficiles à observer pour les dirigeants. Un meilleur environnement permet à l’expérimentation de révéler les besoins non satisfaits et rend visibles les dépendances qui en résultent avant que l’entreprise ne commence discrètement à s’y appuyer.

Cet objectif crée la tension centrale de la gouvernance. Un même workflow peut être simultanément une infrastructure utile, une dépendance non maîtrisée et le signal le plus clair disponible qu’un processus officiel doit être repensé. Les dirigeants ont besoin de ces trois angles de vue, car chacun révèle une décision différente en matière de responsabilité, de contrôle ou de refonte.

La visibilité et les garde-fous offrent une troisième option

Cette tension explique le principe de gouvernance défendu par Brown : dans une organisation augmentée par l’IA, les garde-fous rendent la vitesse soutenable. Selon cette approche, la gouvernance crée les conditions permettant à l’expérimentation de se poursuivre tout en maintenant visibles la responsabilité et le risque. Les garde-fous créent de la visibilité et des points d’intervention, permettant au travail décentralisé de se développer dans des limites que les dirigeants peuvent comprendre.

Campminder en fournit un exemple avec un outil de développement de carrière conçu par la directrice people de Brown. L’équipe people peut voir les questions que les employés soumettent à l’outil, ce qui lui donne une visibilité suffisante pour identifier les cas où une personne doit intervenir dans l’échange. La supervision humaine est donc liée aux situations que les employés portent réellement au système, ce qui permet à l’équipe de répondre aux besoins à mesure qu’ils apparaissent.

Le moment où cette visibilité intervient compte, car Campminder l’a intégrée à l’outil de développement de carrière dès le départ. Un inventaire peut dire aux dirigeants ce qui existait le jour où ils l’ont établi, mais les workflows, les utilisateurs et les dépendances continuent d’évoluer. L’observabilité persistante, c’est-à-dire la capacité continue à voir ce qu’un système fait, permet de garder l’environnement opérationnel compréhensible à mesure que ces conditions changent.

Ce modèle opérationnel est encore en cours de développement, tandis que Campminder construit et diffuse son modèle de gouvernance de l’IA. Brown considère la participation des employés comme une composante du mécanisme de gouvernance, car cette participation influe sur le fait que les employés s’approprient ou non les règles qui en résultent. Brown formule ce point ainsi : « You don’t bolt a policy onto a culture and call it done, because people need a hand in building it to feel any ownership over it », la participation des employés contribuant à façonner la manière dont ces règles évoluent.

Le même besoin de visibilité continue a conduit Zapier à un mécanisme différent. L’usage individuel de l’IA dans l’entreprise était fort, tandis que la visibilité à l’échelle de l’organisation était insuffisante. Brandon Sammut, directeur des ressources humaines chez Zapier, a décrit un système qui collecte des données d’usage depuis les endroits où les employés utilisent l’IA, y compris le propre produit de Zapier ainsi que des produits d’Anthropic et d’OpenAI. Comme le propre produit de Zapier fait partie des outils mesurés, l’entreprise a un intérêt commercial à un usage plus large de l’IA ; le système consolide ces enregistrements dans un data lake unique et exécute un reporting automatisé sur l’ensemble des données combinées.

Ces enregistrements consolidés alimentent des rapports envoyés par messages directs privés au début de chaque mois. Chaque rapport couvre l’activité du mois précédent et formule des recommandations en fonction de la manière dont l’employé a utilisé l’IA. Zapier exclut délibérément les classements d’usage et les comparaisons entre collègues, de sorte que le reporting se concentre sur l’amélioration des choix individuels.

Un employé chargé des avantages sociaux, par exemple, peut utiliser de façon routinière le modèle disponible le plus coûteux pour un travail qu’un modèle moins cher pourrait traiter. Le rapport peut identifier ce schéma et recommander l’option moins coûteuse. Il stocke également les recommandations antérieures et ajuste ensuite les suivantes en conséquence, ce qui signifie que la supervision réagit à l’historique d’usage d’un employé au lieu de répéter chaque mois une règle statique. L’entreprise obtient des informations sur lesquelles elle peut agir, tandis que les employés reçoivent des conseils liés à leur travail réel.

Ces recommandations fonctionnent parallèlement à un plafond de dépenses que Zapier conserve. Sammut en a décrit l’objectif comme un moyen d’intercepter des coûts exceptionnellement incontrôlés dus à un agent mal configuré ou à une clé volée, tandis que l’usage ordinaire des employés peut se poursuivre dans le système. Si quelqu’un a besoin que ce plafond soit relevé, il peut en faire la demande en envoyant un message dans un canal Slack. Le contrôle cible un mode de défaillance précis et maintient un parcours léger pour l’activité légitime.

Cette finalité étroite devient plus claire à travers les mécanismes que Zapier a envisagés puis rejetés. Les classements d’usage étaient une option, tout comme des plafonds de dépenses stricts. Selon Sammut, les deux auraient encouragé des comportements de conformité et produit des informations moins utiles ; Zapier a donc choisi des recommandations privées et une limite d’urgence étroitement ciblée. Le système de gouvernance peut alors apprendre comment l’IA est utilisée tout en réservant son contrôle le plus fort au risque exceptionnel de dépenses.

Les exemples de Campminder et de Zapier relient la visibilité à des décisions opérationnelles différentes. Campminder peut voir les interactions susceptibles de nécessiter une intervention humaine et implique les employés dans l’élaboration de la gouvernance ; Zapier consolide les données d’usage et les transforme en recommandations individualisées tout en réservant une limite stricte au risque exceptionnel de dépenses. Dans les deux cas, la visibilité permet à l’organisation d’observer l’activité, d’exercer son jugement et d’intervenir lorsqu’un risque défini apparaît.

Auditez les dépendances avant de rédiger une nouvelle restriction

Ces mécanismes de visibilité indiquent la tâche immédiate des dirigeants qui découvrent une IA décentralisée : établir ce que l’organisation possède déjà. Une rétrospective utile porte sur les six derniers mois, car des expérimentations apparemment personnelles ont peut-être déjà intégré des rapports, des décisions et des processus opérationnels pendant cette période. L’audit doit retracer les créateurs, les responsables, les dépendances et les données accessibles afin que les dirigeants puissent comprendre les workflows derrière les produits d’IA que les employés ont ouverts.

Quatre questions rendent cette enquête concrète :

• « Qu’est-ce qui a été construit au cours des six derniers mois, et par qui ? »
• « Qui est responsable de chacun de ces workflows une fois que la personne qui l’a créé change de rôle ? »
• « Lesquels se trouvent désormais au sein d’un processus dont l’entreprise dépend ? »
• « À quelles données ces workflows peuvent-ils accéder ? »

Ces réponses établissent la lisibilité, c’est-à-dire que les dirigeants peuvent identifier les workflows, les personnes qui en sont responsables, les processus métier qui s’appuient sur eux et l’étendue de leur accès aux données. Avec ces informations, les dirigeants peuvent décider quelles expérimentations doivent être formalisées, quels workflows sous-jacents doivent être repensés et où des contrôles sont justifiés. Un contournement financier devenu une dépendance de reporting, par exemple, pose un problème de gouvernance différent d’une expérimentation de rédaction isolée, même si les deux utilisent le même fournisseur d’IA approuvé.

Cet audit établit un état de départ, car l’environnement continue d’évoluer une fois l’examen terminé. Les employés créent de nouveaux workflows, ceux qui existent déjà gagnent de nouveaux utilisateurs, les créateurs changent de rôle et les dépendances se propagent. L’outil de développement de carrière de Campminder fournit l’exemple précédent du principe de conception le plus robuste : une visibilité continue permet aux personnes responsables de voir les situations émergentes et d’exercer un jugement humain au moment où elles se produisent. Un inventaire à date établit ce qui existe aujourd’hui, tandis qu’une observabilité persistante maintient cette vision opérationnelle à jour à mesure que les workflows évoluent.

Points clés à retenir pour les dirigeants

• Suivez le succès avant qu’il ne devienne du chaos debt : Une IA créée par les employés et utile peut se diffuser dans les processus métier avant que la gouvernance formelle ne rattrape son retard. Les équipes de direction ont besoin de visibilité sur la responsabilité et les dépendances à mesure que l’adoption progresse.
• Attribuez des responsables aux workflows critiques : Un workflow d’IA devient une infrastructure lorsque d’autres rapports, processus ou décisions dépendent de son résultat. Les responsables métier et technologiques doivent documenter qui maintient chaque workflow critique et ce qui casse lorsqu’il évolue.
• Traitez le shadow AI comme un signal d’exigences : Les contournements mis en place par les employés révèlent des lacunes dans la finance, le support, le recrutement et d’autres workflows officiels. Les équipes technologiques et opérationnelles peuvent capter ces besoins non satisfaits avant de restreindre ou de remplacer des implémentations officieuses.
• Intégrez la visibilité à la gouvernance de l’IA : Une observabilité persistante donne aux organisations une vision actuelle de l’usage, des dépendances et des situations nécessitant une intervention. Campminder et Zapier montrent comment une supervision ciblée peut préserver l’expérimentation tout en traitant des risques définis.
• Auditez les dépendances avant d’ajouter des restrictions : Passez en revue les workflows d’IA construits au cours des six derniers mois, y compris leurs créateurs, leurs responsables, leurs dépendances métier et leur accès aux données. Utilisez cet inventaire pour décider quelles expérimentations nécessitent une responsabilité formelle, une refonte des workflows ou des contrôles plus stricts.