Pourquoi les entreprises ne peuvent pas se fier aux modèles de langage de grande envergure (LLM) alors que les fournisseurs d’IA ne cessent de modifier les règles

Les entreprises disposent d’un contrôle et d’une visibilité limités sur les systèmes d’IA générative

Aujourd’hui, les entreprises dépendent des systèmes d’IA générative bien plus qu’elles ne le pensent. Le problème, c’est que ces systèmes évoluent plus rapidement que la plupart des équipes informatiques ne peuvent le suivre. Les fournisseurs peuvent modifier des fonctions, ajuster les niveaux d’intelligence ou redéfinir les comportements décisionnels sans jamais consulter le client. Ce qui était stable mardi peut se comporter différemment dès jeudi. Cette imprévisibilité rend les opérations de l’entreprise plus risquées, en particulier lorsque l’IA est intégrée dans des domaines en contact direct avec la clientèle ou soumis à des exigences de conformité.

Pour les dirigeants de haut niveau, ce manque de contrôle se traduit directement par un risque pour l’entreprise. Il est essentiel de pouvoir compter sur des performances prévisibles lorsque votre organisation est soumise à des réglementations, aux attentes des actionnaires et à des garanties de niveau de service. Lorsque les responsables informatiques ne peuvent pas affirmer avec certitude comment une plateforme d’IA se comportera demain, la planification stratégique devient incertaine. Les structures de gouvernance habituelles, conçues pour des déploiements SaaS ou cloud deployments ne sont pas encore adaptées aux systèmes d’IA qui apprennent, se mettent à jour et réinterprètent les tâches en permanence.

La confiance des entreprises repose désormais sur la traçabilité. Les entreprises doivent s’assurer que les modèles qui sous-tendent les analyses et les décisions sont aussi fiables que n’importe quel autre outil métier essentiel. Cela implique d’exiger de la transparence de la part des fournisseurs, de militer pour un contrôle plus clair des versions des systèmes d’IA et d’obtenir des garanties quant à la stabilité des modèles dans le temps. Il ne suffit plus de se fier aux assurances données par les fournisseurs. Les dirigeants doivent trouver un équilibre entre innovation et certitude opérationnelle afin de garantir la cohésion et la protection de l’organisation.

Les fournisseurs d’IA modifient régulièrement le comportement de leurs modèles sans en informer leurs clients

Le rapport d’Anthropic d’avril 2024 a révélé ce que la plupart des spécialistes du secteur soupçonnaient déjà : les fournisseurs apportent des modifications importantes aux modèles en arrière-plan sans en informer les clients, jusqu’à ce que les utilisateurs se plaignent. Il ne s’agissait pas de simples mises à jour mineures ; elles comprenaient notamment des modifications apportées aux capacités de raisonnement et aux fonctions de mémoire de Claude Code. Le 4 mars, Anthropic a abaissé le niveau d’effort de raisonnement de « élevé » à « moyen » afin de réduire le temps de réponse. Les utilisateurs ont rapidement constaté une baisse de qualité, ce qui a poussé l’entreprise à revenir sur cette modification le 7 avril. Une autre mise à jour, le 26 mars, a introduit une fonction d’effacement de la mémoire destinée à améliorer les performances, mais celle-ci a entraîné un comportement erratique et des pertes de mémoire. Ce problème a été corrigé le 10 avril, là encore à la suite du tollé des utilisateurs.

Pour les dirigeants, cela signifie que vous ne pouvez pas partir du principe que l’IA de votre entreprise se comporte de la même manière qu’hier. Les changements imposés par les fournisseurs peuvent affecter la productivité, la qualité des décisions et même les rapports de conformité, sans aucun préavis. La plupart de ces mises à jour sont effectuées avec de bonnes intentions, mais elles se font sans consulter le client. Ce manque de communication nuit à la confiance et oblige les DSI et les directeurs techniques à se livrer à une gestion de crise réactive, ce qui sape la confiance dans la stratégie d’IA de l’organisation.

Le message à retenir pour les dirigeants est simple : insistez sur la mise en place de protocoles de communication. Lorsque les fournisseurs modifient les modèles qui sous-tendent des opérations représentant des milliards de dollars, votre équipe doit en être informée immédiatement. La transparence est une nécessité concurrentielle. Les fournisseurs qui omettent d’informer leurs clients introduisent une instabilité qu’aucune entreprise ne peut se permettre. Le rôle de la direction consiste à définir clairement les attentes dès le départ, à exiger la transparence, à surveiller les indicateurs de performance et à s’assurer que la gouvernance de l’IA au sein de votre organisation inclut la responsabilité de chaque partenaire impliqué.

La complexité et l’interdépendance des systèmes d’IA générique rendent difficiles la détection et la reproduction des problèmes de performance

Les systèmes GenAI fonctionnent d’une manière que les logiciels traditionnels n’ont jamais connue. Chaque résultat est façonné par d’innombrables paramètres interdépendants, des données, des versions de modèles, le contexte des invites et les conditions de trafic en temps réel. Cette complexité rend difficile de déterminer quand un véritable dysfonctionnement se produit ou quand un problème observé n’est qu’une variation statistique. Les conclusions internes d’Anthropic ont démontré que, lorsque les utilisateurs ont signalé des performances peu fiables en mars 2024, les ingénieurs ont eu du mal à reproduire ce même comportement dans des conditions contrôlées. Le problème ne tenait pas à une négligence, mais à la nature imprévisible du comportement du modèle lui-même.

Pour les dirigeants, cela pose un dilemme en matière de suivi. Même avec des ingénieurs de haut niveau, il est difficile de savoir quand un outil d’IA est sous-performant ou s’écarte de la qualité attendue. On ne peut pas gérer ce qu’on ne peut pas reproduire. L’absence de résultats déterministes signifie que les équipes informatiques ont besoin d’outils offrant une visibilité plus approfondie et de cadres de reporting plus robustes. Sans eux, de légères baisses de performances peuvent passer inaperçues jusqu’à ce qu’elles commencent à affecter les résultats de l’entreprise, par exemple sous la forme de temps de réponse plus longs, d’une précision réduite ou de résultats moins performants dans les services qui s’appuient sur le même modèle.

Les dirigeants devraient donner la priorité aux investissements dans les infrastructures d’observabilité et de retour d’information. Les entreprises ne peuvent pas se contenter de se fier aux rapports de performance fournis par les fournisseurs. Il est au contraire essentiel de mettre en place un système de surveillance interne qui teste en permanence la précision, la latence et la cohérence des modèles. Les entreprises qui maîtrisent leurs propres processus de validation conserveront la confiance dans les résultats de leur IA, tandis que les autres auront du mal à comprendre ce qui n’a pas fonctionné et pourquoi.

Les incitations économiques peuvent amener les fournisseurs à privilégier le chiffre d’affaires au détriment d’une performance constante

Le modèle économique actuel de la plupart des fournisseurs d’IA est basé sur l’utilisation, souvent mesurée en jetons. Cette conception incite commercialement les entreprises à apporter des modifications subtiles qui augmentent la consommation de jetons au fil du temps. Chaque étape de raisonnement supplémentaire ou chaque résultat plus détaillé se traduit par une augmentation des revenus. Anthropic, OpenAI et d’autres entreprises similaires reconnaissent toutes ces contraintes. Anthropic, par exemple, a expliqué qu’elle ajustait les « niveaux d’effort » de ses modèles afin de trouver un équilibre entre la qualité du raisonnement, la vitesse et la consommation de jetons. Mais cette même flexibilité peut créer des conflits entre l’optimisation de l’expérience utilisateur et la maximisation des revenus.

Pour les entreprises, ces dynamiques financières doivent faire l’objet d’un examen minutieux. Lorsque la performance et les coûts sont si étroitement liés, même des ajustements bien intentionnés peuvent faire pencher la balance de manière défavorable pour les clients. En l’absence de transparence dans la communication des informations et d’analyses comparatives indépendantes des performances, les organisations ne peuvent pas s’assurer pleinement que les changements apportés constituent bel et bien des améliorations opérationnelles plutôt que de simples optimisations des revenus.

Les dirigeants doivent aborder cette question dès le début des négociations contractuelles. Exigez une documentation claire précisant comment les indicateurs de performance du modèle sont définis, quels sont les éléments déclencheurs des ajustements et comment ces derniers pourraient influencer l’exposition aux coûts. Un partenaire fiable vous fournira des tableaux de bord objectifs sur l’utilisation et des données de performance, ce qui vous permettra de vérifier l’efficacité du modèle plutôt que de la supposer. À long terme, les entreprises qui alignent les incitations des fournisseurs sur les résultats pour les clients, plutôt que sur la simple consommation, construiront des écosystèmes d’IA plus solides et plus fiables, et passeront moins de temps à gérer les imprévus.

Même les améliorations en matière d’efficacité, bien qu’elles partent d’une bonne intention, peuvent entraîner des régressions opérationnelles imprévues

La mise à jour d’Anthropic du 26 mars illustre parfaitement les conséquences imprévues pouvant survenir dans le cadre de l’exploitation de l’IA. Cette modification visait à rendre Claude plus rapide et moins coûteux grâce à une meilleure mise en cache des prompts. Au lieu de cela, un bug logiciel a entraîné l’effacement répété de la mémoire du système au cours des sessions actives. Cela a réduit les performances, fait oublier au modèle les étapes précédentes et produit des résultats incohérents. Le problème a persisté jusqu’à ce qu’il soit résolu le 10 avril. Ces détails montrent à quel point même de légères modifications du code dans les modèles d’IA générative peuvent avoir des effets visibles et perturbateurs.

Pour les dirigeants, le message est clair : toute décision visant à améliorer l’efficacité des systèmes d’IA comporte des risques. Des changements qui semblent mineurs au niveau technique peuvent modifier le fonctionnement du modèle pour les utilisateurs finaux, parfois d’une manière qui nuit à la confiance et à la fiabilité. Les produits d’IA sont des systèmes à plusieurs niveaux, caractérisés par une interconnectivité profonde entre les logiciels, les données et la logique du modèle. Cela signifie que toute modification doit faire l’objet de tests rigoureux dans des conditions reflétant les charges de travail réelles de l’entreprise.

Les dirigeants devraient exiger des engagements plus fermes en matière d’assurance qualité dans les contrats conclus avec les fournisseurs. Ceux-ci devraient inclure une validation préalable à la mise en production sur des cas d’utilisation représentatifs, des mécanismes de retour en arrière plus rapides et des notifications immédiates aux clients en cas de problème. Des erreurs se produiront inévitablement, mais c’est la rapidité avec laquelle les fournisseurs les détectent, les signalent et les corrigent qui déterminera si la relation s’en trouve renforcée ou affaiblie. Les entreprises qui exigent des protocoles d’intervention explicites seront moins confrontées à des imprévus et s’en remettront plus rapidement lorsqu’ils se produiront.

La transparence et la communication éthique apparaissent comme des facteurs clés de différenciation pour les fournisseurs

La décision d’Anthropic de publier les détails de ses problèmes opérationnels était pragmatique. Elle a démontré que la transparence peut limiter les atteintes à la réputation et renforcer la confiance des utilisateurs, même après des revers techniques. Si la transparence de l’entreprise n’excuse pas les erreurs commises, elle établit un précédent nécessaire quant à la manière dont les fournisseurs d’IA devraient gérer la gestion du changement au sein de systèmes dynamiques et à fort impact. À l’inverse, les fournisseurs qui dissimulent ou minimisent ces informations exposent leurs clients à une incertitude inutile.

Pour les cadres dirigeants, la transparence est devenue un avantage concurrentiel mesurable. Le marché de l’IA est saturé, et les fournisseurs se font souvent concurrence en avançant des allégations de performances difficiles à vérifier. Une véritable responsabilité, la communication en temps opportun des mises à jour, des journaux de modifications détaillés et une communication honnête après incident détermineront de plus en plus quels partenaires sont dignes de confiance pour gérer les charges de travail critiques de l’entreprise. Cette transparence doit aller au-delà des détails techniques pour inclure des déclarations claires concernant les incitations commerciales et les pratiques de traitement des données.

Les conseils d’administration et les équipes de direction doivent désormais considérer les normes de transparence comme un élément essentiel de la diligence raisonnable vis-à-vis des fournisseurs. L’attente évolue, passant du principe « faire confiance jusqu’à preuve du contraire » à celui de « vérifier avant de s’engager ». Les entreprises qui sélectionnent leurs partenaires en se fondant sur une intégrité avérée et des structures de reporting claires réduiront leurs risques opérationnels et renforceront leur réputation en matière d’adoption responsable de l’IA. Une communication éthique de la part des fournisseurs est fondamentale pour garantir la performance durable de l’entreprise et la confiance.

Les entreprises doivent surveiller en interne les performances de l’IA afin d’en garantir la fiabilité et la responsabilité.

La réponse la plus efficace face aux mises à jour imprévisibles des fournisseurs réside dans la surveillance interne. Les entreprises ne peuvent pas compter uniquement sur le fournisseur pour contrôler la précision, la latence ou l’utilisation des jetons. Ces indicateurs doivent être collectés et analysés en continu au sein de l’organisation. La surveillance de la cohérence des modèles entre les tâches, les services et les périodes permet aux équipes de détecter rapidement toute dérive de performance, avant qu’elle n’affecte la prestation de services. À mesure que l’IA s’intègre dans les processus décisionnels et les processus en contact avec la clientèle, un système de retour d’information robuste devient une exigence opérationnelle fondamentale, et non plus une simple préoccupation informatique.

Pour les équipes de direction, la mise en œuvre d’une telle supervision implique de définir la gouvernance de l’IA comme faisant partie intégrante de l’infrastructure de performance de l’entreprise. Cela inclut une responsabilité clairement définie au sein des équipes chargées des données, de l’ingénierie et de la conformité. Les dirigeants doivent veiller à ce que les outils de surveillance de l’IA soient liés à des résultats mesurables, aux taux de précision, aux délais de traitement, au coût par inférence et à la conformité. Lorsque ces chiffres dépassent les seuils prévus, un processus défini d’examen et d’intervention doit être immédiatement mis en œuvre. Cette approche transforme la fiabilité de l’IA, qui passe d’un idéal abstrait à une discipline mesurable et gérable.

Les dirigeants doivent promouvoir l’observabilité en temps réel dans l’ensemble des flux de travail liés à l’IA, à l’aide de tableaux de bord transparents qui traduisent les données techniques en informations métier claires. La surveillance interne est également essentielle pour valider le retour sur investissement. Les conseils d’administration exigent des preuves démontrant que les déploiements d’IA améliorent l’efficacité, permettent de réaliser des économies ou augmentent la productivité. En l’absence de mécanismes de suivi quantifiables, ces justifications ne restent que des hypothèses.

Les organisations qui disposent de leurs propres données de performance peuvent négocier de meilleures conditions contractuelles, exiger des comptes de la part de leurs fournisseurs et préserver leur confiance dans leur infrastructure technologique. En prenant en main le processus de surveillance, les entreprises renforcent à la fois leur résilience technique et leur contrôle stratégique, deux éléments qui déterminent la réussite durable sur les marchés axés sur l’IA.

En conclusion

Les dirigeants se trouvent à un tournant décisif dans la manière dont ils gèrent leurs partenariats en matière d’IA. La pression en matière d’innovation est forte, mais sans surveillance, cette innovation peut, à son insu, nuire à la fiabilité et au contrôle. La réalité est simple : les systèmes d’IA sont désormais au cœur de la création de valeur des entreprises, et la manière dont les fournisseurs gèrent les mises à jour a une incidence directe sur la stabilité opérationnelle, le respect de la conformité et la confiance des clients.

Les décideurs ont besoin de bien plus que de simples promesses de la part des fournisseurs. Ils ont besoin d’une responsabilité vérifiable, de rapports transparents et de systèmes internes conçus pour surveiller les performances de l’IA en temps réel. Lorsque votre activité dépend d’un modèle que vous ne contrôlez pas, la gouvernance devient une nécessité stratégique.

Les entreprises qui sortiront gagnantes de cette prochaine phase d’adoption de l’IA seront celles qui considèrent la transparence et la surveillance comme des principes fondamentaux de leur activité. Elles n’attendront pas que les fournisseurs leur signalent les changements, mais les détecteront elles-mêmes en premier. Cette approche ne se contente pas d’éviter les perturbations ; elle renforce la confiance, préserve le retour sur investissement et garantit un avantage concurrentiel à long terme dans un environnement où la technologie ne cesse d’évoluer.