Les budgets IA progressent plus vite que leur contrôle

Une part importante des dépenses d’IA des entreprises est gaspillée

L’adoption de l’IA progresse rapidement. Les contrôles des coûts n’avancent pas au même rythme. Selon le rapport de Harness, un dollar sur quatre dépensé en IA est gaspillé. Pour les dirigeants qui augmentent les budgets consacrés à l’IA, cela représente un problème d’efficacité significatif.

Le défi ne tient pas simplement au fait que les entreprises dépensent davantage. L’IA se diffuse dans l’ingénierie, les opérations, les logiciels de productivité et d’autres fonctions de l’entreprise. Sans garde-fous clairs, les équipes peuvent acheter des outils qui se chevauchent, exploiter des services sans supervision suffisante et continuer à payer pour des produits d’IA qui apportent une valeur métier limitée. L’innovation reste importante, mais l’expérimentation sans visibilité sur les coûts devient coûteuse à grande échelle.

Cela change la nature de la discussion au niveau de la direction générale. L’objectif ne devrait pas être de minimiser les dépenses d’IA. Il devrait être de comprendre ce que l’organisation achète, qui est responsable de chaque dépense, dans quelle mesure chaque produit est utilisé et quel résultat l’investissement produit. Un budget IA en forte croissance peut se justifier s’il crée une valeur mesurable. Le gaspillage, non.

La nuance pour les dirigeants est qu’une réduction agressive des coûts peut créer un autre problème. L’IA reste une technologie en évolution, et une partie de l’expérimentation échouera inévitablement. Les organisations doivent donc distinguer l’expérimentation productive des dépenses non maîtrisées. Des budgets clairs, un suivi de l’usage, des responsables désignés et des résultats mesurables peuvent apporter cette discipline sans ralentir l’innovation utile.

Le point de données central est important : Harness indique qu’environ 25 % des dépenses d’IA sont gaspillées. Si l’investissement dans l’IA continue de croître, le simple maintien de ce taux de gaspillage transformerait un problème gérable en un enjeu financier bien plus important. Améliorer l’efficacité tôt donne aux entreprises davantage de capacité pour financer des projets d’IA qui sont réellement performants.

Les coûts de l’IA sont plus complexes que les dépenses IT ou cloud traditionnelles

Gérer les dépenses d’IA est difficile parce qu’il n’existe pas une facture unique pour l’IA. Les coûts peuvent apparaître dans l’infrastructure de calcul, les modèles de base, les abonnements logiciels, les services managés, les copilots et d’autres produits d’IA. Chaque catégorie peut avoir un modèle tarifaire différent et un responsable interne différent.

Les dépenses cloud traditionnelles sont souvent plus faciles à rattacher à des ressources comme les serveurs et le stockage. L’IA introduit des variables supplémentaires. Une entreprise peut payer l’usage des modèles en fonction de la consommation, acheter des fonctionnalités d’IA via des abonnements logiciels, exploiter sa propre infrastructure et utiliser des services managés en même temps. Harness indique également que la plupart des organisations travaillent avec trois grands fournisseurs d’IA ou plus, chacun ayant sa propre structure tarifaire.

Cette fragmentation compte au niveau de la direction générale. La finance peut voir les abonnements. L’ingénierie peut voir la consommation des modèles et de l’infrastructure. Les achats peuvent voir les contrats fournisseurs. Les business units peuvent acheter leurs propres outils d’IA. Tant que ces données ne sont pas reliées, la direction peut avoir une vision techniquement exacte des dépenses individuelles tout en manquant d’une vision fiable des dépenses totales d’IA.

Les dirigeants devraient donc traiter la gestion des coûts de l’IA comme une responsabilité transverse. La finance, les achats, l’ingénierie, l’IT et les responsables métier ont besoin de définitions cohérentes de ce qui compte comme dépense d’IA. Un reporting centralisé peut ensuite montrer les coûts par fournisseur, produit, équipe, projet et, idéalement, résultat métier. Cela rend la budgétisation et les prévisions nettement plus utiles.

Utiliser plusieurs fournisseurs d’IA n’est pas intrinsèquement inefficace. Différents fournisseurs peuvent offrir des avantages en matière de capacités, de fiabilité, de prix, de disponibilité géographique ou de levier de négociation. Consolider les fournisseurs uniquement pour simplifier le reporting pourrait supprimer une flexibilité utile. Le meilleur objectif est la visibilité : le management doit savoir pourquoi chaque fournisseur est utilisé et si sa contribution justifie son coût.

Le constat de Harness selon lequel la plupart des organisations utilisent au moins trois grands fournisseurs d’IA montre pourquoi les processus budgétaires IT conventionnels peuvent avoir du mal à suivre. Les entreprises qui résolvent ce problème tôt auront une compréhension plus claire de l’économie de l’IA. Cela crée une marge pour investir plus intelligemment.

Les outils de productivité IA deviennent un coût majeur mais difficile à suivre

Les copilots IA, les assistants de codage et les autres outils de productivité représentent une part de plus en plus significative des dépenses d’IA des entreprises. Le problème, c’est la visibilité. Ces produits sont souvent achetés comme des abonnements logiciels standard, de sorte que leurs coûts peuvent être intégrés aux budgets SaaS existants au lieu d’apparaître comme des dépenses d’IA dédiées.

Cela rend le coût réel de l’IA facile à sous-estimer. Différents départements peuvent acheter des outils distincts, des employés peuvent recevoir des licences qu’ils utilisent rarement, et plusieurs produits peuvent offrir des capacités similaires. Chaque dépense peut sembler raisonnable prise isolément. À l’échelle d’une grande organisation, cependant, les licences inutilisées et les produits redondants peuvent générer des coûts substantiels.

Pour les dirigeants, la question importante n’est pas simplement de savoir combien d’outils d’IA l’entreprise a achetés. L’enjeu est de savoir si les collaborateurs les utilisent réellement et si cet usage produit des résultats mesurables. Pour un assistant de codage, cela peut inclure des évolutions de la vitesse de développement, de la qualité logicielle ou du temps consacré aux tâches répétitives. Pour un copilot de productivité généraliste, les dirigeants peuvent examiner l’adoption, la fréquence d’utilisation, le temps gagné et la capacité de l’outil à améliorer des processus métier spécifiques.

Une faible adoption initiale ne signifie pas automatiquement qu’un produit n’a aucune valeur. Les employés peuvent avoir besoin de formation, les workflows peuvent devoir évoluer, et certains outils apportent davantage de bénéfices à des rôles spécifiques qu’à l’ensemble de la main-d’œuvre. Les dirigeants devraient donc éviter à la fois les renouvellements automatiques et les annulations prématurées. L’usage et les résultats métier devraient guider ces décisions.

Le rapport Harness identifie les logiciels de productivité, y compris les copilots IA et les assistants de codage, comme l’un des principaux moteurs de coûts de l’IA. Il ne fournit pas de pourcentage précis pour cette catégorie dans le texte fourni. Cette distinction est importante : les éléments disponibles confirment l’importance de cette catégorie, mais pas une estimation précise de sa part dans les dépenses totales d’IA.

Une faible visibilité, des prévisions insuffisantes et un manque de responsabilité limitent le contrôle des coûts de l’IA

De nombreuses entreprises dépensent des montants significatifs en IA sans disposer de systèmes fiables pour prévoir ou gérer ces dépenses. Selon Harness, plus de la moitié des répondants prévoient les dépenses d’IA sur la base d’estimations plutôt que de données, tandis que plus de 40 % s’appuient encore sur des feuilles de calcul pour gérer les coûts.

Cette approche devient de plus en plus risquée à mesure que les budgets IA augmentent. La consommation d’IA peut évoluer rapidement à mesure que davantage d’employés adoptent les outils, que les applications génèrent plus de requêtes vers les modèles ou que les équipes étendent les déploiements. Si les informations de coûts arrivent tard, les DAF et les responsables technologiques peuvent constater un dépassement budgétaire mais disposer de peu de moyens pour l’empêcher.

Le problème va aussi au-delà des prévisions. Quelqu’un doit être responsable de la dépense. Les équipes d’ingénierie comprennent la consommation technique, la finance contrôle les budgets, les achats gèrent les contrats, et les business units comprennent le résultat attendu. Sans responsabilité claire entre ces fonctions, chaque équipe peut détenir une partie de l’information sans que personne n’ait une vision complète.

Harish Doddala, vice-président du Cloud et de la gestion des coûts IA chez Harness, a souligné à quel point ce problème est répandu : “Ce qui m’a le plus surpris, ce n’est ni l’ampleur des dépenses ni la vitesse de la croissance, mais la constance des lacunes, quelle que soit la taille ou la zone géographique.” Il a ajouté : “Le problème de visibilité, le problème de responsabilité, le problème de prévision apparaissent que vous dépensiez 300 000 dollars par mois ou 3 millions.”

Pour les dirigeants de la direction générale, cela suggère que la seule échelle ne résoudra pas le problème. Doddala estime que le temps ne suffira pas à combler les lacunes de visibilité ; les organisations ont besoin d’investissements ciblés. Cela peut inclure un reporting centralisé, des responsables budgétaires explicitement désignés, de meilleures prévisions fondées sur la consommation réelle et des informations de coûts intégrées aux workflows d’ingénierie.

Les feuilles de calcul ne sont pas intrinsèquement inefficaces, surtout pendant de petits projets pilotes ou les premières phases d’adoption. Le problème apparaît lorsque les dépenses d’IA deviennent distribuées, dynamiques et financièrement significatives. À ce stade, les processus manuels peuvent créer des retards, des définitions incohérentes et une responsabilité limitée.

Les chiffres de Harness rendent l’écart de gestion clair : plus de 50 % des répondants s’appuient sur des estimations pour prévoir les dépenses d’IA, et plus de 40 % utilisent des feuilles de calcul pour gérer les coûts. Combiné à l’observation de Doddala selon laquelle les mêmes difficultés apparaissent pour des niveaux de dépenses mensuelles allant de 300 000 à 3 millions de dollars, le message pour les dirigeants est simple : une meilleure économie de l’IA exige de meilleures informations et des responsabilités clairement attribuées.

Les fournisseurs technologiques améliorent la gestion des coûts de l’IA, mais les entreprises ont toujours besoin de leurs propres contrôles

Les dépenses d’IA sont devenues suffisamment importantes et complexes pour que les fournisseurs technologiques développent de nouveaux outils afin d’aider leurs clients à les comprendre. Oracle et AWS ont introduit des fonctionnalités et des structures de facturation conçues pour améliorer la visibilité sur les coûts de l’IA. La Linux Foundation a également lancé un groupe spécifiquement consacré à la gestion des coûts.

Ces évolutions sont importantes parce que les dépenses d’IA peuvent être réparties entre l’infrastructure, l’usage des modèles, les services managés et les abonnements logiciels. De meilleures informations de facturation peuvent aider les équipes finance et technologie à identifier où va l’argent et comment la consommation évolue dans le temps. Elles peuvent aussi soutenir un reporting interne plus précis à mesure que les organisations étendent leur usage de l’IA.

Mais de meilleurs outils fournis par les fournisseurs ne créent pas automatiquement une visibilité financière complète. La plupart des organisations utilisent trois grands fournisseurs d’IA ou plus, selon Harness. Chaque fournisseur peut présenter l’usage, la tarification et la facturation différemment. Une entreprise peut donc disposer d’informations détaillées au sein de plateformes individuelles tout en ayant encore du mal à comprendre ses dépenses totales d’IA à l’échelle de l’organisation.

Les dirigeants de la direction générale devraient considérer les fonctionnalités de gestion des coûts proposées par les fournisseurs comme un élément d’une capacité interne plus large. La finance, les achats, l’ingénierie et l’IT ont besoin d’une méthode cohérente pour combiner les données des fournisseurs avec les abonnements logiciels et les autres dépenses liées à l’IA. La direction peut alors évaluer les dépenses par business unit, application, fournisseur et objectif métier plutôt que d’examiner séparément des factures isolées.

Il existe aussi un enjeu stratégique autour de la dépendance au reporting des fournisseurs. Les fournisseurs peuvent donner à leurs clients des informations détaillées sur la consommation au sein de leurs propres plateformes, mais les entreprises restent responsables de déterminer si cette consommation crée une valeur métier suffisante. La visibilité sur les coûts et la mesure de la valeur sont liées, mais ce sont deux tâches de gestion différentes.

La tendance est positive. Oracle et AWS renforcent la visibilité sur les coûts de l’IA, tandis que l’initiative de la Linux Foundation indique une attention plus large de l’industrie à la gestion des coûts. Les dirigeants devraient donc les évaluer sur la base d’améliorations mesurables en matière de prévision, d’allocation et de prise de décision, plutôt que de supposer que de nouveaux outils résoudront le problème à eux seuls.

Un contrôle efficace des coûts de l’IA exige une responsabilité claire, une visibilité centralisée et de la gouvernance au cœur des opérations quotidiennes

L’approche la plus solide de la gestion des coûts de l’IA commence par la responsabilisation. Harness indique que les organisations ayant une meilleure discipline des coûts attribuent les responsabilités tôt, centralisent la visibilité sur les coûts et intègrent les informations de dépenses dans les workflows d’ingénierie. Cela permet aux considérations financières de faire partie des décisions opérationnelles au lieu d’apparaître seulement après l’arrivée des factures.

Une responsabilité claire est particulièrement importante. Chaque déploiement d’IA significatif devrait avoir une personne responsable de ses dépenses et des résultats attendus. Cela ne signifie pas que la finance doit contrôler chaque décision technique. Cela signifie que les dirigeants doivent pouvoir identifier qui est responsable du budget, ce que l’investissement est censé produire, comment la consommation évolue et si les résultats justifient la poursuite de la dépense.

La visibilité centralisée constitue l’exigence suivante. Les entreprises doivent combiner les informations de dépenses provenant des fournisseurs de modèles, des plateformes cloud, des abonnements logiciels d’IA, des services managés et de l’infrastructure pertinente. Cela donne aux DAF et aux responsables technologiques une base plus complète pour les prévisions et l’allocation des ressources. Cela peut aussi révéler des produits en doublon, des capacités inutilisées, une consommation inattendue et des coûts que certains départements peuvent ne pas voir.

Harness recommande également d’intégrer les informations de coûts dans les workflows d’ingénierie. C’est important parce que les ingénieurs prennent souvent des décisions qui affectent directement la consommation d’IA. Donner aux équipes techniques des informations de coûts en temps utile leur permet de prendre en compte le prix au même titre que la performance, la fiabilité et les exigences produit pendant le développement et l’exploitation des systèmes.

OpenAI a formulé des recommandations similaires. Plus tôt dans le mois, OpenAI a exhorté les entreprises à améliorer la visibilité sur l’usage et les dépenses d’IA, à suivre les résultats des modèles et à intégrer la gouvernance dans les opérations quotidiennes. Le suivi des résultats est particulièrement important : des dépenses plus faibles ne sont pas nécessairement préférables si un modèle ou un service plus coûteux produit une valeur métier nettement supérieure.

Pour les dirigeants de la direction générale, la gouvernance devrait donc soutenir à la fois le contrôle et la croissance. Des processus d’approbation excessifs peuvent ralentir une expérimentation utile, tandis que des contrôles insuffisants peuvent permettre à des dépenses fragmentées de croître sans preuve de valeur. Les organisations peuvent répondre à ces deux préoccupations en fixant des seuils clairs : les expérimentations plus modestes peuvent fonctionner dans des budgets prédéfinis, tandis que les déploiements plus importants bénéficient d’une supervision financière et de performance renforcée.

Harness ne fournit pas, dans le texte fourni, de preuve quantitative montrant dans quelle mesure ces pratiques spécifiques réduisent les dépenses d’IA. Son rapport identifie l’attribution précoce des responsabilités, la visibilité centralisée et l’intégration aux workflows d’ingénierie comme des caractéristiques des organisations ayant une discipline des coûts plus forte. Combiné à la recommandation d’OpenAI de surveiller l’usage, les dépenses et les résultats, l’enjeu prioritaire pour les dirigeants est clair : la gouvernance de l’IA doit devenir une composante normale des opérations à mesure que l’investissement dans l’IA change d’échelle.

Principaux enseignements pour les dirigeants

• Contrôlez le gaspillage de l’IA avant que les budgets ne changent d’échelle : Harness indique qu’un dollar sur quatre consacré à l’IA est gaspillé. Les dirigeants devraient définir des garde-fous clairs sur les dépenses et relier les investissements en IA à des résultats métier mesurables sans restreindre l’expérimentation productive.
• Obtenez une vision complète des coûts de l’IA : Les dépenses d’IA couvrent l’infrastructure, les modèles, le SaaS et les services managés, tandis que la plupart des organisations utilisent trois grands fournisseurs ou plus. Centralisez les données de coûts afin que les responsables finance et technologie puissent voir la dépense totale et prendre des décisions d’allocation éclairées.
• Suivez les outils de productivité comme des investissements en IA : Les copilots et les assistants de codage sont des moteurs de coûts majeurs mais peuvent disparaître dans les budgets logiciels standard. Surveillez l’utilisation des licences, l’adoption et les gains de productivité mesurables avant d’étendre ou de renouveler les déploiements.
• Remplacez les estimations par des prévisions responsables : Plus de la moitié des organisations prévoient les dépenses d’IA à partir d’estimations, tandis que plus de 40 % s’appuient sur des feuilles de calcul. Désignez clairement les responsables budgétaires et utilisez des données de consommation à jour pour passer d’une réaction aux coûts à une gestion active de ceux-ci.
• Utilisez les outils de coûts des fournisseurs sans en dépendre : Oracle, AWS et des groupes sectoriels améliorent la visibilité sur les coûts de l’IA, mais le reporting au niveau des fournisseurs ne donne pas une vue complète de l’entreprise. Combinez ces capacités avec des contrôles internes qui mesurent les coûts entre fournisseurs et au regard de la valeur métier.
• Intégrez la gouvernance de l’IA aux opérations quotidiennes : Les organisations ayant une discipline des coûts plus forte attribuent les responsabilités tôt, centralisent la visibilité et intègrent les données de dépenses dans les workflows d’ingénierie. Les dirigeants devraient associer ces contrôles à un suivi des résultats afin que les équipes optimisent l’investissement en IA en fonction de la valeur.