Pourquoi l’IA coûte plus cher que prévu aux entreprises

Les dépenses des entreprises en matière d’IA sont fragmentées et difficiles à attribuer

Le coût d’un modèle d’IA ne représente qu’une partie de la facture. Les entreprises dépensent également pour des outils de développement, des plateformes de données, l’infrastructure informatique, la sécurité, l’intégration et, de plus en plus, des agents IA autonomes. Ces coûts relèvent souvent de budgets différents et sont gérés par des équipes distinctes. Il est donc difficile d’avoir une vue d’ensemble de l’investissement total.

Cela est important car les dépenses en IA deviennent de plus en plus dynamiques. Les budgets informatiques traditionnels peuvent souvent être estimés à partir d’une infrastructure, de licences logicielles et de besoins en personnel relativement stables. L’IA bouleverse ce modèle. La consommation peut augmenter rapidement à mesure que davantage d’employés utilisent l’IA, que les applications effectuent davantage d’appels de modèles et que les systèmes automatisés exécutent des tâches en continu.

Sundeep Goel, PDG de Mavvrik, a clairement décrit cette évolution : « L’IA modifie en profondeur la manière dont les infrastructures sont utilisées et dont les coûts s’accumulent. » Il a ajouté que les dépenses, autrefois prévisibles, deviennent « dynamiques, dispersées et de plus en plus difficiles à attribuer ».

Pour les dirigeants, la question de l’attribution des coûts est cruciale. Une entreprise peut savoir combien elle verse à un fournisseur d’IA, mais ne pas pour autant avoir une vision complète du coût de mise en œuvre d’un produit ou d’un processus métier basé sur l’IA. La préparation des données, l’infrastructure cloud, le développement logiciel, la surveillance, la sécurité et la gouvernance peuvent modifier considérablement la rentabilité. Sans ces chiffres, une initiative d’IA apparemment couronnée de succès peut présenter un retour sur investissement inférieur aux attentes de la direction.

Les données publiées par Wasabi Technologies ont révélé que près des deux tiers des entreprises ont dépassé leur budget de stockage dans le cloud en raison d’une utilisation imprévue et de frais de transfert sortants. L’intelligence artificielle introduit une nouvelle dimension de consommation variable, ce qui rend d’autant plus important un suivi rigoureux des coûts.

L’objectif de la direction devrait donc être de privilégier la visibilité avant l’optimisation. Les entreprises doivent identifier qui utilise l’IA, quelles applications génèrent des coûts, quels processus métier en bénéficient et quel est le coût de production d’un résultat final. Une fois ces liens quantifiables, la direction pourra prendre de meilleures décisions en matière de budgets, de tarification, d’infrastructure et d’investissement.

Les agents IA autonomes peuvent augmenter le coût des tâches, même si le prix des modèles diminue

L’utilisation des modèles d’IA devient de moins en moins coûteuse à l’unité. Cela semble positif, et ça l’est. Cependant, la baisse des prix par « token » (les unités utilisées par les modèles pour traiter et générer des informations) ne se traduit pas automatiquement par une réduction des coûts pour l’entreprise.

La raison en est l’IA agentique. Un agent d’IA peut effectuer une séquence d’actions avec une intervention humaine limitée. Au lieu de répondre à une seule requête, il peut analyser des informations, faire appel à d’autres logiciels, rechercher des données supplémentaires, reconsidérer une réponse et exécuter plusieurs étapes avant de mener à bien une tâche. Chaque action peut mobiliser des ressources informatiques et une capacité de modèle supplémentaires.

Rita Sallam, responsable de la recherche en données et analyse chez Gartner, a mis en avant un indicateur clé : le coût par tâche accomplie. Elle a déclaré à CIO Dive que, même si les coûts unitaires bruts des modèles sont peut-être en baisse, « le coût réel par tâche accomplie augmente à mesure que les flux de travail automatisés gagnent en complexité et nécessitent un raisonnement plus avancé ».

La tarification à l’usage rend cet aspect particulièrement important. Si un processus autonome nécessite de nombreuses interactions avec des modèles pour atteindre un résultat métier, un prix unitaire modeste peut tout de même entraîner une facture totale considérable. M. Sallam a averti que les flux de travail complexes impliquant des agents autonomes peuvent générer des coûts qui « dépassent souvent les économies financières qu’ils étaient censés permettre ».

Cela modifie les indicateurs que les dirigeants doivent prendre en compte. Le coût par jeton est utile pour les achats techniques, mais il ne répond pas à la question commerciale. La direction doit connaître le coût total lié au traitement d’une demande d’indemnisation, à la résolution d’une demande client, à la génération d’une opportunité commerciale qualifiée, à la réalisation d’une analyse ou à l’exécution de toute autre tâche commerciale mesurable. Ce chiffre peut ensuite être comparé aux économies de main-d’œuvre, aux revenus supplémentaires, aux gains de rapidité, à la qualité et à d’autres avantages.

Une augmentation des dépenses en IA n’est pas mauvaise en soi. Un agent plus coûteux peut générer une plus grande valeur économique en accomplissant le travail plus rapidement, en améliorant le service ou en permettant la mise en œuvre d’activités qui ne pouvaient auparavant pas être automatisées. Le problème survient lorsque la consommation augmente plus rapidement que la valeur commerciale mesurable.

Cela rend l’architecture et les indicateurs financiers étroitement liés. Les entreprises doivent pouvoir savoir combien d’appels de modèles un agent effectue, quels modèles il sélectionne, à quelle fréquence les tâches sont répétées et quel est le coût de chaque workflow achevé. À mesure que l’IA agentique se développe, ces indicateurs devraient s’intégrer dans la gestion courante de la performance des dirigeants. La baisse des prix des modèles crée des opportunités, mais le chiffre qui importe en fin de compte est la valeur économique générée une fois pris en compte le coût total de la réalisation du travail.

Une visibilité limitée sur les coûts peut perturber les décisions commerciales et les investissements dans l’IA

Les coûts imprévus liés à l’IA ne constituent pas seulement un problème financier. Ils peuvent modifier les décisions d’investissement, retarder les déploiements et contraindre les dirigeants à reconsidérer des projets ayant déjà bénéficié d’un financement. Lorsque la direction n’a pas une vision complète du coût d’une initiative d’IA, la planification financière perd de sa fiabilité.

Les répercussions peuvent se propager rapidement. Une consommation supérieure aux prévisions peut entraîner un réexamen d’urgence des dépenses. Les équipes financières peuvent imposer des contrôles plus stricts. Les DSI peuvent réduire la portée des déploiements ou reporter de nouveaux projets pendant que les équipes cherchent à déterminer où va l’argent. Dans certains cas, un projet d’IA peut sembler financièrement attractif pendant sa phase pilote, mais devenir nettement plus coûteux lorsque son utilisation s’étend à l’ensemble de l’entreprise.

Ray Rike, PDG de Benchmarkit, a résumé la question dans le rapport : « Tout le monde parle de l’IA et du retour sur investissement, mais le retour sur investissement est une question de calcul. Vous ne pouvez pas calculer le retour sur investissement avec précision si vous ne connaissez pas vos coûts. » Cette distinction revêt une importance particulière au niveau de la direction. Pour mesurer le succès de l’IA, il faut prendre en compte les deux termes de l’équation : la valeur économique générée et le coût total nécessaire pour la générer.

L’informatique Cloud illustre bien à quel point la variabilité des coûts technologiques peut prendre les organisations au dépourvu. Les données publiées par Wasabi Technologies ont révélé que près des deux tiers des entreprises ont dépassé leur budget de stockage dans le cloud en raison d’une utilisation imprévue et de frais de sortie. Les frais de sortie correspondent aux coûts liés au transfert des données hors de l’environnement d’un fournisseur de services cloud. Bien que le stockage dans le cloud et l’IA relèvent de catégories différentes, ce constat met en évidence le risque budgétaire qui survient lorsque les frais liés à la consommation ne sont pas pleinement compris.

L’IA peut compliquer davantage la situation, car les coûts proviennent de plusieurs sources. L’utilisation des modèles, l’infrastructure informatique, le traitement des données, l’intégration des applications, la surveillance, la sécurité et les outils de développement peuvent chacun avoir des structures tarifaires et des responsables distincts. Les agents autonomes peuvent ajouter une variabilité supplémentaire, car leur consommation dépend du nombre d’étapes, d’appels de modèles et de services externes nécessaires à la réalisation d’une tâche.

Les dirigeants ont donc besoin d’une visibilité financière au niveau où les décisions stratégiques sont prises. Connaître le coût total de l’IA pour l’entreprise est utile, mais insuffisant. Les dirigeants doivent comprendre la répartition des coûts par produit, par flux de travail, par unité opérationnelle, par modèle et, idéalement, par résultat commercial obtenu. Cela permet d’identifier les déploiements qui génèrent une valeur mesurable et ceux qui nécessitent une refonte ou des contrôles plus stricts.

L’objectif n’est pas simplement de réduire les dépenses. Il s’agit de rendre les dépenses liées à l’IA plus ciblées. Une meilleure répartition des coûts permet aux dirigeants d’avoir davantage confiance pour financer les applications performantes, améliorer celles qui sont inefficaces et mettre fin aux projets dont la rentabilité n’est plus justifiée. Cela crée une base plus solide pour développer l’IA à grande échelle, plutôt que de la limiter en raison d’une mauvaise compréhension des coûts.

Le FinOps s’étend de la gestion du cloud à l’IA

Les entreprises ont déjà l’habitude de gérer des dépenses technologiques variables. Le « FinOps », abréviation de « financial operations » (opérations financières), a vu le jour afin de rassembler les équipes financières, d’ingénierie, technologiques et commerciales dans le but de comprendre et d’optimiser les coûts liés au cloud. À mesure que les dépenses liées à l’IA gagnent en complexité, les organisations commencent à appliquer cette même approche à l’IA.

Cette évolution est importante car la méthode traditionnelle de budgétisation annuelle n’est pas bien adaptée à une utilisation très variable. La consommation d’IA peut évoluer à mesure que son adoption par les collaborateurs s’accroît, que les applications attirent davantage d’utilisateurs ou que les agents automatisés exécutent davantage de tâches. Les entreprises ont besoin d’informations plus fréquentes sur ce qu’elles consomment, sur le coût de cette consommation et sur la question de savoir si ces dépenses continuent de générer une valeur commerciale suffisante.

Le FinOps peut apporter cette structure. Les organisations peuvent affecter les dépenses liées à l’IA à des équipes et à des applications spécifiques, suivre l’évolution de la consommation, définir des budgets et des alertes, et comparer les coûts aux résultats opérationnels. Les équipes chargées des achats peuvent examiner les accords tarifaires, tandis que les équipes d’ingénierie peuvent optimiser le choix des modèles et la conception des applications. Le service financier peut ensuite évaluer les dépenses à l’aide d’informations qui établissent un lien entre la consommation technique et les résultats commerciaux.

Le marché du cloud dans son ensemble s’est déjà orienté vers une plus grande maîtrise des coûts. Google Cloud, Amazon Web Services (AWS) et Microsoft ont réduit certains frais liés au stockage. Parallèlement, les pratiques FinOps, initialement mises en place pour maîtriser les dépenses liées au cloud, sont de plus en plus appliquées aux factures élevées liées à l’IA. La tendance est claire : les entreprises souhaitent davantage de transparence et un meilleur contrôle sur les coûts technologiques liés à la consommation.

Il existe toutefois une limite importante. L’AI FinOps ne peut pas être considérée comme une simple fonction comptable. Les équipes financières peuvent identifier une charge de travail coûteuse, mais ce sont les ingénieurs et les responsables produit qui doivent déterminer pourquoi elle est coûteuse et si cette dépense est justifiée. Un workflow d’IA coûteux peut tout de même s’avérer très rentable. À l’inverse, un workflow moins coûteux peut n’apporter qu’une faible valeur ajoutée à l’entreprise. Le coût doit être évalué en tenant compte des revenus, de la productivité, de la qualité, des risques et des résultats pour les clients.

Cela signifie que la responsabilité doit être partagée. Les DSI peuvent établir des normes techniques et de gestion des coûts. Les directeurs financiers peuvent définir des contrôles financiers et des exigences en matière de rentabilité. Les responsables de l’ingénierie et des produits peuvent gérer la consommation au sein de chaque application. Les dirigeants des unités opérationnelles peuvent déterminer si les résultats obtenus justifient l’investissement.

Il peut en résulter une approche plus mûre de l’investissement dans l’IA. Les entreprises n’ont pas besoin de freiner l’expérimentation simplement parce que l’IA engendre des coûts variables. Elles ont besoin de systèmes qui permettent de voir où va l’argent et ce que l’organisation en retire en contrepartie. Grâce à cette visibilité, le FinOps peut aller au-delà du simple contrôle des dépenses et s’intégrer au processus décisionnel des entreprises pour déterminer quelles initiatives en matière d’IA méritent d’être développées à plus grande échelle.

La rentabilité doit être intégrée dès la conception de l’architecture de l’IA

La gestion des coûts liés à l’IA est plus efficace lorsqu’elle est mise en place dès la conception du système, et non après la réception d’une facture d’un montant inattendu. Les entreprises peuvent maîtriser leurs dépenses en déterminant à l’avance quels modèles doivent prendre en charge quelles tâches, quelle charge de calcul un flux de travail peut consommer, et dans quels cas le recours à des capacités de raisonnement plus coûteuses se justifie.

Rita Sallam, responsable de la recherche en données et analyse chez Gartner, recommande de considérer l’optimisation des coûts liés à l’IA comme une « exigence architecturale » plutôt que comme un « exercice financier a posteriori ». Cela modifie la répartition des responsabilités en matière de gestion des coûts. Le service financier a toujours besoin de visibilité et de contrôles, mais les équipes d’ingénierie, de produit et d’architecture doivent également tenir compte des coûts lors de la conception d’applications d’IA.

Le choix du modèle constitue l’une des opportunités les plus évidentes. Le modèle le plus performant n’est pas automatiquement le meilleur choix pour chaque requête. Les tâches simples de classification, d’extraction, de synthèse ou les requêtes d’informations courantes peuvent donner de bons résultats avec des modèles plus petits et moins coûteux. Les tâches plus exigeantes, impliquant un raisonnement complexe, peuvent être confiées à des modèles avancés lorsque leurs capacités sont nécessaires. M. Sallam recommande tout particulièrement de confier les requêtes simples à des modèles moins coûteux et d’envisager l’utilisation de modèles linguistiques plus petits et spécifiques à un domaine.

Cette approche revêt une importance particulière dans le cas des agents IA autonomes. Un seul flux de travail d’agent peut impliquer plusieurs appels de modèle, la récupération d’informations, des interactions avec des logiciels et la répétition d’opérations avant de mener à bien une tâche. De petites pertes d’efficacité peuvent donc s’accumuler à mesure que le volume des transactions augmente. Les entreprises doivent donc surveiller le nombre d’appels de modèle, la consommation de jetons, les tentatives de réessai, les étapes de raisonnement et les services externes impliqués dans chaque flux de travail.

L’optimisation des coûts doit toujours tenir compte de la qualité. Le choix d’un modèle moins cher qui génère davantage d’erreurs, nécessite davantage de vérifications humaines ou ne parvient pas à mener à bien les tâches peut augmenter le coût total du processus. Les dirigeants doivent donc évaluer le coût par résultat positif plutôt que de se contenter de rechercher le modèle le moins cher. La précision, la latence, la sécurité, la fiabilité et l’expérience client sont autant de facteurs susceptibles d’influencer le résultat économique final.

L’objectif est de faire du coût une variable de conception au même titre que les performances et la qualité. Les organisations peuvent définir des règles de routage des modèles, des limites de consommation, des seuils d’approbation et des mécanismes de surveillance au niveau des applications. Ces contrôles peuvent évoluer en fonction des variations des prix et des capacités des modèles.

Pour les dirigeants de haut niveau, cela représente une opportunité majeure. Les technologies d’IA progressent rapidement, et la concurrence entre les fournisseurs peut permettre de réduire les coûts unitaires au fil du temps. Une architecture capable de répartir les charges de travail entre les modèles appropriés offre aux entreprises une plus grande flexibilité pour tirer parti de ces améliorations sans avoir à refondre l’intégralité de leurs applications.

La gouvernance, la sécurité, les données et la culture financière déterminent le retour sur investissement à long terme de l’IA

Une utilisation efficace des modèles ne constitue qu’un aspect de la rentabilité durable de l’IA. Les entreprises ont également besoin de mécanismes de gouvernance, de sécurité et de bases de données solides. Rita Sallam, responsable de la recherche en données et analyse chez Gartner, estime que les organisations devraient réaliser ces investissements parallèlement à leurs déploiements d’IA, car ils sont essentiels pour garantir un retour sur investissement à long terme.

La gouvernance définit les modalités d’utilisation de l’IA, les responsables de son exploitation et les contrôles applicables. Elle revêt une importance croissante à mesure que les entreprises déploient l’IA dans de nombreux services et accordent aux systèmes autonomes une plus grande capacité à agir. En l’absence de politiques claires, les organisations s’exposent à des dépenses redondantes, à une utilisation incontrôlée des modèles, à des niveaux de qualité inégaux, à des problèmes de sécurité et à des applications dont la valeur mesurable est limitée.

La qualité des données a également un impact économique direct. Les applications d’IA reposent sur des informations accessibles, pertinentes et fiables. Des bases de données insuffisantes peuvent entraîner des résultats médiocres, un traitement supplémentaire, des appels répétés aux modèles et une intervention humaine accrue. Les entreprises risquent alors de consacrer davantage de ressources à l’IA tout en tirant moins de bénéfices de celle-ci. L’amélioration de la gestion des données fait donc partie intégrante du calcul du retour sur investissement (ROI) et ne relève pas simplement d’une question d’infrastructure.

La sécurité requiert une attention similaire. Les applications d’IA peuvent interagir avec des informations confidentielles de l’entreprise, des dossiers clients, la propriété intellectuelle et des systèmes externes. Les contrôles de sécurité déterminent quels modèles et applications peuvent accéder à ces informations et ce qu’ils sont autorisés à en faire. Pour les agents autonomes en particulier, les autorisations et la surveillance doivent refléter les actions qu’un agent peut effectuer, et pas seulement les données qu’il peut lire.

Les employés constituent un autre élément majeur de l’équation des coûts. Mme Sallam a déclaré : « Les utilisateurs de l’IA ont également un rôle à jouer. Ils doivent comprendre les conséquences financières de leur utilisation de l’IA. » Elle recommande la mise en place de programmes obligatoires de formation à l’IA, incluant ce qu’elle appelle « une culture financière des jetons d’IA ». L’objectif est d’aider les utilisateurs à comprendre que différents modèles, invites et flux de travail peuvent entraîner des coûts très variables.

Ces connaissances prennent de plus en plus d’importance à mesure que l’accès aux modèles de raisonnement avancés se généralise. Les collaborateurs n’ont pas besoin d’une expertise approfondie en matière d’infrastructure d’IA, mais ils doivent être en mesure de déterminer quand il est justifié de recourir à des fonctionnalités coûteuses et quand une option moins onéreuse peut répondre aux besoins de l’entreprise. M. Sallam illustre ce problème en mettant en garde contre le fait que les collaborateurs « utilisent les modèles de raisonnement les plus coûteux pour consulter la météo ».

Les dirigeants doivent associer la formation à des mesures de contrôle concrètes. La formation à elle seule ne suffit pas nécessairement à empêcher une consommation inefficace à l’échelle de l’entreprise. Les organisations peuvent mettre en place des modèles approuvés, privilégier par défaut les options les moins coûteuses lorsque cela est approprié, fixer des limites de dépenses, définir des politiques d’accès et mettre en place un suivi des consommations inhabituelles. Les modèles plus performants ou plus coûteux peuvent rester disponibles lorsqu’une tâche le justifie.

L’objectif général est une adoption durable. La gouvernance ne doit pas avoir pour seule finalité de restreindre l’utilisation de l’IA, et la maîtrise des coûts ne doit pas décourager les expérimentations utiles. Une gouvernance efficace définit des limites opérationnelles claires pour les collaborateurs tout en offrant à la direction une visibilité sur les dépenses, les risques et les résultats. Lorsque l’architecture, les données, la sécurité, le comportement des utilisateurs et les contrôles financiers fonctionnent de concert, les entreprises disposent d’une base plus solide pour transformer l’adoption de l’IA en une valeur commerciale mesurable à long terme.

Principaux enseignements pour les décideurs

• Bénéficiez d’une visibilité totale sur vos dépenses liées à l’IA : les frais liés aux modèles ne représentent qu’une partie du coût. Les dirigeants doivent suivre les coûts liés à l’infrastructure, aux données, aux outils, à la sécurité et aux charges de travail « agentic » afin de comprendre le véritable montant de l’investissement et le retour sur investissement.
• Mesurez le coût par tâche accomplie : la baisse du prix des jetons ne garantit pas nécessairement une réduction du coût des opérations d’IA. Suivez le coût total et la valeur commerciale des flux de travail autonomes à mesure que le nombre d’étapes de raisonnement et d’appels de modèles augmente.
• Faites de la transparence des coûts une exigence métier : un manque de visibilité peut entraîner des révisions budgétaires, des retards de déploiement et des décisions d’investissement peu judicieuses. Associez les dépenses liées à l’IA à des produits, des flux de travail, des entités opérationnelles et des résultats spécifiques.
• Étendre la discipline FinOps à l’IA : appliquez les pratiques de gestion des coûts du cloud à l’IA en attribuant des responsabilités, en surveillant la consommation, en fixant des budgets et en établissant un lien entre les dépenses et les résultats de l’entreprise.
• Intégrez la rentabilité dès la conception des systèmes d’IA : confiez les tâches courantes à des modèles moins coûteux et réservez les modèles de raisonnement avancés aux tâches qui en nécessitent. Optimisez le coût par résultat positif sans compromettre la fiabilité, la sécurité ou la qualité.
• Alliez gouvernance et maîtrise de l’IA : la qualité des données, la sécurité, la gouvernance et la formation des utilisateurs sont essentielles pour garantir un retour sur investissement durable. Fournissez à vos collaborateurs des règles d’utilisation claires et sensibilisez-les aux coûts, tout en mettant en place des contrôles techniques pour éviter toute consommation inutile et coûteuse.