La montée des oppositions aux data centers fragilise les stratégies IA

Les restrictions américaines sur les centres de données font voler en éclats les anciennes hypothèses de coût de l’IA

Des manifestations contre de nouveaux centres de données ont été organisées dans 42 États américains à la mi-juillet. À ce moment-là, 10 États, dont la Floride, la Géorgie et la Virginie, avaient des moratoires de construction en vigueur, tandis que huit autres avaient des projets de loi en attente, selon datacenterbans.com. Le sujet a dépassé le cadre de l’opposition locale. Il affecte désormais l’économie de l’IA en entreprise.

L’électricité est la contrainte immédiate. En mai, 23 États avaient approuvé des tarifs pour fortes charges, selon Arif Gasilov, associé au sein de la division ressources naturelles et environnement bâti du cabinet de conseil en durabilité Gasilov Group. Ces tarifs peuvent obliger les centres de données à payer l’intégralité des coûts d’infrastructure liés à l’alimentation de leurs installations. Ces coûts peuvent, au final, se répercuter sur le prix que les entreprises paient pour les capacités cloud et de colocation.

Cela rend moins fiables les business cases de l’IA fondés sur d’anciennes hypothèses de coût de l’électricité. « Ce que cela signifie pour les DSI, c’est que les hypothèses de coût de l’électricité intégrées en 2023 sont erronées dans près de la moitié du pays », a déclaré Gasilov. Il conseille aux DSI qui planifient des déploiements d’IA dans les États concernés de demander aux fournisseurs de cloud et de colocation comment les nouveaux tarifs modifient leurs grilles tarifaires, puis de recalculer l’économie des projets.

Les DSI devraient effectuer cette réévaluation au niveau des workloads. Une facture d’infrastructure plus élevée modifie différemment l’économie de l’entraînement, de l’inférence, du stockage des données et de l’usage des accélérateurs. Cela peut aussi influencer les décisions sur les modèles à exécuter, les lieux d’exécution et la pertinence financière d’une capacité dédiée.

Construire des centres de données plus petits n’est pas une solution universelle. Gasilov souligne que certaines règles étatiques peuvent viser des groupes d’installations situées à proximité les unes des autres, et pas seulement la taille d’un site individuel. Fractionner un grand projet en plusieurs projets plus petits peut donc laisser inchangé le problème réglementaire de fond.

Pour les dirigeants, le changement clé est clair : la disponibilité de l’électricité et la politique locale en matière d’infrastructure doivent désormais faire partie de la planification financière de l’IA. Un déploiement techniquement solide peut malgré tout échouer sur son business case si les hypothèses d’électricité et de centres de données qui le sous-tendent ont changé.

Moins de centres de données limiteront où et comment les entreprises déploient l’IA

L’impact ne se limite pas au prix. Moins de centres de données approuvés signifie moins d’endroits où obtenir la capacité de calcul dense nécessaire aux workloads d’IA de grande ampleur. Cela réduit la flexibilité de déploiement et peut allonger le temps nécessaire pour sécuriser de la capacité.

Chuck Girt, CTO du fournisseur de réseau en fibre optique FiberLight, s’attend à ce que cette contrainte modifie le déploiement de l’IA plutôt qu’elle ne freine son adoption. « Je ne pense pas que le rythme de construction des centres de données change la direction que prend l’IA, mais cela pourrait influencer la manière dont les organisations déploient et utilisent l’IA à grande échelle », a-t-il déclaré.

La raison est structurelle. La plupart des entreprises ne possèdent pas l’infrastructure physique qui sous-tend leurs services d’IA. « La plupart des entreprises ne vont pas construire elles-mêmes cette infrastructure ; elles vont s’appuyer sur des environnements cloud et de centres de données pour fournir la puissance de calcul dont l’IA a besoin », a déclaré Girt. Les restrictions sur les nouvelles installations se répercutent donc des fournisseurs de cloud et de colocation vers leurs clients entreprises.

Kevin Surace, PDG du fournisseur de sécurité biométrique TokenCore et expert en IA et en énergie verte, identifie les risques qui en découlent : moins de capacité disponible, moins d’options de redondance géographique, des délais de provisioning plus longs et une dépendance accrue à un nombre limité de fournisseurs cloud et de localisations. Il décrit la capacité de calcul comme un enjeu stratégique, au même titre que l’électricité, les semi-conducteurs et la connectivité réseau.

La concentration géographique mérite une attention particulière de la part des dirigeants. Des workloads d’IA concentrés dans un petit nombre de régions créent des dépendances opérationnelles et d’approvisionnement. Les organisations peuvent avoir moins d’alternatives lorsqu’un fournisseur manque de capacité en accélérateurs, fait face à une contrainte locale sur l’électricité ou ne peut pas respecter un calendrier de déploiement requis. La redondance géographique peut aussi compter pour la résilience et la continuité d’activité.

La planification de capacité doit donc intervenir avant qu’une application d’IA soit prête pour la production. Surace avertit que les entreprises qui n’ont pas sécurisé de capacité peuvent découvrir que leur stratégie IA fonctionne techniquement mais ne peut pas être exécutée dans les délais. Pour les grands programmes d’IA, l’accès à la puissance de calcul physique devient un prérequis plutôt qu’une tâche d’approvisionnement que l’on peut repousser jusqu’au déploiement.

La réponse pratique consiste à réduire tôt le risque de concentration. Les DSI devraient identifier les régions et les fournisseurs dont dépendent les workloads d’IA importants, déterminer quelle capacité est réellement engagée et vérifier s’il existe des alternatives crédibles. L’objectif n’est pas de construire partout une infrastructure redondante. Il s’agit d’éviter qu’une pénurie chez un fournisseur ou dans une région ne détermine le rythme de la stratégie IA de l’entreprise.

Une capacité contrainte des centres de données fera augmenter les coûts d’infrastructure de l’IA

La demande de calcul pour l’IA augmente alors que les nouveaux projets de centres de données font face à des limites plus strictes. Cette combinaison crée un risque tarifaire clair. Si l’offre d’installations, d’électricité et de capacité de calcul à haute densité progresse plus lentement que la demande, les entreprises doivent s’attendre à payer davantage pour l’infrastructure IA.

Kevin Surace, PDG du fournisseur de sécurité biométrique TokenCore et expert en IA et en énergie verte, s’attend à ce que cette pression affecte plusieurs segments du marché. « La demande de calcul pour l’IA s’accélère, donc le fait de contraindre l’offre d’installations, d’électricité et de capacité à haute densité exercera une pression à la hausse sur les prix du cloud, de la colocation, de l’accès aux accélérateurs et des contrats de capacité à long terme », a-t-il déclaré.

La disponibilité des accélérateurs est particulièrement importante. Les GPU et autres accélérateurs d’IA nécessitent une alimentation électrique et un refroidissement importants ; acheter davantage de puces ne résout donc pas le problème si une capacité adaptée en centre de données n’est pas disponible. Pour les DSI, la contrainte porte donc sur l’ensemble du système : le matériel de calcul, la capacité électrique, le refroidissement et l’espace physique doivent tous être disponibles à l’emplacement requis.

Les grandes entreprises disposent de davantage d’options pour gérer ce risque. Surace affirme que les organisations qui ont accès à de la capacité peuvent se protéger grâce à des accords pluriannuels et à une infrastructure dédiée. Verrouiller la capacité peut améliorer la visibilité de planification, même si les dirigeants doivent mettre cet avantage en balance avec le risque d’engager trop de capital dans l’infrastructure à mesure que les modèles d’IA et le matériel gagnent en efficacité.

L’impact pourrait être plus sévère pour les acheteurs de plus petite taille. Surace s’attend à ce que les petites organisations, les startups et les universités subissent les plus fortes hausses en pourcentage. Certaines pourraient être exclues des capacités d’IA de pointe pour des raisons de coût. Les grands clients du cloud disposent généralement d’un pouvoir d’achat plus important et de davantage d’options pour des engagements à long terme, tandis que les plus petits utilisateurs ont moins de capacité à absorber de fortes variations des prix de l’infrastructure.

Cela fait du contrôle des coûts de l’IA un enjeu de planification de capacité. Les DAF et les DSI devraient modéliser l’impact de hausses des tarifs cloud, des coûts des accélérateurs et des engagements de capacité sur l’économie globale des projets d’IA. Ils devraient aussi distinguer les workloads qui nécessitent réellement une infrastructure coûteuse de pointe de ceux qui peuvent fonctionner avec des modèles plus petits ou un matériel moins onéreux.

L’objectif doit être un accès prévisible à un coût acceptable. Les entreprises n’ont pas besoin d’une capacité de calcul maximale pour chaque cas d’usage de l’IA. Elles ont besoin d’une capacité sécurisée suffisante pour les workloads qui créent une valeur métier mesurable, avec la flexibilité de basculer les tâches moins exigeantes vers une infrastructure moins coûteuse.

Le calcul et l’énergie exigent désormais une planification stratégique de l’approvisionnement

Les DSI devraient considérer l’accès à la puissance de calcul et à l’électricité comme des dépendances stratégiques pour les grands programmes d’IA. Le sujet central est la disponibilité. Une organisation ne peut pas déployer un workload dans les délais si son fournisseur manque de puissance électrique, de capacité en accélérateurs ou d’espace approuvé en centre de données, quelle que soit la qualité de l’application elle-même.

Surace recommande de sécuriser la capacité le plus tôt possible et d’éviter une dépendance à un seul fournisseur cloud ou à une seule région géographique. Il conseille également aux entreprises d’utiliser des modèles d’IA plus petits et plus efficaces lorsqu’ils permettent d’atteindre le résultat métier requis. Ces mesures répondent à la fois aux enjeux de coût et de disponibilité sans obliger les entreprises à construire leur propre infrastructure à grande échelle.

La diversification exige de la rigueur. Ajouter plusieurs fournisseurs ne réduit pas automatiquement le risque s’ils dépendent de la même région, de la même infrastructure électrique ou des mêmes centres de données sous-jacents. Les DSI devraient comprendre où s’exécutent physiquement les workloads critiques, quelles régions offrent des alternatives et à quelle vitesse les workloads peuvent passer d’un environnement à un autre. Il convient également de distinguer la capacité contractuelle de la capacité qu’un fournisseur prévoit simplement de rendre disponible plus tard.

Les enjeux environnementaux et communautaires doivent faire partie de cette évaluation, car ils peuvent affecter directement l’approbation et la continuité des projets. Surace recommande de demander aux fournisseurs de centres de données d’où vient leur eau, si les systèmes de refroidissement utilisent une boucle fermée, qui paie les nouvelles infrastructures du réseau électrique, quelle part de l’électricité est produite sur site et quels résultats de suivi environnemental sont publiquement communiqués.

Ces questions traitent de risques qui vont au-delà du reporting de durabilité. La disponibilité de l’eau peut limiter les options de refroidissement. Les mises à niveau du réseau peuvent ajouter des coûts et allonger les calendriers de construction. L’opposition locale peut retarder ou annuler des projets. Surace soutient que « la transparence et l’engagement précoce auprès des communautés coûtent bien moins cher que les poursuites judiciaires, les annulations de projets et les moratoires ».

Les DSI devraient donc relier la planification de l’infrastructure IA à la finance, aux achats, à la durabilité et à la continuité d’activité. Les besoins de capacité doivent être prévus en parallèle de la demande applicative, tandis que les contrats doivent traiter du prix, de la disponibilité, de la localisation et des droits d’extension. Des modèles plus petits ou plus efficaces devraient être envisagés lorsqu’ils peuvent réduire les besoins d’infrastructure sans compromettre le résultat visé.

La priorité pour les dirigeants est de sécuriser les ressources nécessaires aux workloads d’IA importants avant que la rareté ne dicte les options de l’entreprise. La stratégie IA dépend de plus en plus des modèles et des logiciels, mais aussi d’un accès confirmé à l’électricité et à la puissance de calcul à un prix viable et aux bons endroits.

Les contraintes sur les centres de données pousseront les stratégies IA vers l’efficacité

La réponse la plus forte à une capacité limitée des centres de données ne consiste pas simplement à sécuriser davantage d’infrastructure. Les entreprises peuvent aussi réduire la quantité d’infrastructure requise par chaque workload d’IA. Cela signifie obtenir davantage de résultats utiles de chaque GPU, de chaque watt de puissance et de chaque dollar dépensé.

Anurag Gurtu, cofondateur et PDG du fournisseur de plateforme d’IA agentique Airrived, affirme que c’est là que l’avantage concurrentiel va se déplacer. « Les entreprises ne veulent pas réellement plus de centres de données ; elles veulent plus d’intelligence par watt, par GPU et par dollar », a-t-il déclaré. « Les gagnants ne seront pas ceux qui disposent de la plus grande empreinte d’infrastructure, mais ceux qui extraient le plus de valeur de chaque unité de calcul. »

Cela modifie une hypothèse importante de la planification de l’IA en entreprise. Les stratégies qui reposent sur une capacité de calcul presque illimitée seront plus exposées à la hausse des prix de l’électricité, aux restrictions sur les centres de données et aux pénuries d’accélérateurs. Ajouter du matériel peut soutenir la croissance, mais cela devient moins attractif lorsque la valeur métier marginale progresse plus lentement que les dépenses d’infrastructure.

Gurtu s’attend à ce que la prochaine phase du développement de l’IA fonctionne sous des limites plus strictes en matière de calcul, d’énergie et d’économie. « Les organisations qui optimisent les modèles, déploient une IA spécifique à leur domaine et tirent parti d’architectures hybrides continueront à innover, tandis que celles qui s’appuient uniquement sur la montée en puissance du matériel feront face à des rendements décroissants », a-t-il déclaré.

Le choix du modèle devient donc une décision financière et d’infrastructure. Un grand modèle généraliste peut se justifier pour des tâches complexes qui exigent ses capacités. Ce n’est pas automatiquement le meilleur choix pour des processus métier étroits et répétables. Des modèles plus petits ou spécifiques à un domaine peuvent nécessiter moins de mémoire et de calcul, réduire les coûts d’inférence et améliorer les temps de réponse lorsqu’ils offrent une précision suffisante pour la tâche.

Les architectures hybrides offrent une autre option. Les entreprises peuvent affecter différents workloads à différents modèles et environnements de calcul au lieu de forcer chaque application à utiliser l’infrastructure la plus coûteuse. Les workloads sensibles ou prévisibles peuvent s’exécuter sur des ressources dédiées, tandis que d’autres tâches utilisent des services cloud. La bonne conception dépend des exigences de performance, de sécurité, de gouvernance des données, de disponibilité et de coût.

La hausse des prix de l’infrastructure peut aussi créer des incitations plus fortes à améliorer la couche logicielle. Gurtu cite l’optimisation des modèles, l’efficacité de l’inférence et l’orchestration intelligente comme des domaines susceptibles d’en bénéficier. « La hausse des coûts d’infrastructure accélère également l’innovation en matière d’optimisation des modèles, d’efficacité de l’inférence et d’orchestration intelligente », a-t-il déclaré. Ces améliorations peuvent réduire la quantité de calcul nécessaire pour obtenir le même résultat métier.

Pour les dirigeants de la direction générale, l’indicateur pertinent n’est plus la quantité de capacité IA que l’entreprise peut acquérir. C’est l’efficacité avec laquelle cette capacité se transforme en résultats métier. Les DSI devraient suivre le coût de calcul par workload, le taux d’utilisation des accélérateurs coûteux, les coûts d’inférence et la valeur métier produite par chaque service d’IA. Ces mesures permettent d’identifier plus facilement les applications qui méritent une capacité supplémentaire et celles qui doivent être repensées.

Les contraintes sur les centres de données ne rendent pas l’IA en entreprise impraticable. Elles rendent l’IA inefficace plus coûteuse. Les entreprises qui améliorent la sélection des modèles, l’utilisation de l’infrastructure et le placement des workloads peuvent continuer à étendre l’IA tout en réduisant leur exposition à la rareté de l’électricité et de la puissance de calcul.

Points clés à retenir pour les décideurs

• Réévaluez le prix des plans d’infrastructure IA : L’opposition aux centres de données, les moratoires de construction et les nouveaux tarifs de l’électricité modifient l’économie de l’IA à travers les États-Unis. Les DSI devraient mettre à jour les anciennes hypothèses sur l’électricité et la capacité avant d’approuver des déploiements majeurs.
• Sécurisez la capacité avant qu’elle ne devienne une contrainte : Moins d’options de centres de données peut signifier des délais de provisioning plus longs, moins de redondance géographique et une concentration accrue sur le cloud. Les dirigeants devraient confirmer la capacité engagée auprès de plusieurs fournisseurs et dans plusieurs régions avant que les workloads d’IA critiques n’atteignent la production.
• Préparez-vous à des coûts de calcul plus élevés : Une capacité limitée en centres de données, en électricité et en accélérateurs pourrait augmenter les prix du cloud, de la colocation et des contrats à long terme. Priorisez la puissance de calcul rare pour les workloads à forte valeur et évaluez des accords de capacité pluriannuels lorsque la demande est prévisible.
• Gérez le calcul et l’énergie comme des risques stratégiques d’approvisionnement : Les programmes d’IA dépendent de plus en plus d’un accès confirmé à l’électricité, au refroidissement et à la capacité physique. Les DSI devraient diversifier les sources d’infrastructure et évaluer les fournisseurs au regard des risques liés au réseau, à l’eau, à l’environnement et à l’expansion.
• Faites de l’efficacité de l’IA une priorité concurrentielle : Les contraintes d’infrastructure augmentent la valeur des modèles plus petits, de l’IA spécifique à un domaine, de l’inférence efficace et des architectures hybrides. Mesurez la valeur métier par unité de calcul plutôt que de compter sur une expansion continue du matériel.