La réalité du déploiement des agents d’IA en entreprise

Les entreprises sous-estiment souvent leur retard dans l’adoption de l’IA agentique

De nombreux dirigeants estiment qu’ils ont déjà pris du retard en matière d’IA, car chaque conférence, discours d’ouverture et annonce de produit donne l’impression que leurs concurrents ont déjà trouvé la solution en matière d’IA d’entreprise. Cette perception est généralement erronée. Selon Brian Gracely, directeur senior de la stratégie de portefeuille chez Red Hat, les entreprises progressent souvent beaucoup plus rapidement qu’elles ne le pensent sur la courbe d’apprentissage de l’IA dès lors qu’elles commencent à développer de véritables applications.

La question la plus importante n’est pas de savoir si vous avez été les premiers à vous lancer. Il s’agit plutôt de savoir si vous êtes capables de déployer l’IA à grande échelle. C’est là que le véritable travail commence. Les systèmes de production soulèvent des problèmes qui n’apparaissent jamais lors des phases pilotes. Les coûts liés à l’IA augmentent rapidement à mesure que son utilisation se généralise. Les risques de sécurité gagnent en complexité, car les agents autonomes prennent des décisions et interagissent avec les systèmes d’entreprise sans intervention humaine constante. Parallèlement, les organisations se rendent compte que la technologie ne représente qu’une partie du défi. La gouvernance, les processus métier et l’implication des collaborateurs deviennent tout aussi importants.

C’est pourquoi de nombreux projets d’IA couronnés de succès connaissent un ralentissement après les premières démonstrations. La technologie fonctionne peut-être exactement comme prévu, mais l’organisation ne s’est pas encore adaptée pour la prendre en charge. Les équipes ont besoin d’une responsabilité clairement définie, d’un suivi financier, de politiques de sécurité et du soutien de la direction. Sans ces éléments, l’IA reste un ensemble de projets isolés au lieu de s’intégrer pleinement à l’activité de l’entreprise.

Un autre enjeu réside dans la dépendance vis-à-vis d’un petit nombre de grands fournisseurs de modèles d’IA. M. Gracely a souligné que les principaux fournisseurs indiquent déjà au marché qu’ils opèrent à perte tout en recherchant des modèles économiques viables. Pour les dirigeants d’entreprise, cela soulève des questions stratégiques concernant la tarification future, la dépendance à long terme vis-à-vis des fournisseurs et la flexibilité des infrastructures. De nombreuses organisations évaluent donc actuellement des modèles open source, des déploiements hybrides et des stratégies multimodèles qui permettent un meilleur contrôle des coûts et réduisent la dépendance vis-à-vis d’un seul fournisseur.

Les entreprises qui créeront une valeur durable grâce à l’IA ne seront probablement pas celles qui font aujourd’hui les annonces les plus retentissantes. Ce seront celles qui mettront en place très tôt une discipline opérationnelle. L’IA est en train de devenir une nouvelle compétence métier essentielle. À l’instar de l’informatique Cloud avant elle, le succès dépend moins de l’adoption initiale que de la capacité à la gérer de manière cohérente au fil du temps.

Il est essentiel d’adapter la taille des modèles d’IA pour maîtriser la hausse des coûts d’exploitation

L’un des moyens les plus rapides de réduire les coûts liés à l’IA est étonnamment simple : cesser d’utiliser le modèle le plus volumineux pour chaque tâche.

De nombreuses organisations choisissent systématiquement le modèle le plus performant, car celui-ci semble être l’option la plus sûre. En réalité, la plupart des charges de travail d’entreprise ne nécessitent pas le modèle le plus performant disponible. Brian Gracely l’a clairement expliqué en évoquant des processus métier courants, tels que les demandes d’indemnisation. Ces tâches nécessitent un raisonnement spécifique au domaine, et non des connaissances générales couvrant d’innombrables sujets sans rapport les uns avec les autres. L’utilisation d’un modèle surdimensionné pour des tâches simples augmente les coûts sans créer de valeur ajoutée pour l’entreprise.

Les systèmes d’IA modernes permettent aux entreprises de prendre automatiquement des décisions plus éclairées. Le routage sémantique classe chaque requête et la transmet au modèle le mieux adapté à sa complexité. Les requêtes simples peuvent être traitées par des modèles plus petits et moins coûteux, tandis que les tâches de raisonnement complexes ne sont orientées vers des modèles plus puissants qu’en cas de nécessité. L’utilisateur bénéficie d’un service fluide, tandis que l’entreprise réduit considérablement sa consommation de jetons et ses coûts informatiques.

L’optimisation de l’infrastructure permet de réaliser des économies supplémentaires. De nombreuses requêtes d’IA au sein des entreprises sont répétitives. Au lieu de générer une nouvelle réponse à chaque fois, les organisations peuvent recourir à la mise en cache pour stocker les résultats précédents et les réutiliser lorsque cela s’avère pertinent. Cela réduit le nombre de calculs coûteux effectués sur les GPU, ce qui permet de diminuer les coûts d’exploitation tout en améliorant la vitesse de réponse.

Mme Gracely a souligné que l’efficacité et l’innovation ne devaient pas être considérées comme des priorités concurrentes. Les organisations disposent de multiples leviers techniques et opérationnels, notamment le choix des modèles, les stratégies d’acheminement et l’optimisation des infrastructures. L’objectif n’est pas simplement de réduire les dépenses, mais d’affecter les ressources dédiées à l’IA là où elles ont le plus grand impact sur l’activité.

Cela modifie également la manière dont les équipes financières et techniques collaborent. Les dépenses liées à l’IA sont de plus en plus évaluées en fonction de l’utilisation des jetons et de la consommation des modèles, plutôt que sur la seule base des indicateurs traditionnels d’infrastructure. Mme Gracely a comparé cette évolution aux débuts de l’informatique Cloud, lorsque les services financiers ont dû se familiariser avec des concepts tels que les instances Amazon EC2 et le stockage Amazon S3 avant qu’une gestion efficace des coûts de l’informatique Cloud ne devienne possible. La même évolution se produit aujourd’hui avec l’IA.

Pour les dirigeants, cela signifie que la gouvernance de l’IA doit intégrer dès le départ une gouvernance financière. Les équipes ont besoin de directives claires concernant la sélection des modèles, le suivi de leur utilisation et la justification des coûts. Sans ces contrôles, les dépenses liées à l’IA peuvent augmenter bien plus rapidement que prévu à mesure que son adoption se généralise dans les différentes unités opérationnelles. Grâce à ces contrôles, les organisations peuvent développer l’IA en toute confiance tout en garantissant une rentabilité prévisible et en préservant leur flexibilité pour les innovations futures.

Il est essentiel de mettre en place des pratiques de gestion financière de l’IA similaires à celles du FinOps

À mesure que l’IA passe du stade expérimental à celui d’un déploiement à l’échelle de l’entreprise, la gestion financière devient une compétence stratégique. De nombreuses organisations commencent par évaluer les performances techniques, mais leur réussite à long terme dépend tout autant de leur capacité à comprendre comment l’IA consomme les ressources et comment ces ressources se traduisent en valeur ajoutée pour l’entreprise.

Brian Gracely, directeur principal de la stratégie de portefeuille chez Red Hat, a fait valoir que les entreprises entrent dans une phase qui ressemble fortement aux premières années de l’adoption du cloud. À l’époque, les équipes financières avaient dû se familiariser avec de nouveaux concepts avant de pouvoir gérer efficacement les dépenses liées au cloud. L’IA pose un défi similaire. Les dirigeants, les responsables financiers et les responsables métier doivent désormais comprendre des indicateurs tels que la consommation de jetons, l’utilisation des modèles et les coûts d’inférence afin de pouvoir prendre des décisions d’investissement éclairées.

Il ne s’agit pas simplement d’introduire une nouvelle terminologie. Chaque interaction avec un modèle d’IA a un coût, et ces coûts s’accumulent rapidement à mesure que les agents d’IA effectuent davantage de tâches dans de multiples fonctions métier. Sans visibilité sur les habitudes d’utilisation, les organisations peuvent facilement se rendre compte qu’une adoption réussie s’accompagne de frais d’exploitation plus élevés que prévu.

Les entreprises devraient donc mettre en place des cadres de gouvernance qui traitent les dépenses liées à l’IA comme une charge d’exploitation courante plutôt que comme un budget technologique isolé. Cela implique notamment de définir qui approuve le choix des modèles, de surveiller la consommation dans l’ensemble des services, de fixer des seuils de dépenses et de vérifier régulièrement si les charges de travail s’exécutent sur les modèles les plus adaptés. Le contrôle financier doit s’intégrer aux opérations quotidiennes liées à l’IA, au lieu d’être mis en place a posteriori, une fois que les coûts ont commencé à augmenter.

La formation joue également un rôle important. Les ingénieurs maîtrisent les aspects techniques, tandis que les équipes financières se concentrent sur les budgets et les rendements. Ces deux points de vue doivent être conciliés. Mme Gracely a souligné que les organisations devront expliquer les concepts liés à l’IA, notamment les jetons, aux acteurs financiers, afin que les décisions en matière de dépenses reposent sur une compréhension commune du fonctionnement des systèmes d’IA.

Les entreprises qui gèrent efficacement les coûts liés à l’IA ne dépenseront pas nécessairement moins. Elles dépenseront avec davantage de précision. Elles sauront identifier les domaines dans lesquels l’IA génère une valeur commerciale mesurable, ceux où des modèles moins coûteux suffisent, et ceux où un investissement supplémentaire produit des retours significatifs. Ce niveau de rigueur permet aux organisations de déployer l’IA à grande échelle en toute confiance, plutôt que de devoir constamment réagir à des dépenses imprévues.

La détection accélérée des vulnérabilités grâce à l’IA exige une application rapide des correctifs et des opérations de sécurité agiles

L’intelligence artificielle transforme la cybersécurité à un rythme bien plus rapide que ne l’avaient prévu de nombreuses organisations. Elle accélère la détection des vulnérabilités, permet de mettre plus rapidement au jour les failles et réduit le délai dont disposent les responsables de la sécurité pour réagir.

Brian Gracely a averti que les cycles traditionnels de gestion des correctifs pourraient ne plus être suffisamment rapides. Les organisations qui, auparavant, prévoyaient plusieurs semaines pour le déploiement des correctifs pourraient désormais être confrontées à des délais beaucoup plus serrés. Il a estimé que de nombreuses entreprises ne disposeraient que de 7 à 14 jours environ pour identifier, valider et déployer les correctifs avant que les pirates ne puissent exploiter les vulnérabilités récemment découvertes.

Cette évolution a autant d’impact sur les priorités de la direction que sur les opérations techniques. Les équipes de sécurité ne peuvent plus se contenter de s’en tenir à des calendriers de maintenance périodiques. La surveillance continue, la validation rapide et les processus de déploiement automatisés deviennent des éléments essentiels de la résilience de l’entreprise. Les organisations qui réduisent leurs temps de réponse renforcent leur niveau de sécurité et assurent la continuité de leurs activités.

L’IA modifie également la nature même du risque cybernétique. Au lieu de ne repérer qu’une seule vulnérabilité critique, les outils de sécurité basés sur l’IA peuvent mettre au jour des combinaisons de failles mineures qui deviennent dangereuses lorsqu’elles sont exploitées conjointement. Ces vulnérabilités en chaîne sont plus difficiles à détecter par le biais d’une analyse manuelle traditionnelle, car chaque problème peut sembler relativement mineur pris isolément. L’IA est capable d’identifier ces relations beaucoup plus rapidement, ce qui permet tant aux défenseurs qu’aux attaquants d’agir plus vite.

Cela engendre de nouvelles attentes en matière de gouvernance logicielle. La sécurité ne se limite plus à la prévention des incidents. Il s’agit désormais de maintenir des systèmes pouvant être mis à jour en continu sans perturber les activités de l’entreprise. Les organisations dotées de processus modernes de déploiement logiciel seront généralement mieux à même de réagir face à l’accélération constante du rythme de découverte des vulnérabilités.

Pour les dirigeants, la cybersécurité doit être de plus en plus considérée comme une capacité opérationnelle au service de la croissance, plutôt que comme une simple exigence de conformité. L’adoption de l’IA élargit les opportunités commerciales, mais elle accroît également la surface d’attaque. Les entreprises qui investissent dans une gestion plus rapide des correctifs, une gouvernance renforcée et des processus de sécurité automatisés seront mieux préparées à tirer parti des avantages de l’IA tout en gérant ses risques.

L’évolutivité et le succès des agents d’IA d’entreprise dépendent de l’adhésion de l’organisation et de l’implication des experts

La technologie est rarement le principal obstacle au développement à grande échelle de l’IA. Ce sont les personnes.

De nombreuses organisations sont capables de développer un agent IA performant, mais elles sont bien moins nombreuses à pouvoir l’intégrer dans leurs opérations quotidiennes au sein de plusieurs équipes. Cette différence tient généralement au fait que les personnes possédant la connaissance opérationnelle la plus approfondie soutiennent activement ou non cette initiative. Brian Gracely, directeur principal de la stratégie de portefeuille chez Red Hat, a souligné que les experts en la matière ne sont pas de simples contributeurs facultatifs. Ils sont indispensables, car leur expertise détermine la précision avec laquelle un agent IA fonctionne dans des situations professionnelles réelles.

Ces experts maîtrisent les processus, les exceptions, les exigences réglementaires et les attentes des clients, qui sont souvent non documentées. S’ils ne sont impliqués qu’au début d’un projet, voire pas du tout, le système d’IA qui en résulte peut afficher de bonnes performances lors des tests, mais rencontrer des difficultés une fois déployé en production. Une collaboration continue permet de veiller à ce que les systèmes d’IA restent en phase avec l’évolution des besoins métier et d’améliorer leur fiabilité au fil du temps.

Les organisations doivent également prendre conscience que l’IA peut susciter un sentiment d’incertitude chez les collaborateurs. Si ces derniers ont l’impression que leur expertise est simplement exploitée et automatisée, leur implication diminuera naturellement. Gracely a fait valoir que les dirigeants devraient réfléchir attentivement aux mesures incitatives et veiller à ce que les collaborateurs comprennent en quoi l’IA facilite leur travail plutôt que de se substituer à leur contribution. Instaurer la confiance relève de la responsabilité des dirigeants.

Les entreprises qui réussissent mettent généralement en place une gouvernance claire en matière de responsabilité et d’appropriation de l’IA. Les dirigeants, les équipes techniques, les services chargés de la conformité et les experts en la matière ont tous des responsabilités bien définies tout au long du cycle de vie de l’IA. Cette appropriation partagée améliore la prise de décision et aide les organisations à identifier les enjeux opérationnels, juridiques et réglementaires avant qu’ils ne se transforment en problèmes plus graves.

Les équipes chargées de la conformité jouent également un rôle central à mesure que l’adoption de l’IA se généralise. Les agents d’IA d’entreprise interagissent de plus en plus avec des informations commerciales sensibles, des données clients et des processus réglementés. L’implication précoce des équipes chargées de la conformité, des services juridiques et de la gestion des risques permet aux organisations de concevoir des contrôles adaptés dès le départ, plutôt que de les mettre en place après le déploiement. Cela réduit les retards de mise en œuvre et renforce la confiance dans les décisions fondées sur l’IA.

Pour les dirigeants, la transformation par l’IA doit être considérée à la fois comme une initiative technologique et comme une initiative de changement organisationnel. Investir dans les modèles et les infrastructures est nécessaire, mais cela ne suffit pas. Le succès à long terme dépend de la mise en place d’un environnement dans lequel les experts métier, les équipes techniques, les services financiers, de sécurité et juridiques, ainsi que la direction, travaillent à la réalisation d’objectifs communs. Les entreprises qui parviendront à cette harmonisation seront mieux à même de déployer l’IA au-delà de projets pilotes isolés et de l’intégrer dans leurs activités principales.

Comme l’a souligné Gracely, les organisations devraient réfléchir « aux mesures incitatives, à ce que vous proposez aux personnes qui participent à ce travail afin qu’elles ne craignent pas de perdre leur emploi, et à la manière dont vous les inciterez, à long terme, à coopérer avec cette innovation ». Cette perspective met en lumière une réalité importante : l’adoption durable de l’IA repose sur l’engagement, la confiance et la collaboration à l’échelle de l’entreprise.

Principaux faits marquants

• Mettre l’accent sur la préparation opérationnelle : de nombreuses entreprises surestiment leur retard. Les dirigeants doivent accorder la priorité à la gouvernance, à la gestion des coûts, à la sécurité et à l’alignement organisationnel, car ces facteurs déterminent si l’IA pourra être déployée à grande échelle au-delà des projets pilotes réussis.
• Adaptez le modèle à la tâche métier : l’utilisation du modèle d’IA le plus volumineux pour chaque charge de travail augmente les coûts sans améliorer les résultats. Adoptez le routage sémantique, des modèles plus légers pour les tâches courantes et des optimisations de l’infrastructure, telles que la mise en cache, afin d’améliorer l’efficacité tout en préservant les performances.
• Intégrez la discipline financière dans l’IA dès le départ : les dépenses liées à l’IA doivent être gérées selon un cadre de gouvernance similaire à celui des FinOps dans le cloud. Sensibilisez les responsables financiers et opérationnels à l’utilisation des jetons, surveillez la consommation d’IA et établissez des politiques claires en matière de sélection des modèles afin de garantir la prévisibilité des coûts à mesure que l’adoption de l’IA se développe.
• Modernisez votre sécurité face aux menaces liées à l’IA : selon Brian Gracely, de Red Hat, l’IA accélère la détection des vulnérabilités, réduisant ainsi les délais de correction à seulement 7 à 14 jours. Investissez dans une gestion plus rapide des correctifs, une surveillance continue et des processus de sécurité automatisés afin de réduire les risques pour votre entreprise.
• Placez les personnes au cœur de votre stratégie en matière d’IA : l’IA d’entreprise est couronnée de succès lorsque les experts métier, les équipes chargées de la conformité et les dirigeants d’entreprise participent activement à son déploiement. Mettez en place des mesures incitatives, instaurez un climat de confiance et définissez clairement les responsabilités afin que l’IA devienne une capacité opérationnelle durable plutôt qu’une série de projets isolés.