Les véritables défis du passage de l’IA en production

L’adoption de l’IA dépend davantage de la préparation de l’organisation que de ses capacités techniques

L’IA n’est plus le maillon faible de l’entreprise. Dans de nombreuses entreprises, c’est la capacité qui évolue le plus rapidement. Les équipes peuvent développer des prototypes d’IA fonctionnels en quelques jours ou quelques semaines, au lieu de plusieurs mois. La véritable contrainte a changé. La plupart des organisations ne sont pas prêtes à s’adapter à la vitesse à laquelle l’IA évolue.

Il s’agit là d’un changement fondamental. Pendant des années, les dirigeants d’entreprise ont généré des idées plus rapidement que les équipes d’ingénieurs ne pouvaient les concrétiser. Aujourd’hui, les modèles d’IA avancés, les frameworks d’agents et les outils de développement sont disponibles presque instantanément. Le facteur limitant n’est plus l’écriture de logiciels. Il s’agit désormais de savoir si l’entreprise dispose des processus, de la gouvernance, du modèle opérationnel et de la structure décisionnelle nécessaires pour utiliser l’IA de manière responsable et à grande échelle.

Cela explique pourquoi de nombreux projets d’IA donnent lieu à des démonstrations impressionnantes, mais rencontrent des difficultés une fois mis en œuvre. Un prototype prouve qu’une solution peut fonctionner. La mise en production prouve que l’entreprise est prête à l’exploiter au quotidien, dans des conditions réelles d’activité, avec de vrais clients et des responsabilités mesurables. Il s’agit là de défis très différents.

Bill Groves, associé principal chez Bain & Company et ancien directeur des données et de l’analyse chez Walmart, a fait valoir que c’était la première fois que la technologie évoluait plus rapidement que les organisations qui l’adoptaient. Lors de son passage chez Walmart, il en a fait l’expérience directe avec le lancement de la vente en ligne de produits alimentaires. La demande des clients a augmenté rapidement, mais les systèmes de gestion des stocks n’avaient pas été conçus pour prendre en charge à la fois les achats en magasin et en ligne à la même échelle. La technologie en elle-même fonctionnait, mais les systèmes métier qui l’entouraient ne suivaient pas. Les clients se rendaient en magasin en s’attendant à trouver des produits qui n’étaient plus disponibles, car le modèle opérationnel n’avait pas évolué au même rythme que la technologie.

Cette distinction est importante, car de nombreuses organisations continuent de mesurent le succès de l’IA en fonction de résultats techniques plutôt qu’en termes de résultats commerciaux. Un modèle qui génère des rapports plus rapidement ou automatise un flux de travail peut sembler efficace lors d’une démonstration. Mais les dirigeants devraient se poser une autre question : cela a-t-il augmenté le chiffre d’affaires ? Cela a-t-il amélioré la satisfaction client ? Cela a-t-il permis de réduire les coûts sans introduire de nouveaux risques opérationnels ? Si la réponse est non, alors le système d’IA a généré de l’activité plutôt que de la valeur commerciale.

Krishna Vedula, responsable des technologies, des produits et des opérations chez WellnessLiving, a invité les organisations à ne pas déployer l’IA simplement parce que c’est possible. Il a encouragé les dirigeants à définir d’abord les résultats commerciaux visés, puis à déterminer si l’IA constitue la solution appropriée. Cette approche permet de détourner l’attention de la technologie elle-même pour la recentrer sur les performances commerciales mesurables.

Pour les équipes de direction, cela nécessite une stratégie d’investissement différente. L’IA ne doit pas commencer par le choix du modèle le plus récent ou la création de l’agent autonome le plus avancé. Elle doit commencer par définir ce qu’est la réussite, identifier où la valeur sera créée et s’assurer que l’organisation dispose de la gouvernance, de l’appropriation et de la discipline opérationnelle nécessaires pour soutenir un déploiement à long terme. La technologie est de plus en plus accessible à tous. C’est la préparation de l’organisation qui devient le véritable avantage concurrentiel.

L’IA appliquée à la production nécessite des investissements opérationnels nettement plus importants que ce que les entreprises prévoient

De nombreuses entreprises sous-estiment ce qui se passe une fois qu’un système d’IA est mis en service. La création de la première version est souvent la partie la plus facile. C’est lorsqu’il s’agit de l’exploiter de manière fiable au quotidien que le véritable travail commence.

Les logiciels traditionnels nécessitent déjà une surveillance, une maintenance, des mesures de sécurité et des mises à jour continues. Les systèmes d’IA ajoutent une couche supplémentaire de complexité. Les modèles évoluent au fil du temps. Les fournisseurs externes d’IA connaissent des pannes. Les temps de réponse fluctuent. Les coûts varient en fonction de l’utilisation. Le comportement des utilisateurs change en permanence. Chacun de ces facteurs a une incidence sur les performances en production.

Rajesh Rudraradhya, directeur technique chez Lytx et ancien directeur technique chez Snapdeal, a estimé que la mise en œuvre de l’IA en production pouvait nécessiter environ deux fois plus d’investissements opérationnels qu’une plateforme SaaS traditionnelle. Cette différence surprend de nombreuses entreprises, car les prototypes ne mettent que rarement en évidence les difficultés rencontrées en production. Lors des démonstrations, tout est contrôlé. Ce n’est pas le cas dans les environnements de production.

Rajesh a présenté plusieurs exemples tirés de déploiements réels. Certaines organisations partaient du principe que leurs fournisseurs d’IA seraient toujours disponibles, pour finalement découvrir qu’il n’existait aucun système de secours lorsque ces services étaient hors ligne. D’autres équipes ont développé des fonctionnalités d’IA en temps réel qui ont par la suite enfreint les accords de niveau de service, car les temps de réponse des modèles devenaient imprévisibles sous la charge de travail en production. Dans d’autres cas, des agents d’IA qui fonctionnaient bien lors des tests se sont comportés différemment une fois exposés à des volumes d’utilisateurs plus importants et à des conditions métier changeantes. Des systèmes multi-agents ont également échoué car les règles métier régissant la manière dont les différents agents devaient interagir n’avaient pas été définies avec suffisamment de clarté.

Aucun de ces échecs n’était dû aux capacités de l’IA en elles-mêmes. Il s’agissait de défaillances liées à la conception opérationnelle. Cette distinction est importante, car les problèmes opérationnels peuvent être anticipés et résolus si les organisations considèrent la préparation à la mise en production comme un élément central du projet, et non comme une réflexion après coup.

Krishna Vedula a donné un exemple concret concernant un client. Imaginez qu’un colis de grande valeur soit retardé lors de la livraison. Un système d’IA bien conçu détecte immédiatement le problème, informe le client avant même que celui-ci n’ait à se manifester, et lui propose un remplacement ou une autre solution adaptée. Une mise en œuvre mal conçue peut retarder la communication, fournir des informations inexactes ou ne pas réagir du tout. La technologie sous-jacente à ces deux systèmes peut être similaire, mais la conception opérationnelle crée des expériences client totalement différentes.

Un autre défi est d’ordre organisationnel. Au cours de la phase de prototypage, les entreprises affectent souvent leurs meilleurs ingénieurs à la tâche afin de valider rapidement le concept. Une fois le prototype validé, ces ingénieurs passent à la prochaine initiative. L’équipe de production hérite alors d’un système complexe sans disposer du même niveau de compréhension technique ni de la même connaissance du contexte métier. Selon Rajesh Rudraradhya, cette transition est l’une des raisons pour lesquelles de nombreux systèmes d’IA fonctionnent bien lors des phases pilotes, mais rencontrent des difficultés après leur déploiement.

Les dirigeants doivent considérer la mise en production comme le point de départ de l’investissement. La budgétisation doit inclure l’ingénierie de résilience, la surveillance, la gouvernance, la gestion des incidents, la sécurité, la conformité, l’optimisation des performances et l’évaluation continue des modèles. Les équipes chargées de la mise en production doivent en assumer la responsabilité à long terme.

Les entreprises qui en prendront conscience dès le début mettront au point des systèmes d’IA qui continueront à apporter de la valeur bien au-delà de la première démonstration. Celles qui considèrent la mise en production comme une simple étape supplémentaire du déploiement découvriront probablement que la maintenance d’un système d’IA est nettement plus exigeante que sa conception.

L’architecture d’entreprise doit délibérément imposer des contraintes à l’IA autonome, car son comportement est par nature imprévisible

L’IA agentique modifie le comportement des logiciels. Les applications d’entreprise traditionnelles suivent généralement une logique prédéfinie. Les équipes peuvent tester les scénarios attendus, mesurer les performances et prédire la manière dont le système réagira dans la plupart des situations. L’IA agentique se distingue en ce qu’elle prend des décisions de manière dynamique, interagit avec des informations en constante évolution et est capable de communiquer avec d’autres systèmes d’IA que votre organisation ne contrôle pas.

Cela engendre une nouvelle série de défis architecturaux. Les performances deviennent moins prévisibles. Les coûts fluctuent en fonction de l’évolution des charges de travail. Les temps de réponse varient selon les modèles utilisés et la complexité des requêtes. Un système qui fonctionne bien lors des tests peut se comporter différemment une fois qu’il est exploité en continu en production, avec de vrais utilisateurs et dans un contexte métier en constante évolution.

Rajesh Rudraradhya, directeur technique chez Lytx et ancien directeur technique chez Snapdeal, a décrit ce phénomène comme le fait que les systèmes deviennent « sans limites ». Son argument était simple : les systèmes d’entreprise ont besoin de limites opérationnelles bien définies. L’IA introduit par défaut une part d’incertitude ; les organisations doivent donc délibérément établir des limites quant aux domaines et aux modalités d’intervention des agents. Sans ces limites, de petits problèmes peuvent se propager rapidement à travers des flux de travail interconnectés.

Ce défi s’accentue encore davantage à mesure que les organisations adoptent plusieurs agents d’IA. Colin Bodell, ancien directeur technique chez Groupon et American Eagle Outfitters, a souligné que de nombreux systèmes d’entreprise interagiront de plus en plus avec des agents exploités par des sociétés externes. Ces agents externes ont leurs propres objectifs, se mettent à jour de manière indépendante et échappent à votre contrôle. Cela signifie que la visibilité sur le comportement du système s’étend au-delà de votre propre infrastructure, ce qui complique considérablement la surveillance et le dépannage.

Bill Groves, associé principal chez Bain & Company et ancien directeur des données et de l’analyse chez Walmart, a mis en évidence une autre conséquence liée à la détection des fraudes. À mesure que les agents d’IA commenceront à prendre des décisions d’achat au nom des clients, les schémas transactionnels évolueront. Les systèmes de détection des fraudes, entraînés sur le comportement historique des clients, risquent de perdre progressivement de leur efficacité, car le comportement sous-jacent qu’ils ont été conçus pour reconnaître a évolué. Les organisations ne peuvent pas partir du principe que les contrôles existants resteront efficaces sans une évaluation continue.

La réponse concrète réside dans une architecture rigoureuse plutôt que dans un déploiement sans restriction. Rajesh a conseillé aux organisations de partir du principe que des défaillances se produiront et de préparer des plans de reprise avant le déploiement. Cela implique notamment de définir des mécanismes de secours, de surveiller les comportements inattendus, de fixer des seuils opérationnels et d’établir des procédures d’escalade claires lorsque les systèmes d’IA sortent des limites acceptables.

Krishna Vedula, responsable de la technologie, des produits et des opérations chez WellnessLiving, a abordé ce défi sous un autre angle. Au lieu d’appliquer une IA de pointe à chaque processus, il a recommandé de choisir la technologie la plus simple capable de mener à bien la tâche. Il a décrit cette approche comme le passage de la « maximisation des ressources » à l’« optimisation des ressources ». Plutôt que de s’appuyer sur un seul modèle puissant pour chaque décision, les organisations devraient utiliser différentes capacités d’IA là où elles génèrent la plus grande valeur commerciale, tout en évitant une complexité opérationnelle inutile.

Pour les dirigeants, la leçon est claire. Un recours accru à l’IA ne génère pas automatiquement davantage de valeur. L’architecture d’entreprise doit délibérément limiter la complexité, définir des limites opérationnelles et veiller à ce que chaque capacité autonome réponde à un objectif commercial mesurable. L’évolutivité dépend autant d’une conception rigoureuse que des performances des modèles.

L’alignement organisationnel constitue le principal obstacle à un déploiement efficace de l’IA à grande échelle

La technologie à elle seule ne suffira pas à garantir le succès d’une initiative en matière d’IA. Les organisations qui peinent à s’aligner seront confrontées aux mêmes problèmes, quel que soit le niveau d’avancement de leurs modèles. L’IA accentue les faiblesses organisationnelles existantes, car elle évolue à un rythme bien plus rapide que les projets technologiques traditionnels.

Bill Groves a fait valoir que l’alignement organisationnel constitue le principal obstacle au déploiement à grande échelle de l’IA, un obstacle encore plus important que la qualité des données ou l’infrastructure technique. Selon lui, les entreprises peuvent disposer d’excellentes données et d’équipes d’ingénieurs compétentes, mais échouer malgré tout si les dirigeants, les responsables métier et les équipes techniques ne travaillent pas à la réalisation des mêmes priorités dans le cadre d’un modèle opérationnel commun.

Ce défi commence souvent par la question de la responsabilité. Les projets d’IA impliquent fréquemment les équipes produit, l’ingénierie, les opérations, le service juridique, la conformité, la sécurité, la finance et les dirigeants de l’entreprise. Lorsque les responsabilités sont fragmentées, aucun groupe ne s’approprie pleinement le résultat final. Les décisions sont prises plus lentement, la préparation à la mise en production fait l’objet de moins d’attention et la responsabilité n’est plus clairement établie.

Le résultat est prévisible. Les ingénieurs mettent au point des systèmes techniquement impressionnants sans avoir une vision complète des priorités métier. Les dirigeants attendent des résultats mesurables sans comprendre les exigences opérationnelles. Les équipes chargées de la gestion des risques n’interviennent qu’à un stade avancé du processus, au lieu d’y contribuer dès le début. Ces décalages entraînent des retards, génèrent des retouches inutiles et sapent la confiance dans les initiatives liées à l’IA.

Bill Groves a fait valoir que ces frontières organisationnelles traditionnelles sont désormais un frein. Il a suggéré que les ingénieurs, les chefs de produit et les dirigeants d’entreprise travaillent en collaboration si étroite que les distinctions fonctionnelles deviennent presque imperceptibles lors de la mise en œuvre. Il ne s’agit pas de modifier les intitulés de poste, mais bien de créer un sentiment d’appropriation commune des résultats commerciaux plutôt qu’une appropriation individuelle des tâches techniques.

Pour les dirigeants, cela ne se limite pas à la création d’un comité de pilotage dédié à l’IA. Cela nécessite un modèle opérationnel dans lequel la stratégie, la technologie, la gouvernance et la mise en œuvre des activités sont intégrées dès le lancement de chaque initiative. Les indicateurs de réussite doivent être définis d’un commun accord avant le début du développement, chaque partie prenante étant tenue de veiller à leur réalisation tout au long du déploiement et de l’exploitation.

Les organisations doivent également prendre conscience que la gouvernance de l’IA ne se limite pas à la gestion des risques. Une gouvernance efficace accélère le déploiement en définissant clairement les pouvoirs de décision, en établissant des processus d’approbation précis et en garantissant une responsabilité transparente. Lorsque les équipes savent qui est responsable des décisions et ce que l’on entend par « succès », elles peuvent agir plus rapidement et avec davantage d’assurance.

À mesure que les capacités de l’IA continuent de s’améliorer, les organisations qui créeront le plus de valeur ne seront pas nécessairement celles qui auront accès aux modèles les plus avancés. Ce seront celles qui sauront aligner le leadership, les opérations et la technologie autour d’un objectif commun et qui sauront agir avec cohérence au fil du temps.

Les secteurs de la vente au détail et du commerce électronique illustrent à quel point les défis liés à la mise en œuvre de l’IA ont des répercussions considérables dans tous les secteurs d’activité

Le commerce de détail et le commerce électronique mettent souvent en évidence les forces et les faiblesses de l’IA plus rapidement que la plupart des autres secteurs. La gestion des stocks, la détection des fraudes, la tarification, la gestion des commandes et le service client fonctionnent en continu, et les moindres défaillances opérationnelles apparaissent presque immédiatement. Le chiffre d’affaires, la satisfaction client et l’efficacité opérationnelle sont directement affectés lorsque les systèmes d’IA ne fonctionnent pas comme prévu en production.

C’est pourquoi le panel s’est largement concentré sur des exemples issus du secteur de la grande distribution. Les enjeux sous-jacents ne sont pas propres à ce secteur. Ils apparaissent simplement plus tôt, car la boucle de rétroaction entre la technologie et les résultats commerciaux est beaucoup plus courte. Les mêmes défis opérationnels s’appliquent aux services financiers, à la santé, à l’industrie manufacturière, à la logistique, aux télécommunications et aux entreprises de logiciels. Les détails opérationnels diffèrent, mais les schémas organisationnels restent remarquablement cohérents.

Bill Groves, associé principal chez Bain & Company et ancien directeur des données et de l’analyse chez Walmart, a fait part de son expérience lors de l’expansion des services d’épicerie en ligne de Walmart. La demande des clients a augmenté rapidement dès la mise en place des commandes en ligne, mais les systèmes de gestion des stocks avaient été conçus pour les achats traditionnels en magasin. Alors que la technologie sous-jacente à la vente en ligne de produits alimentaires fonctionnait comme prévu, les systèmes opérationnels n’étaient pas préparés à gérer simultanément la demande en ligne et celle des magasins physiques. Il en a résulté une expérience client médiocre, les clients se rendant en magasin pour y trouver des rayons inopinément vides.

Cette leçon va bien au-delà de la gestion des stocks. L’IA peut améliorer les prévisions, automatiser les décisions et personnaliser les interactions avec les clients, mais ces capacités ne créent de la valeur que si les processus métier qui les entourent évoluent en parallèle. Si les systèmes de traitement des commandes, les politiques opérationnelles, la gouvernance et les flux de travail des collaborateurs restent inchangés, l’IA ne fait que mettre en évidence les faiblesses qui existent déjà.

Le panel a également abordé la détection des fraudes comme un autre exemple de cette dynamique. Bill Groves a expliqué que les comportements d’achat sont susceptibles d’évoluer à mesure que les agents d’IA prennent de plus en plus de décisions d’achat au nom des consommateurs. Les systèmes actuels de détection des fraudes ont été entraînés à partir des comportements historiques des clients. À mesure que les schémas de transaction évoluent, ces systèmes risquent de perdre en précision, à moins que les organisations ne mettent continuellement à jour leurs modèles, leurs pratiques de surveillance et leurs contrôles des risques. L’adoption de l’IA entraîne donc une responsabilité opérationnelle permanente, plutôt qu’une simple mise en œuvre technologique ponctuelle.

L’expérience client pose un défi similaire. Les systèmes d’IA prennent de plus en plus souvent des décisions qui ont une incidence directe sur les interactions avec les clients, souvent en temps réel. Des réponses tardives, des recommandations erronées ou des procédures d’escalade mal conçues peuvent rapidement ébranler la confiance des clients. Les entreprises ont besoin de processus opérationnels garantissant que les décisions prises par l’IA restent précises, transparentes et en adéquation avec les attentes des clients, même lorsque les conditions évoluent.

Pour les dirigeants, le secteur de la grande distribution offre un aperçu précoce des défis auxquels de nombreux secteurs seront confrontés à mesure que l’IA s’intègre dans les opérations commerciales fondamentales. La leçon à en tirer n’est pas que l’IA engendre des problèmes commerciaux entièrement nouveaux, mais qu’elle accélère la mise en évidence des faiblesses opérationnelles existantes et amplifie leur impact sur les clients.

Les organisations qui modernisent leurs modèles opérationnels, leur gouvernance et leurs capacités de production parallèlement à l’adoption de l’IA seront mieux placées pour créer de la valeur à long terme. Celles qui se concentrent principalement sur le déploiement de nouveaux modèles sans renforcer les systèmes métier qui les entourent continueront de faire face à un fossé entre des projets pilotes réussis et une production durable.

Principaux enseignements pour les décideurs

• La préparation de l’organisation est déterminante pour la réussite de l’IA : l’IA évolue plus rapidement que la plupart des organisations ne peuvent s’y adapter. Les dirigeants doivent définir des résultats commerciaux mesurables, renforcer la gouvernance et harmoniser les modèles opérationnels avant d’étendre les déploiements d’IA.
• C’est au stade de la production que l’IA crée ou perd de la valeur : la réussite des projets pilotes ne garantit pas la fiabilité des systèmes de production. Les dirigeants doivent prévoir dans leur budget les coûts liés à l’exploitation courante, à la surveillance, à la résilience et à la gestion à long terme, en tenant compte du fait que l’IA en production peut nécessiter des investissements nettement plus importants que les logiciels traditionnels.
• Limitez l’IA avant qu’elle n’engendre une complexité inutile : l’IA agentique entraîne des comportements imprévisibles, une évolution des coûts et de nouveaux risques opérationnels. Les organisations doivent recourir à l’IA autonome de manière sélective, définir des limites architecturales claires et concevoir dès le départ des systèmes intégrant des mécanismes de reprise après défaillance.
• La cohésion constitue un atout commercial : l’IA gagne en efficacité lorsque les dirigeants, les équipes produit, les ingénieurs et les équipes opérationnelles s’approprient ensemble les résultats. Les modèles opérationnels transversaux réduisent les risques liés à la mise en œuvre, améliorent la prise de décision et accélèrent la mise en production.
• Inspirez-vous des secteurs où l’IA est mise à l’épreuve au quotidien : le commerce de détail et le commerce en ligne montrent comment les faiblesses opérationnelles se traduisent rapidement par des problèmes liés à la clientèle et au chiffre d’affaires. Les dirigeants de tous les secteurs devraient considérer l’IA comme une transformation d’entreprise qui nécessite, outre les nouvelles technologies, une modernisation des processus, une gouvernance et une discipline opérationnelle.