Des agents IA performants grâce à un contexte disponible partout

Couchbase lance un plan de données IA destiné à unifier les opérations d’IA contextuelles

L’IA d’entreprise entre dans une nouvelle phase. Le principal défi ne consiste plus à choisir le meilleur modèle linguistique, mais à s’assurer que chaque agent IA dispose des informations adéquates au moment opportun. Ces informations comprennent les interactions passées, les données métier et le contexte opérationnel actuel. Sans elles, même le modèle le plus performant produit des résultats incohérents.

Couchbase répond à cette évolution grâce à son « AI Data Plane ». La plateforme combine une mémoire d’agent persistante, la récupération de contexte en temps réel et un (MCP) géré par l’entreprise au sein d’une seule et même plateforme opérationnelle. Au lieu de connecter plusieurs systèmes pour assurer la mémoire, la récupération et l’intégration des modèles, les entreprises peuvent gérer ces fonctionnalités via un environnement unique.

Cette approche va également au-delà du cloud. Le plan de données IA fonctionne de manière cohérente aussi bien sur les infrastructures cloud que dans les déploiements sur site et les environnements périphériques hors connexion. Cela est important, car de nombreuses opérations métier ne peuvent pas dépendre d’un accès Internet continu. Les magasins de détail, les sites de production, les équipes de service sur le terrain, les établissements de santé et les secteurs réglementés ont souvent besoin que l’IA continue de fonctionner localement tout en protégeant les données sensibles. En prenant en charge ces environnements à l’aide d’une même plateforme, les organisations peuvent mettre en œuvre une stratégie d’IA plus cohérente à l’échelle de l’ensemble de leur entreprise.

Pour les dirigeants, il s’agit d’un choix architectural aux implications à long terme. Chaque composant d’IA supplémentaire entraîne davantage de travail d’intégration, de défis en matière de gouvernance et de risques opérationnels. Une plateforme unifiée peut réduire cette complexité tout en facilitant la mise à l’échelle des déploiements d’IA à travers les services et les zones géographiques. À mesure que les entreprises passent des expérimentations en IA aux systèmes de production, la simplification de l’infrastructure sous-jacente revêt une importance croissante.

Gopi Duddi, directeur technique chez Couchbase, a souligné le rôle des bases de données dans cette évolution. Il a déclaré à VentureBeat : « Comment s’assurer que les informations que vous tirez de ces modèles correspondent bien aux domaines de spécialité des bases de données ? Comment tirer cette valeur des systèmes de stockage, qui resteront toujours des bases de données ? » Son propos reflète une évolution plus large du secteur. Les bases de données d’entreprise ne sont plus de simples systèmes d’enregistrement. Elles participent désormais activement à la manière dont les applications d’IA extraient, gèrent et appliquent les connaissances métier.

La consolidation des composants clés de l’IA remplace les infrastructures d’entreprise fragmentées

De nombreux déploiements d’IA en entreprise se sont développés en ajoutant de nouveaux outils à chaque fois qu’un nouveau besoin se faisait sentir. Un produit gère la recherche vectorielle. Un autre stocke l’historique des conversations. Un service distinct se charge de l’intégration du protocole Model Context Protocol. D’autres systèmes assurent la gouvernance, la surveillance ou la découverte des fonctions. Chaque outil peut résoudre un problème particulier, mais, ensemble, ils génèrent une complexité opérationnelle.

Le « Data Plane » d’IA de Couchbase est conçu pour réduire cette fragmentation en regroupant ces fonctionnalités. La plateforme intègre une couche mémoire unifiée pour les agents, qui stocke l’historique des conversations, les informations métier structurées et les représentations vectorielles. Cela permet aux agents d’IA de conserver le contexte au fil du temps, au lieu de traiter chaque interaction comme si elle était entièrement nouvelle.

La plateforme met également en place des contrôles opérationnels qui revêtent une importance croissante à mesure que les organisations déploient l’IA à grande échelle. Les administrateurs peuvent imposer des limites de jetons pour chaque session, définir des politiques de durée de vie qui suppriment automatiquement les mémoires obsolètes et appliquer des contrôles de comptage afin de limiter la consommation de ressources de calcul pour chaque session d’agent. Ces contrôles aident les organisations à trouver un équilibre entre les performances de l’IA, la gestion des coûts et les exigences en matière de gouvernance.

Un autre élément clé est le serveur MCP (Model Context Protocol) géré par l’entreprise. Le protocole MCP s’impose progressivement comme une norme importante pour connecter les modèles d’IA aux outils et aux sources de données d’entreprise. En intégrant directement le protocole MCP au sein de la plateforme, Couchbase évite aux organisations d’avoir à déployer et à maintenir une couche d’intégration distincte. Cela permet de réduire les coûts d’exploitation tout en offrant une implémentation d’entreprise prise en charge.

La plateforme comprend également un catalogue d’agents. Contrairement aux catalogues de métadonnées traditionnels qui décrivent des ensembles de données, ce catalogue est axé sur les fonctions d’IA identifiables. Les développeurs peuvent exposer des capacités métier sous forme d’outils appelables que les agents d’IA peuvent localiser et exécuter via la plateforme. Cela permet de normaliser la manière dont les agents interagissent avec les systèmes d’entreprise et de réduire les efforts de développement redondants entre les équipes.

Pour les dirigeants d’entreprise, la valeur stratégique va au-delà de la simplification technique. Les initiatives en matière d’IA sont souvent ralenties parce que les équipes d’ingénieurs consacrent trop de temps à l’intégration de l’infrastructure au lieu de développer des capacités métier. La réduction du nombre d’éléments mobiles peut accélérer le déploiement, améliorer la résilience opérationnelle et réduire les coûts de maintenance à long terme. Elle permet également de mettre en place un modèle de gouvernance plus solide, car la sécurité, la surveillance et l’application des politiques peuvent être gérées de manière plus cohérente dans l’ensemble de l’environnement d’IA.

Le marché des entreprises dans son ensemble évolue également dans cette direction. Les organisations privilégient de plus en plus les plateformes d’IA intégrées plutôt que des ensembles de services vaguement reliés entre eux. Bien qu’il n’existe pas d’architecture unique adaptée à toutes les entreprises, les plateformes qui combinent mémoire, récupération, gouvernance et connectivité des modèles au sein d’une couche opérationnelle unifiée occupent désormais une place importante dans les stratégies d’IA des entreprises.

L’architecture de base de données « memory-first » offre un avantage en termes de performances et de fiabilité

La qualité d’un agent d’IA ne dépend pas uniquement du modèle qu’il utilise. Elle dépend également de la rapidité avec laquelle il peut accéder à des informations fiables. Si la récupération des données en mémoire est lente ou irrégulière, la qualité des réponses s’en trouve affectée. C’est pourquoi l’architecture de données sous-jacente devient un facteur concurrentiel pour l’IA d’entreprise.

Couchbase affirme que son passé de plateforme de mise en cache lui confère un avantage significatif. Selon l’entreprise, elle a été initialement conçue comme un cache avant d’évoluer vers une base de données à part entière. Cette base technique permet à la plateforme de donner la priorité aux opérations en mémoire tout en offrant les fonctionnalités d’une base de données d’entreprise.

Gopi Duddi, directeur technique chez Couchbase, a déclaré à VentureBeat que l’écriture en mémoire est environ dix fois plus rapide que l’écriture sur disque. Il affirme que c’est ce qui distingue Couchbase des bases de données NoSQL qui s’appuient principalement sur un stockage sur disque pour offrir des capacités en mémoire. La vitesse est un facteur essentiel, car les agents d’IA récupèrent, mettent à jour et réutilisent en permanence des informations contextuelles au cours des conversations et des flux de travail métier.

Les performances ne suffisent pas à elles seules dans les environnements d’entreprise. Les applications métier exigent également cohérence et fiabilité. Couchbase garantit la conformité aux principes ACID, ce qui signifie que les transactions sont conçues pour préserver l’atomicité, la cohérence, l’isolation et la durabilité. Ces propriétés contribuent à garantir l’exactitude des informations stratégiques pour l’entreprise, même lorsque de nombreux utilisateurs ou agents d’IA accèdent simultanément aux mêmes données. Dans des secteurs tels que la finance, la santé, l’industrie manufacturière et le commerce de détail, le maintien de l’intégrité des données est souvent tout aussi important que la réduction des temps de réponse.

Cette architecture s’étend également aux environnements où la connectivité au cloud ne peut être garantie. Grâce à Couchbase Lite, les applications peuvent effectuer des requêtes SQL, des recherches en texte intégral et des recherches vectorielles directement sur l’appareil, sans nécessiter de connexion réseau active. Lorsque la connectivité est rétablie, un mécanisme de synchronisation propriétaire réplique les modifications entre les appareils périphériques et les systèmes centraux. Cela permet aux applications d’IA de continuer à fonctionner tout en garantissant la cohérence des données dans les environnements distribués.

Pour les dirigeants, cela élargit l’éventail des déploiements concrets de l’IA. De nombreux environnements opérationnels ne peuvent pas compter sur une connectivité ininterrompue. Les magasins de détail, les équipes de terrain, les sites industriels et les secteurs réglementés ont souvent besoin que les systèmes d’IA fonctionnent en local tout en conservant les informations sensibles sur l’appareil. Une plateforme prenant en charge à la fois la gestion centralisée et l’exécution locale peut simplifier le déploiement dans ces environnements sans nécessiter de piles technologiques distinctes.

Le paysage concurrentiel reflète également cette tendance. Redis, qui a lui aussi vu le jour en tant que technologie de mise en cache, a récemment lancé sa propre couche contextuelle d’IA agentique. Le marché reconnaît de plus en plus que la gestion de la mémoire devient une capacité essentielle pour l’IA d’entreprise, plutôt qu’une fonctionnalité optionnelle. Les fournisseurs se font désormais concurrence sur leur capacité à fournir efficacement du contexte tout en garantissant une fiabilité et une gouvernance de niveau entreprise.

La mémoire partagée entre agents réduit les récupérations de données redondantes et diminue les coûts liés à l’inférence IA

À mesure que les organisations déploient davantage d’agents d’IA, l’efficacité devient un enjeu commercial plutôt qu’un simple enjeu technique. Il arrive souvent que plusieurs agents accèdent à plusieurs reprises aux mêmes informations, ce qui génère des calculs superflus, augmente les coûts d’inférence et consomme plus de jetons que nécessaire. À grande échelle, ces coûts peuvent augmenter rapidement.

Couchbase résout ce problème en permettant aux agents d’IA de partager un contexte persistant, plutôt que de récupérer indépendamment des informations identiques. La plateforme stocke les données contextuelles communes dans une mémoire partagée, ce qui permet à plusieurs agents d’accéder aux mêmes informations sans avoir à répéter le processus de récupération. Cela réduit les doublons tout en contribuant à garantir la cohérence des réponses lors d’interactions simultanées.

Gopi Duddi a décrit un scénario de réservation d’hôtel dans lequel plusieurs agents IA s’occupent simultanément des clients. Chaque agent peut effectuer une recherche vectorielle locale et récupérer les informations pertinentes directement sur l’appareil, tandis que la mémoire de session partagée se synchronise de manière centralisée lorsque cela s’avère nécessaire. Plutôt que de traiter à plusieurs reprises les mêmes données sous-jacentes, les agents réutilisent le contexte existant. Il en résulte concrètement une amélioration de l’efficacité des jetons, car il n’est pas nécessaire de récupérer et de traiter les mêmes informations pour chaque session individuelle.

Cette fonctionnalité prend de plus en plus de valeur à mesure que les entreprises passent d’une poignée d’assistants IA à des centaines, voire des milliers d’agents spécialisés prenant en charge différentes fonctions métier. Le service client, les opérations internes, le soutien commercial et l’assistance technique peuvent tous s’appuyer sur un savoir-faire organisationnel partagé. La gestion centralisée de ce savoir-faire, tout en permettant aux agents d’y accéder efficacement, contribue à améliorer la cohérence et à réduire les coûts opérationnels.

Pour les dirigeants d’entreprise, les coûts d’inférence méritent une attention particulière. À mesure que l’adoption de l’IA se généralise, l’utilisation des modèles devient souvent l’une des principales dépenses opérationnelles récurrentes. L’amélioration de l’efficacité des jetons a un impact direct sur la rentabilité du déploiement de l’IA. La réduction des requêtes redondantes permet également d’améliorer les temps de réponse, ce qui peut renforcer l’expérience client et la productivité des collaborateurs sans nécessiter d’investissements supplémentaires dans l’infrastructure.

Cela présente également un avantage important en matière de gouvernance. La mémoire partagée permet aux organisations de disposer d’une source de contexte opérationnel plus cohérente entre plusieurs agents d’IA. Au lieu que chaque agent développe des historiques de conversation isolés ou des bases de connaissances déconnectées, les organisations peuvent gérer les informations partagées via des politiques centralisées tout en permettant aux agents d’effectuer des tâches spécialisées. Cela favorise une meilleure conformité, un comportement plus prévisible et une supervision simplifiée à mesure que les déploiements d’IA en entreprise continuent de se développer.

L’adoption de Couchbase par Agora confirme la pertinence de cette plateforme pour les charges de travail d’IA en entreprise

Les annonces technologiques sont importantes, mais ce sont les déploiements en production qui permettent de déterminer de manière plus concrète si une plateforme est en mesure de répondre aux besoins des entreprises. L’expérience d’Agora offre un exemple concret de la manière dont ces fonctionnalités sont mises à profit au-delà des simples démonstrations de produits.

Agora, une plateforme qui aide les développeurs à intégrer des fonctionnalités vocales, vidéo et d’IA conversationnelle en temps réel dans les applications d’entreprise, utilise Couchbase en production depuis février 2024. L’entreprise a initialement déployé Couchbase pour prendre en charge son produit « Signaling », qui gère la configuration des canaux et la synchronisation des états pour les communications en direct. À mesure qu’Agora s’est développée dans le domaine de l’IA conversationnelle, ses besoins en matière d’infrastructure sont devenus plus exigeants.

Patrick Ferriter, vice-président senior chargé des produits chez Agora, a expliqué que l’entreprise avait besoin d’une plateforme conçue autour de plusieurs priorités stratégiques. Parmi celles-ci figuraient une architecture « memory-first », une prise en charge complète du format JSON pour le stockage et les requêtes, une réplication inter-centres de données pour garantir une haute disponibilité, ainsi qu’un support fournisseur de niveau entreprise. Selon M. Ferriter, « Couchbase était la solution la mieux adaptée au regard de ces critères. »

Agora étend désormais son utilisation de Couchbase afin de prendre en charge la récupération contextuelle pour les agents d’IA conversationnelle. M. Ferriter a déclaré à VentureBeat : « Cela simplifiera l’architecture et permettra de proposer une solution RAG de niveau entreprise, avec une latence réduite et prévisible, comme l’exigent les cas d’utilisation de l’IA conversationnelle. » La génération augmentée par la recherche (RAG) permet aux modèles d’IA de récupérer des informations d’entreprise pertinentes avant de générer des réponses, ce qui contribue à améliorer la précision tout en réduisant le risque de réponses obsolètes ou incomplètes. Pour l’IA conversationnelle, une latence prévisible est particulièrement importante, car les retards affectent rapidement l’expérience utilisateur.

M. Ferriter a également souligné que le choix d’une plateforme dépend des priorités de l’organisation plutôt que d’une préférence technologique universelle. Il a déclaré : « Cela dépend des préférences et des objectifs de l’organisation, y compris du calendrier. S’ils souhaitent une solution de niveau entreprise, optimale pour une mise en production immédiate et une évolutivité rapide, plutôt que de devoir optimiser et maintenir une solution open source avec le soutien de la communauté. C’est la première option que nous recherchions, et c’est pourquoi nous avons envisagé un partenariat élargi avec Couchbase. »

Cela reflète un choix plus général auquel sont confrontés de nombreux dirigeants d’entreprise. Les technologies open source peuvent offrir une plus grande flexibilité et des coûts de licence réduits, mais elles nécessitent souvent une expertise interne plus importante, une maintenance continue et un soutien opérationnel. Les plateformes d’entreprise commerciales offrent généralement un support intégré, des architectures validées et une responsabilité mieux définie. Le choix approprié dépend des ressources techniques disponibles, des délais opérationnels, des exigences réglementaires et de la stratégie opérationnelle à long terme.

Pour les dirigeants chargés d’évaluer les investissements dans l’IA, les références en production constituent un atout précieux, car elles témoignent de la maturité opérationnelle. Une plateforme qui offre de bonnes performances face à des charges de travail réelles en entreprise apporte une preuve plus solide que les seules spécifications techniques. À mesure que les organisations passent de projets pilotes à des systèmes d’IA stratégiques pour leur activité, la fiabilité, l’assistance et l’évolutivité deviennent des critères de sélection de plus en plus importants.

Les analystes du secteur estiment que les couches contextuelles d’IA sont en passe de devenir une compétence clé pour les entreprises

La mise en place des plateformes contextuelles d’IA ne se fait pas de manière isolée. Le marché plus large des logiciels d’entreprise s’oriente vers des architectures qui combinent mémoire, recherche et gouvernance au sein de plateformes intégrées capables de prendre en charge des agents d’IA à grande échelle.

En mars, Oracle a intégré un « memory core » à sa base de données, tandis qu’en mai, Redis et Pinecone, fournisseur de bases de données vectorielles, ont tous deux lancé des couches de contexte IA. Ces annonces témoignent d’une prise de conscience croissante au sein du secteur : l’IA d’entreprise ne se limite pas à des modèles de base puissants. Les organisations ont également besoin de moyens efficaces pour gérer le contexte persistant, extraire les informations pertinentes et réguler l’accès des systèmes d’IA aux données d’entreprise.

Devin Pratt, directeur de recherche en IA, automatisation, données et analyse chez IDC, estime que Couchbase s’inscrit dans ce mouvement plus large du secteur plutôt que de le définir. Il a déclaré à VentureBeat : « Couchbase suit cette tendance, elle ne la définit pas, mais c’est la bonne à suivre. » Cette analyse replace la stratégie de l’entreprise dans le contexte plus large de l’évolution de l’IA d’entreprise, plutôt que de la présenter comme une catégorie de marché à part entière.

M. Pratt a également mis en avant ce qu’il considère comme le principal facteur de différenciation de Couchbase. Il a déclaré : « Son véritable atout réside dans sa portée : la même plateforme fonctionne aussi bien dans le cloud qu’en périphérie et sur les appareils mobiles, ce qui correspond exactement au mode de fonctionnement des entreprises. Le défi consiste désormais à faire ses preuves face à des acteurs plus importants. » Son observation reflète une réalité importante du monde de l’entreprise. Les grandes organisations fonctionnent rarement au sein d’un environnement informatique unique. Elles gèrent généralement des charges de travail réparties entre plusieurs clouds, des infrastructures privées, des sites périphériques et des appareils mobiles. La cohérence entre ces environnements permet de réduire la complexité opérationnelle et de simplifier la gouvernance.

M. Pratt a également proposé des conseils pratiques aux responsables technologiques chargés d’évaluer les infrastructures d’IA. Il a conseillé aux organisations de « choisir l’outil en fonction de la charge de travail. Regroupez les ressources lorsque cela s’avère judicieux, utilisez un moteur spécialisé, tel qu’une base de données orientée graphe, lorsque le raisonnement reposant fortement sur les relations le justifie, et laissez la gouvernance guider vos décisions plutôt que de considérer la mémoire comme un simple élément d’infrastructure. »

Ces recommandations mettent en évidence un aspect stratégique important. Le choix de l’infrastructure d’IA doit se fonder sur les besoins métier, plutôt que de viser une standardisation totale pour toutes les charges de travail. Certaines applications tirent parti de plateformes intégrées qui simplifient les opérations, tandis que d’autres nécessitent des technologies spécialisées pour résoudre des défis spécifiques liés aux données ou au raisonnement. Les organisations qui adaptent leurs choix d’infrastructure aux caractéristiques de leurs charges de travail sont généralement mieux à même de trouver un équilibre entre performances, coûts, gouvernance et flexibilité à long terme.

Pour les dirigeants, le message général est clair. Le débat sur la compétitivité ne porte plus uniquement sur le choix du modèle, mais s’étend désormais à l’architecture des données, à la gestion du contexte et à la gouvernance opérationnelle. Les entreprises qui mettent dès aujourd’hui en place une base évolutive pour la gestion du contexte de l’IA seront mieux préparées à prendre en charge des systèmes d’IA de plus en plus autonomes, à mesure que leur adoption au sein des entreprises continue de s’accélérer.

Principaux enseignements pour les décideurs

• Le contexte devient le facteur clé de différenciation en matière d’IA : l’avantage concurrentiel ne réside plus dans le choix du meilleur modèle, mais dans la capacité à fournir les données et la mémoire adéquates au moment opportun. Les dirigeants doivent évaluer les plateformes d’IA en fonction de leur capacité à gérer le contexte dans les environnements cloud, sur site et en périphérie.
• Simplifiez l’infrastructure d’IA dans la mesure du possible : le regroupement de la mémoire, de la récupération des données, de l’intégration des modèles et de la gouvernance au sein d’une plateforme unique permet de réduire la complexité opérationnelle et d’accélérer les déploiements en production. La réduction du nombre d’éléments mobiles améliore également la sécurité, la maîtrise des coûts et l’évolutivité à long terme.
• Considérez l’architecture des données comme un choix stratégique en matière d’IA : un accès rapide à la mémoire, la cohérence transactionnelle et la prise en charge des déploiements en périphérie hors connexion deviennent essentiels pour l’IA d’entreprise. Privilégiez les plateformes qui allient performances et fiabilité, en particulier pour les charges de travail critiques pour l’entreprise.
• Réduisez les coûts liés à l’IA grâce au contexte partagé : la mémoire partagée des agents minimise la récupération de données redondantes, réduit la consommation de jetons et améliore la cohérence des réponses entre plusieurs agents IA. À mesure que les déploiements d’IA prennent de l’ampleur, l’optimisation de l’efficacité de l’inférence peut avoir un impact significatif sur les coûts d’exploitation.
• Privilégiez les déploiements d’entreprise ayant fait leurs preuves : les cas d’utilisation concrets en environnement de production constituent une validation plus solide que les simples annonces de produits. Évaluez les fournisseurs en fonction de leur capacité à garantir une haute disponibilité, une latence prévisible, un support dédié aux entreprises et des opérations de production évolutives.
• Adapter l’infrastructure d’IA aux besoins de l’entreprise : le marché adopte rapidement les couches contextuelles d’IA, mais aucune plateforme ne convient à toutes les charges de travail. Les dirigeants doivent choisir leur infrastructure en fonction des exigences opérationnelles, de la gouvernance et des environnements de déploiement, plutôt que de se contenter de suivre les tendances du secteur.