Google cloud pose les bases d’une délégation IA maîtrisée

Les systèmes multi-agents plus intelligents ont besoin d’une friction sélective

L’automatisation multi-agents devient plus difficile à contrôler lorsqu’un agent délègue du travail à un autre. Le framework de Google Cloud se concentre sur quatre risques lors de ces transferts : la possibilité de vérifier le résultat, l’adéquation du modèle à la tâche, le fait que l’agent reçoive un niveau d’accès approprié, et le fait que l’instruction mérite d’être remise en question.

Google Cloud propose quatre principes en réponse : concevoir le travail délégué pour qu’il soit vérifiable, choisir les modèles en fonction de la tâche, limiter les données et autorisations déléguées, et amener les agents à remettre en question les instructions suspectes. Google Cloud vend une infrastructure cloud et des services d’IA capables de prendre en charge ces systèmes, et a donc un intérêt commercial dans la manière dont les organisations conçoivent et étendent les déploiements d’agents.

Le problème de conception est celui d’une friction sélective. Les organisations doivent décider quels transferts automatisés peuvent se faire directement et lesquels exigent une vérification, des restrictions plus strictes, une résistance, ou un jugement humain.

Commencer par ce qui peut être vérifié

Le premier principe de Google Cloud est une approche « contract-first ». Un agent orchestrateur, c’est-à-dire le système qui coordonne le travail entre d’autres agents, divise une mission plus large en tâches plus petites dont les résultats peuvent être surveillés et contrôlés.

Un système peut déléguer du travail avec succès tout en produisant un résultat difficile à évaluer. Google Cloud place donc la vérifiabilité très tôt dans la conception du workflow. Une tâche plus vaste peut nécessiter d’être divisée à plusieurs reprises en sous-objectifs jusqu’à ce que les résultats individuels soient suffisamment simples à évaluer.

Pour les dirigeants, cela ajoute un critère au moment de choisir les processus à automatiser : quelles sorties intermédiaires et finales peuvent être évaluées de manière fiable ? Lorsqu’un résultat dispose d’un test clair, la vérification peut être automatisée. Lorsque l’exactitude dépend du contexte ou du jugement d’un expert, le workflow peut introduire un point de décision humain.

L’approche de Google Cloud concentre la revue humaine sur les résultats que les contrôles automatisés ne peuvent pas trancher de manière fiable. Coordonner plusieurs agents n’est qu’une partie du défi. Une organisation a aussi besoin d’un moyen crédible d’évaluer le travail à mesure que les tâches progressent en aval.

Faire correspondre la capacité du modèle à la tâche

La délégation détermine aussi le niveau de capacité de modèle qu’une organisation mobilise pour chaque tâche. Google Cloud indique que les clients demandent de plus en plus si des tâches individuelles peuvent être confiées à des modèles plus petits et moins coûteux plutôt qu’à des systèmes de raisonnement plus grands.

Google Cloud oppose un processus métier complexe comme la paie à une tâche administrative de base comme le reformatage d’une feuille de calcul. Dans son raisonnement, la paie peut justifier un modèle plus avancé parce que les erreurs ont des conséquences plus importantes. Le reformatage d’une feuille de calcul peut justifier un endpoint moins coûteux.

L’orchestrateur doit faire correspondre la capacité du modèle et son coût au travail à effectuer. Cela exige des critères clairs pour décider quelles catégories de tâches justifient des modèles plus performants.

Google Cloud indique que certains de ses clients utilisent déjà le routage de modèles via des passerelles API pour envoyer les tâches vers différents modèles, tandis que d’autres utilisent des outils proxy côté client. Ce sont des exemples rapportés par un fournisseur qui bénéficie commercialement d’un usage accru de l’infrastructure cloud et IA. Le choix de conception est indépendant du mécanisme de routage : les organisations doivent décider du niveau de capacité de modèle requis pour chaque type de travail.

Déléguer le minimum de données et d’autorisations nécessaire

Le troisième principe de Google Cloud indique qu’un agent orchestrateur ne doit donner à un sous-agent que les autorisations et les informations nécessaires à la tâche qui lui est assignée.

Prenons la paie. Transmettre l’ensemble d’un jeu de données de paie à un agent secondaire pour une opération limitée peut exposer des informations confidentielles dont cet agent n’a pas besoin. Limiter ce transfert réduit cette exposition.

La vérification devient plus difficile lorsqu’un agent a besoin d’être assuré d’un travail impliquant des données qu’il ne devrait pas recevoir. Google Cloud cite les preuves à divulgation nulle de connaissance comme mécanisme potentiel. Une preuve à divulgation nulle de connaissance est une technique cryptographique permettant de démontrer qu’une affirmation ou un calcul est valide sans divulguer les informations secrètes sous-jacentes.

Dans un workflow d’agents, l’usage proposé consiste pour un agent à prouver qu’un calcul a été effectué correctement sans révéler le jeu de données privé qui le sous-tend. Google Cloud présente des méthodes cryptographiques avancées, y compris les preuves à divulgation nulle de connaissance, comme une approche possible.

La règle opérationnelle est simple : chaque tâche déléguée crée une nouvelle décision d’accès. Avant de transmettre l’autorité en aval, l’orchestrateur doit déterminer quelles données et autorisations cette tâche précise exige.

Un agent compétent doit parfois remettre en question une instruction

Le quatrième principe de Google Cloud ajoute de la friction à la conformité elle-même. Il s’appuie sur le concept de théorie des organisations de « zone d’indifférence » : une plage de demandes qu’un travailleur accepte sans les contester parce qu’elles semblent relever de ses fonctions ordinaires.

Google Cloud soutient que les agents peuvent être confrontés à un risque similaire. Les systèmes actuels peuvent suivre des demandes à moins que les instructions système ou les mesures de sécurité post-entraînement ne leur donnent une raison claire de refuser. Tout au long d’une chaîne de délégation, une demande peut sembler acceptable à chaque étape alors même que son intention ou son contexte évolue.

Une recherche attribuée à Google DeepMind décrit cette préoccupation ainsi : « À mesure que les chaînes de délégation s’allongent (? → ? → ?), une large zone d’indifférence permet à de subtils décalages d’intention ou à des préjudices dépendants du contexte de se propager rapidement en aval, chaque agent agissant comme un routeur irréfléchi plutôt que comme un acteur responsable. »

Google Cloud appelle sa réponse proposée « friction cognitive dynamique ». Dans cette approche, un agent vérifie si une demande est exacte, pertinente, suffisamment claire et appropriée à son contexte. Lorsque ces tests échouent, l’agent peut contester une instruction ambiguë ou demander une vérification humaine.

Une délégation réussie exige plus que la conformité. Dans les workflows où les erreurs ont des conséquences graves, un agent peut aussi devoir reconnaître quand une instruction exige un examen supplémentaire avant d’agir.

Points clés à retenir pour les décideurs

• Concevoir pour la vérification : Décomposez le travail délégué en tâches dont les résultats peuvent être contrôlés de manière fiable, et réservez la revue humaine aux résultats qui exigent du contexte ou le jugement d’un expert.
• Faire correspondre les modèles au travail : Orientez les tâches routinières vers des modèles plus petits et moins coûteux, et utilisez des modèles plus performants lorsque la complexité et les conséquences des erreurs justifient le coût supplémentaire.
• Limiter l’accès délégué : Donnez à chaque sous-agent uniquement les données et autorisations nécessaires à sa tâche. Considérez chaque transfert comme une nouvelle décision d’accès.
• Intégrer une résistance sélective : Les agents ne doivent pas se conformer automatiquement à chaque instruction déléguée. Ajoutez des contrôles qui remettent en question les demandes peu claires, inexactes, non pertinentes ou inappropriées, avec une vérification humaine si nécessaire.