Le manque de confiance compromet le passage à l’échelle de l’IA

La défiance des employés pourrait devenir la véritable contrainte de l’IA autonome

L’adoption de l’IA progresse, mais un net déficit de confiance subsiste au sein des entreprises. Les managers et les employés sont de plus en plus à l’aise avec l’usage de l’IA, mais les personnes qui pilotent son adoption ont tendance à être plus positives à l’égard de la technologie que les collaborateurs de terrain. Elles sont également plus disposées à laisser l’IA prendre en charge certaines parties du flux de travail.

Cette différence compte à mesure que les entreprises passent d’une IA qui recommande à une IA qui agit. Les logiciels traditionnels suivent généralement des instructions définies par des humains. L’IA autonome peut aller plus loin : elle peut prendre des décisions et mener des actions sans attendre une validation à chaque étape. Pour les employés, cela soulève une question fondamentale : quelle part de contrôle suis-je en train d’abandonner, et que se passe-t-il si le système se trompe ?

Seuls 11 % des employés ont déclaré être à l’aise avec le fait que l’IA entreprenne des actions qu’ils n’avaient ni examinées ni approuvées. Les employés ont indiqué percevoir un risque personnel plus élevé avec les systèmes autonomes, car ils ont moins de contrôle sur la manière et le moment où ces systèmes sont déployés.

La confiance peut devenir une contrainte opérationnelle. Une entreprise peut déployer une IA sophistiquée, mais si les employés vérifient systématiquement son travail, évitent d’utiliser les fonctionnalités autonomes ou renvoient des décisions de routine vers des humains, les gains de productivité attendus seront plus faibles.

La solution n’est pas d’exiger davantage de confiance. Les entreprises doivent créer les conditions qui la justifient. Les employés doivent comprendre ce qu’un système d’IA est autorisé à faire, ce qu’il ne peut pas faire, comment les décisions peuvent être annulées et qui est responsable en cas de défaillance. La direction doit également recueillir les retours des personnes qui utilisent réellement ces systèmes. Elles rencontrent souvent des faiblesses qui n’apparaissent pas lors de tests contrôlés.

L’opportunité reste importante. L’IA autonome peut éliminer le travail répétitif et accélérer les décisions. Mais la seule capacité technique ne déterminera pas à quelle vitesse les entreprises capteront cette valeur. Les organisations qui rendent l’autonomie compréhensible, maîtrisée et responsable disposeront d’une base bien plus solide pour la déployer à grande échelle.

Les employés veulent l’assistance de l’IA, mais ils veulent toujours garder le contrôle sur les résultats importants

Les salariés utilisent déjà l’IA. Leur comportement suggère que le principal problème n’est pas une résistance à la technologie elle-même. Il réside dans le niveau d’autorité que les employés sont prêts à lui accorder.

L’IA est le plus souvent utilisée une ou deux fois par jour. Les employés s’en servent généralement pour comprendre des informations, générer un point de départ ou accomplir des tâches de routine. Ces activités ont un point commun important : une personne peut examiner le résultat avant de l’utiliser.

Cette préférence fournit aux dirigeants des informations utiles sur la manière dont l’IA devrait être déployée aujourd’hui. Les employés semblent plus à l’aise lorsque l’IA accélère le travail sans supprimer le jugement humain. Un résumé généré peut être vérifié. Un brouillon peut être modifié. Un résultat de routine peut être validé. Une action entièrement autonome change le niveau de risque, car un résultat incorrect peut se transformer en action incorrecte avant toute intervention.

La supervision humaine devrait elle aussi être fondée sur le risque plutôt que d’être appliquée à chaque tâche. Exiger une approbation pour chaque action d’IA à faible impact peut éliminer une grande partie de l’efficacité que l’automatisation est censée créer. Dans le même temps, donner à l’IA une autorité sans restriction sur des décisions importantes sur les plans financier, juridique, opérationnel ou réputationnel peut créer une exposition inutile.

Les dirigeants peuvent y répondre en définissant des niveaux d’autonomie. Les actions à faible risque et réversibles peuvent recevoir une pré-approbation. Les actions plus conséquentes peuvent nécessiter une confirmation humaine. À mesure que les systèmes démontrent des performances fiables, les organisations peuvent élargir leur autorité tout en continuant à surveiller les résultats.

C’est une voie pratique vers le passage à l’échelle. Commencez là où l’IA crée une valeur mesurable et où les conséquences d’un échec restent gérables. Établissez des preuves que le système fonctionne de manière fiable. Puis augmentez l’autonomie à mesure que la confiance, la gouvernance et les performances techniques progressent ensemble.

Les entreprises évoluent vers l’IA autonome plus vite que la confiance ne se développe

Les entreprises se préparent à accorder beaucoup plus d’autorité à l’IA. L’orientation stratégique est claire : l’IA dépasse la simple génération de contenu et de recommandations pour aller vers la prise de décisions et l’exécution d’actions avec une implication humaine limitée.

Le problème est que la confiance n’a pas progressé au même rythme. Selon une enquête de juin publiée par Kyndryl, seuls 25 % des dirigeants métiers et technologiques ont déclaré faire entièrement confiance à leurs systèmes d’IA. Pourtant, plus de quatre sur cinq ont indiqué s’attendre à ce que des agents d’IA autonomes prennent, dans l’année à venir, des décisions ayant un impact significatif sur l’activité.

Cet écart mérite l’attention des dirigeants. Les entreprises se préparent à donner à l’IA un plus grand contrôle sur des activités métier importantes alors même que la plupart des dirigeants n’expriment pas encore une confiance totale dans les systèmes concernés. Dès lors que l’IA autonome affecte les clients, les finances, les opérations, la sécurité ou des processus réglementés, les erreurs peuvent avoir des conséquences qui dépassent un simple résultat incorrect.

Cela ne signifie pas que les entreprises doivent attendre une IA parfaite. Cette norme est irréaliste. La prise de décision humaine n’est pas parfaite non plus. L’objectif le plus utile consiste plutôt à définir un niveau de performance et de risque acceptable pour chaque cas d’usage. Les dirigeants ont besoin de preuves qu’un système fonctionne de manière fiable dans le périmètre qui lui est assigné, ainsi que de mécanismes pour identifier, contenir et corriger les défaillances.

Le rythme de déploiement devrait donc dépendre des conséquences d’une erreur. Un agent d’IA gérant un processus interne à faible risque peut fonctionner avec plus de liberté qu’un agent qui approuve des transactions financières, modifie des systèmes critiques ou communique aux clients des informations importantes. L’autonomie doit être une décision métier fondée sur un risque mesurable, et non simplement une fonctionnalité activée parce que la technologie le permet.

Il existe aussi un enjeu économique. Une autonomie accrue peut réduire le travail répétitif, accélérer les processus et permettre aux employés de se concentrer sur des décisions à plus forte valeur. Mais des contrôles insuffisants peuvent créer de nouveaux coûts via des corrections manuelles, des incidents de sécurité, des manquements à la conformité et une dégradation de la confiance des clients. Les dirigeants doivent mesurer les deux côtés de cette équation.

Les entreprises qui géreront bien cette transition ne seront pas nécessairement celles qui déploieront l’IA autonome partout en premier. Ce seront les organisations qui identifient où l’autonomie produit une valeur significative, établissent des exigences de performance claires et étendent le déploiement lorsque les preuves le justifient.

Une gouvernance faible et une responsabilité mal définie sapent la confiance dans l’IA autonome

La confiance dans l’IA est étroitement liée à la gouvernance. Les employés doivent savoir ce qu’un système est autorisé à faire, aux informations auxquelles il peut accéder, qui surveille ses actions et qui est responsable lorsqu’un problème survient. Sans réponses claires, l’IA autonome crée de l’incertitude à la fois pour les employés et pour le management.

Les employés craignent que l’IA n’expose des informations sensibles, ne parvienne pas à comprendre le contexte nécessaire pour produire un résultat approprié ou n’entreprenne des actions au-delà de son périmètre prévu. Environ un cinquième ont également déclaré craindre d’être tenus responsables d’erreurs commises par l’IA.

Pour les dirigeants, la responsabilité est particulièrement importante. Un employé ne devrait pas avoir à déterminer après un incident si l’échec relève de lui-même, de son manager, de l’équipe technologique, d’un fournisseur ou d’une autre fonction métier. La responsabilité doit être établie avant le déploiement d’un système autonome.

La gouvernance doit également aller au-delà des documents de politique interne. Les entreprises devraient définir quelles données un système d’IA peut utiliser, quelles actions il est autorisé à effectuer, dans quelles conditions une approbation humaine est requise et dans quelles circonstances le fonctionnement autonome doit s’arrêter. Elles devraient aussi conserver des enregistrements permettant de tracer les actions importantes de l’IA. Pour les cas d’usage à fort impact, la capacité à annuler ou corriger une action devrait être intégrée au processus dès le départ.

C’est important, car la gouvernance ne consiste pas simplement à réduire le risque. Bien menée, elle peut permettre une adoption plus rapide. Lorsque les limites et les responsabilités sont explicites, les équipes peuvent accorder à l’IA une plus grande autorité dans des domaines approuvés sans redébattre en permanence de qui peut prendre chaque décision.

L’objectif des dirigeants est donc de rendre l’autonomie maîtrisée et mesurable. Définissez l’autorité avant le déploiement, attribuez clairement la responsabilité, surveillez ce que le système fait réellement et créez des processus d’intervention lorsque les performances sortent des limites acceptables. Avec ces fondations en place, les organisations peuvent accroître l’autonomie de l’IA tout en gardant les humains aux commandes des décisions qui ont les conséquences métier les plus importantes.

L’IA autonome devrait se développer à travers des niveaux d’autorité clairement définis

Accorder de l’autonomie à un système d’IA ne devrait pas être une décision tout ou rien. Les organisations peuvent définir précisément quelles actions un système peut accomplir de manière indépendante et lesquelles nécessitent une approbation humaine. Commencez par des actions à faible risque et pré-approuvées, tout en conservant une revue humaine pour les décisions aux conséquences plus importantes.

Cela crée une voie d’adoption pratique. Les tâches de routine et réversibles peuvent bénéficier de davantage d’autonomie lorsque le coût potentiel d’une erreur est faible. Les actions impliquant des informations sensibles, des engagements financiers significatifs, des obligations réglementaires, la sécurité, les employés ou les clients peuvent nécessiter des contrôles plus stricts. Le niveau d’implication humaine devrait refléter l’impact métier d’une défaillance possible.

Les employés devraient jouer un rôle dans la définition de ces limites. Ils comprennent les workflows au niveau opérationnel et peuvent identifier des risques qui ne sont pas forcément évidents lors de la conception du système. Leur participation clarifie également l’autorité dont dispose l’IA, le moment où un employé est censé intervenir et l’endroit où se situe la responsabilité lorsqu’un système commet une erreur.

Les dirigeants devraient rendre ces règles spécifiques. Les employés doivent savoir à quoi l’IA peut accéder, quelles actions elle peut exécuter, quand une approbation est obligatoire et comment une action autonome peut être arrêtée ou annulée. Les équipes doivent avoir la certitude que les systèmes autonomes sont sécurisés, explicables, réversibles et gouvernés par des humains.

Le défi pour les dirigeants consiste à préserver les bénéfices économiques de l’automatisation sans ajouter d’approbations humaines inutiles. Examiner chaque action de l’IA réduit la valeur de l’autonomie. Supprimer la supervision de manière trop agressive accroît le risque opérationnel et le risque de gouvernance. Les entreprises doivent déterminer où le jugement humain crée une réelle valeur et où une automatisation pré-approuvée peut prendre le relais en toute sécurité.

Cette structure peut évoluer. À mesure qu’un système d’IA démontre des performances fiables, l’organisation peut autoriser des actions supplémentaires ou réduire les exigences d’approbation. Si les performances se dégradent ou si les conditions d’exploitation changent, ces autorisations peuvent être restreintes. L’autonomie devient alors quelque chose que l’entreprise gère activement plutôt qu’un paramètre technique permanent.

Déployez l’autonomie à grande échelle après en avoir prouvé la valeur, tout en répartissant équitablement le risque

L’argument le plus solide en faveur d’une autonomie plus large de l’IA repose sur des performances démontrées. Au lieu de déployer largement des systèmes autonomes dès le départ, les organisations peuvent établir des cas d’usage spécifiques, définir des résultats acceptables, mesurer les résultats et étendre l’autorité lorsque les preuves justifient de le faire.

Mei Dent, Chief Product and Technology Officer chez TeamViewer, a résumé directement cette approche : « L’autonomie passera à l’échelle lorsque les organisations pourront prouver qu’elle fonctionne dans des cas d’usage spécifiques et de confiance, puis l’étendre avec assurance. » Dent a également souligné que les systèmes et agents d’IA modifient le modèle logiciel traditionnel, car ils peuvent faire plus que simplement exécuter des instructions explicites données par les utilisateurs.

Pour les dirigeants, prouver qu’un cas d’usage « fonctionne » devrait signifier plus que montrer que l’IA peut accomplir la tâche. Les organisations devraient évaluer la précision, la fiabilité, la sécurité, l’impact métier, les taux d’exception et la fréquence des interventions humaines. Pour les applications à fort enjeu, les dirigeants devraient également examiner si les actions sont traçables et réversibles, et si le système reste dans le périmètre d’autorité qui lui a été assigné.

La répartition du risque est tout aussi importante. Les conséquences de l’IA autonome ne devraient pas peser de manière disproportionnée sur un seul employé, une seule équipe ou un seul groupe de travail. C’est particulièrement pertinent lorsque des employés peuvent être tenus responsables de décisions qu’ils ne contrôlaient pas pleinement. Environ un cinquième des employés ont exprimé la crainte d’être tenus responsables d’erreurs de l’IA.

Une propriété claire peut réduire ce problème. Les dirigeants métiers devraient déterminer qui est propriétaire du processus activé par l’IA, qui surveille les performances du système, qui gère les exceptions et qui porte la responsabilité lorsque la technologie fonctionne comme autorisé mais produit malgré tout un résultat indésirable. Les équipes technologiques, les business units, les fonctions risque et les employés individuels peuvent chacun avoir des responsabilités, mais celles-ci doivent être explicites.

Le passage à l’échelle devrait ensuite suivre les preuves. Une entreprise peut commencer par des activités étroitement définies où les résultats sont mesurables et les risques gérables. De bonnes performances peuvent justifier des autorisations plus larges, des tâches plus complexes ou un déploiement dans d’autres parties de l’organisation. De mauvaises performances devraient déclencher des modifications du système, des contrôles plus stricts ou une autonomie réduite.

L’objectif n’est pas l’autonomie maximale. C’est une autonomie utile. L’opportunité plus large consiste à utiliser l’IA et l’automatisation pour « prévenir les perturbations, améliorer les expériences numériques et permettre aux personnes de se concentrer sur un travail à plus forte valeur ». Pour les dirigeants de la direction générale, cela signifie mesurer le succès à l’aune des résultats métier et d’un risque maîtrisé, plutôt qu’au nombre de processus pouvant fonctionner sans intervention humaine.

Principaux enseignements pour les dirigeants

• La confiance est la contrainte qui freine le passage à l’échelle de l’IA : Seuls 11 % des employés sont à l’aise avec une IA qui agit sans leur revue ni leur approbation. Les dirigeants doivent renforcer la confiance en parallèle des capacités techniques s’ils veulent que l’autonomie produise une véritable valeur opérationnelle.
• Préservez le contrôle humain là où il compte : Les employés privilégient l’IA pour les tâches qu’ils peuvent examiner, comme comprendre des informations, créer des brouillons et gérer le travail de routine. Utilisez une supervision humaine fondée sur le risque tout en accordant davantage d’autonomie aux tâches sûres et réversibles.
• L’autonomie de l’IA progresse plus vite que la confiance : Une enquête Kyndryl a révélé que 25 % des dirigeants métiers et technologiques font entièrement confiance à leurs systèmes d’IA, alors que plus de 80 % s’attendent à ce que des agents autonomes prennent des décisions matériellement significatives dans l’année. Faites évoluer l’autorité en fonction de la fiabilité démontrée et du risque métier.
• La gouvernance permet une plus grande autonomie : Les préoccupations liées aux données sensibles, aux erreurs de contexte, aux actions non autorisées et à la responsabilité individuelle peuvent freiner l’adoption. Définissez les autorisations de l’IA, la responsabilité, la surveillance et les processus d’intervention avant d’étendre le déploiement.
• Donnez à l’IA une autorité clairement définie : Pré-approuvez les actions autonomes à faible risque tout en exigeant une revue humaine pour les décisions à plus fort impact. Impliquez les employés dans la définition de ces limites et élargissez les autorisations à mesure que les systèmes démontrent des performances fiables.
• Prouvez la valeur avant de déployer l’autonomie à grande échelle : Commencez par des cas d’usage mesurables et de confiance, puis n’étendez que lorsque les performances le justifient. Répartissez équitablement la responsabilité entre les équipes et mesurez le succès à partir des résultats métier, de la fiabilité et d’un risque maîtrisé plutôt qu’en fonction du niveau maximal d’automatisation.