Le rôle qui manque pour réussir vos projets d’intelligence artificielle

Les systèmes d’IA échouent souvent parce qu’ils exécutent des spécifications incomplètes ou mal définies

La plupart des défaillances de l’IA ne seront pas dues à des modèles défectueux ou à un code erroné. Elles proviendront de systèmes qui font exactement ce qu’on leur a demandé de faire. Il s’agit là d’un problème bien plus complexe, car le logiciel est techniquement correct.

L’exemple du secteur de la santé l’illustre clairement. L’hôpital souhaitait réduire le nombre de visites inutiles aux urgences en identifiant les patients qui tireraient le plus grand bénéfice de l’intervention d’une infirmière. L’équipe d’ingénieurs a mis au point un système qui convertissait les dossiers des patients en données structurées, calculait des scores de risque et classait les patients en conséquence. D’un point de vue technique, tout fonctionnait. L’architecture était solide, la mise en œuvre avait passé les tests avec succès et le modèle produisait des résultats cohérents.

Le problème, c’est que le cahier des charges décrivait le processus.

Une infirmière expérimentée a immédiatement constaté que les patients classés en tête de liste n’étaient pas ceux qui devaient être pris en charge en priorité. Les patients figurant plus bas dans la liste avaient beaucoup plus de chances de revenir aux urgences. L’IA ne présentait aucun bug. Elle s’était simplement optimisée pour un objectif erroné, car le cahier des charges n’avait jamais décrit la manière dont les cliniciens expérimentés prennent réellement ces décisions.

Cela devient un enjeu déterminant pour l’IA d’entreprise. Les logiciels traditionnels laissent généralement aux utilisateurs la possibilité d’interpréter les informations manquantes. Que ce soit lors du développement, des tests ou des opérations quotidiennes, quelqu’un remarque généralement lorsque les spécifications ne tiennent pas compte d’un contexte important. L’IA supprime en grande partie ce filet de sécurité. Elle exécute les spécifications exactement telles qu’elles sont rédigées, à grande échelle et à grande vitesse.

Pour les dirigeants, cela modifie la nature même du risque opérationnel. La gouvernance de l’IA ne peut plus se limiter à l’infrastructure, à la cybersécurité ou aux performances des modèles. Ces aspects restent certes importants, mais ils ne suffisent plus. La spécification elle-même devient un actif essentiel pour l’entreprise, car c’est elle qui détermine ce que le système optimisera et ce qu’il ignorera.

De nombreuses organisations continuent de penser qu’il suffit de rédiger des exigences claires. Cette hypothèse fonctionnait assez bien pour les logiciels déterministes. Elle ne s’applique toutefois pas aussi bien aux systèmes d’IA qui formulent des recommandations, hiérarchisent les tâches ou appuient les décisions stratégiques. Si le jugement organisationnel fait défaut dans le cahier des charges, l’IA ne pourra pas le reproduire d’elle-même.

Cela modifie également la manière dont il convient de mesurer la réussite. Un système qui produit des prévisions précises mais qui recommande systématiquement des mesures commerciales inappropriées ne peut être considéré comme une réussite. La précision sans jugement pertinent engendre une confiance dénuée de valeur. Le véritable objectif réside dans l’amélioration des décisions.

Les organisations ont besoin d’un architecte spécialisé dans les spécifications

L’IA bouleverse un principe qui prévalait depuis des décennies dans le développement logiciel. Avant l’IA, les chefs de produit définissaient les exigences, les architectes concevaient les systèmes, les ingénieurs les mettaient en œuvre, et des collaborateurs expérimentés comblaient les lacunes inévitables lors de la mise en œuvre. Le processus était plus lent, mais les équipes corrigeaient en permanence les malentendus avant qu’ils n’atteignent les clients.

Ce modèle n’est pas évolutif en matière d’IA.

Aujourd’hui, un cahier des charges peut se transformer en un système d’IA opérationnel en quelques heures ou quelques jours. Les possibilités de correction informelle sont bien plus limitées. Chaque hypothèse importante qui n’existe que dans l’esprit des collaborateurs expérimentés devient une source potentielle d’échec en production.

Cela crée une nouvelle responsabilité au sein de l’organisation.

Un architecte de spécifications n’est pas un architecte technique au sens strict, et ne remplace pas non plus la gestion de produit. Son objectif est différent. L’architecte de spécifications veille à ce que les intentions métier, les décisions organisationnelles, les contraintes opérationnelles et les connaissances spécialisées soient traduites en instructions que les systèmes d’IA peuvent exécuter de manière cohérente.

Ce travail va bien au-delà de la simple rédaction de cahiers des charges.

Un cahier des charges de qualité définit ce que signifie réellement la réussite. Il précise quels compromis sont acceptables, dans quels cas l’incertitude doit donner lieu à une escalade, dans quels domaines le jugement humain doit rester déterminant, et comment le système doit se comporter lorsque les informations sont incomplètes. Ces décisions influencent les résultats de l’entreprise bien davantage que le choix d’un modèle linguistique plutôt qu’un autre.

Ce rôle instaure également une responsabilité. De nombreuses organisations ne découvrent les défaillances de l’IA qu’après leur déploiement, car personne n’est spécifiquement chargé d’assurer la transition entre les objectifs de la direction et le comportement des machines. Les équipes produit sont responsables des fonctionnalités. Les ingénieurs sont responsables de la mise en œuvre. Les équipes de sécurité sont responsables de la conformité. Les data scientists sont responsables des modèles. Mais le jugement organisationnel n’a souvent personne à qui s’en remettre.

Cet écart finit par coûter cher.

Les dirigeants devraient considérer les spécifications de la même manière qu’ils considèrent les contrôles financiers ou les politiques juridiques. Elles définissent le mode de fonctionnement de l’organisation. Si ces définitions sont incomplètes, l’IA produira systématiquement des décisions incomplètes, quel que soit le niveau d’avancement de la technologie sous-jacente.

Cette responsabilité évoluera probablement de manière différente selon les entreprises. Certaines organisations pourraient créer un poste dédié d’« architecte des spécifications ». D’autres pourraient élargir les responsabilités des architectes d’entreprise, des responsables produit ou des équipes chargées de la gouvernance de l’IA. Le titre importe bien moins que la responsabilité qui en découle.

Les organisations qui tireront le meilleur parti de l’IA ne seront pas nécessairement celles qui disposent des modèles les plus volumineux ou de l’infrastructure la plus récente. Ce seront celles qui sauront capitaliser leur savoir-faire institutionnel sous une forme que les machines pourront exploiter de manière fiable, répétée et à l’échelle de l’entreprise.

Les systèmes d’IA devraient être conçus pour faciliter les processus de raisonnement

De nombreuses organisations lancent des projets d’IA en posant une question simple : comment classer, catégoriser ou prédire quelque chose ? C’est un point de départ raisonnable, mais c’est souvent une mauvaise orientation.

L’exemple de l’hôpital illustre pourquoi. Le système initial partait du principe que la hiérarchisation des patients relevait essentiellement d’un problème de notation. Il décomposait chaque patient en attributs structurés, calculait un niveau de risque et générait un classement. Cette approche semblait objective, car chaque recommandation reposait sur des données mesurables.

La limite résidait dans l’hypothèse sur laquelle elle reposait.

Les dossiers des patients étaient incomplets. Des informations importantes n’ont jamais été intégrées au modèle, car elles n’étaient pas disponibles sous une forme structurée. De ce fait, des patients dont les situations réelles étaient très différentes apparaissaient comme pratiquement identiques aux yeux du système. Le modèle a émis des recommandations avec un haut degré de confiance sur la base de données incomplètes.

Les infirmières expérimentées ne travaillent pas de cette manière. Elles identifient les incertitudes et y réagissent. Elles recherchent les informations manquantes, examinent des dossiers supplémentaires, tiennent compte du contexte local et transmettent les cas complexes à un niveau hiérarchique supérieur lorsque les éléments disponibles sont insuffisants. Leur objectif n’est pas simplement d’attribuer une note. Leur objectif est de prendre la meilleure décision possible à partir des informations disponibles.

Cette distinction revêt une importance particulière dans tous les secteurs d’activité.

Dans le secteur des services financiers, une demande de prêt peut nécessiter des vérifications supplémentaires avant d’être approuvée. Dans le secteur industriel, une recommandation de maintenance peut dépendre de conditions d’exploitation qui ne sont pas reflétées par les seules données des capteurs. Dans le service client, le traitement d’une réclamation peut nécessiter de prendre en compte les interactions antérieures plutôt que de se fonder uniquement sur des scores de sentiment. Dans chaque cas, une IA efficace devrait faciliter l’analyse lorsque le niveau de confiance est faible, au lieu de classer systématiquement chaque situation selon un classement prédéfini.

Cela modifie la manière dont les organisations doivent définir les systèmes d’IA.

Au lieu de se demander si le modèle fournit des prévisions précises, les dirigeants devraient se demander si le système sait reconnaître quand des informations supplémentaires sont nécessaires, s’il communique clairement ses incertitudes et s’il est capable de faire la distinction entre les situations qui doivent être traitées automatiquement et celles qui nécessitent un examen plus approfondi.

Le raisonnement ne signifie pas une autonomie illimitée. Un système d’IA bien conçu poursuit un objectif défini, fonctionne dans des limites claires, recueille des données pertinentes lorsque cela s’avère nécessaire et explique pourquoi il est parvenu à une recommandation. Cela rend le système plus fiable, car son processus décisionnel reflète les attentes de l’organisation au lieu de se fonder uniquement sur la confiance statistique.

Pour les dirigeants, cela présente une valeur commerciale directe. Les systèmes capables de prendre en compte l’incertitude réduisent le risque opérationnel, renforcent la confiance entre les collaborateurs et formulent des recommandations plus pertinentes dans des environnements complexes. L’objectif n’est pas d’automatiser toutes les décisions, mais d’améliorer la qualité des décisions à grande échelle.

Le rythme effréné du déploiement de l’IA rend superflus les contrôles humains traditionnels

Le développement logiciel traditionnel laissait le temps aux personnes concernées d’identifier les hypothèses manquantes. Les chefs de produit affinaient les exigences, les architectes remettaient en question les conceptions, les ingénieurs soulevaient des questions relatives à la mise en œuvre, et les relecteurs découvraient souvent des lacunes avant que le logiciel n’atteigne la phase de production. L’interprétation humaine constituait un niveau de qualité supplémentaire tout au long du processus.

L’IA modifie ce modèle opérationnel.

Les systèmes d’IA modernes peuvent passer de la phase de spécification à celle du déploiement en une fraction du temps nécessaire aux logiciels classiques. Cette rapidité génère une valeur ajoutée considérable pour l’entreprise, mais elle supprime également bon nombre d’occasions où des professionnels expérimentés auraient normalement pu détecter des objectifs flous ou des raisonnements incomplets.

La conclusion est simple. Si une règle métier importante n’est pas incluse dans la spécification, l’IA ne l’inventera pas. Si le jugement organisationnel fait défaut, le système prendra systématiquement des décisions sans tenir compte de ce jugement.

C’est pourquoi les dirigeants devraient considérer les cahiers des charges comme des actifs de production plutôt que comme de la documentation de projet.

De nombreuses organisations continuent de considérer les exigences comme un élément achevé lors de la phase de planification et qui n’est réexaminé que lorsque de nouvelles fonctionnalités sont demandées. L’IA nécessite une approche différente. Les spécifications doivent devenir des documents évolutifs qui s’adaptent à mesure que l’organisation acquiert de l’expérience, identifie les cas limites et améliore sa compréhension de la manière dont les décisions doivent être prises.

Cette évolution modifie également la gouvernance.

Les processus de validation ne peuvent plus se limiter à la seule évaluation de la maturité technique. Les responsables doivent se demander si le cahier des charges reflète fidèlement les objectifs métier, si les experts du domaine ont validé les hypothèses critiques, si les incertitudes sont gérées de manière appropriée et si les procédures d’escalade sont clairement définies avant le début du déploiement.

La collaboration interfonctionnelle revêt une importance bien plus grande. Les dirigeants d’entreprise, les experts opérationnels, les équipes chargées de la conformité, les ingénieurs et les spécialistes de l’IA apportent tous des connaissances que le cahier des charges doit explicitement prendre en compte. Laisser les décisions critiques au hasard de conversations informelles ou de l’expérience individuelle engendre des risques inutiles, car l’IA ne peut pas mettre en œuvre des connaissances qui n’ont jamais été documentées.

Pour les dirigeants, l’opportunité est considérable. Les organisations qui améliorent la qualité de leurs spécifications peuvent déployer l’IA plus rapidement tout en maintenant une gouvernance plus rigoureuse. Rapidité et contrôle ne sont pas nécessairement incompatibles lorsque les connaissances de l’organisation sont traduites en directives claires et applicables avant que les systèmes n’entrent en production.

La réussite du développement de l’IA repose sur une « architecture de production de caractéristiques » à plusieurs niveaux

De nombreuses initiatives en matière d’IA concentrent leurs investissements sur les modèles, l’infrastructure et le déploiement. Ces domaines sont certes importants, mais ils sont rarement à l’origine des échecs les plus coûteux. Le véritable défi consiste à s’assurer que l’IA comprenne ce que l’organisation cherche réellement à accomplir et ce que ses concepts signifient concrètement.

L’« architecture de production des fonctionnalités » se compose de cinq couches : intention, sémantique, réalisation, déterminisme et exécution. Ensemble, ces couches définissent la manière dont les connaissances de l’organisation sont transposées des objectifs métier vers les systèmes d’IA de production.

La plupart des organisations investissent massivement dans les trois dernières couches. Elles sélectionnent des modèles de base, développent des agents d’IA, optimisent leur infrastructure et mettent en place des pipelines de déploiement. Il s’agit là d’investissements visibles, dont les résultats techniques sont mesurables.

Les deux premières couches font souvent l’objet de beaucoup moins d’attention.

L’intention définit l’objectif réel qui sous-tend une exigence. La sémantique définit la signification que l’organisation attribue aux concepts qu’utilisera l’IA. Si l’une de ces deux couches présente des faiblesses, l’excellence technique des autres couches ne pourra pas entièrement compenser ce manque. L’IA s’efforcera alors d’optimiser une interprétation qui, bien que cohérente en soi, s’avérera erronée sur le plan opérationnel.

Cette distinction revêt une importance croissante à mesure que les systèmes d’IA gagnent en autonomie. Plus un système d’IA dispose d’une grande liberté pour prendre des décisions, plus il est important de définir des orientations claires avant le début de l’exécution.

Les dirigeants doivent également prendre conscience que ce cadre favorise la collaboration à l’échelle de l’entreprise plutôt que de concentrer les responsabilités au sein du service d’ingénierie. Les responsables produit définissent les objectifs. Les experts métier apportent leur expertise pratique. Les équipes chargées de la conformité établissent les contraintes. Les équipes techniques mettent en œuvre le système. L’architecture ne peut aboutir que si ces différents points de vue sont traduits en un cahier des charges cohérent.

Du point de vue de la gouvernance, ce cadre établit des points de contrôle clairs tout au long du cycle de vie de l’IA. Les organisations peuvent ainsi évaluer si l’objectif métier est correctement défini, si la terminologie reflète la réalité opérationnelle, si le raisonnement reste dans les limites approuvées, si la qualité des décisions est mesurable et si un contrôle humain est mis en place lorsque cela s’avère nécessaire.

À mesure que l’IA s’intègre aux activités principales de l’entreprise, l’avantage concurrentiel dépendra moins de la mise en place de fonctionnalités d’IA isolées et davantage de la conception de systèmes dans lesquels chaque couche architecturale contribue à la réalisation des objectifs de l’organisation. Les entreprises qui parviennent à harmoniser ces couches de manière cohérente mettront au point des systèmes d’IA plus fiables, plus faciles à gérer et mieux adaptés à l’évolution des priorités commerciales.

Définir l’intention consiste à exposer le raisonnement qui sous-tend les décisions

Une exigence indique à un système d’IA quel résultat est attendu. L’intention indique au système comment il doit s’y prendre pour parvenir à ce résultat. Cette différence prend de plus en plus d’importance à mesure que l’IA passe de l’automatisation de tâches simples à l’accompagnement de décisions métier complexes.

L’exemple de l’hôpital illustre clairement ce point. L’exigence initiale visait à identifier les patients présentant un risque de retour aux urgences. L’objectif révisé était différent. Au lieu de générer le score de risque le plus élevé possible, le système devait identifier les patients qui tireraient le plus grand bénéfice d’une intervention, recueillir des éléments d’information supplémentaires lorsque le niveau de confiance était faible, signaler les incertitudes et transmettre les cas à un niveau supérieur lorsque les informations disponibles étaient insuffisantes.

Il s’agit là d’un objectif fondamentalement différent.

Le système n’est plus récompensé simplement pour avoir fourni une réponse rapidement. On attend de lui qu’il formule une recommandation qui reflète le processus décisionnel de l’organisation. Cela permet d’obtenir un comportement de l’IA qui correspond beaucoup plus étroitement à la manière dont travaillent réellement les professionnels expérimentés.

Ce principe s’applique à tous les secteurs d’activité.

Une IA dédiée au service client ne devrait pas se contenter d’optimiser la réduction des délais de réponse si cela entraîne une augmentation du nombre de réclamations non résolues. Une IA dédiée aux achats ne devrait pas se contenter d’optimiser la sélection du fournisseur le moins cher si les risques liés à la qualité ou à la livraison deviennent inacceptables. Un assistant de recrutement ne devrait pas se contenter d’optimiser la correspondance avec des mots-clés si les priorités de l’organisation incluent les compétences à long terme, la diversité ou le potentiel de leadership.

Cette démarche oblige les organisations à définir ce que signifie réellement la réussite avant de se lancer dans l’automatisation.

L’une des raisons pour lesquelles de nombreux projets d’IA ne donnent pas les résultats escomptés est que les objectifs métier sont souvent formulés de manière trop restrictive. Les spécifications décrivent fréquemment des résultats plutôt que la logique de décision. Les systèmes d’IA optimisent fidèlement ces résultats, même lorsqu’ils ne parviennent pas à produire l’issue métier souhaitée.

Pour les cadres dirigeants, définir l’intention nécessite une implication active de la direction de l’entreprise, plutôt que d’être considéré comme un simple exercice technique. Il incombe aux dirigeants de fixer les priorités, de déterminer les compromis acceptables et de définir les objectifs stratégiques. Ces décisions ne peuvent être entièrement déléguées aux équipes d’ingénieurs, car elles relèvent du jugement commercial.

Une intention bien définie améliore également la capacité d’adaptation. Les modèles de base continueront d’évoluer, et les organisations pourraient, au fil du temps, remplacer un fournisseur par un autre. Si l’intention sous-jacente reste clairement définie, ces changements technologiques deviennent plus faciles à gérer, car les objectifs de l’organisation restent stables même si la mise en œuvre évolue.

Les organisations qui tireront une valeur durable de l’IA seront celles qui consacreront du temps à définir ce qu’elles attendent de leurs systèmes et la manière dont ces derniers doivent prendre des décisions dans le cadre de leur activité.

La sémantique organisationnelle revêt une importance cruciale, car elle fournit des significations spécifiques au contexte qui orientent le comportement de l’IA

Les systèmes d’IA traitent les informations en fonction des significations qui leur sont attribuées. Si ces significations sont incomplètes, incohérentes ou trop génériques, la qualité des décisions prises par le système s’en trouvera compromise, quel que soit le niveau de sophistication du modèle sous-jacent.

C’est pourquoi la sémantique devient une préoccupation liée à la production plutôt qu’un simple exercice de documentation.

Les grands modèles linguistiques sont entraînés à partir d’un vaste ensemble d’informations publiques et sous licence. Ils comprennent les définitions courantes, mais ne saisissent pas automatiquement la manière dont votre organisation interprète les concepts clés. Ce savoir réside dans l’expérience de vos collaborateurs, vos politiques internes, vos pratiques opérationnelles et vos décisions passées. À moins qu’il ne soit explicitement intégré, l’IA se rabattra par défaut sur des interprétations plus générales.

Pour de nombreuses organisations, cela engendre un risque latent.

Deux services peuvent utiliser le même terme tout en lui attribuant des significations différentes. Les entités opérationnelles régionales peuvent appliquer des normes opérationnelles différentes. Les exigences réglementaires peuvent imposer des définitions qui s’écartent de l’usage courant du secteur. Si ces différences ne sont pas clairement mises en évidence, les systèmes d’IA peuvent générer des recommandations incohérentes tout en semblant techniquement correctes.

Cette question dépasse largement le cadre des soins de santé.

Une institution financière peut définir la notion de « client à forte valeur ajoutée » différemment selon qu’il s’agit de la gestion de patrimoine ou de la banque de détail. Un fabricant peut utiliser différentes définitions de la notion d’« équipement critique » en fonction de ses priorités de production. Une compagnie d’assurance peut classer les « sinistres à haut risque » selon des politiques internes qui vont au-delà des modèles actuariels standard. Dans tous les cas, la signification organisationnelle influence les décisions opérationnelles.

Les dirigeants devraient considérer les définitions sémantiques comme des atouts stratégiques. Elles représentent un savoir-faire métier accumulé qui distingue une organisation d’une autre. Le fait de consigner ces définitions sous une forme exploitable par les machines permet aux systèmes d’IA de prendre des décisions qui correspondent au fonctionnement réel de l’entreprise, plutôt que de se fonder sur des interprétations génériques.

Une gouvernance sémantique solide améliore également la cohérence à l’échelle de l’entreprise. Lorsque les systèmes d’IA s’appuient sur des définitions communes pour les concepts clés, la qualité des décisions devient plus prévisible, la collaboration entre les différentes unités opérationnelles s’améliore et la gouvernance s’en trouve facilitée, car chacun s’appuie sur une même compréhension opérationnelle.

Les systèmes de raisonnement basés sur l’IA doivent fonctionner dans des limites bien définies afin d’éviter toute autonomie injustifiée

À mesure que les systèmes d’IA gagnent en performances, les organisations doivent se garder de croire qu’une plus grande autonomie conduit systématiquement à de meilleurs résultats. Dans de nombreux contextes professionnels, l’objectif est de garantir une prise de décision fiable dans le cadre de limites clairement définies.

Plutôt que de calculer un score unique, le système révisé pouvait passer en revue les antécédents supplémentaires du patient, évaluer l’observance thérapeutique, prendre en compte des facteurs sociaux, identifier les incertitudes et déterminer quand des examens complémentaires étaient nécessaires. Dans le même temps, ses actions restaient limitées par les contraintes explicites définies dans le cahier des charges.

Ces limites sont essentielles.

Sans ces éléments, un système d’IA s’efforce naturellement d’optimiser l’exécution de la tâche qui lui est confiée de la manière la plus efficace possible. Il ne tient pas automatiquement compte des obligations légales, des considérations éthiques, des politiques organisationnelles ou des priorités opérationnelles, à moins que ces contraintes ne soient explicitement intégrées dans sa conception.

Pour les dirigeants, il s’agit avant tout d’une question de gouvernance.

Les organisations doivent définir quelles décisions l’IA peut prendre de manière autonome, lesquelles nécessitent des éléments d’information supplémentaires et lesquelles doivent toujours faire l’objet d’une validation humaine. Ces limites doivent refléter les risques opérationnels plutôt que les seules capacités techniques. Ce n’est pas parce qu’un système d’IA est capable de prendre une décision qu’il doit nécessairement le faire.

Des contraintes bien définies améliorent également la cohérence. Différents modèles peuvent produire des résultats légèrement différents au fil du temps, notamment lorsque les prestataires mettent à jour leurs systèmes. Des limites opérationnelles claires réduisent l’impact de ces variations en limitant la manière dont les recommandations sont générées et la manière dont elles sont mises en œuvre.

La définition des limites doit également prévoir des procédures d’escalade claires. Lorsque l’IA est confrontée à des informations contradictoires, à des preuves insuffisantes ou à des situations sortant du cadre de ses compétences, le système doit identifier ces cas et les transmettre à l’expert humain compétent. Cette approche garantit la responsabilité tout en permettant à l’IA d’automatiser les décisions de routine, réversibles ou étayées par des preuves suffisantes.

Un autre avantage réside dans la flexibilité. Les organisations peuvent étendre progressivement les responsabilités confiées à l’IA à mesure que leur confiance s’accroît. Plutôt que d’accorder une grande autonomie dès le départ, les dirigeants peuvent déléguer le pouvoir de décision par étapes, en s’appuyant sur les performances opérationnelles et les résultats commerciaux pour orienter chaque extension. Cela permet de réduire les risques liés à la mise en œuvre tout en créant une trajectoire structurée vers une automatisation accrue.

En fin de compte, les organisations qui définissent des limites opérationnelles strictes tireront davantage parti de l’IA, car elles parviendront à concilier rapidité et maîtrise. L’IA donne le meilleur d’elle-même lorsque sa liberté de raisonnement s’inscrit dans le cadre de règles métier qui reflètent les objectifs, les responsabilités et la tolérance au risque de l’organisation.

La validation de l’IA doit se concentrer sur la qualité des décisions plutôt que de se contenter de vérifier que le code s’exécute correctement

Les tests logiciels traditionnels répondent à une question simple : le système fonctionne-t-il conformément à son cahier des charges ? L’IA pose un défi différent. Même si le système fonctionne exactement comme prévu, les recommandations qu’il génère peuvent s’avérer inefficaces, car le cahier des charges sous-jacent ne reflète pas pleinement la manière dont l’entreprise prend ses décisions.

C’est pourquoi la validation de l’IA doit aller au-delà des performances techniques.

Les organisations doivent définir ce qu’est une bonne décision avant le déploiement du système d’IA. Cela implique d’évaluer les recommandations à la lumière de cas ayant déjà été examinés par des experts chevronnés du domaine. L’objectif n’est pas simplement de mesurer la précision des prédictions, mais de déterminer si l’IA parvient à des conclusions qui correspondent au jugement des experts et aux objectifs de l’entreprise.

Cela permet d’établir une norme de qualité plus pertinente.

Un modèle peut obtenir d’excellents résultats aux tests de référence tout en recommandant systématiquement des actions que des professionnels expérimentés rejetteraient. À l’inverse, un système dont la précision prédictive est légèrement inférieure peut produire de meilleurs résultats opérationnels, car ses recommandations tiennent compte des priorités et des contraintes de l’organisation.

Les dirigeants doivent veiller à ce que les indicateurs de performance de l’IA reflètent la valeur ajoutée pour l’entreprise plutôt que de se limiter à une simple optimisation technique.

La validation doit porter sur plusieurs aspects. Les organisations doivent évaluer si l’IA formule des recommandations fiables, gère correctement l’incertitude, fait preuve de cohérence dans des cas similaires et transmet les décisions qui sortent du cadre défini. Se limiter à mesurer la rapidité ou la précision ne permet pas d’avoir une vision complète des performances opérationnelles.

Cela renforce également la gouvernance à long terme.

Les modèles de base continueront de s’améliorer, et les organisations pourraient, au fil du temps, changer de fournisseur ou mettre à niveau leurs modèles. Si la validation est uniquement liée à la technologie elle-même, chaque changement engendre une incertitude. Si, en revanche, la validation est liée aux résultats opérationnels et à la qualité des décisions telle que définie par des experts, les organisations disposent alors d’un cadre stable pour évaluer les futurs systèmes, quel que soit le modèle sur lequel ceux-ci reposent.

La validation continue revêt une importance tout aussi grande.

Les environnements professionnels évoluent. Les attentes des clients changent. Les réglementations sont mises à jour. Les priorités organisationnelles évoluent. Les systèmes d’IA doivent donc être évalués tout au long de leur cycle de vie opérationnel, et pas seulement lors de leur déploiement initial. Des examens réguliers permettent aux organisations d’affiner les spécifications, d’améliorer la qualité des décisions et d’identifier les risques émergents avant qu’ils n’affectent les clients ou les opérations.

Pour les équipes de direction, le message est clair. La gouvernance de l’IA doit permettre de déterminer si l’organisation prend de meilleures décisions, et non pas simplement si la technologie fonctionne comme prévu. Ces objectifs sont liés, mais ils ne sont pas identiques.

L’expertise humaine devrait être intégrée de manière stratégique dans les processus d’IA

De nombreuses organisations réagissent aux risques liés à l’IA en exigeant que chaque recommandation soit examinée par un humain avant toute mise en œuvre. Bien que cette approche puisse sembler sûre, elle limite souvent les avantages mêmes que l’IA est censée apporter. Elle ralentit les opérations, augmente les coûts et exerce une pression inutile sur les professionnels expérimentés.

L’expertise humaine doit orienter le système à deux étapes cruciales. Premièrement, les experts apportent leurs connaissances au cours du processus de spécification en définissant l’intention de l’organisation, les compromis acceptables, les critères de décision et les limites opérationnelles. Deuxièmement, ils restent directement impliqués dans les décisions qui ont des conséquences importantes ou qui ne peuvent pas être facilement annulées.

Tout ce qui se trouve entre les deux doit être conçu avec soin.

Les décisions courantes qui sont bien comprises, étayées par des données suffisantes et facilement réversibles peuvent souvent être prises en charge par l’IA sans nécessiter un contrôle humain continu. Les décisions impliquant des risques juridiques, la sécurité des patients, des risques financiers ou ayant un impact stratégique doivent continuer à être prises par des professionnels qualifiés. L’objectif est de faire appel au jugement humain là où il apporte la plus grande valeur ajoutée.

Cette approche permet également de mieux tirer parti des compétences des experts.

Les collaborateurs très expérimentés passent des années à acquérir des connaissances spécialisées. Leur plus grande contribution ne consiste pas à approuver sans cesse des recommandations de routine. Elle réside plutôt dans la définition des normes qui guident l’organisation, la résolution de situations complexes et l’amélioration progressive du cadre décisionnel. L’IA permet aux experts de consacrer davantage de temps à ces activités à forte valeur ajoutée.

Pour les dirigeants, cela représente un changement organisationnel majeur.

Plutôt que de mesurer la réussite à l’aune du nombre de décisions examinées par des personnes, les dirigeants devraient évaluer si l’expertise humaine est mise à profit là où elle a le plus d’impact. Cela permet d’améliorer à la fois l’efficacité opérationnelle et la qualité des décisions.

Une gouvernance claire est essentielle pour que cela fonctionne.

Les organisations doivent définir des critères explicites permettant de déterminer dans quels cas l’IA peut agir de manière autonome, dans quels cas des preuves supplémentaires sont requises et dans quels cas l’approbation humaine est obligatoire. Ces règles doivent être transparentes, appliquées de manière cohérente et régulièrement réévaluées à mesure que les conditions d’activité évoluent. Les collaborateurs doivent comprendre dans quels domaines ils restent responsables et pourquoi ces responsabilités existent.

Une supervision humaine stratégique renforce également la confiance dans les systèmes d’IA. Les collaborateurs sont plus enclins à adopter l’IA lorsqu’ils savent que le système fonctionne dans des limites bien définies et que des experts restent responsables des décisions ayant un impact important. Cela instaure un climat de confiance sans pour autant sacrifier la rapidité et l’évolutivité qui font justement la valeur de l’IA.

L’amélioration continue de l’IA devrait passer par un affinement des spécifications plutôt que par le seul réentraînement des modèles

De nombreuses organisations partent du principe que l’amélioration de l’IA passe par le passage à un modèle plus puissant, la collecte d’un plus grand volume de données ou le réentraînement des modèles existants. Ces mesures peuvent certes améliorer les performances, mais elles ne s’attaquent pas nécessairement à la cause profonde des mauvaises décisions.

C’est souvent dans le cahier des charges qui régit le système d’IA que réside le plus grand potentiel d’amélioration.

Dans l’exemple de l’hôpital, le modèle en lui-même n’était pas le principal problème. Le problème résidait dans le fait que la spécification ne tenait pas compte de la manière dont les infirmières expérimentées évaluent les patients. Remplacer le modèle par une version plus récente ne résoudrait pas automatiquement ce problème. Le système continuerait à s’optimiser en fonction du même objectif incomplet, à moins que la spécification ne soit modifiée.

Cette distinction prend de plus en plus d’importance à mesure que les modèles de base continuent de s’améliorer.

Les principaux modèles d’IA actuels sont déjà capables d’un raisonnement sophistiqué dans de nombreux domaines. Pour de nombreux cas d’utilisation en entreprise, le facteur limitant n’est plus la capacité brute du modèle. Il s’agit plutôt de savoir si l’organisation a clairement défini ses objectifs, ses contraintes, sa terminologie et ses critères de décision.

C’est l’agent qui effectue le raisonnement. La spécification qui l’encadre détermine les informations qu’il utilise, les objectifs qu’il poursuit, la manière dont il évalue l’incertitude et les principes qui régissent ses décisions.

Pour les dirigeants, cela a des implications concrètes en matière d’investissement dans l’IA.

Les organisations devraient mettre en place des boucles de rétroaction structurées permettant d’améliorer en permanence les spécifications en s’appuyant sur l’expérience opérationnelle. Lorsque les experts ne sont pas d’accord avec les recommandations de l’IA, la première question à se poser ne devrait pas toujours être de savoir si le modèle doit être réentraîné. Il faudrait également se demander si la spécification n’a pas omis de prendre en compte une règle métier importante, une exception opérationnelle ou un critère de décision.

Cela permet de mettre en place un processus d’amélioration plus durable.

À mesure que de nouvelles réglementations voient le jour, que les attentes des clients évoluent ou que les conditions du marché changent, les organisations peuvent mettre à jour leurs spécifications sans avoir à reconstruire l’intégralité de leur infrastructure d’IA. L’entreprise conserve le contrôle sur la qualité des décisions tout en restant suffisamment flexible pour adopter de nouveaux modèles dès qu’ils sont disponibles.

L’amélioration des spécifications contribue également à renforcer le savoir-faire institutionnel.

De nombreuses organisations s’appuient fortement sur des collaborateurs expérimentés dont l’expertise repose principalement sur des années d’expérience pratique. La formalisation de ces connaissances sous forme de spécifications explicites permet de réduire la dépendance vis-à-vis des individus, d’améliorer la cohérence organisationnelle et de diffuser cette expertise à l’ensemble des équipes et des unités opérationnelles.

Les dirigeants devraient donc considérer les spécifications comme des atouts évolutifs. Celles-ci doivent être réexaminées, remises en question, affinées et mises à jour tout au long du cycle de vie de chaque système d’IA. Les organisations qui améliorent en permanence leurs spécifications en tirent souvent une plus grande valeur à long terme que celles qui se concentrent principalement sur l’acquisition des modèles les plus récents.

L’architecture de l’IA redéfinit les responsabilités

L’IA transforme le rôle de la conception des systèmes. Les logiciels traditionnels étaient conçus autour de flux de travail prédéfinis, dans lesquels chaque étape était explicitement programmée. Les systèmes d’IA nécessitent toujours une structure, mais celle-ci définit de plus en plus les objectifs, les contraintes, la gouvernance et les résultats acceptables, plutôt que de prescrire chaque action individuelle.

Il s’agit là d’un changement important pour les dirigeants d’entreprise.

Au lieu de se demander si chaque processus a été entièrement automatisé, les dirigeants devraient se demander si l’organisation a clairement défini ce que représente la réussite, quelles décisions l’IA est autorisée à prendre, comment les performances seront mesurées et dans quels domaines la responsabilité incombe toujours aux personnes.

Les architectes passent de la conception de parcours d’exécution fixes à la définition d’objectifs et de limites opérationnelles. Dans le cadre de ces limites, les systèmes d’IA peuvent déterminer la séquence d’actions la plus efficace pour atteindre le résultat souhaité.

Cela permet une plus grande souplesse sans pour autant remettre en cause la responsabilité.

Les environnements professionnels évoluent sans cesse. Les réglementations changent. Les attentes des clients évoluent. Les pressions concurrentielles s’intensifient. Les systèmes d’IA conçus autour de processus fixes peuvent devenir difficiles à maintenir, car chaque changement nécessite de repenser des flux de travail prédéfinis. Les systèmes guidés par des objectifs stables et des contraintes bien définies peuvent s’adapter plus efficacement tout en restant en phase avec les priorités de l’organisation.

Cela ne diminue en rien la responsabilité des dirigeants. Au contraire, cela la renforce.

Les dirigeants doivent veiller à ce que les valeurs de l’organisation, la tolérance au risque, les exigences de conformité et les priorités stratégiques soient explicitement prises en compte dans la gouvernance de l’IA. La responsabilité ne peut être déléguée au modèle, à l’équipe d’ingénieurs ou au fournisseur de technologie. Ces groupes mettent en œuvre les systèmes, mais la direction reste responsable des décisions sur lesquelles ces systèmes ont une influence.

Les organisations peuvent mettre en œuvre cette responsabilité de différentes manières. Certaines peuvent nommer un architecte spécialisé dans les spécifications. D’autres peuvent répartir cette responsabilité entre l’architecture d’entreprise, la gestion des produits, la gouvernance de l’IA ou la direction générale. La structure organisationnelle importe moins que le fait de s’assurer que quelqu’un assume la responsabilité de la traduction entre les décisions métier et le comportement des machines.

À mesure que l’IA s’intègre aux activités principales, la responsabilité deviendra un avantage concurrentiel.

Les organisations qui définissent clairement les responsabilités, les pouvoirs décisionnels, les processus de gouvernance et les résultats mesurables mettront en œuvre l’IA avec davantage d’assurance et en réduisant les risques opérationnels. Elles seront également mieux placées pour adopter les futures fonctionnalités de l’IA, car les principes régissant ces systèmes restent cohérents même à mesure que la technologie évolue.

L’opportunité à long terme ne consiste pas simplement à automatiser davantage de tâches. Il s’agit de mettre en place des organisations au sein desquelles l’IA met systématiquement en œuvre des décisions qui reflètent la stratégie d’entreprise, les priorités opérationnelles et la volonté de la direction. Cela exige que les dirigeants se concentrent sur la technologie, ainsi que sur la qualité des spécifications et de la gouvernance qui la régissent.

Réflexions finales

L’IA passe du stade de l’expérimentation à celui des opérations métier essentielles. Cela modifie les domaines sur lesquels les dirigeants doivent concentrer leur attention. Le principal défi ne consiste plus à choisir le bon modèle ou à mettre en place l’infrastructure adéquate. Il s’agit désormais de s’assurer que l’IA applique systématiquement les décisions de l’organisation.

Chaque entreprise dispose déjà d’un mode de prise de décision. Celui-ci se traduit par l’expérience de ses collaborateurs, ses procédures opérationnelles, les priorités de sa direction et des années d’apprentissage sur le terrain. Si ce savoir reste implicite, l’IA ne peut pas l’appliquer de manière cohérente. S’il est traduit en spécifications claires, il devient un avantage évolutif qui s’améliore à chaque fois que l’organisation acquiert de nouvelles connaissances.

Cela modifie également la manière dont les dirigeants doivent envisager leur stratégie en matière d’IA. La question n’est plus : « Quel modèle devons-nous déployer ? » Une question plus pertinente serait : « Avons-nous clairement défini les décisions que nous souhaitons voir l’IA prendre, les principes qui guident ces décisions et les limites à ne pas franchir ? »

Les organisations qui sauront répondre correctement à ces questions mettront en place des systèmes d’IA plus faciles à gérer, qui inspireront davantage confiance aux collaborateurs et qui seront mieux alignés sur les objectifs de l’entreprise. Elles seront également mieux préparées à faire face au rythme effréné de l’innovation en matière d’IA, car leur avantage concurrentiel ne dépendra pas d’un modèle ou d’un fournisseur de technologies en particulier. Il découlera de la qualité des connaissances organisationnelles qu’elles auront su rendre exploitables.

La technologie continuera d’évoluer à un rythme extraordinaire. C’est le jugement organisationnel qui donne une orientation à cette technologie. Les dirigeants qui s’attachent dès aujourd’hui à formaliser ce jugement mettront en place des systèmes d’IA qui apporteront demain une valeur ajoutée mesurable à l’entreprise et qui resteront performants à mesure que la technologie continuera de progresser.