L’IA transforme de nombreux secteurs
L’IA est la mise à niveau du système qui a lieu en ce moment même. Dans les secteurs de la santé, des transports, de la finance, de la logistique et de l’éducation, l’intelligence artificielle optimise les opérations et la prise de décision à une échelle difficilement imaginable il y a seulement quelques années. Nous observons des secteurs entiers évoluer vers des systèmes plus précis, plus prédictifs et plus automatisés.
Dans le domaine de la santé, les systèmes d’IA améliorent les diagnostics en identifiant les pathologies plus rapidement et avec moins d’erreurs. Dans le domaine de la logistique, nous utilisons l’IA pour optimiser les chaînes d’approvisionnement en temps réel. Les voitures autopilotées sont, bien sûr, la frontière la plus évidente de l’IA dans les transports, mais même les logiciels d’entreprise, les systèmes ERP et la fabrication robotisée reposent aujourd’hui largement sur l’automatisation intelligente. Cela signifie que les entreprises fonctionnent plus rapidement et de manière plus rentable, sans augmenter la charge humaine.
Ce type de transformation ouvre de nouvelles voies pour la création de valeur. Mais elle nécessite également des dirigeants prêts à accepter les changements de processus, à former les équipes et à réaligner les systèmes de base. Faire cet investissement maintenant améliore le retour sur investissement et permet à votre entreprise de garder une longueur d’avance.
Les chatbots d’IA peuvent influencer les opinions politiques
Parlons des modèles linguistiques, des grands modèles. Vous avez probablement déjà eu affaire à l’un d’entre eux. Des travaux récents de l’université de Washington confirment ce que certains d’entre nous attendaient : Les chatbots d’IA peuvent façonner les opinions humaines.
Concrètement, les chercheurs ont mené une expérience simple. Ils ont donné à 299 personnes, républicaines et démocrates, l’accès à des versions de ChatGPT qui penchaient politiquement à gauche, à droite ou qui restaient neutres. Après quelques interactions (généralement environ cinq), les participants ont commencé à ajuster leurs opinions politiques dans le sens du biais du robot. Il s’agit d’une influence politique en temps réel. Et c’était subtil, sans insistance. Il s’agit simplement d’une conversation.
Cela montre deux choses. Premièrement, les gens sont plus persuasifs qu’ils ne le pensent. Deuxièmement, les conversations avec les LLM sont sociales et lorsque les chatbots reflètent un point de vue, ils peuvent le renforcer chez les utilisateurs. Naturellement, à mesure que cette capacité s’accroît, les groupes politiques et les personnes influentes sont tentés de déployer massivement des robots biaisés au sein des populations.
Les responsables de la technologie, des médias et des politiques publiques doivent suivre cette évolution de près. Toute plateforme qui utilise l’IA conversationnelle peut avoir un effet secondaire : la formation de l’opinion. Il est temps de réfléchir à l’intentionnalité dans la conception de l’IA. Si vous construisez des systèmes destinés à fonctionner à grande échelle, ce qui est le cas de la plupart d’entre nous, vous ne pouvez pas vous permettre d’ignorer cette dynamique. Que vous fassiez ou non de la politique, la capacité d’un robot à modifier l’opinion publique fait partie du profil de risque de votre logiciel.
La publicité pilotée par l’IA brouille la frontière entre contenu organique et contenu sponsorisé
Une nouvelle étude de l’université de Tübingen, dirigée par Caroline Morawetz, prouve que la plupart des utilisateurs ne reconnaissent pas qu’on leur vend quelque chose, même si c’est indiqué sur l’étiquette. Plus de 1 200 participants n’ont pas réussi à identifier les messages payants subtilement intégrés sur des plateformes telles qu’Instagram, Facebook, X et TikTok. Même lorsque des mentions telles que « sponsorisé » ou « publicité » sont présentes, la plupart des utilisateurs les ignorent ou ne parviennent pas à en saisir le sens.
Ce résultat est le fruit de la conjonction de deux forces : la confiance des utilisateurs et la précision des algorithmes. Les gens font confiance aux influenceurs qu’ils suivent. Dans le même temps, les systèmes d’IA personnalisent et placent des contenus qui s’intègrent dans les flux quotidiens. L’utilisateur ne se sent pas interrompu et ne pose donc pas de questions. C’est pourquoi ces systèmes sont performants. Les spécialistes du marketing utilisent l’apprentissage automatique pour affiner le langage, le ton et les visuels, afin de faire correspondre le contenu réel au point de faire disparaître les distinctions.
Les leaders de la technologie se penchent déjà sur la question. Sam Altman, PDG d’OpenAI, a confirmé son intention de monétiser ChatGPT par le biais de la publicité. Nick Turley, responsable de ChatGPT, a déclaré que l’entreprise envisageait activement d’intégrer des publicités. Elon Musk a également annoncé que le chatbot Grok de xAI diffuserait bientôt de la publicité sur la plateforme X. Andy Jassy, PDG d’Amazon, a confirmé qu’Alexa+ commencerait à intégrer des publicités dans les conversations des utilisateurs.
Il s’agit d’une traction. Mais c’est aussi un avertissement. Les dirigeants doivent prendre en compte la dynamique de confiance d’une plateforme avant d’ajouter des couches de monétisation. Un chatbot sur lequel les utilisateurs comptent pour obtenir une aide impartiale ne devrait pas les détourner discrètement vers des entonnoirs promotionnels. La réaction des consommateurs est un problème. La réaction des régulateurs en est un autre. À mesure que les entreprises développent les interfaces d’IA, la manière dont ces outils influencent le comportement des consommateurs et ce à quoi ressemble le « consentement » doit faire l’objet d’une stratégie claire.
Les chatbots peuvent extraire des informations privées grâce à l’ingénierie sociale
L’IA parle désormais avec empathie, et c’est précisément ce qui la rend efficace pour extraire des informations personnelles. Une équipe de recherche dirigée par le Dr Xiao Zhan du King’s College de Londres a montré que les chatbots ayant un style « réciproque », c’est-à-dire répondant essentiellement par l’empathie, de fausses histoires personnelles et l’apparence d’une connexion émotionnelle, étaient capables d’extraire jusqu’à 12,5 fois plus d’informations sensibles des utilisateurs que les bots standard.
Ils ont testé trois LLM, y compris des modèles basés sur Mistral et Llama. Les chatbots qui se sont montrés amicaux et rassurants ont mis les utilisateurs plus à l’aise et plus enclins à divulguer leurs données personnelles. Il ne s’agissait pas de manipulation au sens agressif du terme. Il s’agissait d’établir un rapport. Ces résultats sont importants, car ils montrent à quel point les gens baissent facilement leur garde lorsque l’interface semble humaine.
Cela crée un risque réel. Les escrocs n’ont pas besoin de s’introduire dans vos systèmes s’ils peuvent collecter des données de manière conversationnelle. C’est également un problème pour les plateformes qui ne sont pas malveillantes mais dont la surveillance est insuffisante. Ces bots peuvent être affinés pour être persuadés et, entre les mains de mauvais acteurs, ils sont des machines d’ingénierie sociale qui fonctionnent à grande échelle.
Pour les entreprises, l’implication immédiate est la formation et la surveillance. Les dirigeants doivent s’assurer que les outils d’IA, en particulier ceux destinés au public, sont conçus de manière à éviter toute collecte inutile de données. Les protocoles de sécurité doivent anticiper les fuites conversationnelles. Enfin, les équipes chargées des produits élaborés à l’aide de LLM doivent vérifier la manière dont les modèles linguistiques réagissent aux signaux émotionnels.
Les extensions de navigateur pour l’IA posent des risques pour la vie privée en collectant des données sensibles
De nombreuses extensions de navigateur conçues avec une IA générative aident les utilisateurs à résumer le contenu ou à effectuer des recherches plus rapidement, mais aussi à capturer discrètement des informations sensibles à l’écran. Une équipe de recherche dirigée par Anna Maria Mandalari de l’University College London et de l’université Mediterranea de Reggio Calabria a testé plusieurs outils dotés d’IA, dont Merlin, Sider, TinaMind et d’autres. Ils ont constaté que la plupart de ces extensions surveillaient tout ce que l’utilisateur voyait et tapait, même lors de sessions privées ou authentifiées. Il s’agissait notamment des identifiants de connexion, des données de santé, des coordonnées bancaires et des messages personnels.
L’étude a simulé le comportement d’un homme fictif de la génération du millénaire en Californie qui se livrait à une activité en ligne typique, naviguant sur des sites d’assurance maladie, des plates-formes de rencontres et des pages de commerce électronique. Ces outils ne se sont pas contentés d’observer passivement. Certains enregistrent activement les données sensibles saisies dans les formulaires. D’autres ont déduit des caractéristiques psychographiques telles que les revenus et les préférences. L’IA a utilisé ces informations pour personnaliser les interactions futures avec l’utilisateur, sans son consentement.
Un seul outil de l’étude, Perplexity, a évité de profiler les utilisateurs sur la base des données collectées. Cela montre qu’il est techniquement possible de contourner les pratiques invasives, mais la plupart des entreprises ne le font pas.
Pour les décideurs, le message est direct : les outils d’intelligence artificielle basés sur un navigateur peuvent porter atteinte à la vie privée des utilisateurs tout en paraissant inoffensifs. Si votre organisation utilise ces outils en interne ou propose quelque chose de similaire dans le commerce, il est temps de procéder à de sérieux contrôles de conformité. Nombre de ces comportements flirtent avec, ou violent directement, des lois telles que l’HIPAA aux États-Unis, et créeraient un risque juridique encore plus important dans des cadres britanniques ou européens tels que le GDPR.
Avec des outils dynamiques comme ces extensions, la visibilité des données en temps réel doit être considérée comme faisant partie de la surface d’attaque. Les entreprises qui déploient ou approuvent des outils d’IA tiers doivent mettre en place des systèmes de surveillance et exiger des fournisseurs la transparence sur la manière dont les données sont traitées au fil des sessions.
L’IA générative risque de réduire la diversité des perspectives
L’IA générative promet un large accès à l’information. Dans la pratique, elle se traduit souvent par des répétitions. La plupart des grands modèles de langage, y compris ChatGPT et Gemini, sont formés sur des modèles trouvés dans des ensembles de données à grande échelle, qui mettent l’accent sur des idées communément exprimées. Cela signifie que les réponses générées par l’IA ont tendance à refléter le consensus populaire.
Michal Shur-Ofry, professeur de droit à l’Université hébraïque de Jérusalem, a publié une étude sur ce sujet dans l’Indiana Law Journal. Elle souligne que les systèmes conçus pour faire la moyenne des réponses tendent à pousser les utilisateurs vers des « visions du monde concentrées et dominantes ». Ces systèmes ignorent ou déprécient les idées provenant de la périphérie intellectuelle, le type de diversité qui favorise l’innovation, la résilience culturelle et une véritable pensée indépendante.
Pour les utilisateurs, l’effet est subtil : moins de perspectives nouvelles, plus de boucles de connaissances recyclées. Pour les entreprises et les institutions publiques, les conséquences sont plus importantes. Si tout le monde tire des informations de la même source cognitive, la différenciation et la résolution créative des problèmes en pâtissent. La pensée de groupe se normalise et les problèmes les plus ardus deviennent plus difficiles à résoudre.
Les dirigeants doivent reconnaître cette limite lorsqu’ils intègrent l’IA dans les flux de travail. Les modèles génératifs sont extrêmement efficaces, mais ils ne sont pas intrinsèquement exploratoires. Si votre stratégie implique l’innovation, qu’il s’agisse de produits, de politiques ou de conception, vous ne pouvez pas vous fier uniquement aux résultats de l’IA qui favorisent les moyennes statistiques.
L’intégration de l’IA dans vos systèmes implique de rester conscient de ce qu’elle amplifie et de ce qu’elle réduit au silence. Pour ce faire, vous devez prendre des décisions concernant l’approvisionnement en contenus diversifiés, la validation des résultats de l’IA par l’expertise humaine et le suivi de l’influence de l’IA sur la communication interne et externe. L’objectif est de s’assurer que l’IA ne limite pas progressivement ce que votre équipe voit, entend et fait.
L’éducation des utilisateurs est essentielle pour résister à la manipulation de l’IA
La plupart des conversations sur l l’IA se concentrent sur la réglementation ou la transparence. Ces deux aspects sont importants, mais ils ne constituent pas la première ligne de défense. C’est la sensibilisation qui l’est. Les utilisateurs qui comprennent le fonctionnement des systèmes d’IA sont plus difficiles à manipuler. L’étude de l’université de Washington sur la persuasion politique par l’intermédiaire de chatbots a montré que les participants qui en savaient plus sur le fonctionnement de l’IA étaient nettement moins susceptibles de changer d’avis, même après plusieurs interactions avec un modèle biaisé.
Cela est important pour les cadres qui construisent ou gèrent des produits basés sur l’IA. Si les utilisateurs ne savent pas comment les systèmes sous-jacents fonctionnent, comment les données sont sélectionnées, comment les résultats sont générés, comment les préjugés peuvent façonner le ton ou le contenu, ils restent passifs. Or, les utilisateurs passifs sont plus facilement influençables, plus vulnérables à la désinformation et moins enclins à contester des résultats erronés.
Les dirigeants doivent mettre l’éducation sur leur feuille de route. Cela ne signifie pas qu’il faille transformer chaque utilisateur en scientifique des données. Cela signifie des interfaces claires, des divulgations intuitives et des expériences d’accueil qui expliquent ce que fait le système et pourquoi. Les organisations qui déploient l’IA à grande échelle, en particulier dans les plateformes en contact avec les clients, doivent s’assurer que les utilisateurs disposent du contexte nécessaire pour s’engager de manière critique.
Il s’agit également d’une priorité interne. Si votre équipe s’appuie fortement sur l’IA pour faciliter la prise de décision ou la recherche, la maîtrise de l’information devient un facteur de risque. Les employés doivent être informés du fonctionnement de ces outils et de leurs limites. Dans le cas contraire, les biais et le bruit s’immiscent silencieusement dans la planification, les prévisions et l’exécution.
En définitive, la transparence n’a pas d’importance si vos utilisateurs ou votre équipe ne savent pas ce qu’il faut rechercher. La connaissance aplanit l’asymétrie. Si vous voulez des systèmes résilients et des personnes résilientes, commencez par rendre l’IA visible et explicable au niveau de l’utilisateur. C’est là que la manipulation perd son emprise.
En conclusion
L’IA n’attend pas de permission. Elle persuade les utilisateurs, réécrit les programmes publicitaires, recueille des données sensibles et modifie la façon dont les gens voient le monde, le tout à grande vitesse. Les avantages sont énormes : gains de productivité, intelligence opérationnelle, connaissances en temps réel. Mais ces avantages s’accompagnent de risques systémiques que la plupart des entreprises sous-estiment encore.
Si vous occupez un poste de décision, ce n’est pas quelque chose que vous déléguez entièrement au service juridique ou informatique. Ces systèmes s’adressent à vos employés. Engagent vos clients. Influencent vos marchés. Qu’il s’agisse d’un chatbot qui mêle la promotion à un conseil informel ou d’outils de navigation qui extraient des données d’utilisateur sans consentement clair, les risques de réputation et de réglementation ne sont pas spéculatifs, ils sont actifs.
Avancez rapidement, mais n’avancez pas à l’aveuglette. Donnez la priorité à la formation interne. Intégrez l’explicabilité à l’expérience de votre produit. Et poussez vos équipes à construire des systèmes qui n’optimisent pas seulement l’engagement, mais aussi la confiance. La réglementation viendra. Mais vous devez mettre en place vos valeurs avant qu’elle n’arrive.
En fin de compte, le véritable pouvoir de l’IA ne réside pas seulement dans ce qu’elle fait, mais aussi dans le silence avec lequel elle le fait. En tant que dirigeants, votre tâche consiste à éliminer ce silence.
