Lorsque les employés ne peuvent pas repérer un deepfake, cela devient le problème de toutes les entreprises.

Les Américains peinent à distinguer les contenus réels des contenus générés par l’IA

Aux États-Unis, la plupart des gens ne peuvent plus distinguer le vrai du faux en ligne. Il s’agit là d’un problème fondamental pour toute entreprise qui s’appuie sur la vérification de l’identité numérique. Le défi n’est pas la sensibilisation, mais la capacité. C’est la capacité. Lorsque les utilisateurs ne peuvent pas déterminer si une image ou une vidéo est authentique, l’ensemble du processus de vérification de l’identité dans des secteurs tels que la banque, le commerce électronique ou le contrôle d’accès des entreprises devient fragile. Grâce aux « deepfakes », il est désormais facile pour de mauvais acteurs d’usurper l’identité de personnes réelles, de contourner les contrôles du système et de commettre des fraudes à grande échelle.

Il s’agit de protéger l’infrastructure numérique. Les systèmes conçus pour l’ère pré-AI doivent évoluer rapidement. La vérification de l’identité, qui n’était autrefois qu’une case à cocher de conformité, doit maintenant devenir une capacité essentielle. Lorsque la technologie évolue aussi radicalement, les entreprises qui prennent les devants et reconstruisent leurs cadres avec des outils de vérification automatisés définiront la nouvelle norme de confiance en ligne.

Une étude réalisée en 2026 par Veriff-Kantar a testé la détection des « deepfakes » sur 3 000 personnes aux États-Unis, au Royaume-Uni et au Brésil. Les Américains n’ont obtenu qu’un score de 0,07 sur une échelle où 0 équivaut à une supposition aléatoire. Cette statistique confirme que la vue et l’intuition humaines ne sont plus des défenses fiables. Les machines battent les humains en matière de réalisme, et la seule réponse possible est donc la vérification par les machines.

Ira Bondar-Mucci, responsable de la plateforme de lutte contre la fraude chez Veriff, résume clairement la situation : « Maintenant que le contenu généré par l’IA devient indiscernable de la réalité, l’œil humain seul n’est plus une ligne de défense fiable. » Les entreprises et les décideurs politiques doivent considérer la vérification de l’identité non pas comme une technologie optionnelle, mais comme une infrastructure essentielle. Ceux qui agissent maintenant créeront un véritable fossé concurrentiel dans le domaine de la confiance numérique.

Les États-Unis présentent un déficit prononcé de sensibilisation aux deepfakes malgré leur leadership en matière de développement de l’IA

Les États-Unis sont les premiers au monde à développer l’IA générative, mais ils sont à la traîne pour ce qui est de la reconnaissance des risques qu’elle comporte. Le taux de sensibilisation des adultes américains aux deepfakes est de 63 %, contre 74 % au Royaume-Uni et 67 % au Brésil. Cet écart augmente directement la probabilité que la fraude et la désinformation se répandent sans contrôle. Lorsque les consommateurs ne comprennent pas ce qu’est un « deepfake », ils ne remettent pas en question l’authenticité. Ils font trop facilement confiance. Pour les entreprises, cette confiance mal placée devient une faiblesse systémique.

De nombreux consommateurs américains se sont toujours concentrés sur la protection de la vie privée et des données, et non sur l’authenticité. Cet état d’esprit avait du sens avant que les contrefaçons de l’IA ne deviennent impossibles à distinguer du contenu réel. Aujourd’hui, cette priorité doit être élargie. Le manque de sensibilisation ne diminue pas le risque, il l’amplifie. Il donne aux attaquants un avantage et oblige les entreprises à supporter les coûts en cas d’échec de la vérification.

Les dirigeants doivent considérer qu’il ne s’agit pas d’un problème de communication, mais d’un problème structurel. Les campagnes de sensibilisation ne suffiront pas à résoudre le problème ; la sensibilisation doit être intégrée dans la conception des systèmes numériques. L’éducation doit se faire parallèlement à l’automatisation. L’intelligence artificielle peut détecter les contenus synthétiques plus rapidement et avec plus de précision que n’importe quelle équipe de réviseurs humains, mais les utilisateurs finaux doivent encore comprendre pourquoi les indices de vérification sont importants.

Comme l’a fait remarquer Ira Bondar-Mucci, « il y a un paradoxe en jeu… si vous ne savez pas ce qu’est un deepfake, vous êtes beaucoup moins susceptible de faire une pause et de vérifier si vous en avez rencontré un ». La prochaine génération de systèmes numériques et de politiques doit combler cette lacune. La sensibilisation et l’automatisation doivent évoluer de concert, sinon les utilisateurs américains continueront d’être le maillon faible de leur propre chaîne de sécurité numérique.

La détection humaine des deepfakes n’est pas fiable pour différents types de contenus

L’intuition humaine a atteint ses limites lorsqu’il s’agit de détecter les médias synthétiques. La recherche montre que les gens se comportent de manière presque aléatoire lorsqu’on leur demande de juger si un contenu visuel est réel ou faux. Même lorsqu’on leur présente des comparaisons côte à côte, la plupart des participants se partagent équitablement entre croire et douter de ce qu’ils voient. La vidéo, en particulier, s’est avérée la plus difficile : les participants ont souvent jugé que les fausses vidéos étaient réelles et que les authentiques étaient fausses. Cela signifie que la vérification visuelle traditionnelle n’est plus une mesure de sécurité fiable.

Pour les entreprises, l’implication est immédiate. Tout processus dépendant du jugement humain pour la validation visuelle, tel que l’accueil, le contrôle d’accès ou la modération de contenu, est intrinsèquement exposé à l’erreur. Les systèmes automatisés doivent assumer cette responsabilité. La vérification basée sur l’IA peut analyser des modèles et des incohérences au niveau du pixel ou des métadonnées que les humains ne peuvent pas percevoir. Le rôle des personnes dans la chaîne de vérification devrait passer du jugement à la surveillance, en se concentrant sur l’examen des cas rares et complexes que l’automatisation ne peut pas résoudre en toute confiance.

Les dirigeants devraient y voir à la fois un risque opérationnel et une opportunité. Le coût du recours à la vérification humaine n’est plus lié à la dotation en personnel, mais à l’exposition. À mesure que la technologie des médias synthétiques s’améliore, chaque processus de vérification manuelle devient un point d’entrée potentiel pour la fraude ou la désinformation. Les entreprises qui remplacent rapidement les décisions manuelles par l’automatisation réduiront non seulement les risques, mais renforceront également la confiance numérique sur leurs plateformes et dans leurs transactions.

Les conclusions de Veriff-Kantar montrent clairement que même des yeux entraînés ne peuvent pas identifier systématiquement les « deepfakes ». La précision humaine oscille autour de niveaux aléatoires, ce qui confirme que la norme « voir et décider » a expiré. La vérification doit évoluer pour répondre à une réalité où ce qui semble authentique peut ne pas l’être.

L’excès de confiance dans la détection des « deepfake » amplifie la vulnérabilité des consommateurs

La confiance sans capacité est devenue l’une des plus grandes faiblesses de la sécurité numérique. Environ la moitié des personnes interrogées aux États-Unis dans le cadre de l’enquête ont déclaré qu’elles étaient sûres de pouvoir repérer les « deepfakes », mais la plupart d’entre elles n’ont pas obtenu de bons résultats. Un sous-ensemble plus restreint, environ 7 %, se distingue par une combinaison troublante d’excès de confiance et d’imprécision. Ils vérifient rarement ce qu’ils voient, même lorsqu’ils sont confrontés à des contenus potentiellement manipulés. Concrètement, ce groupe représente des millions de comptes vulnérables à l’exploitation.

Ce problème de confiance ne se limite pas aux utilisateurs individuels. Les entreprises qui comptent sur leurs clients pour s’auto-vérifier ou sur leurs employés pour évaluer manuellement le contenu visuel adoptent par extension cette même vulnérabilité. Lorsqu’une organisation fait confiance à la perception humaine plutôt qu’à la détection technologique, elle intériorise les préjugés humains, les erreurs et les certitudes mal placées. Les fraudeurs l’ont compris et conçoivent des attaques pour exploiter ces mêmes points de faiblesse humaine.

Les dirigeants doivent aborder cette question de manière stratégique. L’excès de confiance n’est pas un problème d’interface utilisateur, c’est un problème de comportement. L’automatisation permet de l’atténuer en éliminant la subjectivité du processus. Les systèmes conçus pour détecter les contenus synthétiques avant qu’une décision humaine ne soit nécessaire peuvent réduire considérablement les risques. Ces systèmes permettent aux équipes de se concentrer sur la réponse et l’atténuation, et non sur la détection. Moins une opération dépend du jugement de l’utilisateur, moins il y a de chances que la confiance l’emporte sur la prudence.

Comme l’a déclaré Ira Bondar-Mucci de Veriff, « lorsque les gens pensent qu’ils ne peuvent pas être trompés, ils cessent de chercher les signes. C’est précisément à ce moment-là qu’ils sont le plus vulnérables ». C’est cette réalité que les dirigeants doivent prendre en compte lorsqu’ils conçoivent des systèmes numériques sécurisés. L’objectif n’est pas d’éliminer l’implication humaine, mais de veiller à ce que les humains ne soient jamais la première ou la seule ligne de défense.

Malgré la grande inquiétude suscitée par les deepfakes, les Américains ont tendance à déléguer les responsabilités de détection aux plateformes numériques.

Les Américains sont très préoccupés par l’essor des « deepfakes », mais ils ont tendance à penser que les plateformes sauront faire face à la menace. Les données de Veriff-Kantar montrent que 79 % des personnes interrogées aux États-Unis sont « plutôt » ou « extrêmement » préoccupées par le fait d’être ciblées par une usurpation d’identité ou une fraude. Pourtant, nombre de ces mêmes personnes font confiance aux médias sociaux et aux plateformes numériques pour identifier à leur place les contenus générés par l’IA. Il en résulte un excès de confiance dans les mesures de protection des plateformes et une baisse de la vigilance personnelle.

Pour les entreprises, ce décalage entre l’inquiétude et l’action présente un risque qui s’étend bien au-delà des utilisateurs individuels. Un public qui fait trop facilement confiance crée un terrain fertile pour la propagation de la fraude et de la désinformation. Les entreprises qui gèrent des transactions ou des interactions numériques de grande valeur ne peuvent pas compter sur des plateformes externes pour sécuriser l’identité de leurs utilisateurs. La sécurité et la vérification de l’authenticité doivent être intégrées dans les propres systèmes de l’entreprise, et non confiées à la confiance du public.

Les dirigeants devraient considérer ce moment comme une occasion de diriger plutôt que de déléguer des responsabilités. Des protocoles de vérification interne solides envoient un message clair aux clients : l’authenticité est traitée comme un atout essentiel de l’entreprise, et non comme une fonction secondaire. Les entreprises qui établissent cette norme dès le départ bénéficieront d’un avantage concurrentiel, à la fois en termes de réputation publique et d’alignement sur les réglementations. À mesure que les réglementations mondiales se resserrent autour des médias synthétiques et de la prévention de la fraude, celles qui ont déjà investi dans une infrastructure de détection et de vérification seront mieux placées pour s’adapter sans perturbation.

Ira Bondar-Mucci, de Veriff, a souligné cette dynamique en avertissant que l’écart entre la sécurité perçue par les consommateurs et la protection réelle « est exactement là où la fraude prospère ». Cette déclaration reflète une vérité essentielle : la prise de conscience ne suffit pas à assurer la protection. La sécurité ne peut pas dépendre de la confiance ; elle doit dépendre d’un contrôle vérifiable.

L’analyse de rentabilité de la vérification d’identité automatisée et alimentée par l’IA est impérative.

Dans un monde saturé d’IA, il n’est plus possible de s’appuyer sur le jugement humain pour confirmer l’identité. Le problème n’est pas que les gens manquent de conscience, c’est qu’aucun humain ne peut détecter systématiquement un contenu synthétique dense avec une précision algorithmique. Les technologies de vérification automatisées ne sont donc pas seulement un investissement intelligent, mais une nécessité stratégique. Les systèmes doivent identifier les médias synthétiques avant qu’une décision humaine ne soit prise, ce qui réduit à la fois les erreurs et l’exposition dans l’ensemble du processus commercial.

Les entreprises qui intègrent la vérification automatisée et pilotée par l’IA à chaque point d’interaction bénéficieront d’un avantage durable. Ces systèmes peuvent fonctionner en continu et de manière objective, en détectant les deepfakes, les fausses identités ou les données synthétiques bien avant que la fraude ne prenne racine. La surveillance humaine a toujours un rôle à jouer, mais seulement après que les systèmes d’IA ont filtré les risques connus. Cette division du travail garantit que les ressources sont consacrées à la résolution plutôt qu’à la détection.

Du point de vue de la direction, l’automatisation est plus qu’un choix technologique, c’est une décision d’infrastructure. Les deepfakes exposent les failles des systèmes existants d’authentification, révélant que la confiance numérique nécessite désormais une conception proactive, et non une conformité réactive. Les entreprises qui continuent de s’appuyer sur la vérification manuelle ou l’auto-attestation de l’utilisateur intègrent le doute directement dans leurs systèmes. Celles qui automatisent éliminent totalement cette faiblesse.

Ira Bondar-Mucci a résumé ce changement en termes simples : « Voir n’est plus croire ». Cette phrase illustre bien la nouvelle réalité opérationnelle. Les entreprises doivent désormais construire des systèmes qui valident la vérité indépendamment de la vue humaine. Celles qui s’adapteront rapidement gagneront et conserveront la confiance nécessaire pour prospérer alors que les médias synthétiques remodèlent l’économie numérique.

Faits marquants

• La perception humaine n’est plus un moyen de défense contre les « deepfakes » : La plupart des Américains ne peuvent pas distinguer les contenus générés par l’IA des vrais visuels, ce qui expose les entreprises qui dépendent des contrôles d’identité visuels. Les dirigeants devraient passer d’une vérification manuelle à des systèmes automatisés, pilotés par l’IA, afin de garantir la confiance et l’authenticité.
• Les lacunes en matière de sensibilisation amplifient les risques numériques : Seuls 63 % des adultes américains comprennent ce que sont les deepfakes, malgré le leadership du pays en matière d’IA. Les dirigeants devraient soutenir à la fois les initiatives de sensibilisation et les systèmes de vérification intégrés pour éliminer cette vulnérabilité et renforcer la vigilance des utilisateurs.
• La vérification humaine est peu fiable et inefficace : Les gens évaluent de manière incorrecte les contenus réels et faux dans tous les formats, même dans les comparaisons directes. Les entreprises devraient passer à des technologies de détection automatisées qui identifient les manipulations au niveau des données avant qu’un examen humain ne soit nécessaire.
• L’excès de confiance accroît l’exposition à la fraude : Près de la moitié des utilisateurs américains croient à tort qu’ils peuvent repérer les « deepfakes », 7% d’entre eux étant particulièrement imprécis mais certains. Les dirigeants devraient éliminer la dépendance à l’égard du jugement de l’utilisateur en intégrant des outils de validation automatisés qui surmontent les préjugés humains et l’excès de confiance.
• La dépendance à l’égard des plateformes compromet la sécurité : Les Américains font confiance aux plateformes technologiques et sociales pour gérer les menaces liées aux « deepfakes », ce qui réduit leur propre prise de conscience. Les entreprises devraient internaliser les mesures de protection de l’identité pour garder le contrôle de la sécurité numérique plutôt que de s’en remettre à des tiers.
• La vérification automatisée et alimentée par l’IA est désormais une infrastructure fondamentale : Les vérifications d’identité manuelles ou effectuées par l’utilisateur intègrent le risque directement dans les opérations. Les dirigeants devraient donner la priorité aux cadres de vérification pilotés par l’IA qui authentifient la vérité indépendamment de la perception humaine, garantissant ainsi une confiance numérique évolutive et durable.