Les arnaques par IA brouillent les repères des consommateurs

Les escroqueries par IA deviennent aussi un problème pour les offres légitimes

La fraude assistée par IA crée un problème commercial même lorsque l’offre d’une entreprise est elle-même légitime. À mesure que les escroqueries générées deviennent plus convaincantes, les consommateurs ont moins confiance dans les signaux qu’ils utilisent pour évaluer les offres en ligne. Cette incertitude peut les faire hésiter ou se retirer des activités numériques, ce qui signifie que la fraude peut imposer des coûts aux entreprises légitimes ainsi qu’à ses victimes directes.

Le National Trading Standards, une agence gouvernementale, relie cette incertitude au fait que les entreprises légitimes sont freinées lorsqu’elles formulent des offres. Cette préoccupation met en lumière deux effets liés de l’IA : les criminels peuvent produire des tromperies plus efficaces, tandis que les entreprises légitimes doivent atteindre des personnes moins certaines de ce qui mérite leur confiance. Comprendre l’effet commercial commence donc par la manière dont l’IA modifie la production de fraude.

L’IA industrialise des escroqueries déjà connues

Le National Trading Standards décrit ce changement comme une amplification de formes établies de fraude. Il déclare : « [Nos] renseignements montrent que l’IA ne crée pas nécessairement de nouveaux types d’escroqueries ; elle dope celles qui existent déjà. Les escroqueries liées aux achats, aux vacances, aux investissements et aux relations amoureuses peuvent désormais être rendues plus convaincantes, personnalisées et évolutives, permettant aux criminels de cibler davantage de personnes, plus rapidement et avec moins d’expertise technique qu’auparavant. »

Ces quatre catégories montrent où cette amplification opère. Les escroqueries liées aux achats, aux vacances, aux investissements et aux relations amoureuses offrent déjà aux criminels des moyens établis d’approcher des victimes potentielles, tandis que l’IA peut accroître la crédibilité, la personnalisation et le volume de ces approches. Les criminels peuvent par conséquent combiner une tromperie adaptée à chaque individu avec des campagnes à grand volume.

Cette production accrue s’accompagne d’une exigence d’expertise plus faible. Michael Bichard, président du National Trading Standards, affirme que l’IA « transforme le paysage de la fraude » parce qu’une nouvelle génération de criminels organisés peut créer des escroqueries convaincantes avec peu d’expertise technique et opérer à une « vitesse et une échelle énormes ». Les groupes criminels peuvent par conséquent étendre leur portée sans augmentation équivalente de leurs capacités spécialisées.

Cette baisse de la barrière d’entrée modifie les risques liés à l’IA qui méritent une attention immédiate de la part des dirigeants métier et technologiques. Les formes existantes de fraude peuvent devenir moins coûteuses à renforcer et plus faciles à reproduire, de sorte qu’un focus principalement porté sur les nouvelles formes de criminalité liée à l’IA peut faire manquer une source immédiate de risque. Une escroquerie familière peut devenir sensiblement plus efficace lorsque le contenu généré améliore sa présentation, sa personnalisation et son volume.

Cette efficacité accrue modifie aussi les informations dont disposent les consommateurs. Une personne confrontée à des contenus frauduleux plus convaincants peut accorder moins de poids à la qualité de surface lorsqu’elle décide si une offre mérite sa confiance. À mesure que les images, vidéos, voix et sites web soignés deviennent plus faciles à générer et à déployer, la qualité de production devient un signal de crédibilité plus faible.

Ces changements se renforcent mutuellement tout au long du processus de fraude. Les criminels peuvent atteindre davantage de personnes plus rapidement parce que la barrière d’expertise a baissé, tandis que leurs cibles font face à des jugements plus difficiles parce que les contenus produits peuvent être plus persuasifs. Les effets s’étendent donc au-delà des personnes qui deviennent finalement victimes de fraude, jusqu’à l’environnement plus large dans lequel les entreprises légitimes formulent des offres en ligne.

Le coût de faux plus convaincants, c’est une incertitude plus large

Cet effet plus large apparaît dans les résultats d’enquête du National Trading Standards sur la reconnaissance, la pression ressentie par les consommateurs et les comportements. Ces trois mesures capturent différentes réponses aux escroqueries, chacune montrant une partie distincte du problème de confiance.

La difficulté à distinguer un faux généré par IA d’une offre authentique modifie le jugement que le consommateur doit porter. Les offres légitimes doivent rivaliser avec des contenus générés capables de reproduire davantage des signaux que les gens utilisaient auparavant pour évaluer la crédibilité. Le fait de se sentir « dépassé » traduit un autre effet : la pression ressentie par les consommateurs face à la détection des escroqueries, plutôt que le comportement impliqué dans l’identification d’un faux.

Pour certains consommateurs, cette incertitude modifie aussi le comportement. Le fait d’éviter certaines activités en ligne montre que l’inquiétude peut conduire au retrait, même si ce constat n’établit pas quelles activités les gens évitent. Une fois que cela se produit, les conséquences de la fraude atteignent les entreprises légitimes dont les clients potentiels deviennent plus prudents dans leurs interactions numériques.

Pour ces entreprises, ce retrait devient un coût externe de la fraude parce que la dégradation de la confiance peut réduire leur capacité à engager des clients potentiels. Les équipes marketing, produit, sécurité et fraude ont par conséquent un intérêt commun à savoir si l’environnement en ligne au sens large donne aux gens suffisamment confiance pour agir face à des offres légitimes. Cet intérêt partagé conduit à deux types de réponse : aider les individus à reconnaître la tromperie et perturber les systèmes que les criminels utilisent pour la diffuser.

L’éducation des consommateurs constitue un niveau de réponse

Le premier niveau se concentre sur les décisions que les individus prennent lorsque des contenus frauduleux les atteignent. Le 30 septembre, le National Trading Standards a lancé son AI Scam Watchlist pour mettre en lumière les outils et techniques que les criminels utilisent de plus en plus pour renforcer les escroqueries et pour donner aux consommateurs des conseils afin de se protéger. Le National Trading Standards a identifié cinq techniques d’escroquerie alimentées par l’IA qui préoccupent le plus les consommateurs :

Ces techniques comptent parce que les médias générés peuvent rendre les jugements au point de contact plus difficiles. La Watchlist vise à rendre ces méthodes plus faciles à comprendre avant qu’un consommateur n’y soit confronté dans le cadre d’une possible escroquerie. Bichard reconnaît que les gens peuvent se sentir impuissants face à l’IA, mais soutient que la prévention reste une défense essentielle contre la fraude.

Cette défense dépend du fait de donner aux consommateurs des informations qu’ils peuvent appliquer pendant une interaction. Le mécanisme proposé par Bichard consiste à expliquer comment l’IA peut rendre la tromperie plus convaincante, puis à donner aux gens des étapes claires pour se protéger. Il affirme que doter les gens de compréhension et de protections pratiques sera « un outil incroyablement puissant » contre les escroqueries rendues possibles par l’IA.

Les connaissances pratiques peuvent améliorer la réponse d’un individu, tandis que le volume et l’organisation de la fraude assistée par IA créent aussi une tâche au niveau du système. L’infrastructure criminelle, les comptes et les canaux de distribution déterminent si les approches frauduleuses atteignent les consommateurs en premier lieu. Parce que l’IA permet aux criminels de produire des contenus convaincants plus rapidement et avec moins d’expertise, perturber ces actifs devient le deuxième niveau de la réponse.

La fraude à l’échelle de l’IA exige aussi une perturbation à l’échelle du système

Ce deuxième niveau intervient bien plus en amont. En mars, le gouvernement britannique a annoncé la création d’un Online Crime Centre de 30 millions de livres, destiné à devenir un point central de lutte contre la cyberfraude et de perturbation des gangs à l’origine de ce qui a été décrit comme le crime le plus répandu du pays. Le Centre est conçu pour combiner des informations que les institutions individuelles ne verraient autrement que depuis leur propre position dans l’écosystème de la fraude.

Combiner ces informations exige que des institutions ayant des points de vue et des pouvoirs différents travaillent ensemble. Des experts du gouvernement, des forces de police, de la communauté du renseignement, des services financiers, des réseaux mobiles et de grandes entreprises technologiques devraient travailler côte à côte. Ils partageront des données criminelles en temps réel et construiront une vision unifiée des réseaux mondiaux de fraude, donnant aux organisations participantes une base commune pour identifier les activités qui traversent les frontières institutionnelles.

Cette vision partagée est destinée à soutenir une perturbation directe. Le mandat du Centre comprend l’identification des comptes, sites web et numéros de téléphone utilisés par des gangs organisés de cybercriminalité et leur suppression à grande échelle. L’éducation des consommateurs aide lorsqu’une personne rencontre une approche suspecte ; l’action sur l’infrastructure intervient plus tôt en perturbant les actifs et les canaux utilisés pour mener les campagnes.

Le Centre fait aussi partie d’un engagement gouvernemental plus large. Son financement de 30 millions de livres a été annoncé alors que Westminster élargissait sa stratégie pour investir 250 millions de livres dans les activités de lutte contre la fraude d’ici 2029. Cet investissement plus large place l’intervention coordonnée aux côtés de mesures qui aident les individus à identifier les escroqueries et à y répondre.

Le même besoin de coordination apparaît dans la vision de John Herriman sur la protection des consommateurs. Herriman, PDG du Chartered Trading Standards Institute, décrit le lancement de l’AI Scam Watchlist comme une étape importante pour aider les gens à comprendre les tactiques criminelles et les actions concrètes qu’ils peuvent entreprendre pour se protéger, eux-mêmes et leurs proches. Il plaide aussi pour une coopération entre les autorités de contrôle, le gouvernement, l’industrie et les organisations de consommateurs afin que la société puisse tirer parti de l’innovation tout en réduisant les possibilités pour les criminels de l’exploiter.

Pour les entreprises en ligne, cette coopération élargit le périmètre pratique de la fraude au-delà des attaques visant directement leurs propres systèmes ou clients. Les campagnes assistées par IA peuvent affaiblir la confiance dans les canaux numériques utilisés pour l’acquisition client et les transactions légitimes, donnant aux équipes sécurité, fraude, produit et marketing un intérêt commun dans ces canaux. La gestion de la fraude inclut par conséquent aussi les conditions dans lesquelles les clients décident si une offre en ligne authentique mérite leur confiance.

Points clés

• Les escroqueries par IA affaiblissent la confiance dans les offres légitimes : Une fraude assistée par IA plus convaincante rend l’activité numérique légitime plus difficile à évaluer pour les consommateurs. Les entreprises font face à l’hésitation et au retrait des clients, en plus des coûts directs de la fraude.
• L’IA fait passer à l’échelle des fraudes déjà connues : L’IA rend les escroqueries liées aux achats, aux vacances, aux investissements et aux relations amoureuses plus convaincantes, personnalisées et évolutives, tout en réduisant l’expertise technique requise. Les équipes sécurité et fraude doivent prendre en compte des attaques à plus grand volume fondées sur des modèles d’escroquerie établis.
• L’incertitude des consommateurs crée des coûts pour l’entreprise : Près de la moitié des adultes britanniques ont du mal à distinguer les offres en ligne authentiques des faux générés par IA, tandis que 19 % évitent certaines activités en ligne en raison de préoccupations liées aux escroqueries. Les équipes marketing, produit et sécurité doivent traiter la confiance numérique comme un enjeu partagé d’acquisition client.
• L’éducation des consommateurs renforce la prévention de la fraude : Des conseils sur les faux sites web, le clonage vocal, les vidéos deepfake et d’autres techniques d’IA peuvent aider les gens à évaluer les approches suspectes. Les équipes en contact avec les clients peuvent renforcer des étapes de vérification claires partout où les utilisateurs rencontrent des offres ou des demandes.
• Une perturbation coordonnée permet de traiter la fraude à grande échelle : L’Online Crime Centre prévu au Royaume-Uni combinera des données du gouvernement, des forces de l’ordre, des services financiers, des télécoms et des entreprises technologiques pour identifier et supprimer l’infrastructure criminelle. Les entreprises peuvent soutenir une perturbation à l’échelle de l’écosystème grâce à un meilleur partage du renseignement et à une coopération intersectorielle.