Ce que les agents IA autonomes changent dans l’ampleur de la fraude

La fraude par IA peut changer l’économie de l’échelle

La fraude par IA est souvent présentée sous l’angle de messages de phishing convaincants, de clones vocaux et d’identités synthétiques. Les agents d’IA autonomes pourraient changer l’échelle de la fraude en réduisant le travail humain nécessaire pour chaque tentative. Un agent d’IA autonome est un logiciel capable de poursuivre un objectif en plusieurs étapes avec une intervention humaine limitée.

Dans une escroquerie, un agent pourrait rechercher des cibles, mener des conversations, adapter ses tactiques et obtenir un paiement auprès de nombreuses cibles. La question immédiate pour les dirigeants est de savoir si l’automatisation peut permettre à une opération frauduleuse de soutenir davantage de tentatives simultanées avec la même main-d’œuvre humaine.

La fraude est contrainte par le travail humain

Une tentative de fraude peut exiger d’un opérateur qu’il identifie une cible, prenne contact, établisse sa crédibilité, réponde aux questions et maintienne l’attention de la cible jusqu’au transfert d’argent. Automatiser une plus grande partie de cette séquence peut réduire le temps d’opérateur nécessaire pour chaque tentative.

Un logiciel qui assure la recherche, l’interaction, l’adaptation et la répétition pourrait permettre à une même opération de mener davantage de tentatives simultanées avec la même main-d’œuvre humaine. Des preuves sur le déploiement réel sont nécessaires pour déterminer dans quelle mesure l’automatisation a, en pratique, modifié cette contrainte.

Le potentiel d’automatisation et l’exécution observée sont deux mesures différentes

La capacité technique et l’usage observé répondent à des questions différentes. Montrer qu’un agent autonome pourrait exécuter un type de fraude de bout en bout ne prouve pas qu’un incident particulier a été exécuté de cette manière.

Attribuer un incident individuel à un agent autonome exige des preuves sur la manière dont cet incident a réellement été exécuté. Cette distinction est importante lorsque des incidents actuels sont utilisés pour prévoir la future fraude agentique.

La même rigueur s’applique lorsqu’on évalue des indicateurs plus larges de l’activité frauduleuse. Les variations des pertes déclarées ou du volume de fraude peuvent avoir plusieurs causes. Établir que l’IA autonome a provoqué un changement exige des preuves qui isolent sa contribution.

Les prévisions sur la fraude agentique exigent des définitions claires

Une prévision précise sur la part future de la fraude agentique exige un dénominateur défini pour « l’ensemble de la fraude », une définition claire de la « fraude agentique », des hypothèses sur l’adoption et des preuves qui distinguent l’exécution autonome d’une fraude qui pourrait simplement être automatisée.

Ces distinctions sont importantes, car les prévisions peuvent sinon mêler plusieurs phénomènes différents : l’assistance de l’IA aux fraudeurs humains, l’automatisation de tâches individuelles et l’exécution autonome sur l’ensemble d’une escroquerie. Chacun a des implications différentes pour la capacité de fraude et les contrôles de défense.

Les contrôles antifraude doivent être testés face à l’échelle automatisée

Les responsables de la fraude et de la sécurité peuvent tester la performance de leurs contrôles lorsque des logiciels maintiennent de nombreuses interactions adaptatives à la fois et réduisent l’effort humain nécessaire pour chaque tentative.

Ce scénario est important pour la vérification d’identité, l’onboarding à distance et le service client numérique. Les systèmes conçus pour identifier de faux documents, des transactions suspectes ou des interactions trompeuses peuvent être confrontés à des logiciels qui recherchent une cible, modifient leurs réponses et maintiennent une interaction sur plusieurs étapes.

La question de management est de savoir si les contrôles existants restent efficaces lorsque des logiciels permettent à un attaquant de maintenir un effort adaptatif sur davantage de cibles en même temps. Les dirigeants peuvent tester directement cette condition au moyen de scénarios qui augmentent les interactions simultanées, font varier les réponses de l’attaquant et mesurent à quel point la performance des contrôles se dégrade.

Points clés

Les agents d’IA pourraient changer l’économie de la fraude : L’automatisation de la recherche, de l’interaction et de l’adaptation pourrait permettre aux opérations frauduleuses de viser davantage de cibles avec la même main-d’œuvre humaine.
Le travail humain limite l’échelle de la fraude : Réduire le temps d’opérateur nécessaire pour chaque tentative pourrait accroître la capacité de fraude, mais les dirigeants doivent distinguer ce potentiel des preuves d’un déploiement réel.
La capacité ne prouve pas l’exécution : Le fait que des agents d’IA puissent automatiser la fraude ne prouve pas qu’ils sont à l’origine d’un incident spécifique ou d’une augmentation plus large de l’activité frauduleuse.
Les prévisions ont besoin de définitions précises : Les dirigeants doivent distinguer la fraude assistée par l’IA, les tâches automatisées et la fraude autonome de bout en bout lorsqu’ils évaluent les prévisions et leurs implications.
Tester les contrôles face à l’échelle automatisée : Les dirigeants doivent simuler de nombreuses interactions simultanées et adaptatives afin d’identifier à partir de quel point les contrôles liés à l’identité, à l’onboarding et au service numérique commencent à se dégrader.