Les escroqueries numériques alimentées par l'intelligence artificielle traversent une phase d'expansion sans précédent. Une analyse réalisée par des spécialistes de la Base de données des incidents liés à l'IA avertit que la fraude basée sur du contenu généré par IA, comme les deepfakes, a cessé d'être un phénomène marginal pour devenir un outil accessible dont l'utilisation massive a atteint une échelle "industrielle".
La facilité de création de vidéos, d'audios et d'images falsifiées de manière personnalisée et à faible coût transforme la dynamique de la cybercriminalité mondiale.
Deepfakes et leur impact sur la fraude numérique
L'étude identifie plus d'une douzaine de cas récents où des criminels ont utilisé des outils d'IA pour usurper des identités à des fins lucratives. Parmi les exemples figurent des vidéos fausses du président de Chypre, de journalistes suédois ou du Premier ministre de l'Australie-Occidentale, Robert Cook, promouvant des schémas frauduleux. Des deepfakes de faux médecins recommandant des produits en ligne ont également été signalés.
Cette tendance se reflète dans des incidents de haut profil, comme le cas d'un directeur financier d'une multinationale de Singapour qui a transféré près de 500 000 dollars après un appel vidéo manipulé avec des deepfakes imitant ses supérieurs. Au Royaume-Uni, des pertes de 9,4 milliards de livres sont estimées en raison de fraudes entre février et novembre 2025.
“Les capacités ont atteint un point où pratiquement n'importe qui peut générer du contenu faux”, indique à The Guardian Simon Mylius, chercheur au MIT lié au projet. Selon ses calculs, les fraudes et manipulations ciblées représentent la majorité des cas signalés dans la base de données au cours des derniers mois.
La facilité et la rapidité de l'escroquerie automatisée
La baisse des coûts et l'amélioration des modèles d'IA ont accéléré la production de deepfakes, facilitant leur utilisation dans des campagnes frauduleuses à grande échelle. “C'est si bon marché que n'importe qui peut l'utiliser. Les modèles s'améliorent plus rapidement que ne le prévoyaient de nombreux spécialistes”, avertit Fred Heiding, chercheur à Harvard spécialisé dans les escroqueries alimentées par l'IA.
Un cas récent illustre l'ampleur de la menace. Jason Rebholz, PDG d'une société de sécurité de l'IA, a publié une annonce d'emploi et a été contacté par un candidat qui, après des échanges de courriels, s'est avéré être une image générée par l'IA.
Lors de l'appel vidéo, l'environnement et les contours du visage du prétendu candidat étaient artificiels et peu définis. Après consultation avec une entreprise de détection de deepfakes, Rebholz a confirmé que l'aspirant était une fraude numérique. L'objectif de l'escroc reste flou : il pourrait avoir cherché à obtenir un salaire ou à accéder à des informations confidentielles.
Rebholz avertit que ce type d'attaques ne se limite plus aux grandes entreprises. “Si nous sommes une cible, n'importe qui peut l'être”, affirme-t-il. Les experts signalent que le véritable défi se profile dans un avenir proche, à mesure que la technologie de clonage vocal et vidéo perfectionne sa qualité, rendant encore plus difficile la distinction entre le réel et le faux.
Conséquences et défis pour la confiance numérique
La croissance de la fraude par IA pose des risques croissants pour la sécurité, l'économie et la confiance publique. L'utilisation de deepfakes et de clonage vocal impacte déjà des processus critiques, allant des recrutements à des campagnes électorales. La capacité des escrocs à manipuler des audiences, à usurper des identités et à accéder à des ressources financières ou à des secrets d'entreprise suscite des inquiétudes parmi les spécialistes et les autorités.
Fred Heiding avertit du danger d'une perte généralisée de confiance dans les institutions numériques et dans la véracité des contenus circulant en ligne. “Ce sera le grand point douloureux : l'absence totale de confiance dans les institutions et les supports numériques”, soutient-il.
La facilité d'acquisition et d'utilisation des outils d'IA ouvre la porte à une industrialisation de la fraude, où l'échelle et la personnalisation des attaques augmentent le défi pour les entreprises, les gouvernements et les utilisateurs. L'étude conclut que la société sera confrontée à un scénario où l'authenticité numérique sera de plus en plus difficile à garantir, obligeant à renforcer les stratégies de prévention, de détection et d'éducation face aux risques émergents liés à l'intelligence artificielle.