Une entreprise multimilliardaire de Hong Kong a perdu 200 millions de HKD (dollar de Hong Kong), soit l'équivalent de près de 26 millions de dollars, après qu'un deepfake du directeur financier ait réussi à tromper un employé pour qu'il autorise un transfert frauduleux.
Cet incident marque une étape importante car c'est l'une des premières fois que plusieurs fausses identités créées avec l'intelligence artificielle (IA) sont impliquées dans une seule arnaque, compliquant encore davantage la tâche de distinction entre ce qui est réel et ce qui est faux dans le monde.
L'arnaque a été réalisée par vidéoconférence, au cours de laquelle l'employé a été convaincu par plusieurs participants générés par l'IA, y compris une reconstitution convaincante du CFO (Chief Financial Officer ) , ce qui a conduit à baisser sa garde.
Selon les médias locaux, cet incident n'est pas isolé et le Bureau de la cybersécurité, de la technologie et de la criminalité de Hong Kong a observé une augmentation de fraudes similaires.
Le surintendant Baron Chan a détaillé la sophistication croissante de ces attaques, soulignant la difficulté de s'en protéger.
La technologie Deepfake a démontré sa capacité à générer de faux contenus impossibles à distinguer de la réalité, soulignant l’urgence d’améliorer les mesures de sécurité et les réglementations autour de l’IA.
La prolifération des deepfakes ne se limite pas à la fraude financière. Dans le New Hampshire, aux États-Unis , des personnes ont reçu de faux appels utilisant la voix du président de ce pays, Joe Biden , et à Baltimore , un faux clip audio a été généré par le directeur d'un institut contenant des déclarations racistes.
De plus, la chanteuse Taylor Swift a été la cible de créations deepfake au contenu explicite. Ces incidents soulignent la capacité de cette technologie à influencer la politique, à nuire aux réputations et à générer de la désinformation.
Des experts, comme le professeur Hany Farid de l' Université de Californie à Berkeley , soulignent la difficulté croissante de détecter ce type de contenu.
Il s'interroge également sur le manque de réglementation auquel sont confrontées les entreprises développant ces technologies. La nécessité d’une législation qui évolue au rythme de ces avancées est évidente, ainsi que la mise en œuvre de méthodes de détection plus efficaces et plus accessibles.
Avec les progrès de l’intelligence artificielle à pas de géant, la société est confrontée au défi de s’adapter et de trouver des moyens de coexister de manière sûre et éthique avec ces technologies.
Des incidents récents soulignent l’importance d’une saine vigilance et d’un scepticisme à l’égard du contenu numérique, en particulier lorsqu’il s’agit de personnalités publiques et de décisions critiques.
Le cas de l’entreprise à Hong Kong et d’autres similaires démontrent la vulnérabilité à la manipulation numérique et la nécessité urgente d’agir pour se protéger contre ces menaces émergentes.
Comment reconnaître une information deepfake ou fausse
Selon le cybercentre Kaspersky, reconnaître un « deepfake » peut s'avérer compliqué car les techniques de manipulation numérique évoluent constamment. Voici quelques-uns des conseils qui peuvent vous aider à éviter d’être victime de ces usurpations d’identité :
-Anomalies faciales et corporelles : il est essentiel de rechercher des incohérences dans les mouvements du visage, les expressions ou les mouvements du corps qui semblent étranges ou contre nature. Par exemple, des désalignements des yeux, de la bouche ou d’autres parties du visage.
-Synchronisation labiale et expressions : à vérifier que les mots correspondent aux mouvements des lèvres et que les expressions faciales sont appropriées au contexte de la vidéo.
-Éclairage et ombrage : évaluez si l'éclairage du visage correspond à l'environnement. Des incohérences d’éclairage peuvent indiquer une altération.
-Sensibilisation et éducation : s'intéresser à ce sujet et s'initier aux technologies de manipulation numérique.
-Méfiez-vous des faux sites Web : en cas de doute sur un site Web ou une application, ne saisissez pas de données et n'effectuez pas de paiement.
-Utiliser des solutions qui protègent les équipements.