Le Federal Bureau of Investigation (FBI) des États-Unis a mis en garde contre l'utilisation croissante des deepfakes à des fins criminelles, notamment en cherchant à commettre des escroqueries et des extorsions en ligne, grâce à cette technologie basée sur l'intelligence artificielle.
Ces derniers mois, le FBI a observé une augmentation alarmante du nombre de faux profils créés à l'aide de ce système. Les imposteurs utilisent des vidéos, des images et des enregistrements modifiés pour voler l'identité des personnes et tromper les autres utilisateurs. Cette manipulation de contenu comprend la création de fausses vidéos explicites utilisant les visages des victimes, qui sont ensuite publiées sur les réseaux sociaux, les forums et les sites Web pornographiques.
« Les progrès de la technologie de création de contenu et des images personnelles accessibles en ligne offrent de nouvelles possibilités aux délinquants de trouver et d'attaquer les victimes. Cela les rend vulnérables à la honte, au harcèlement, à l'extorsion, aux pertes financières ou à une revictimisation continue à long terme », ont déclaré les autorités américaines.
Une attaque sans connaissance
L'agence fédérale a souligné que souvent les victimes elles-mêmes ne sont pas conscientes que ce matériel circule sur Internet jusqu'à ce qu'elles soient alertées par des connaissances ou découvrent elles-mêmes sa présence. De plus, les cybercriminels contactent directement les victimes pour extorquer de l'argent ou effectuer des activités sous la menace de révéler des informations intimes ou de partager des images sexuellement explicites.
Cette forme de chantage, connue sous le nom de « sextorsion », est devenue un problème de plus en plus courant. Le FBI a enregistré une augmentation significative du nombre de victimes déclarant avoir été soudoyées par le biais de deepfakes.
Dans de nombreux cas, les escrocs exigent des paiements en espèces ou la livraison de vraies vidéos, ce qui crée un problème supplémentaire car cela peut les aider à créer davantage de faux contenus ou à approfondir le chantage et à obtenir de plus en plus d'images sexuelles pour continuer à vendre.
Les autorités ont souligné les défis auxquels les victimes sont confrontées une fois leur contenu partagé en ligne, car la diffusion de ces images et vidéos manipulées peut être difficile à arrêter et à supprimer du réseau, ce qui peut avoir de graves conséquences pour les personnes concernées.
L'importance de prendre soin de nos publications
Depuis avril 2023, l'agence fédérale a exhorté les utilisateurs à être prudents lorsqu'ils publient des images, des vidéos et du contenu personnel en ligne. Il est recommandé d'ajuster les paramètres de confidentialité sur les réseaux sociaux et d'effectuer des recherches d'images inversées pour identifier les utilisations frauduleuses potentielles de votre matériel.
"Bien qu'elles semblent inoffensives lorsqu'elles sont publiées ou partagées, les images et les vidéos peuvent fournir aux acteurs malveillants une riche source de contenu à exploiter à des fins criminelles", ont-ils déclaré dans un communiqué.
La technologie Deepfake a évolué rapidement ces dernières années, permettant aux cybercriminels de créer plus facilement des faux contenus de plus en plus convaincants. Avec juste une image ou un enregistrement audio d'une personne, il est possible de générer de fausses vidéos et audio qui ressemblent à la réalité.
Le FBI a souligné la nécessité de sensibiliser à ce problème et a souligné l'importance de prendre des précautions en ligne. Les progrès technologiques et la disponibilité d'images personnelles en ligne offrent de nouvelles possibilités aux criminels de cibler et d'exploiter leurs victimes. Cela peut les rendre vulnérables à la honte, au harcèlement, à l'extorsion et aux pertes financières.