Quelque chose qui est devenu un problème pour les moteurs de recherche qui luttent constamment pour éradiquer ces représentations fausses et sexuellement explicites qui continuent de circuler malgré les mesures actuelles.
Les femmes sont les principales victimes
Le phénomène des deepfakes a un impact si notable que des actrices et des artistes comme Emma Watson, Natalie Portman, Scarlett Johansson et Rosalía ont déclaré avoir été victimes de ce type de fausses images.
Rappelons que dans cette modalité dans laquelle l'intelligence artificielle est utilisée pour générer des montages vidéo, d'images ou audio , les femmes et les mineurs sont les principales victimes, dont l'image et la dignité personnelle sont violées.
Ce qui, pour les experts, génère un effet psychologique important car il représente des pratiques sexuelles qui, même si elles n'ont jamais eu lieu, sont très réalistes.
Et le plus grave, c'est que 98 % des fausses images qui circulent sur Internet sont à caractère sexuel , selon le rapport Home Security, qui indique que 99 % des faux contenus pornographiques impliquent le sexe féminin .
Comment identifier un deepfake
Les deepfakes peuvent sembler si authentiques qu'il peut être très difficile de les identifier comme tels, et même des experts comme Eduardo Cruz, PDG de Qustodio, une plateforme spécialisée dans la sécurité et le bien-être numérique, préviennent qu'« il existe des applications capables de modifier leur contenu de telle manière que « cela semble si réel que cela donne lieu à la tromperie ».
La principale menace réside donc dans la facilité avec laquelle tout individu, en particulier les jeunes, peut accéder et utiliser ces outils sans avoir besoin de connaissances informatiques avancées.
Heureusement, certaines caractéristiques et erreurs subtiles sont souvent répétées dans ce type de contenu, ce qui permet de l'identifier plus facilement comme un deepfake.
Ces détails concernent généralement la forme et les caractéristiques du visage , y compris le nombre de clignements dans les vidéos, qui sont généralement peu nombreux et présentés de manière peu naturelle.
Pour détecter un deepfake , il faut également s’intéresser aux aspects physiques du corps , notamment les mains, qui sont l’une des parties les plus difficiles à reproduire.
Cela permet également d'examiner la durée de la vidéo, le timing du son et l'intérieur de la bouche ; ainsi que les incohérences dans le discours et la source d'où proviennent les images.
De plus, les grandes entreprises technologiques génèrent déjà des mécanismes, également basés sur l’IA, capables de détecter ces manipulations.
Que faire si je suis victime
Dans le cas hypothétique d’être victime d’un deepfake, il est primordial de ne pas partager ce type de contenu.
Il existe des canaux prioritaires , comme celui de l'Agence espagnole de protection des données, pour l'interruption rapide de sa diffusion.
De plus, il existe des voies juridiques, tant pénales que civiles, pour signaler ce type d'actions et demander réparation.
Les experts soulignent également l’importance de l’éducation à la numérisation et de la sensibilisation aux risques liés à l’utilisation de l’IA pour générer de faux contenus.
De plus, l’impact psychologique et social de l’exposition aux deepfakes, en particulier lorsqu’il s’agit de mineurs, peut être dévastateur. C’est pourquoi la pédagogie et un accompagnement spécialisé sont cruciaux pour faire face aux conséquences négatives de cette forme de cyberintimidation.