Les moteurs de recherche Web sont confrontés à un défi croissant dans la lutte contre les deepfakes pornographiques non consensuels . Ces représentations fausses et sexuellement explicites, créées grâce à l'utilisation de l'intelligence artificielle , ont proliféré à un rythme alarmant, devenant une menace pour la vie privée et la dignité des personnes en ligne.
Depuis leur apparition il y a environ cinq ans, ils ont été systématiquement utilisés pour harceler les femmes en permettant que leurs visages soient superposés à du contenu pornographique sans leur consentement. Et avec les progrès des technologies d’IA et un écosystème de deepfake en constante expansion, le nombre de ces pièces usurpant l’identité augmente de façon exponentielle.
Même des actrices comme Emma Watson ou Natalie Portman , ou des artistes comme Rosalía , ont déclaré avoir été victimes de ce type de fausses images partagées en ligne.
En 2023 le problème se déclenche
Une enquête indépendante, partagée avec le portail Wired, a réalisé une analyse révélatrice de la prévalence de ce problème, estimant qu'au cours des sept dernières années , au moins 244 625 vidéos ont été téléchargées sur 35 sites Web dédiés exclusivement ou partiellement à l'hébergement de vidéos pornographiques deepfake. . .
Mais la tendance est encore plus alarmante en 2023, car au cours des neuf premiers mois de cette année, 113 000 vidéos ont été mises en ligne sur ces sites, ce qui représente une augmentation de 54 % par rapport aux 73 000 vidéos mises en ligne pendant toute l'année 2022.
De plus, il est prévu que d’ici fin décembre, davantage de vidéos auront été produites en 2023 que les deux années précédentes réunies.
Une industrie du deepfake
Ces chiffres ne sont que la pointe de l'iceberg et le problème s'étend à d'autres formes d' images manipulées . En fait, toute une industrie de deepfake abus s’est développée, qui se concentre principalement sur les femmes et se produit sans leur consentement ni leur connaissance.
De plus, il existe des applications d'échange de visage qui fonctionnent avec des images fixes et des applications qui vous permettent de « déshabiller » une personne sur une photo en quelques clics seulement. On estime que des millions d’images et de vidéos sont créées à l’aide de ces applications.
Sophie Maddocks , chercheuse sur les droits numériques et la violence cybersexuelle à l'Université de Pennsylvanie, note que ce problème touche les gens ordinaires, des lycéens aux adultes.
C’est même devenu monnaie courante et, selon Maddocks, « cela ferait une grande différence si nous pouvions rendre ces technologies plus difficiles d’accès ». "Cela ne devrait pas prendre deux secondes pour potentiellement inciter à un crime sexuel."
Le problème se propage à partir des sites Web
L’enquête a identifié 35 sites Internet dédiés exclusivement ou partiellement à l’hébergement de vidéos pornographiques deepfake. Bien qu'il ait été décidé de ne pas nommer ni lier directement ces lieux pour éviter d'augmenter leur visibilité, on constate que certains des plus marquants hébergent chacun plus de 44 000 vidéos .
En plus de ces sites spécialisés, 300 domaines Web de pornographie générale ont été identifiés qui intègrent d'une manière ou d'une autre du contenu deepfake non consensuel. Cela inclut les sites Web « de fuite » et ceux qui republient des images de personnes sur les réseaux sociaux. L'un de ces sites affirme avoir « dépouillé » des personnes sur 350 000 photos .
La portée totale des vidéos et images deepfakes en ligne est difficile à mesurer, en raison de leur partage sur les réseaux sociaux, les groupes de messagerie privés et les canaux fermés. Cependant, ce phénomène a eu un impact durable sur les victimes, qui subissent souvent du harcèlement en ligne, de l'anxiété, de la dépression et d'autres conséquences graves sur leur santé mentale.
Pour résoudre ce problème, les experts soulignent la nécessité de nouvelles lois et réglementations , ainsi que d'une meilleure éducation sur ces technologies. Il est également crucial que les sociétés d’hébergement de sites Web et les moteurs de recherche prennent des mesures pour réduire la propagation des deepfakes non consensuels.
Ajouter des obstacles au processus de recherche de ces vidéos et outils peut également contribuer à réduire leur prolifération.