L'un des problèmes de la diffusion de contenu sur Internet est la génération de contenu sexuel via la technologie deepfake, de manière non consensuelle pour simuler des images et même des vidéos avec les visages de personnes (dont beaucoup sont célèbres) dans certains forums tels que Reddit . C'est pourquoi la plateforme a décidé de mettre en place une stratégie pour combattre ces publications et les éliminer complètement.
Selon la page d'assistance officielle de Reddit , tout contenu explicite publié sans le consentement de la personne apparaissant dans les images, y compris ceux générés avec la technologie deepfake , a été répertorié comme contraire aux politiques de Reddit et peut être signalé et supprimé de la plateforme.
Le même traitement sera effectué pour les images pouvant être incluses dans la catégorie "non consensuelle" , telles que la pornographie de vengeance, le voyeurisme (observer des personnes sans leur consentement lors de certaines pratiques sexuelles), ainsi que l'exposition involontaire des parties intimes. . Reddit affirme que la détection de ce type de contenu s'est améliorée, de sorte que chaque utilisateur pourra avoir une expérience plus sécurisée au sein de l' application .
En fait, dans son rapport de transparence 2022, Reddit a indiqué avoir supprimé plus d'images sexuelles non consensuelles (NCII) qu'au cours de l'année 2021. 473 % de sous-reddits supplémentaires dédiés à la diffusion de ce contenu ont été supprimés et 244 % de comptes supplémentaires ont été suspendus pour ces types. de pratiques.
Concernant les publications qui ont été retirées de la plateforme pour faire partie de la catégorie pornographie (y compris celles générées avec la technologie deepfake ), le chiffre de 187 258 a été atteint selon le rapport révélé par Reddit. "Cette augmentation est susceptible de refléter principalement nos politiques mises à jour et une efficacité accrue dans la détection et la suppression des médias intimes non consensuels de Reddit", lit-on dans le document.
Renforcement des moyens de protection des utilisateurs
Dans le cadre de ses efforts pour mieux détecter et supprimer les contenus sexuels non consensuels publiés sur sa plateforme, Reddit a également rejoint l'initiative de StopNCII.org , un système de données qui bloque la diffusion d'images comme celles-ci.
Selon un représentant de Reddit , l'outil est considéré par l'entreprise comme utile pour développer davantage ses efforts pour supprimer les contenus de ce type et protéger les victimes qui sont affectées par la violation de leur vie privée .
D'autre part, l'une des raisons pour lesquelles Reddit considère que le nombre de suppressions d'images pornographiques non consensuelles a augmenté au cours de la dernière année est qu'il s'est consacré à l'embauche de plus de personnel dédié à la lutte contre l' exploitation sexuelle des mineurs, en plus augmenter le montant investi dans le développement d'outils de détection plus proactifs, afin qu'il ne dépende pas uniquement des signalements des utilisateurs.
En effet, les statistiques dévoilées par Reddit indiquent que 60,6% des posts NCII ont été identifiés grâce au système automatique de Reddit, ainsi que 58,2% des posts supprimés pour sexualisation de mineurs (266 473 au total), ont également été détectés automatiquement par le logiciel de la plateforme.
Dans le cas des messages privés envoyés entre utilisateurs de la plateforme, les contenus sexuels non consensuels occupent la quatrième place avec le plus grand nombre de cas éliminés avec l'intervention du système Reddit avec 71,7% d'entre eux, seulement en dessous des cas de harcèlement (78,5% ), sexualisation des mineurs (85,9%) et spam (99,7%).