L’utilisation abusive de la technologie entraîne une augmentation inquiétante des cas de nudité non consensuelle, touchant particulièrement les personnalités publiques.
Cette découverte a conduit à une réponse immédiate d'eBay ; Après avoir été alerté par ledit média, le site a procédé à la suppression de centaines de ces photographies et à la suspension des comptes des vendeurs concernés.
A quoi ressemblent les catalogues de 400 photos ?
Une boutique eBay proposait plus de 400 produits, dont des photos altérées de célébrités telles que Taylor Swift, Selena Gomez, Katy Perry, Ariana Grande et Alexandria Ocasio-Cortez, les montrant nues.
Il y avait également un autre vendeur proposant des centaines d'images nues de célébrités comme Jenna Ortega, Margot Robbie et Gal Gadot, alimentées par l'IA , au prix chacune de 6,39 $.
De plus, la plateforme présentait des images suggestives de personnalités publiques, également réalisées avec l'intelligence artificielle. Par exemple, des photos de Taylor Swift portant un bikini très révélateur avec le drapeau américain étaient vendues 5,60 $ chacune par un vendeur populaire sur eBay.
Ce vendeur, qui a déjà vendu plus de 14 000 produits, bénéficie d'avantages supplémentaires d'eBay, comme apparaître plus haut dans les résultats de recherche et gagner plus d'argent, selon les règles de la plateforme.
Le système de recommandation d'eBay suggère également aux acheteurs de « sponsoriser des produits similaires » auprès de vendeurs qui donnent à la plateforme un pourcentage de leurs ventes si l'acheteur clique et achète l'article.
Un vendeur important a réussi à vendre plus de 2 000 produits sur eBay, y compris des images pornographiques altérées de célébrités telles que Jennifer Lawrence et Jennifer Anniston. Certaines de ces images étant modifiées, on ne sait pas avec certitude si elles ont été créées à l’aide de l’intelligence artificielle ou d’un autre type de programme.
"Ils marchandisent le corps des femmes et c'est atroce parce qu'ils le font sans le consentement et la connaissance de celles qui sont représentées", a déclaré Lina Nealon, directrice du Centre national sur l'exploitation sexuelle aux États-Unis.
Quelle réponse eBay à ce faux contenu
La société a annoncé qu'elle travaillait à mettre à jour ses règles sur les deepfakes non explicites afin que ceux qui vendent sur eBay sachent parfaitement ce qui est autorisé et ce qui ne l'est pas.
Además, Trina Somera, una portavoz de la compañía, explicó que para descubrir y quitar de la plataforma los anuncios que incumplen las normas sobre artículos prohibidos, eBay utiliza una mezcla de inteligencia artificial, equipos de investigadores con formación específica y revisiones periódicas del catálogo de produits.
« Les annonces contenant des images de célébrités générées par l'IA ou photoshopées qui ne respectent pas les normes d'eBay seront bloquées ou supprimées. Les utilisateurs qui tentent de publier des produits non autorisés pourraient être suspendus définitivement », a déclaré Somera.
Nudité non consensuelle sur d'autres sites Web
eBay n'est pas le seul site confronté au problème de la montée en puissance des images pornographiques créées avec l'intelligence artificielle. D'autres plateformes telles que le réseau social X, Reddit et Etsy sont également confrontées à des défis similaires avec un nombre croissant d'images sexuellement explicites réalisées avec l'IA, comme le rapporte Forbes.
Fin janvier, des images nues de Taylor Swift générées par l'IA ont été largement diffusées sur X , atteignant des millions de vues sur cette plateforme.
En réponse, les législateurs, dont la députée Alexandria Ocasio-Cortez, ont proposé une législation visant à lutter contre les images explicites falsifiées et leur édition sans consentement.
Cette loi chercherait à offrir aux victimes de deepfake pornographie réalisée sans leur consentement les outils juridiques nécessaires pour prendre des mesures contre ceux qui créent et distribuent de tels contenus.