La photo montre le visage d'une jeune femme aux longs cheveux noirs et un doux sourire qui dit "je me sens jolie aujourd'hui :)" . Et sur Reddit - où Claudia , comme on l'appelle, propose de vendre des photos nues à quiconque lui envoie un message privé -, elle est assez populaire : "Putain, tu es belle", a lancé un internaute.
Mais Claudia est un imposteur : une série de photos étonnamment convaincantes créées par des outils d'imagerie de l'intelligence artificielle , peut-être pour soutirer de l'argent à des acheteurs sans méfiance, selon deux chercheurs en médias synthétiques.
Les progrès rapides des imageurs d'IA comme Midjourney et Stable Diffusion ont attiré l'attention du monde entier ces dernières semaines pour leurs œuvres d'art astucieuses et les contrefaçons impressionnantes d'anciens présidents et papes.
Mais le cas de Claudia révèle le côté le plus explicite de la technologie : en permettant à n'importe qui de créer des images de fausses personnes qui semblent incroyablement réelles, ces outils changent la façon dont le porno est fabriqué et consommé .
Pendant des années, de nouvelles technologies ont été lancées grâce à la pornographie, et les outils d'imagerie par intelligence artificielle n'ont pas brisé ce schéma. Il existe actuellement des milliers de comptes enregistrés dans des forums de discussion et des salons de discussion dédiés à la création et au perfectionnement de personnages synthétiques , dont la plupart ressemblent à des filles et des femmes, un changement rapide qui pourrait bouleverser une industrie de plusieurs milliards de dollars, saper la demande de rôles dans le monde réel. modèles et acteurs et alimentent des préoccupations plus profondes concernant l' objectivation et l'exploitation des femmes .
Un administrateur système d'un hôpital du Midwest - qui, comme les autres créateurs et téléspectateurs de porno AI interrogés pour cette histoire, a parlé sous couvert d'anonymat - a déclaré qu'il utilisait des outils de casting stables pour créer des photos fétichistes de femmes adultes en couches , et que les progrès de la qualité d'image ont rendu leur mensonge peu importe.
"Je ne pense pas que la personne moyenne qui voit ces choses s'en soucie", dit-il. "Je ne m'attends pas à ce que la personne que je vois sur Internet soit celle qu'elle prétend être. Je ne vais pas rencontrer cette personne dans la vraie vie… Après tout, si elle n'est pas réelle, qui s'en soucie ?
Le compte de Claudia n'a pas répondu aux demandes de commentaires, il est donc impossible de confirmer comment les photos ont été prises ou combien d'argent a été collecté grâce au canular vieux de plusieurs mois.
Cependant, selon les enquêteurs, les photos présentaient plusieurs caractéristiques évidentes de mensonge , comme des détails étranges en arrière-plan et un grain de beauté sur le cou qui disparaissait entre les poses. "En fait, ils étaient assez faciles à créer", a déclaré un programmeur d'IA.
Les chercheurs ont identifié plusieurs profils en ligne de femmes qui, selon eux, sont de faux avatars sur la base des artefacts révélateurs que certains imageurs d'IA laissent derrière eux. Grâce à des profils sur Instagram, Reddit, Twitter et OnlyFans, les comptes ont partagé des images de femmes dans divers états de déshabillage, disant aux téléspectateurs de payer ou de s'abonner s'ils voulaient en voir plus.
Les faux comptes présumés n'ont pas répondu aux questions. Et comme la plupart des images générées par l'IA ne sont pas filigranées ou empreintes digitales au moment de la création, il peut être difficile pour tout spectateur de confirmer si elles sont réelles ou non .
Un compte a publié les vidéos d'un acteur porno amateur de Porto Rico ainsi que des images montées montrant le visage de la femme sur le corps d'une autre personne. Ni le faux ni le vrai compte n'ont répondu aux demandes de commentaires.
Des centaines de comptes en ligne ont suivi et commenté les faux comptes pornographiques, laissant des commentaires suggérant qu'ils pensaient que les femmes étaient réelles.
"Je me sens un peu trompé", a déclaré l'utilisateur de Reddit "legalbeagle1966" après avoir été informé par un journaliste du Washington Post que Claudia était probablement une fraude. Une semaine plus tôt, elle avait commenté sur sa photo qu'elle avait l'air "plutôt sexy et parfaite".
Bon nombre des dernières fausses images sont basées sur des programmes d'intelligence artificielle, connus sous le nom de modèles de diffusion , qui permettent à quiconque de taper une courte chaîne de mots et de créer une fausse photo gratuitement. Les images peuvent ensuite être retouchées pour les rendre plus convaincantes, même pour couvrir les défauts et améliorer leur qualité.
Les outils sont encore plus faciles à utiliser que le logiciel "deepfake" qui a alimenté les inquiétudes concernant les images d'IA en 2017. Alors que les deepfakes utilisaient des techniques d'IA d'apprentissage en profondeur pour éditer des vidéos existantes, les modèles de diffusion génèrent des photos entièrement nouvelles en suivant les modèles trouvés dans les milliards de images qu'ils ont préalablement analysées.
Mais la nouvelle classe d'images soulève bon nombre des mêmes préoccupations, y compris la possibilité qu'elles puissent être utilisées pour se faire passer pour de vraies femmes . Dans certains forums, les utilisateurs expliquent comment utiliser des modèles de diffusion et d'autres techniques basées sur l'IA, telles que l'inpainting , pour superposer les visages de vraies femmes sur les corps d'imitations générées par l'IA.
« Pour humilier et expulser les femmes de la sphère publique , vous n'avez même pas besoin de leur ressembler exactement. Ils sont basés sur l' effet de choc », explique Sam Gregory, directeur exécutif de Witness, un groupe à but non lucratif spécialisé dans la technologie vidéo et les droits de l'homme.
«Mais le passage aux modèles de diffusion a rendu beaucoup plus facile la création de volume, de variance et de personnalisation, et de le faire autour de personnes bien connues. La qualité est juste meilleure », a-t-il ajouté. "Les gens veulent déjà être enclins à croire quelque chose qui humilie, se moque ou cible quelqu'un qu'ils n'aiment pas."
Stability AI, la start-up londonienne derrière Stable Diffusion, interdit aux gens de l'utiliser pour créer des images qu'une "personne raisonnable pourrait considérer comme obscènes, obscènes... [ou] pornographiques".
Mais depuis que l'entreprise a mis l'outil à la disposition de tous pour le télécharger sur son ordinateur, il n'y a aucun moyen d'empêcher quelqu'un de l'utiliser pour faire ce qu'il veut.
Certains forums dédiés à l'utilisation de l'outil pour créer de la pornographie générée par l'IA parlent même de la façon dont il peut être utilisé pour créer des images sexuellement explicites de femmes sans leur consentement. Les gens ont également partagé des guides sur la façon d'utiliser la technologie pour éditer de vraies images, y compris retirer les vêtements des femmes qui ont été photographiées entièrement habillées.
Les images ont alimenté une certaine inquiétude dans l'industrie du porno face à sa nouvelle concurrence technologique. Mais tout le monde ne croit pas que les jours de l'industrie sont comptés. Mark Spiegler, un agent d'acteurs pornos comme Asa Akira et Riley Reid, affirme que les stars de son industrie sont des artistes dotés d'un charisme, de compétences et d'une beauté qu'aucune IA ne peut égaler .
"Je ne pense pas que vous puissiez apprendre une personnalité automatiquement", dit-il dans une interview. "Cela peut être reproduit d'une certaine manière, mais il manque toujours cette étincelle humaine et cette spontanéité."
Zoey Sterling, étudiante en histoire de l'art et travailleuse du sexe à Miami qui vend des photos et des vidéos explicites sur OnlyFans, a déclaré qu'elle n'était pas inquiète.
"Les gens qui disent que l'IA pourrait remplacer les travailleuses du sexe sont les mêmes qui agissent comme si les travailleuses du sexe n'étaient pas des êtres humains", a-t-elle déclaré dans une interview. « Je vous souhaite bonne chance et j'espère que vous comprendrez ce que signifie le « consentement ». Peut-être qu'ils peuvent demander à l'IA.
Certains comptes d'avatars féminins indiquent explicitement aux téléspectateurs qu'ils ont été créés avec Stable Diffusion ou d'autres outils d'IA. D'autres ont été un peu plus subtils : "Ailice", un avatar aux quelque 10 000 followers sur Instagram, se définit comme "AI life, real vibes".
Mais d'autres, comme Claudia, ne donnent aucune indication. Le premier message Reddit du compte, en janvier, était un long passage de blasphème sexuellement explicite au cours duquel plusieurs utilisateurs de Reddit ont exprimé leur enthousiasme : "J'ai besoin d'une gentille fille comme toi dans ma vie", a écrit l'un d'eux. ZeroGPT, un outil de détection de texte généré par ordinateur, a déclaré qu'il était sûr à 97% que le passage avait été généré par un outil de langage AI comme ChatGPT.
La cuenta publicó otros pasajes e imágenes explícitas, incluida una que mostraba a una mujer en ropa interior, y cualquiera que hiciera clic en el perfil podía ver que la cuenta se describía a sí misma como una mujer de 19 años que vendería imágenes privadas a compradores de paiement.
Ce n'est que la semaine dernière, lorsque Claudia a posté la photo "Je me sens belle aujourd'hui" sur un forum Reddit dédié aux "images de visages humains", que les gens ont commencé à soupçonner qu'il s'agissait d'une IA.
Algunos usuarios de Reddit afirmaron que la piel de Claudia parecía “demasiado suave, demasiado 'perfecta'” y señalaron que la habitación blanca y sin rasgos en la que aparecía tenía una viga en el techo que desaparecía detrás de su cabeza pero no volvía a aparecer de l'autre côté. Un programmeur d'intelligence artificielle qui s'est entretenu avec The Post a déclaré qu'il y avait également des indices techniques : La largeur de la photo de 512 pixels est la taille d'image par défaut de Stable Diffusion.
Tout le monde n'a pas remarqué. L'utilisateur de Reddit "Lanky_Grade_268", qui prétendait être un nettoyeur d'hôtel de 21 ans en Argentine, avait qualifié Claudia de "belle et charmante" et s'était dit surpris par la révélation qu'elle pourrait être fausse. "C'est effrayant car il sera difficile de faire la différence entre une IA et une personne réelle", a-t-il écrit dans un message.
Mais l'utilisateur de Reddit "Ryan5197", qui avait dit à Claudia qu'elle avait l'air "incroyable", était moins inquiet. "Mon opinion sur l'image n'a pas changé", a-t-il déclaré. "C'est un personnage sympa."
©Washington Post
Tatum Hunter a contribué à ce reportage.
Continuer à lire: