Ces créations numériques, modifiées à des fins malveillantes, représentent explicitement l'artiste populaire avec certains éléments qui font allusion à l'équipe professionnelle de football américain Kansas City Chief , en raison des nombreuses visites qu'elle a effectuées dans son stade pour assister à ses matchs sportifs. Travis Kelce.
L'un de ces contenus sexuellement explicites a accumulé plus de 45 millions de vues et des milliers d'interactions, et ce n'est qu'après 17 heures que le compte de l'utilisateur qui l'a publié a été suspendu pour violation des politiques du réseau social d'Elon Musk.
Comment ces contenus ont été générés
Selon un rapport du portail 404 Media, les images pourraient provenir d'un groupe sur Telegram , où les utilisateurs partagent des images explicites de femmes générées par l'IA, souvent réalisées avec Microsoft Designer.
Et bien que ces contenus soient supprimés, beaucoup restent actifs et ont été republiés sur d'autres comptes , ce qui a entraîné une avalanche de nouvelles falsifications graphiques.
Même dans certaines régions, le terme « Taylor Swift AI » est devenu un sujet tendance et a permis aux images de toucher un public plus large.
Alex Kaplan, chercheur à l'organisation à but non lucratif Media Matters for America, affirme que les images circulent sur 4chan depuis des mois . Un représentant de Microsoft a déclaré que la société enquêtait sur le problème.
Ces pratiques reflètent une augmentation de l’incidence de la pornographie deepfake et mettent en évidence les défis auxquels sont confrontés les réseaux sociaux pour arrêter la diffusion de ce type de contenu.
En fait, X a des politiques claires interdisant l’hébergement d’images manipulées ou synthétiques et de nudité sans consentement, mais la prolifération de celles-ci a remis en question leur efficacité.
Les fans répondent et Swift prépare un procès
L'absence de réponse énergique pour répondre à l'incident a déclenché une réaction sévère de la part de l'armée de fans de l'artiste , qui ont tenté de contrecarrer la situation en promouvant du contenu réel et en lançant une campagne intitulée « Protégez Taylor Swift » pour rendre les images originales plus difficiles d'accès. . trouver.
Tandis qu'une personne proche de l'artiste a mentionné sur le portail Daily Mail qu'une action en justice était envisagée contre les responsables , avertissant que « le cercle de la famille et des amis de Taylor est furieux » de cette violation flagrante de sa vie privée.
"La question de savoir si des poursuites judiciaires seront engagées est en cours de décision, mais une chose est claire : ces fausses images générées par l'IA sont abusives, offensantes, exploitantes et sont réalisées sans le consentement et/ou l'autorisation de Taylor."
Et bien qu’il ait été souligné que le compte X qui les a publiés n’existe plus, « il est choquant que la plateforme de médias sociaux leur ait même permis de les télécharger pour commencer ». « Ces images devraient être supprimées partout où elles existent et personne ne devrait en faire la promotion. »
Pourquoi l'absence de législation aggrave le problème
L'augmentation des vidéos deepfake suscite des inquiétudes après avoir enregistré plus de 143 000 publications de ces pièces en 2023, selon une analyse de Geneviève Oh, soulignant qu'aux États-Unis, il n'existe pas de réglementation fédérale qui s'attaque spécifiquement au problème.
Toutefois, dans certains États, des mesures juridiques ont été adoptées dans le but de lutter contre la prolifération de ces contenus et de réduire leur impact négatif.
Par exemple, la Californie interdit la création et la distribution de deepfakes sexuels sans consentement et restreint également la circulation de fausses images impliquant des candidats politiques lors des prochaines élections.
New York et la Virginie ont instauré des sanctions économiques et pénales pour les responsables du partage d'images deepfake sans autorisation, tandis que le Texas punit la production et la distribution de ce type de contenu.