Un groupe de mères d'Almendralejo, en Espagne , a dénoncé la création et la diffusion de fausses images de leurs filles mineures, apparemment nues, sur les réseaux sociaux. Ces contenus auraient été conçus avec l'intelligence artificielle , dans une pratique connue sous le nom de deepfakes, pour laquelle la Police Nationale a déjà ouvert une enquête.
Cette affaire est survenue après les déclarations de Miriam Al Adib, gynécologue et communicatrice scientifique de la région d'Estrémadure, dans lesquelles elle a publiquement dénoncé la situation sur les réseaux sociaux.
« Je suis revenu d'un voyage et ma fille m'a tout raconté et j'ai été assez étonné. Les images sont très réalistes. Vous pensez que c'est vraiment elle nue", a-t-elle expliqué dans une interview accordée à l'émission Hora 14, sur Cadena Ser.
Le nombre de personnes touchées ne se limite toutefois pas à une seule famille. Plus de 20 mamans se sont rassemblées pour dénoncer la circulation de ces fausses images de leurs filles mineures sur les réseaux sociaux.
Les filles, âgées de 12 à 17 ans, auraient été victimes d'adolescents locaux qui auraient utilisé une application d'intelligence artificielle pour créer des montages apparemment extrêmement réalistes.
Para presentar el caso, las familias se han organizado para llevar las denuncias formales ante la PolicÃa Nacional, quienes ya tomaron las declaraciones de siete posibles vÃctimas de estos deepfakes y ha logrado identificar a varios menores que podrÃan estar involucrados en la creación y difusión de estas images.
Si la paternité de ce contenu est confirmée, les personnes impliquées pourraient faire face à des conséquences juridiques, puisque ces crimes sont passibles de peines d'un à neuf ans de prison si les responsables ont moins de 16 ans.
Extorsion pour le contenu créé
L'un des aspects clés de toute cette affaire est l'extorsion dont certains mineurs ont été victimes. Al Adib a relaté le cas d'une jeune fille de 12 ans qui a reçu le message suivant : "Ils lui ont dit de me donner de l'argent, sinon nous publierons une photo de vous nue".
Almendralejo, une ville de moins de 40 000 habitants, a connu une augmentation inquiétante des délits sexuels contre des mineurs ces dernières années.
Le procureur supérieur d'Estrémadure, Francisco Javier Montero, a qualifié la situation d'"alarmante" et selon ses données, les délits liés aux mineurs ont augmenté de manière significative dans plusieurs catégories: 22% de délits de corruption, 133% d'utilisation de mineurs à des fins pornographiques, 57,14% de délits de maltraitance sur enfants et 100% d'agressions sexuelles sur mineurs.
Montero a également assuré que cette croissance est due à divers facteurs, tels que la banalisation des relations sexuelles, le manque d'éducation émotionnelle et sexuelle adéquate, l'absence de valeurs d'égalité et de respect et l'accès facile des mineurs aux contenus pornographiques . en ligne.
Par ailleurs, les technologies numériques et leur accès précoce ont facilité la diffusion de contenus à caractère sexuel impliquant des mineurs et la possibilité d'accéder à ces personnes sous de faux profils. À cela s’ajoute la façon dont l’intelligence artificielle est apparue comme un outil permettant l’usurpation d’identité, affectant la vie privée des victimes à travers la manipulation d’images.
Au Mexique, ils veulent que les deepfakes soient punis jusqu'à 6 ans de prison
Le député du PRI au Congrès de Mexico, Fausto Manuel Zamorano, a promu une initiative visant à lutter contre les pratiques connues sous le nom de deepfake.
L'initiative propose que Mexico soit la première du pays à réglementer l'utilisation de l'intelligence artificielle pour empêcher ce type de pratiques, ajoutant ainsi une fraction à l'article 181 Quintis du Code pénal, concernant la mise en œuvre de sanctions pour altération d'images avec intelligence artificielle qui viole l’intimité sexuelle des femmes.
L'article 181 Quintus stipule qu'un délit contre l'intimité sexuelle est commis par quiconque « enregistre des vidéos, des enregistrements audio, des photographies, des films ou crée des images, des audios ou des vidéos réels ou simulés du contenu sexuel intime d'une personne sans son consentement ou par tromperie ». ou » .
Dans un deuxième article, il indique que ce délit est commis par quiconque expose, distribue, diffuse, expose, reproduit, transmet, commercialise, propose, échange et partage des images, des audios ou des vidéos de contenu sexuel intime d'une personne sachant qu'il existe aucun consentement.
Selon le Code pénal du District fédéral, le délit contre l'intimité sexuelle sera puni d'une peine de quatre à six ans de prison , ainsi que d'une amende de cinq cents à mille unités de mesure et d'actualisation, ce qui équivaut à 51 mille et jusqu'à 103 mille pesos.