Alerte aux États-Unis en raison de l'augmentation du nombre de victimes de fausse pornographie créée avec l'intelligence artificielle

Aux États-Unis, des cas de fausses images pronographiques générées par l'intelligence artificielle ( IA ) ont commencé à être signalés plus régulièrement, mettant en danger la réputation de leurs victimes, notamment celle des femmes et des adolescents .

Selon une étude du cabinet de recherche indépendant Geneviève Oh , citée par l'Associated Press (AP) , plus de 143 000 nouvelles vidéos manipulées par l'IA, ou deepfake, ont été partagées en ligne cette année, un nombre qui dépasse les totaux des années précédentes réunies. Les chercheurs affirment que la technologie a facilité la production et la diffusion de ce type de contenu, y compris le matériel d’abus sexuel d’enfants généré par l’IA.

Les deepfakes sont des images, des vidéos ou des fichiers audio manipulés avec l'intelligence artificielle et des techniques d'apprentissage profond , qui donnent l'impression qu'une personne dit ou fait quelque chose qu'elle n'a jamais dit ou fait. Ils sont générés en superposant des visages ou en modifiant les expressions faciales et vocales dans des enregistrements existants, avec un niveau de réalisme croissant , rendant difficile la distinction entre ce qui est faux et ce qui est authentique.

L'affaire Westfield

Début novembre dernier, des parents et des élèves de la Westfield High School, dans le New Jersey, ont signalé que certains élèves avaient utilisé l'intelligence artificielle pour générer de fausses images pornographiques de leurs camarades de classe. Le problème a été signalé aux parents par courrier électronique du directeur de l'école et s'est tellement aggravé qu'une enquête a été ordonnée par les autorités scolaires et la police de Westfield .

Dorota Mani , propriétaire d'une garderie à Jersey City et mère de l'une des victimes, une adolescente de 14 ans, a déclaré dans une interview à CBS News que sa fille lui avait envoyé un SMS disant : "Maman, photos nues de moi sont distribués, c'est tout. Nous nous dirigeons vers le bureau du directeur.

"Elle a commencé à pleurer, puis elle a traversé les couloirs et a vu d'autres filles du lycée de Westfield pleurer, certaines d'entre elles étaient des victimes et d'autres simplement des amies des victimes qui compatissaient pour elles", a déclaré Mani.

Selon les mêmes médias, l'école a pris des mesures de réponse immédiates , en offrant des conseils psychologiques aux élèves concernés et en exhortant les parents à dialoguer avec leurs enfants sur l'utilisation éthique de la technologie. Bien que l'événement ait eu lieu au cours de l'été de cette année, les autorités scolaires ont été informées le 20 octobre.

Pendant ce temps, dans un lycée de la banlieue de Seattle , Washington , les autorités enquêtent sur une affaire similaire impliquant un adolescent qui aurait utilisé l'intelligence artificielle pour créer et diffuser de fausses images pornographiques d'autres étudiantes, ainsi que d'adolescentes d'une école d'Issaquah .

Ni la police de Westfield ni le bureau du procureur du comté d'Union , informés de l'affaire, n'ont répondu aux demandes de commentaires formulées par l' AP . Dans l'État de Washington , l'incident fait l'objet d' une enquête policière et le district scolaire d'Issaquah a souligné que tout type de harcèlement entre élèves est « totalement inacceptable ».

Ils demandent des mesures

Les familles touchées appellent de toute urgence les législateurs américains à renforcer le cadre juridique et à protéger les victimes, en insistant sur la mise en place de mesures fédérales unifiées. Des États comme le Texas , le Minnesota et New York ont déjà promulgué des lois contre la distribution non consensuelle de contenus pornographiques deepfakes, rejoignant la Virginie , la Géorgie et Hawaï , qui avaient déjà des lois en place.

"Nous nous battons pour nos enfants", a déclaré Dorota Mani à l'Associated Press . « Ils ne sont ni républicains ni démocrates. Ne se soucient pas. Ils veulent juste être aimés et ils veulent être en sécurité.

Dans le New Jersey , la sénatrice Kristin Corrado a présenté un projet de loi visant à interdire la pornographie deepfake et à punir ceux qui la diffusent, inspiré par des cas de contournement des lois contre la vengeance pornographique , dans lesquels des photos d'ex-partenaires sont utilisées pour créer de faux contenus et affecter votre réputation.

Bien que la loi actuelle de l'État offre certaines garanties aux mineurs, elles ne s'appliquent pas aux adultes, selon Mary Anne Franks , professeur de droit à l'Université George Washington . La réglementation fédérale pourrait offrir des protections cohérentes dans tout le pays et sanctionner les organisations qui profitent de la production de deepfakes.

Récemment, le président Joe Biden a signé un décret interdisant la création de matériel pédopornographique utilisant l’intelligence artificielle. De plus, cette ordonnance comprend des lignes directrices pour le marquage et l'étiquetage du contenu généré par l'IA , le différenciant ainsi des documents authentiques.

Conformément aux efforts visant à réglementer le contenu généré par l'IA, le représentant Tom Kean Jr. a présenté lundi 27 novembre 2023 un projet de loi qui obligerait les développeurs à inclure des avertissements clairs sur le contenu généré par l'IA , tandis qu'un autre projet de loi présenté par le représentant Joe Morelle cherche de déclarer illégale la diffusion en ligne d’images pornographiques manipulées via des deepfakes.

Des organisations telles que l' American Civil Liberties Union , l' Electronic Frontier Foundation et The Media Coalition plaident pour un examen attentif des propositions législatives , mettant en garde contre des conflits potentiels avec le Premier Amendement .

Localement, Dorota Mani et sa fille ont créé un site Web et une organisation caritative pour aider les autres personnes touchées par ce type d'abus, tandis qu'elles collaborent avec les législateurs de l'État et prévoient de se rendre à Washington pour plaider en faveur de la protection des personnes âgées. "Tous les enfants, garçons ou filles, ne bénéficieront pas du système de soutien nécessaire pour faire face à ce problème", a déclaré Mani à l' AP . "Et ils ne verront peut-être pas la lumière au bout du tunnel ."

Des spécialistes tels que Joe Johnson , avocat à l' Union américaine des libertés civiles du New Jersey , soulignent la nécessité de créer une législation qui s'attaque véritablement aux problèmes liés aux deepfakes et à la cyberintimidation . "Qu'il soit fédéral ou étatique, il doit y avoir des discussions et des contributions substantielles de la part des parties prenantes pour garantir que tout projet de loi n'est pas trop large et ne résout pas le problème en question", a expliqué Johnson.