L'affaire émeut l'Espagne : il y a au moins vingt filles nues et sur des images érotiques pour lesquelles elles n'ont jamais posé. Des élèves mineurs de plusieurs écoles de la ville d'Almendralejo, à Badajoz, victimes de manipulation de photographies qui n'étaient pas intimes : ils les avaient eux-mêmes publiés sur leurs comptes de réseau, c'étaient leurs photos de profil, les clichés occasionnels et les choses innocentes réalisées pour un anniversaire ou à la maison.
Les mineurs étaient également ceux qui utilisaient une technologie d'intelligence artificielle (IA) facilement accessible au public pour créer – sans leur consentement – des images pornographiques hyperréalistes basées sur ces photos qui n'avaient jamais été destinées à être, ce que les experts définissent comme de la « pornographie synthétique ». . Des mineures qui ont ensuite extorqué leurs victimes, car il n'est plus nécessaire que la pornographie – ou quoi que ce soit – soit vraie, il suffit qu'elle apparaisse ainsi et les résultats sont les mêmes : les filles ont honte comme si elles étaient coupables, les filles sont de plus en plus exposées. et avec moins de défenses, car si vous n'avez pas de jupe courte, quelqu'un peut la raccourcir avec l'IA, de sorte que même cela n'a pas d'importance.
Marta Peirano est une journaliste espagnole spécialisée dans la technologie et le pouvoir qui travaille depuis plus de vingt ans sur les droits numériques , la cybersécurité et la vie privée, et est l'une des voix qui éclairent aujourd'hui une question diffuse, qui naît d'un vide juridique qui n'est que la pointe de l'iceberg, car, comme elle le dit, ce vide juridique repose sur un machisme structurel et les victimes sont encore une fois des femmes, qui constituent la grande majorité des victimes.
« Comment définiriez-vous la pornographie synthétique ?
« Nous appelons synthétique tout le contenu généré par l’IA, donc la pornographie synthétique est de la pornographie générée par l’IA. Dans le cas d'Almendralejo, en plus d'être de la pornographie synthétique, elle est non consensuelle. Cela implique que le protagoniste de cette pornographie – qui est généralement une femme – n’a pas consenti à jouer dans cette pornographie générée avec son visage ou des parties de son corps. Dans ce cas d'ailleurs, les protagonistes n'en étaient même pas conscients, ce qui est exclusif à ce type de pornographie synthétique : généralement, pour diffuser de la pornographie non consensuelle, il fallait d'abord une vidéo d'une personne – les fameuses Des cassettes sexuelles – désormais, il n'est même plus nécessaire d'avoir une vraie cassette, c'est pourquoi nous appelons cela de la pornographie synthétique non consensuelle.
« Traditionnellement, les femmes qui s'occupent de la technologie ne sont pas si nombreuses. En ce sens, votre point de vue est doublement intéressant car vous vous préoccupez de questions que les hommes ont parfois tendance à ignorer.
« J'ai été journaliste technologique toute ma vie et, dans mon entourage, plus lié à la cybersécurité et à la législation technologique, les femmes ne sont pas majoritaires, mais elles le sont de plus en plus. Ce sont des questions étroitement liées aux intersections de la technologie avec les espaces législatifs ou réglementaires qui découlent des possibilités générées dans des cas comme celui-ci, où soudain un enfant de quatorze ans accède à un outil avec lequel il fait des choses qui jusqu'à deux ans il y a quelques jours ne pouvait être réalisé que dans un studio de post-production d'une grande société de production, et est capable de faire quelque chose qu'en théorie il ne devrait pas être capable de faire, à savoir gérer la pornographie.
– Et cela va au-delà du purement technologique.
– Oui, car il existe un ensemble de circonstances qui sont également liées au fait que les réglementations ne sont pas efficaces lorsqu’il s’agit de garantir que les mineurs n’ont pas accès à la pornographie via leurs téléphones portables, comme le font les entreprises qui fabriquent des modèles d’IA. ceux qui peuvent changer le corps d'un modèle porno pour celui d'une fille ne font pas leur travail... Il existe de nombreuses circonstances particulières.
« Quelles implications pourrait avoir cette affaire qui, étant si extrême, a généré un impact et un débat plus profond même en dehors de l'Espagne ?
« Le cas d'Almendralejo nous semble unique parce que toutes ces circonstances le rendent timide, ajouté au fait qu'il y a tant de filles dans une si petite communauté, ce qui nous confronte à la gravité de ce qui se passe. Le fait que cinq écoles aient accueilli ce type d'activité est très frappant, et cela nous dit à quel point il est facile d'accéder à ces outils, combien il est évident de les utiliser précisément pour cela et combien peu préparé. ce problème. Il y a beaucoup de filles ici, mineures, la plus jeune d'entre elles a 11 ans ! Et les auteurs eux-mêmes sont également des mineurs. Il y a ensuite une chaîne de responsabilités qui se dissout, comme la responsabilité des entreprises de téléphonie mobile qui permettent à un utilisateur mineur d'avoir accès à la pornographie, celle de l'entreprise d'IA qui permet d'échanger des photos d'une fille ou de croiser des images pornographiques. , la question des parents... pourquoi les filles ont-elles découvert avant les parents que leurs fils faisaient ces choses ?
– Dans cette chaîne de dissolution des responsabilités se trouve la difficulté de déterminer que le dommage est réel malgré le fait que les images, bien qu'hyperréalistes, ne le sont pas vraiment. C’est surprenant (ou pas si surprenant), car il semble qu’il soit beaucoup plus facile de comprendre l’ampleur des dégâts lorsque le deep fake concerne des questions politiques que lorsque les victimes sont des femmes comme Rosalía ou Luisana Lopilato. Que cela arrive aussi aux filles est formidable, mais en même temps, il nous est plus difficile de détourner le regard ou de blâmer les victimes.
« Bien sûr, c'est beaucoup plus tangible parce qu'ils sont nombreux et qu'ils sont plus petits et qu'ils font également partie d'une petite communauté. Mais s'il s'agissait de deux filles dans la même ville qui, au lieu d'avoir onze ans, en avaient seize ou dix-sept, l'effet serait très différent : le plus probable est qu'elles le vivraient dans le secret le plus total, elles seraient très embarrassées. ils finiraient par quitter l'école. Ce seraient eux qui seraient expulsés de l’établissement d’enseignement à la place des auteurs.
« Ce seraient eux qui auraient honte, donc ceux qui ont manipulé leurs images devraient avoir honte.
« Exactement : la seule chose qui arriverait, c'est qu'ils devraient baisser la tête, se cacher et s'exposer à des photos d'eux apparemment dans des situations inappropriées qui les hanteraient pour le reste de leur vie. Au fond, les filles d'Almendralejo, malgré le malheur de ce qui leur est arrivé, ont la chance d'être mineures et, d'une certaine manière, d'être plus protégées que les femmes adultes, et aussi d'être nombreuses, ce qui facilite le scandale plutôt que la secrète honte personnelle. que subissent souvent les victimes de ce type de pornographie. Et je suis d’accord quand vous dites que nous parlons beaucoup de deep fakes politiques et pas assez de ceux-là, qui font partie d’un préjugé aussi flagrant ! Parce que nous savons que la majorité pratiquement absolue de l’utilisation du deep fake vise à générer de la pornographie non consensuelle de femmes mineures et plus âgées.
– Et pourquoi pensez-vous que cela arrive ?
"Après m'être longuement creusé la tête pour comprendre pourquoi il en est ainsi, j'ai découvert une universitaire américaine nommée Sophie Maddocks, qui étudie depuis de nombreuses années le thème de la cyber-violence à l'égard des femmes. Les femmes, et la conclusion qu'elle en tire, qui qui me semble très juste, c'est que nous sommes préoccupés par le deep fake politique parce qu'il met l'establishment, l'institution, en crise, alors que le deep fake pornographique le renforce.
– Bien sûr, c’est maintenir le statu quo en matière de violence sexiste. Il n’y a rien en échec.
« Il n'y a pas de fondements sociaux qui soient brisés, bien au contraire : c'est un instrument de contrôle des femmes qui nous fait réfléchir à deux fois avant de participer à la vie publique. Dans ce cas, l’école est le premier espace de participation à la vie publique auquel nous accédons.
– Autrement dit, il ne suffit plus de faire attention à ne pas faire de vidéos ou de photos intimes ou à ne pas les partager avec un partenaire, il faut faire attention à ne pas exister sur les réseaux sociaux, car mon visage suffit à les créer.
« C'est vrai, vous pouvez prendre des précautions et ne pas quitter la maison, ne pas aller à l'école, ne pas faire de courses, ne pas prendre de photos le jour de votre anniversaire ou à des moments particuliers de votre vie (rires).
– La législation en vigueur en Europe, par exemple, peut-elle nous protéger ? Que faut-il prendre en compte lors de l’élaboration de lois contre la pornographie synthétique ?
– Sans être un spécialiste des lois ou des ordonnances publiques, je me rends compte qu’il existe de nombreuses législations applicables à cette affaire, comme le droit à l’honneur, ou des lois qui restreignent l’accès des mineurs à la pornographie. Il existe une série de législations qui sont déjà conçues pour nous protéger de ce genre de choses, mais il n'existe pas de législation spécifique pour, par exemple, la production de pornographie synthétique qui est si évidente qu'il devrait y avoir cela dans la première mouture de Dans la loi sur les services numériques, qui est la nouvelle loi européenne pour Internet, il y avait une interdiction expresse et manifeste de générer de la pornographie synthétique sans autorisation et, cependant, cette législation est tombée dans le processus de débat sur la loi. Nous espérons maintenant qu'avec cet exemple si retentissant du point de vue médiatique, l'Espagne, qui assure désormais la présidence du Parlement européen, poussera ou fera pression pour que ce type d'activités soit plus étroitement surveillé.
« Quels pays ont fait le plus de progrès en matière de législation à cet égard ?
- L'Allemagne est le pays qui a la loi la plus restrictive à l'égard de ce type de choses, et elle ne fait pas référence à la génération de contenus - comme dans ce cas, où des contenus pornographiques ont été générés avec l'image de mineurs -, mais à la distribution de contenu manifestement illégal. Ils ont une loi qui établit que les plateformes numériques comme Google ou Facebook doivent éliminer les contenus manifestement illégaux, comme la pédopornographie, dans un délai de 24 heures – ce qui s’applique dans ce cas sans aucun débat – et ensuite six jours pour supprimer les contenus qui ne sont pas manifestement illégaux. mais est également illégal, comme la violation du droit d'auteur. Le reste de l’Europe ne dispose pas de ce type de juridiction car elle tient les plateformes numériques responsables du contenu de leurs serveurs.
– Comment pouvons-nous faire prendre conscience de l'étendue et du niveau des dégâts alors qu'il est encore si difficile de les comprendre ne serait-ce qu'avec la diffusion de véritables documents intimes ?
« Il est évident qu'il ne s'agit pas d'un problème technique, c'est une manifestation encore plus extrême et accélérée d'un problème social, ou d'une structure sociale d'une hiérarchie qui impose ce type de punition à un groupe qui, en réalité, est pas un groupe non plus car il représente plus de la moitié de la population. Il s’agit d’une hiérarchie de contrôle, d’une méthodologie de contrôle : ce n’est pas de la pornographie, mais en réalité de la propagande de cette hiérarchie ou de ce régime qui maintient les femmes sous contrôle pour qu’elles ne quittent pas leur rôle établi. Et le cas d'Almendralejo est un extrême très flagrant, car il commence à l'école : un groupe de garçons utilise la pornographie pour humilier un groupe de filles dans leur environnement scolaire, ce qui est la même chose qui se produit lorsqu'un groupe de travailleurs utilise une vidéo ou des photos intimes d'un ou de plusieurs travailleurs pour les humilier sur le lieu de travail. Cela arrive très fréquemment et provoque très souvent des suicides. La différence dans ce cas est qu’il y en a tellement et si peu que la loi et l’opinion publique sont en leur faveur.
- Ce n'est pas ce qui arrive, par exemple, aux travailleuses ou à d'autres femmes adultes qui, en plus de la violation de leur vie privée, sont alors généralement confrontées à un regard public qui les humilie et les victimise à nouveau.
– Bien sûr, quand cela arrive à une femme, c’est généralement le contraire qui se produit ; On dit "Oh, eh bien, ne pas avoir distribué de photos piquantes ou ne pas lui avoir envoyé de vidéo ou ne pas s'être laissé enregistrer...", ce qui revient à dire qu'enregistrer une vidéo intime avec une personne qui à ce moment-là est votre partenaire ou Envoyer des photos un peu plus intimes à quelqu'un avec qui vous entretenez une relation mérite cette punition, la punition d'être publiquement humilié dans un espace professionnel, social ou familial. Comment pouvons-nous faire pour sensibiliser? Eh bien, je pense que nous devons commencer à corriger le régime, pas la technologie, car ce sont des technologies qui sont désormais entre toutes les mains et remettre le génie dans la bouteille une fois qu'on l'a retiré est assez difficile. Il est plus logique d'éduquer sur le machisme et la misogynie qui conduisent à ce type de comportement dans les écoles et sur les lieux de travail, car ici il ne s'agit pas de rechercher certains outils technologiques, même si la loi devrait également s'appliquer à ce type d'outils, mais de poursuivre un comportement misogyne. visant à humilier la moitié de la population.