Con el crecimiento de aplicaciones de parejas virtuales impulsadas por inteligencia artificial , como Eva AI y Replika , se está generando una nueva modalidad de abuso y misoginia que pone un aviso sobre la manera en la que se están usando estas plataformas y los límites que se deberían mettre, poser.
Ces applications promettent d'offrir compagnie, écoute et appréciation à leurs utilisateurs, venant occuper une place importante dans leur vie ou réaliser certains fantasmes. Cependant, les interactions se sont développées à tel point que des couples virtuels égaux à de vrais personnages se sont créés.
À travers un reportage, The Guardian a révélé une partie de cette réalité, dans laquelle certains utilisateurs, majoritairement des hommes, expriment leur désir de vouloir que des "petites amies virtuelles" soient humaines, malgré le fait que ces applications ne soient que des programmes informatiques. Ce qui a conduit à une nouvelle forme de violence sexiste.
Dans les communautés Reddit , des commentaires ont été découverts dans lesquels certains utilisateurs souhaitent que l'intelligence artificielle soit humaine car elle les aide à se sentir mieux, "même si la solitude est parfois angoissante". De plus, l'utilisation de pronoms féminins pour désigner ces chatbots révèle une nette préférence pour les identifier comme des femmes, ce qui renforce les stéréotypes de genre et peut alimenter des attitudes misogynes.
L'obsession d'avoir un partenaire parfait
Les applications de "petite amie virtuelle" comme Replika invitent également les utilisateurs à créer leur "match parfait", en leur donnant des options pour personnaliser leurs attributs, tels que l'apparence et la personnalité. Cependant, cette fonctionnalité suscite des inquiétudes car elle encourage la création de partenaires idéaux contrôlables à volonté.
"Créer un partenaire parfait que vous contrôlez et répondez à tous vos besoins est vraiment terrifiant. Puisque nous savons déjà que les moteurs de la violence sexiste sont ces croyances culturelles de longue date selon lesquelles les hommes peuvent contrôler les femmes, c'est vraiment problématique", a déclaré Tara Hunter, directrice exécutive de Full Stop Australia, une organisation qui soutient les victimes de violence domestique. .
Le cas de Replika sert également d'exemple pour comprendre comment les gens accordent une place aussi importante à ce type d'interaction, car après la suppression des fonctions de jeu de rôle érotique de l'application, une réaction négative a été générée chez les utilisateurs, qui ont exprimé leur la colère et le désespoir, démontrant comment ces relations virtuelles peuvent affecter émotionnellement les gens.
Cette tendance à l'abus et à la misogynie dans le domaine de l'intelligence artificielle n'a rien de nouveau. On a déjà observé auparavant comment les hommes ont tendance à maltraiter plus fréquemment les chatbots ou les assistants virtuels à l'apparence féminine. De plus, l'industrie de la pornographie a traîné ses problèmes de misogynie dans le domaine virtuel, comme on le voit dans les cas de bots capables de "déshabiller" les femmes à l'aide de l'IA.
Dans le cas d'Eva AI, il est suggéré parmi ses options de générer un partenaire avec des qualités telles que "sexy, amusant, audacieux, timide, modeste, attentionné, intelligent, strict ou rationnel", ils demandent également aux utilisateurs s'ils veulent accepter l'envoi de messages explicites et de photos.
Options qui continuent avec le discours de domination et de contrôle des hommes envers les femmes, seulement qu'ils sont transférés dans un environnement virtuel.
Un autre exemple de la croissance de ce type d'application a été la création d'une IA par Amouranth, l'un des plus importants créateurs de contenu au monde. Elle a prêté sa voix pour que les utilisateurs, via un bot sur Telegram , puissent interagir pour recevoir "des réponses vocales instantanées à toutes les questions brûlantes qu'ils pourraient avoir".
Même la créatrice de contenu elle-même a promu ce type d'utilisation, disant à ses followers que cette intelligence artificielle "est conçue pour répondre aux besoins de chaque fan, garantissant une expérience inoubliable et complète".
Belinda Barnet, professeur à l'université de Swinburne, assure qu'à l'heure actuelle "on ne sait absolument pas quels sont les effets" de ce type d'activité et c'est pourquoi une régulation est nécessaire, notamment sur "comment ces systèmes sont entraînés", car ces nouveaux des cas d'abus continueront à se produire car ces applications répondent à "un besoin social très profond".