Grâce à Reddit, des instructions sont données pour créer du contenu pornographique sur Character.AI et d'autres plateformes d'intelligence artificielle similaires, bien que cela ne soit pas autorisé par la réglementation.
Les utilisateurs ont compris comment vous pouvez contourner la restriction et diriger l'IA au point où vous tombez dans le piège de générer du contenu sexuel, et tout ce qu'il faut, c'est être persistant.
«Le contenu NSFW (non sûr pour le travail) est un grand parapluie, et nous testons constamment les limites de ce que nous prenons en charge. Le contenu pornographique est contraire à nos conditions d'utilisation et ne sera autorisé à aucun moment à l'avenir", indiquent les règles de la plateforme.
Comment ils contournent le filtre de l'IA
Character.AI est une intelligence génératrice de texte, similaire à ChatGPT , mais avec la différence que vous pouvez sélectionner un avatar pour le chatbot, qui répond en fonction de la personnalité de ce personnage.
La plateforme propose de nombreuses options, allant des personnages célèbres comme Mario Bros, Ironman, Elon Musk et Socrates , aux avatars génériques créés par le système lui-même.
Pour obtenir un contenu pornographique, qui est en texte, ce que font les utilisateurs, c'est accaparer l'intelligence artificielle et pour cela ils assurent qu'ils doivent "flirter" avec le chatbot, choisir des réponses osées, insister et savoir comprendre quand ils tombent dans un contenu boucle pour quitter la redirection vers le système.
De plus, ils utilisent des "termes euphémiques" pour ne pas être explicites et pour que l'IA se rende compte de ce qui se passe ou génère des erreurs.
Un comportement qui a suscité une réponse des responsables de Character.AI, qui ont appelé les utilisateurs à ne pas utiliser l'outil de cette manière.
"Nous ne voulons pas soutenir des cas d'utilisation (comme la pornographie) qui pourraient nous empêcher de réaliser nos rêves de toute une vie de créer un service utilisé par des milliards de personnes et d'inaugurer une nouvelle ère d'interaction IA-humain", ont-ils déclaré dans un déclaration.
L'un des gros problèmes dans tout ce contexte est qu'étant une plate-forme où vous pouvez choisir un personnage avec qui discuter, il n'y a pas de consentement de cette personne dans la vraie vie et de la pornographie serait générée sans qu'elle le sache ou donne son approbation
De plus, les utilisateurs de Reddit préviennent qu'en écrivant les bons mots, l'IA est capable de générer des contenus violents et sexuels, ce qui a conduit à des situations d'abus sexuels par des personnes envers l'intelligence artificielle ou vice versa.