Des créatrices de contenu pour adultes travaillant sur OnlyFans ont interrogé Meta concernant la permission accordée à Muse, son assistant d'intelligence artificielle, de maintenir des conversations explicites avec des utilisateurs majeurs, alors que l'entreprise restreint les comptes de créatrices réelles sur Instagram, selon ce qu'a rapporté Wired.
Muse est un agent conversationnel lancé par Meta il y a un peu plus d'un mois et ayant dépassé les cinq millions de téléchargements lors de ses premières semaines. Outre l'organisation de l'agenda ou la réponse aux courriels, l'assistant accepte de soutenir des discussions érotiques avec des utilisateurs confirmant être majeurs.
Un porte-parole de Meta, Daniel Roberts, a justifié la politique auprès de Wired : « Muse est une application pour les personnes âgées de plus de 18 ans qui leur permet d'avoir des conversations pour adultes, si elles le choisissent, en utilisant une machine virtuelle privée et sécurisée à laquelle elles seules ont accès ». Il a ajouté que l'outil « ne bloque pas un comportement adulte légal ».
Quelle est la gêne des créatrices d'OnlyFans
Vanniall, une créatrice d'OnlyFans basée à New York avec plus de 100 mille abonnés sur Instagram, a déclaré à Wired que son compte reste restreint bien qu'elle n'enfreigne aucune règle. « Ce n'est pas juste qu'ils puissent leur faire payer de l'argent avec leur agent d'IA sexuellement actif, tandis qu'ils ne laissent pas les personnes réelles, adultes, avoir quelconque sensualité », a-t-elle soutenu.
Les règles communautaires de Meta pour Instagram et Facebook interdisent le langage explicite décrivant les organes génitaux, les états d'excitation ou les rencontres, selon ce qu'a documenté le site Mashable après avoir reproduit des échanges avec Muse incluant justement ce type de contenu.
Une autre porte-parole de Meta, Tracy Clayton, a répondu à cette contradiction : « Une conversation privée et un à un entre un adulte et un agent d'IA individualisé, sur une plateforme restreinte aux majeurs de 18 ans, est très différente de la commercialisation et de la promotion de services sur un réseau social », a-t-elle déclaré à Wired.
Une réclamation qui vient d'avant
Lee a également réclamé plus d'informations sur l'entraînement de Muse et si des créateurs ont été compensés pour l'utilisation de leurs données. « Nous avons été lents à réagir en tant qu'industrie », a-t-elle admis auprès de Wired.
Tony Genius, un autre créateur d'OnlyFans qui participe également à des films pour adultes, a raconté que lors d'événements de l'industrie, les publicités d'agents d'IA sont souvent sifflées par le public. Il craint que le contenu pour adultes généré intégralement par intelligence artificielle finisse par déplacer les interprètes humains.
Genius a questionné pourquoi Meta a réservé Muse aux majeurs plutôt que d'ouvrir un espace équivalent pour des créateurs réels. « Cela pourrait être quelque chose comme Instacam », a-t-il proposé, en référence à une version d'Instagram pensée spécifiquement pour le contenu adulte de personnes vérifiées.
Comment fonctionne la vérification d'âge
Pour utiliser Muse, la compagnie exige la date de naissance et bloque l'enregistrement des mineurs, tout en croisant les informations avec d'éventuels comptes liés. Lorsqu'il n'y a pas de signes clairs indiquant que l'utilisateur est majeur, Meta demande de vérifier une carte de crédit, bien que l'entreprise assure ne conserver aucune donnée ni effectuer aucun prélèvement.
Muse génère du texte explicite mais pas d'images ni de vidéos, contrairement à d'autres outils d'IA générative qui produisent effectivement du contenu visuel sexuel. Meta maintient, pour le moment, la distinction entre ce qui est permis à l'intérieur d'une conversation privée avec l'assistant et ce qui est interdit dans les vitrines publiques.