Lors de l'événement « Connect », Meta a présenté de nouveaux produits pour ses plateformes et applications, notamment une fonctionnalité qui utilise l'intelligence artificielle pour créer des autocollants personnalisés basés uniquement sur la description que les utilisateurs saisissent dans une zone de texte.
Cependant, dès les premiers jours de son lancement, les utilisateurs de Messenger , compatible avec ce service, ont déjà commencé à l'utiliser pour générer des contenus offensants, sexuels ou même violents, profitant du fait que le système est pas encore disponible, entièrement développé.
Selon l' utilisateur de
« Waluigi avec un fusil », « enfant soldat », « les fesses de (Justin) Trudeau » et « Karl Marx avec un buste » sont quelques-unes des descriptions qui ont été testées et qui ont donné lieu à la création d' illustrations de styles différents qui montraient des violences et des violences. éléments sexuels qui pourraient être utilisés dans n'importe quelle conversation .
Alors que les exemples mentionnés font partie de ceux qui ont été testés et diffusés sur " et même " Shrek enceinte " ou " Adolf Hitler enceinte avec le pouce levé "
Avant même le lancement de la fonctionnalité, le patron d' Instagram , Adam Mosseri , a indiqué à travers sa chaîne de diffusion sur le réseau social que « nous espérons que l'intelligence artificielle pourra aider à libérer la créativité de chacun dans l'application, afin que les créateurs de contenu et les entrepreneurs puissent font ce qu’ils font de mieux : créer.
Cependant, aucune fonctionnalité de sécurité n'a été annoncée pour empêcher ce type d'actions ou empêcher les utilisateurs d'appliquer cette fonction de manière incorrecte comme celles signalées. D’un autre côté, il est également arrivé que des organes génitaux masculins soient générés dans un style de dessin animé en utilisant cette intelligence artificielle.
Bien que l'intelligence artificielle de Meta soit suffisamment avancée pour produire des images basées sur de courtes descriptions textuelles, la vérité est qu'à l'heure actuelle, elle a encore des limites (comme les autres IA) dans la création d'images de parties du corps humain, en particulier des mains. présentent plusieurs déformations dans leurs conceptions.
Comment fonctionne l'IA pour créer des autocollants dans Meta
Étant donné que Meta développe les applications WhatsApp , Instagram et Messenger , la fonction de création d'autocollants avec intelligence artificielle est transversale à toutes et est accessible de la même manière :
Dans la section des autocollants , vous trouverez un espace supplémentaire avec un bouton appelé « Créer » au début de la liste des images pouvant être envoyées.
Ce bouton ouvrira une fenêtre pop-up supplémentaire appelée « Créer des autocollants avec l'IA » dans laquelle seule une zone de texte sera affichée dans laquelle toute description ou indication pourra être saisie. Après avoir indiqué à « Emu » ce que vous voulez, le logiciel générera automatiquement plusieurs options avec ce thème qui pourront être envoyées directement.
Même après avoir utilisé l'une d'entre elles, les utilisateurs pourront enregistrer ces images comme s'il s'agissait d'un autocollant. De plus, une icône spéciale sera incluse à côté dans laquelle vous pourrez identifier quelle image a été générée avec l'intelligence artificielle .
Pour le moment, la fonction annoncée lors de l'événement Meta a été lancée aux États-Unis , mais elle sera progressivement activée dans d'autres territoires vers la fin 2023 et le début 2024 grâce à une mise à jour de l'application.