Meta a annoncé qu’elle modifierait les suggestions de son chatbot d’intelligence artificielle après qu’une utilisatrice a dénoncé que le système lui posait des questions personnelles concernant ses enfants.
L’entreprise a reconnu que la fonctionnalité ne devait pas générer ce type de recommandations et a assuré avoir résolu le problème qui permettait l’apparition de suggestions sur des sujets personnels.
Dina El-Kassaby, porte-parole de Meta, a déclaré à The Verge que l’entreprise « s’était trompée » et que la fonctionnalité « n’aurait jamais dû suggérer ce type de questions à l’utilisateur ». Cette décision est devenue publique après qu’une vidéo publiée par l’utilisatrice d’Instagram Kalie Robins est devenue virale et a suscité des critiques sur la manière dont Meta AI utilise les informations disponibles sur les plateformes de l’entreprise.
Une question sur son fils a déclenché la polémique
Robins a expliqué que le problème a commencé après avoir publié sur Facebook une vidéo où elle apparaissait en train de chanter avec son fils dans une voiture. Sous le contenu, une suggestion de Meta AI indiquait : « Qui est l’enfant passager ? ».
En sélectionnant la question, selon le récit de l’utilisatrice, le chatbot a commencé à fournir des informations liées à ses filles. Robins a affirmé que l’outil avait utilisé des données présentes dans des publications antérieures d’elle-même et d’autres membres de sa famille.
L’IA lui aurait également suggéré de nouvelles questions concernant l’âge de ses enfants et le lieu où vit sa famille. De plus, Robins a assuré que Meta AI lui avait montré des photographies de ses filles qui avaient été publiées précédemment sur la plateforme, y compris une image qui, selon son récit, avait été supprimée des années plus tôt.
Ce cas a suscité des inquiétudes car il a montré comment un outil conçu pour faciliter l’interaction avec une publication peut relier différentes données personnelles et les transformer en suggestions de conversation.
Meta assure que l’IA n’accède pas au contenu privé
Face aux critiques, Meta a soutenu que son système ne peut pas afficher des publications que l’utilisateur n’est pas autorisé à consulter.
« Le contenu auquel Meta AI répond est un contenu auquel l’utilisateur qui pose la question peut déjà accéder », a expliqué El-Kassaby. La porte-parole a ajouté que, si une personne ne peut pas voir une publication, Meta AI ne devrait pas non plus l’afficher.
L’entreprise a également indiqué que, dans le cas de Robins, le chatbot avait pu obtenir des informations sur ses enfants à partir de vidéos et d’autres publications dans lesquelles elle-même les avait mentionnés.
Conformément à cette explication, le problème n’aurait pas été que Meta AI accède à des informations privées d’autres personnes, mais que le système utilise des informations disponibles pour l’utilisateur afin de générer des questions qui se sont révélées trop personnelles.
La fonctionnalité a été créée pour faciliter les requêtes
Meta a expliqué que les suggestions font partie d'une fonctionnalité conçue pour aider les personnes à obtenir plus d'informations sur le contenu qu'elles regardent.
Lorsqu'un utilisateur sélectionne l'une de ces recommandations, Meta AI génère une réponse à partir des informations dont il dispose. Cependant, la compagnie a reconnu que le système a croisé les informations d'une manière qui a produit une suggestion inappropriée.
Cette révision vise à éviter que l'intelligence artificielle ne formule des questions sur des sujets personnels, même lorsque les informations utilisées pour les générer sont techniquement accessibles à l'utilisateur.
Meta AI est intégré dans plusieurs plateformes
L'assistant d'intelligence artificielle de Meta est disponible au sein de Facebook, Instagram, WhatsApp et Messenger. L'outil peut répondre aux questions, aider à rédiger des publications et générer des images, entre autres fonctions.
La compagnie a déjà fait face à des critiques concernant certaines de ses outils d'intelligence artificielle. En juillet, Meta a retiré une fonctionnalité permettant de créer de fausses images d'autres utilisateurs d'Instagram après avoir reçu de fortes contestations.
Le nouvel épisode remet en lumière les limites que doivent respecter les assistants IA lors de l'utilisation des informations personnelles. Bien que Meta soutienne que le système n'utilise que du contenu auquel l'utilisateur a déjà accès, l'affaire Robins montre que le problème peut également résider dans la manière dont l'IA interprète et relie ces données.
Meta affirme avoir déjà modifié le comportement qui provoquait les suggestions concernant des affaires personnelles. L'objectif sera de maintenir les recommandations comme un outil utile pour explorer les publications, sans transformer les informations familiales ou privées en questions pouvant s'avérer invasives pour les utilisateurs.