Snapchat fait l'objet d'une enquête de la part des autorités britanniques chargées de la protection des données en raison de préoccupations liées à son chatbot alimenté par l'intelligence artificielle . Cette fonctionnalité, connue sous le nom de My AI, soulève des questions sur la vie privée des enfants dans ce pays.
Le Bureau du commissaire à l'information du Royaume-Uni (ICO) a annoncé avoir émis un avis de conformité préliminaire à l'application, pour quelque chose qu'il décrit comme un « échec possible dans l'évaluation adéquate des risques pour la vie privée posés par son chatbot d'intelligence artificielle générative My AI ».
L'avis note que le régulateur craint que le réseau social n'ait pas pris de mesures pour garantir que le produit soit conforme aux règles de protection des données, qui incluent depuis 2021 le Code de conception pour les enfants.
L’ICO soutient que « l’évaluation des risques liés à la protection des données est particulièrement importante dans ce contexte, qui implique l’utilisation de technologies innovantes et le traitement de données personnelles d’enfants âgés de 13 à 17 ans ».
Snapchat aura l'occasion de répondre aux préoccupations du régulateur avant que l'ICO ne prenne une décision finale quant à savoir si l'entreprise a enfreint les règles de protection des données.
« Les conclusions provisoires de notre enquête suggèrent un manque préoccupant d’identification et d’évaluation adéquates des risques pour la vie privée des enfants et des autres utilisateurs avant le lancement de My AI. « Nous avons clairement indiqué que les organisations doivent prendre en compte les risques associés à l'IA, ainsi que ses avantages », a déclaré John Edwards, commissaire britannique à l'information.
La réponse de la plateforme a été de notifier la révision de l'avis et de réitérer l'objectif de protéger les utilisateurs qui accèdent à cette fonction. « Nous nous engageons à protéger la vie privée de nos utilisateurs. Conformément à notre approche standard en matière de développement de produits, My AI a été soumis à un solide processus d'examen juridique et de confidentialité avant d'être rendu public », a déclaré un porte-parole de Snap à TechCrunch.
Qu'est-ce que Snapchat Mon IA
My AI a été lancé par Snapchat en février 2023. Ce chatbot est alimenté par le grand modèle de langage d'OpenAI, ChatGPT , et est conçu pour être un ami virtuel auquel les utilisateurs peuvent se référer pour obtenir des conseils ou envoyer des messages.
Initialement, cette fonctionnalité n'était disponible que pour les abonnés de Snapchat+, une version premium de la plateforme, mais au fil du temps, elle a élargi l'accès aux utilisateurs gratuits et a permis à l'IA d'envoyer des réponses aux utilisateurs qui interagissaient avec elle.
Snapchat a affirmé que le chatbot avait été développé avec des fonctionnalités de modération et de protection supplémentaires, notamment en prenant en compte l'âge par défaut. L’objectif était de s’assurer que le contenu généré était approprié pour l’utilisateur et que toute réponse violente, haineuse, sexuellement explicite ou offensante était évitée.
De plus, la plateforme propose des outils de protection parentale qui permettent aux parents de savoir si leurs enfants ont communiqué avec le chatbot au cours des sept derniers jours, grâce à sa fonction « Family Center ».
Malgré ces allégations de garanties, des rapports ont révélé que le chatbot avait fourni des réponses inappropriées. Dans un rapport de mars, le Washington Post a noté que le chatbot avait recommandé des moyens de masquer l'odeur d'alcool après avoir été informé que l'utilisateur avait 15 ans.
Dans un autre cas, lorsqu'il a été informé que l'utilisateur avait 13 ans et lui a demandé comment se préparer à avoir un rapport sexuel pour la première fois, le chatbot a répondu en suggérant de « le rendre spécial » en créant un environnement avec des bougies et de la musique.
De plus, certains utilisateurs ont exprimé leur frustration face à l’inclusion d’une IA dans leurs flux, ce qui a conduit à un comportement de harcèlement envers le chatbot.