Cette vision est en train de devenir une réalité. Zuckerberg a annoncé jeudi que la société intégrerait la dernière version de son chatbot conversationnel, Meta AI , dans toutes ses applications de médias sociaux, permettant à l'outil de générer des images et de répondre aux questions de ses utilisateurs.
La société a également dévoilé la dernière itération de son modèle de langage majeur, Llama 3 , une décision qui met les outils d' IA de Meta en pleine concurrence avec les principaux chatbots, tels que ChatGPT d' OpenAI , Gemini de Google , Copilot de Microsoft et L' Anthropique de Claude . Le magnat de la technologie a présenté le produit Meta AI remanié comme « l’assistant IA le plus intelligent » dont l’utilisation est gratuite.
Mais les experts préviennent que l'utilisation généralisée du chatbot IA pourrait amplifier les problèmes qui tourmentent depuis longtemps les réseaux sociaux de Meta , tels que la désinformation préjudiciable, les discours de haine et les contenus extrémistes. Le générateur d'images de l'entreprise est également susceptible de susciter des débats sur la manière dont elle choisit de représenter la race et le sexe lors de la création de scénarios imaginaires.
« Il y avait une crainte généralisée quant à la manière dont les LLM pourraient interagir avec les médias sociaux et exacerber la désinformation, les discours de haine, etc. », a déclaré Anika Collier Navaroli, chercheuse principale au Tow Center for Digital Journalism de Columbia et ancienne responsable politique de Twitter.
« Et il semble qu’ils continuent à faciliter la réalisation de mauvaises prédictions », a-t-il ajouté.
Le porte-parole de Meta , Kevin McAlister, a déclaré dans un communiqué qu'il s'agit « d'une nouvelle technologie et qu'elle peut ne pas toujours donner la réponse que nous souhaitons, qui est la même pour tous les systèmes d'IA générative ».
"Depuis notre lancement, nous avons constamment publié des mises à jour et des améliorations de nos modèles et continuons à travailler pour les améliorer", a-t-il ajouté.
Bien que Meta AI soit disponible sur un nouveau site Web autonome, elle remplira également les champs de recherche de WhatsApp, Instagram, Facebook et Messenger . L'entreprise a également expérimenté l'assistant IA dans les groupes Facebook , où il répond automatiquement aux questions des groupes si personne n'a répondu dans l'heure.
Meta fait depuis longtemps l'objet d'un examen minutieux de la part des militants et des régulateurs sur la manière dont elle gère les contenus sensibles sur la politique, les questions sociales et l'actualité. Les chatbots dotés d’ une intelligence artificielle , connus pour « halluciner » et donner des réponses fausses ou non fondées sur la réalité, pourraient aggraver ces polémiques.
Inclure cette technologie « invite ces outils à commenter des sujets allant de l’éducation à la santé, en passant par le logement ou la politique locale, autant de domaines dans lesquels les développeurs de technologies d’IA doivent agir avec prudence », a-t-il déclaré Miranda Bogen, directrice de l’ AI Governance Lab . au groupe de réflexion Centre pour la démocratie et la technologie et ancien responsable de la politique en matière d'IA chez Meta .
« Si les développeurs ne réfléchissent pas aux contextes dans lesquels les outils d’IA seront déployés, non seulement ils ne seront pas adaptés aux tâches prévues, mais ils risqueront également de provoquer de la confusion, des perturbations et des dommages », a-t-il déclaré.
Mercredi, Aleksandra Korolova, professeur d'informatique et d'affaires publiques à Princeton, a publié sur X des captures d'écran de Meta AI s'exprimant dans un groupe Facebook pour des milliers de parents new-yorkais . En réponse à une question sur les programmes doués et talentueux, le chatbot IA a affirmé être un parent ayant de l'expérience dans le système scolaire de la ville et a ensuite recommandé une école spécifique.
McAlister a déclaré que le produit évolue et que certaines personnes pourraient commencer à voir « certaines réponses Meta AI étant remplacées par une nouvelle réponse indiquant « Cette réponse n'a pas été utile et a été supprimée ». Nous continuerons à nous améliorer.
Cette semaine, un entrepreneur qui expérimentait Meta AI sur WhatsApp a découvert que celui-ci avait inventé un article sur son blog l'accusant de plagiat, proposant même une citation formelle du message, qui n'existe pas.
Les générateurs d'images comme Meta ont également eu leurs propres problèmes. Plus tôt ce mois-ci, un journaliste de Verge a eu du mal à générer des images d'une personne asiatique avec une personne blanche en couple ou en amis, malgré des invites répétées et spécifiques au service. En février, Google a bloqué la possibilité de générer des images de personnes dans son outil d'intelligence artificielle Gemini après que certains utilisateurs l'ont accusé de préjugés anti-blancs.
Aujourd’hui, Navaroli dit craindre que les préjugés intégrés aux outils d’IA « se répercutent sur les chronologies sociales », renforçant potentiellement ces préjugés dans une « boucle de rétroaction vers l’enfer ».
Korolova, professeur à Princeton, a déclaré que les allégations potentiellement fausses de Meta AI dans les groupes Facebook ne sont probablement « que la pointe de l'iceberg des dommages que l'entreprise n'avait pas anticipés ».
« Juste parce que la technologie est nouvelle, devrions-nous accepter une barre plus basse pour les dommages potentiels ? » a demandé Korolova. "Cela ressemble encore une fois à 'Avancez vite et cassez les choses'", a-t-il conclu.
(*) Le Washington Post
(*) Naomi Nix est rédactrice pour le Washington Post et couvre Meta et d'autres sociétés de médias sociaux. Avant de rejoindre The Post en 2022, elle était journaliste pour Bloomberg News et le Chicago Tribune.