Meta a lancé une mise à jour urgente pour corriger une faille de sécurité dans Muse, son assistant d'intelligence artificielle pour ordinateurs Mac. Le problème permettait à un programme malveillant d'envoyer les enregistrements vocaux de l'utilisateur vers un serveur contrôlé par un attaquant.
La faille a été découverte par Patrick Wardle, fondateur de l'organisation de sécurité pour Mac Objective-See. Le chercheur a publié le 21 septembre une démonstration du problème, qu'il a baptisée « not-a-mused », à peine deux semaines après le lancement de Muse.
Un réglage interne pouvait détourner les enregistrements vocaux
Le problème résidait dans une option interne de Muse nommée endo_voyager_dictation_endpoint. Il s'agissait d'un réglage conçu pour permettre aux développeurs de vérifier et de détecter les problèmes lors de la création de l'outil.
Cependant, n'importe quel programme déjà installé sur le Mac pouvait modifier cette option sans demander de permissions spéciales ni afficher d'alerte du système d'exploitation d'Apple.
En le faisant, il pouvait envoyer l'audio dicté par l'utilisateur vers un autre serveur. Il pouvait également obtenir le code d'accès temporaire, ou jeton, du compte Muse. Ce code fonctionne comme une clé numérique permettant d'accéder à la session de l'utilisateur.
Avec cet accès, un attaquant pouvait utiliser l'assistant avec les mêmes permissions que la personne lui avait accordées : consulter des fichiers, vérifier le calendrier, accéder aux e-mails, utiliser WhatsApp ou opérer d'autres services connectés.
L'attaque nécessitait que l'équipement soit déjà compromis
Wardle a précisé que la faille ne permettait pas de prendre le contrôle d'un ordinateur à partir de zéro. Pour en profiter, quelqu'un devait d'abord réussir à faire exécuter un programme malveillant sur le Mac de la victime.
Cela peut se produire, par exemple, lorsqu'une personne télécharge un logiciel dangereux ou tombe dans une arnaque. Wardle a mentionné la méthode connue sous le nom de ClickFix, qui cherche à convaincre l'utilisateur de copier-coller une commande nuisible dans l'application Terminal sous la promesse de résoudre un prétendu problème technique.
« On peut manipuler l'agent et exploiter ses privilèges pour faire ce que l'on veut », a expliqué Wardle, selon Forkast. En termes simples, celui qui parvenait à accéder à l'ordinateur pouvait donner des ordres à l'assistant pour qu'il agisse avec les permissions de son propriétaire.
David Singleton, ingénieur chez Meta Superintelligence Labs, a confirmé le problème et communiqué la correction peu après minuit mardi, selon Gizmodo.
« Nous nous efforçons d'être extrêmement transparents sur la confidentialité et la sécurité dans Muse, car nous savons que c'est important pour maintenir la confiance », a écrit Singleton sur X.
Wardle a confirmé quelques heures plus tard que la mise à jour résolvait la faille. « Génial, c'est réglé », a-t-il publié mardi à 06h36 UTC, selon Forkast.
Muse peut accéder aux e-mails, aux fichiers et à d'autres comptes connectés
Muse a été lancé le 8 septembre en tant qu'assistant personnel de Meta pour Mac. Il peut aider à envoyer des e-mails, à réserver des voyages, à remplir des formulaires et à effectuer des achats si l'utilisateur lui accorde l'accès à ces fonctions.
Pour effectuer ces tâches, il fonctionne dans un espace isolé à l'intérieur de l'ordinateur, que l'entreprise appelle Muse Secure VM. Il utilise également un modèle d'intelligence artificielle nommé Muse Spark 1.3.
Le directeur général de Meta, Mark Zuckerberg, a présenté l'outil comme faisant partie de sa vision d'une « superintelligence personnelle » : un assistant capable de gérer des tâches quotidiennes sur Internet.
L'entreprise offre des récompenses allant jusqu'à 300 000 dollars à ceux qui trouveront des failles de sécurité dans le produit. Dans le cadre de ce programme, un prix de 130 000 dollars est prévu pour la personne qui démontrera qu'elle peut tromper l'assistant avec des instructions cachées, selon TechTimes.
Muse a atteint 2,5 millions d'utilisateurs lors de ses 13 premiers jours de disponibilité pour Mac, selon des données de VentureBeat citées par Forkast.
La faille n'a pas reçu de code CVE, l'identifiant généralement utilisé pour enregistrer les problèmes de sécurité connus dans les produits technologiques.
Le correctif arrive après d'autres critiques de l'assistant
La mise à jour a été publiée alors que Muse faisait déjà face à d'autres critiques. Quelques jours plus tôt, Amazon avait demandé à Meta d'empêcher l'assistant d'effectuer des achats automatiques sur sa plateforme sans s'identifier comme un programme automatisé.
De plus, VentureBeat a souligné que Muse ne dispose pas encore de certains outils dont les entreprises ont généralement besoin pour contrôler l'utilisation des applications. Par exemple, il n'offre pas de console centrale à partir de laquelle une équipe de sécurité peut voir qui connecte l'assistant à des comptes professionnels.
Cela signifie qu'un employé pourrait lier Muse à son e-mail professionnel ou à d'autres services internes sans que le service informatique de son entreprise ait une vision complète de cette activité.
Wardle a averti que ce cas montre un risque plus large. Lorsqu'un assistant a la permission d'accéder à des fichiers, des comptes et des applications, une faille permettant de le contrôler peut donner à l'attaquant le même niveau d'accès.
L'organisation OWASP, qui publie des guides de sécurité pour les programmes et les sites Web, inclut parmi les risques de ces assistants les messages conçus pour les tromper, l'utilisation abusive des services connectés et l'exposition d'informations privées.
Meta n'a pas indiqué si le paramètre corrigé était le seul paramètre interne de Muse qui pouvait être modifié sans avertissement, ni s'il avait examiné tous les paramètres similaires du système.