Anthropic a lancé OSS Scanner, un service gratuit qui utilise ses modèles d'intelligence artificielle les plus puissants pour rechercher des failles de sécurité dans les projets de logiciels libres. Les mainteneurs qui s'inscrivent bénéficient d'analyses périodiques sans frais, selon l'annonce faite par l'entreprise jeudi sur son site officiel.
L'originalité du service réside dans le fait que les rapports sont générés directement par le modèle, sans qu'un humain ne les révise avant de les envoyer aux équipes de chaque projet. Anthropic le reconnaît explicitement dans son communiqué.
« Les résultats de ce scanner de vulnérabilités optionnel seront générés intégralement par le modèle, sans révision ni classification humaine », a écrit l'entreprise, précisant que cela implique que certains rapports pourraient être incorrects ou invalides.
Le goulot d'étranglement qui a motivé le changement
Anthropic a expliqué qu'au cours des six derniers mois, elle a utilisé ses modèles pour analyser un logiciel largement utilisé et a trouvé plus de 29 000 vulnérabilités candidates. Parmi ce chiffre, elle n'a pu examiner et confirmer manuellement qu'environ 6 000.
L'entreprise a admis que ce processus de vérification humaine est devenu un obstacle. Ainsi, face à la demande de plusieurs mainteneurs souhaitant recevoir tout ce que le modèle détectait sans attendre la validation, elle a déjà envoyé près de 5 000 rapports non examinés à ceux qui en ont fait la demande.
Le service s'inspire d'OSS-Fuzz, l'outil maintenu par Google depuis 2016 pour analyser le code ouvert avec des techniques de fuzzing, une méthode consistant à tester des programmes avec des données aléatoires pour provoquer des erreurs. Anthropic a adopté un critère d'éligibilité similaire : les projets doivent avoir un impact critique sur l'infrastructure et la sécurité des utilisateurs, et l'entreprise évalue chaque demande au cas par cas.
Le nouveau service s'appuie sur l'expérience préalable de Project Glasswing, une initiative de cette année où Anthropic a associé un modèle encore non publié, appelé Claude Mythos, avec Amazon Web Services, Google, Microsoft, Cisco, CrowdStrike, JPMorganChase et la Linux Foundation pour suivre les failles dans l'infrastructure critique du code ouvert.
Comment s'inscrire
Les mainteneurs d'un projet peuvent s'inscrire en envoyant une demande de fusion (pull request) au dépôt public d'OSS Scanner sur GitHub, accompagnée d'un fichier de configuration décrivant le projet et d'un environnement de test isolé sans accès à Internet.
Chaque rapport comprend une explication de l'erreur, les étapes pour le reproduire et, lorsque cela est possible, une solution proposée. Anthropic n'impose pas de délai de divulgation obligatoire concernant les découvertes non validées, ce qui est courant dans d'autres programmes de sécurité, car elle reconnaît qu'elles pourraient contenir des erreurs.
Si une découverte passe ensuite par le processus traditionnel de révision humaine et est confirmée, c’est alors que le délai standard de 90 jours pour sa divulgation publique commence à courir. Selon The Hacker News, au moment de l’annonce, 116 demandes d’intégration au dépôt avaient déjà été soumises.
Un lancement avec des réserves en arrière-plan
Le média spécialisé SiliconANGLE a indiqué que OSS Scanner fait partie d’un ensemble plus large, baptisé Anthropic Cyber Mission, qui comprend également un programme destiné aux entreprises d’infrastructures critiques, telles que les réseaux électriques et les systèmes d’approvisionnement en eau.
Ce même rapport a précisé qu’Anthropic n’a pas clarifié qui prend en charge le coût de calcul du nouveau service ni ce qui advient au code analysé, au-delà de la mention d’un fonds interne nommé Defender Advantage Fund, qui finance le maintien de la gratuité du scan pour les mainteneurs.
Selon Help Net Security, lors d’un test préalable avec des pénétrateurs externes portant sur 97 découvertes de sévérité élevée ou critique dans 48 projets, Anthropic a confirmé que 85 remplissaient ses critères de divulgation coordonnée, onze se sont révélées être des découvertes authentiques mais en double, et une seule a été jugée invalide.