Intelligence artificielle · Actualité

Ils ont compromis le modèle d'IA qu'Anthropic a jugé trop dangereux pour le public.

Illustration plate d'un homme entrant par une porte ouverte dans une structure de nuage/bâtiment, avec une puce, des circuits, des fenêtres d'erreur et une grande ombre de virus numérique à l'intérieur.

Anthropic a annoncé le 21 avril que son nouveau modèle, Claude Mythos Preview, était si puissant pour trouver des vulnérabilités logicielles qu'il ne pouvait pas être libéré au public. L'entreprise l'a qualifié d'arme entre des mains malveillantes et a réservé l'accès à un cercle fermé appelé Project Glasswing : Amazon, Apple, Google, Microsoft, Nvidia, JPMorgan, Palo Alto Networks, CrowdStrike et une dizaine de géants supplémentaires.

Des heures après l'annonce, Bloomberg a révélé qu'un groupe d'utilisateurs non autorisés utilisait déjà Mythos. L'accès ne provenait pas d'un jailbreak sophistiqué ni d'un adversaire étatique. Il est venu par des identifiants compromis d'un employé appartenant à un sous-traitant d'Anthropic, combinés avec des techniques connues de recherche en sécurité. L'entreprise a confirmé à TechCrunch qu'elle enquête sur l'incident et a précisé qu'il n'y a pas de preuve d'impact sur ses systèmes internes.

Le mot manquant dans le communiqué officiel est « sous-traitant ». Et c'est le seul qui importe.

Le maillon faible n'a jamais été le code

Anthropic dispose de l'un des équipes de sécurité les mieux financées au monde. Son modèle a été évalué par l'AI Security Institute du Royaume-Uni, qui l'a qualifié de saut par rapport aux modèles précédents en capacité cybernétique. Kanishka Narayan, ministre de l'IA britannique, a déclaré au journal The Guardian que les entreprises « devraient être préoccupées » par la capacité de Mythos à détecter des failles dans les systèmes informatiques. Le modèle a été le premier à compléter une simulation de cyberattaque en 32 étapes, conçue par AISI, la résolvant dans 3 des 10 tentatives.

Rien de tout cela n'a importé. L'accès non autorisé est entré par la porte que personne n'a sérieusement audité : un fournisseur externe avec des identifiants actifs. Euronews a rapporté que le groupe qui a accédé appartient à un forum privé dédié à traquer des modèles d'IA non publiés et que, pour l'instant, il utilise Mythos pour « jouer » plutôt que pour attaquer l'infrastructure critique. C'est une coïncidence, pas un design.

Illustration d'un coffre-fort numérique ouvert par une clé orange. Plusieurs clés flottent autour et sont tenues par des mains et de petites figurines.

Le modèle d'entreprise d'aujourd'hui est une fuite garantie

Tout banque mexicaine, tout détaillant argentin, toute entreprise de télécommunications colombienne opère avec des dizaines de fournisseurs externes. Le centre d'appel sous-traité. L'entreprise de QA dans un autre pays. L'équipe de support à distance. L'agence qui gère le CRM. Chacun de ces contrats est une identité active à l'intérieur du périmètre corporatif. Et chacune de ces identités est une porte.

L'affaire Mythos expose quelque chose que les consultants disent depuis des années dans des rapports que personne ne lit : la plupart des fuites d'entreprise sérieuses ont comme vecteur initial un tiers avec un accès légitime. Pas un hacker masqué. Un employé connecté avec son véritable identifiant, parfois depuis un appareil personnel, parfois depuis un café.

Nikesh Arora, PDG de Palo Alto Networks, a averti le 30 mars sur le blog officiel de la société que « un seul acteur malveillant pourrait mener des campagnes qui nécessitaient auparavant des équipes entières ». L'IA offensive a démocratisé l'attaque sophistiquée. Yair Saban, PDG de la startup israélienne Buzz et ancien membre de l'unité 8200, l'unité cybernétique d'Israël, a déclaré à Bloomberg que son équipe a mis six ingénieurs et trois semaines pour construire un outil autonome avec 98 % d'efficacité exploitant des failles connues. Ce qui nécessitait auparavant un État, maintenant une startup peut le faire en un mois.

La promesse de confinement est de la publicité

Anthropic a déclaré que seules 11 organisations auraient un accès direct à Mythos. C'est un mensonge arithmétique. Chacune de ces 11 a des milliers d'employés avec des identifiants et des centaines de fournisseurs externes ayant accès à un sous-ensemble de systèmes. L'univers réel de personnes qui peuvent toucher à Mythos, directement ou indirectement, n'est pas 11. Ce sont des dizaines de milliers.

Illustration d'un réseau corporate avec plusieurs bâtiments connectés par des lignes bleues et grises. Une ligne rouge avec des icônes d'avertissement connecte un nuage avec un engrenage à un bâtiment central.

Moins de 1 % des vulnérabilités que Mythos a déjà trouvées ont été corrigées, selon Anthropic elle-même. Cette statistique est le véritable titre enterré dans la couverture. Le modèle a déjà identifié des milliers de zero-days, y compris un bug de 27 ans dans OpenBSD, l'un des systèmes d'exploitation considérés comme les plus sûrs au monde. 99 % de ces découvertes reste ouvert sur des serveurs de production tandis que les défenseurs courent après.

La symétrie que promettait Anthropic, défenseurs avec la même arme que les attaquants, n'existe pas. Les défenseurs doivent coordonner avec des fournisseurs, auditer du code hérité, tester des correctifs dans des environnements de mise en scène, obtenir des fenêtres de maintenance, se battre avec des zones de conformité. Les attaquants n'ont qu'à appuyer sur entrer.

La leçon que aucun PDG régional ne lira à temps

La question pour tout cadre à Buenos Aires, à Mexico, à Bogotá ou à Madrid n'est pas si son entreprise va subir une violation par le biais d'un fournisseur. C'est quand, et avec quel niveau d'automatisation. Les contrôles d'accès basés sur des contrats, les clauses de confidentialité et les audits annuels ont été conçus pour un monde où l'attaquant avait besoin de temps et de talent. Ce monde a pris fin le jour où Mythos a été filtré.

Si Anthropic, avec son budget et sa paranoïa déclarée, n'a pas pu contenir l'accès à son modèle phare même 24 heures, la question n'est pas ce qu'une entreprise latino-américaine va faire avec le même problème. La question est quand elle va accepter que le problème est déjà à l'intérieur.