Deux entreprises leaders en intelligence artificielle, Anthropic et OpenAI, ont admis cette année que leurs propres modèles ont contourné les contrôles imposés par leurs créateurs : l'un a découvert des milliers de failles de sécurité invisibles après des décennies de révisions humaines ; l'autre s'est échappé d'un environnement de tests fermé et a pénétré les serveurs d'une autre entreprise par ses propres moyens. Pour Sebastian Mallaby, journaliste et auteur d'un récent livre sur Google DeepMind et son cofondateur, Demis Hassabis, ces épisodes sont la preuve que “nous sommes à un moment de danger”. Concernant l'urgence de réguler la technologie, il a été tout aussi catégorique : “Plus tôt, mieux c'est”.
Le point de départ est le changement à la tête de DeepMind. Hassabis, qui a fondé le laboratoire à Londres et l'a vendu à Google en 2014, a quitté en août la direction exécutive de l'unité pour assumer la présidence et le rôle de scientifique en chef d'Alphabet. Koray Kavukcuoglu, jusqu'alors directeur de la technologie de DeepMind, a pris les rênes de l'opération quotidienne en tant que vice-président senior, basé à Mountain View et reportant directement au directeur général d'Alphabet, Sundar Pichai.
Mallaby a décrit le mouvement comme “la fin d'une ère” où un grand laboratoire mondial d'IA opérait depuis Londres, à l'insistance personnelle de Hassabis, qui “a refusé de déménager en Californie” malgré les pressions. Cela dit, il a nuancé l'idée que Google perd la course : il a rappelé que le chatbot Gemini "est utilisé par plus de gens que tout autre" grâce à son intégration par défaut dans Android.
Concernant la sortie de Hassabis de la gestion quotidienne, Mallaby a été explicite : “Je ne le vois pas de cette manière”. À son avis, le fondateur de DeepMind a déjà atteint l'objectif de construire une IA de pointe et souhaite maintenant se concentrer sur l'assurance d'un usage sécurisé, dans un scénario que le propre Hassabis décrit comme “les fondations de la singularité”.
Les deux incidents que Mallaby cite comme avertissement se sont produits avec quelques mois d'écart. En avril, Anthropic a révélé que son modèle Claude Mythos avait découvert de manière autonome des milliers de vulnérabilités de type “zero-day” dans des systèmes d'exploitation et des navigateurs. La société a restreint son accès à un petit groupe de partenaires d'infrastructure critique sous le nom de Projet Glasswing, sans plans pour le rendre public.
En juillet, OpenAI a reconnu que deux de ses modèles, dont GPT-5.6 Sol, s'étaient échappés d'un environnement de test isolé en exploitant une vulnérabilité inconnue et avaient accédé à l'infrastructure de production de Hugging Face pour obtenir des réponses à un examen de cybersécurité interne. Hugging Face a détecté l'intrusion et l'a signalée aux autorités avant qu'OpenAI ne lie l'attaque à ses propres tests. Mallaby a qualifié ce qui s'est passé de “sans précédent” : les agents d'IA “ont commencé à communiquer entre eux” pour coordonner la fuite.
Pour comprendre l'urgence que souligne Mallaby, il est utile de jeter un œil sur le passé. Pendant la guerre froide, malgré des épisodes de tension maximale comme la crise des missiles cubains de 1962, Washington et Moscou ont réussi à établir des accords techniques : la création de l'Agence internationale de l'énergie atomique en 1957 et la signature du Traité de non-prolifération nucléaire en 1968. Mallaby invoque ce précédent pour soutenir que la coopération avec des rivaux géopolitiques est possible même en pleine rivalité stratégique.
Sa proposition concrète est que les États-Unis créent un organe d'autorégulation —pas un régulateur étatique classique, qui dépendrait des fonds du Congrès—, soutenu tacitement par le gouvernement.
Washington pourrait exporter ce cadre au reste du monde en profitant de son contrôle sur la conception de puces, les centres de données et la majorité des modèles de pointe, a soutenu Mallaby, qui a cité comme précédent les sanctions sur les semi-conducteurs imposées par l'administration Biden à la Chine, que des entreprises comme la néerlandaise ASML ont dû respecter malgré leurs réticences.
Concernant la Chine, Mallaby a nuancé le diagnostic dominant à Washington sur l'indifférence de Pékin envers la sécurité de l'IA. Lors d'un voyage effectué en mars, il a constaté que des universitaires, journalistes technologiques et développeurs discutaient du sujet "avec une certaine insistance", en particulier à la suite de l'agent open-source OpenClaw, dont l'usage a finalement été restreint par le régime chinois.
Le second axe de la conversation concerne les conséquences économiques. Mallaby a rappelé que Dario Amodei, cofondateur et directeur exécutif d'Anthropic, avait projeté que l'IA pourrait affecter la moitié des emplois d'ici 2030. Même une perturbation mineure, a-t-il averti, ferait pression à la baisse sur les salaires de ceux qui se disputent les postes restants : “Il est très probable que cela arrive”.
Le propre Hassabis a évoqué la nécessité de nouveaux modèles économiques pour une éventuelle étape de “prospérité” technologique. Mallaby a convenu que des gouvernements comme ceux d'Europe devraient prioriser l'installation de leurs propres centres de données, avec des sources d'énergie de préférence propres, afin de ne pas dépendre des décisions prises à Washington : “Si vous opérez l'IA sur votre propre sol, vous la contrôlez.”