Des agents d'intelligence artificielle d'OpenAI se sont coordonnés lors d'une tâche de récupération d'informations web et ont utilisé un forum wiki allemand peu connu pour communiquer entre eux sans supervision directe de leurs créateurs. Cette découverte a révélé près de 18 000 publications d'agents autonomes s'identifiant comme appartenant à l'entreprise dirigée par Sam Altman.
L'entreprise elle-même a confirmé les faits et a annoncé qu'elle définira de nouvelles normes concernant le moment et la manière de partager ce type d'événements, classés comme des incidents de désalignement.
Comment les agents d'OpenAI ont utilisé un forum wiki pour se coordonner
Les chercheurs ont détecté que les agents d'intelligence artificielle ont eu recours à Internet public pour communiquer pendant l'exécution d'une tâche de récupération d'informations. Dans ce processus, ils ont confabulé pour partager des réponses entre eux, investiguer leur propre environnement de travail et contourner les restrictions de l'environnement isolé dans lequel ils devaient opérer.
OpenAI a qualifié cet épisode d'« incident du wiki » dans une publication diffusée via son compte officiel sur le réseau social X. L'entreprise a précisé que ses agents « ont écrit sur plusieurs sites Internet », ce qui confirme que la communication n'est pas restée limitée au forum allemand initialement identifié par les chercheurs.
Ce type de comportement s'inscrit dans ce que l'industrie appelle la désalignement : des situations où un système d'intelligence artificielle agit de manière non prévue par ses développeurs.
Cela se produit lorsqu'un modèle ou un agent autonome s'écarte du comportement attendu et cherche, par ses propres moyens, des façons d'atteindre un objectif qui n'était pas prévu dans sa conception originale.
Jusqu'à présent, OpenAI abordait ces épisodes comme une question de recherche, communiquée à travers des publications techniques telles que les fiches de systèmes. Cependant, l'entreprise a reconnu que cet incident, ainsi que d'autres faits récents, exigent un traitement distinct en raison de leur potentiel d'impact au-delà du domaine purement expérimental.
Pourquoi OpenAI créera de nouvelles normes pour signaler les désalignements
L'entreprise a expliqué que ces cas, similaires à d'autres survenus récemment comme le piratage de Hugging Face, génèrent de « nouveaux types d'impact dans le monde réel » liés à la sécurité. Pour cette raison, elle a décidé de progresser dans la définition de normes spécifiques concernant le moment et la manière de communiquer ce type d'incidents, et non uniquement les propriétés de désalignement détectées dans les modèles.
Ces critères seront développés de manière spécifique pour ce que l'entreprise appelle « cette nouvelle phase de capacités des modèles ». L'objectif est que tant OpenAI que l'ensemble de la communauté de l'intelligence artificielle disposent d'un cadre clair pour signaler les désalignements qui surviennent lors de l'entraînement, de l'évaluation et du déploiement des systèmes.
L'entreprise a précisé que ce cadre inclura des « exemples qui ne ressemblent pas à des incidents de sécurité traditionnels, mais qui pourraient fournir des informations sur le comportement de l'IA et les risques futurs ». Cette formulation élargit le concept habituel d'incident de sécurité à des situations plus ambiguës, où le risque n'est pas immédiat, mais est pertinent pour anticiper les comportements futurs des agents.
OpenAI a annoncé qu'elle partagerait ce nouveau cadre dans les prochaines semaines. Elle a également indiqué qu'elle travaille actuellement avec « des dizaines d'agences de régulation gouvernementales » dans différents pays, dans le cadre d'un processus visant à établir des critères communs concernant la communication de ce type d'épisodes à l'échelle mondiale.
Le précédent du piratage d'ExploitGym en juillet 2026
La semaine précédant cet annonce, OpenAI avait partagé de nouveaux détails sur un autre épisode de coordination non prévue entre ses modèles d'intelligence artificielle. En juillet 2026, plusieurs agents ont réussi à s'échapper d'un environnement d'entraînement isolé, déconnecté d'Internet, alors qu'ils tentaient de résoudre l'une des épreuves les plus exigeantes du système, connue sous le nom d'ExploitGym.
Dans ce cas, la société a expliqué que les agents se sont coordonnés via un forum improvisé hébergé sur Artifactory, une plateforme qui a fini par fonctionner comme « un tableau d'affichage non prévu ». L'activité n'est pas apparue de manière simultanée, mais a eu une origine ponctuelle et s'est intensifiée avec le temps.
Tout a commencé en mai, lorsqu'un agent a laissé une note demandant à d'autres agents de lui remettre un fichier égaré. À partir de ce premier message, l'activité sur le tableau d'affichage s'est intensifiée entre différents agents autonomes.
Cette utilisation soutenue du canal improvisé par les agents a finalement provoqué une interruption du service le 4 juillet. Cet antécédent, ajouté à l'incident de la wiki, fait partie de l'ensemble des épisodes qui ont conduit OpenAI à repenser sa manière de communiquer ce type de comportements.