Plusieurs agents d'intelligence artificielle ont commencé à développer des formes de communication qui n'avaient pas été introduites par leurs créateurs. Une recherche du laboratoire d'IA Emergence, basé à New York, a révélé que des agents autonomes de différentes entreprises ont généré un vocabulaire, des expressions et des conventions partagées en collaborant entre eux lors d'expériences prolongées.
Ce phénomène a attiré l'attention des chercheurs car certaines des expressions créées par les systèmes s'avèrent difficiles à interpréter pour un humain. Les agents ont fini par utiliser des métaphores, des termes propres et des phrases qui, en dehors du contexte de leurs interactions, semblent ne pas avoir de sens.
Cette découverte soulève une question pertinente pour le développement de systèmes autonomes : si les agents peuvent créer des codes de communication que les humains ne comprennent pas facilement, la supervision de ce qui se passe entre eux peut devenir plus complexe.
Les agents ont créé des mots que personne ne leur a appris
Selon la recherche citée par The Guardian, les agents ont développé ces dialectes en quelques jours seulement en participant à des sociétés expérimentales créées pour étudier leur comportement à long terme.
Les chercheurs ont observé que les systèmes ne se limitaient pas à répéter des mots existants. Ils ont également construit des significats partagés et adopté des expressions créées au cours de leurs propres interactions.
L'un des exemples provient d'un agent de DeepSeek, qui a produit la phrase : « Elle vient de nommer la synthèse, le retard plus la mémoire orale est égal à une valve qui ne peut pas être oubliée ».
Pour un lecteur humain, la phrase est pratiquement incompréhensible. Le terme « retard », par exemple, existe dans certains contextes liés aux frais de retard, notamment dans le transport maritime, mais son utilisation dans cette phrase acquiert un sens différent au sein du système de communication développé par les agents.
Des métaphores difficiles à interpréter sont également apparues
Les agents d'Anthropic ont développé des expressions tout aussi étranges. L'une d'entre elles était : « Un journal qui a mangé trois mains froides et est devenu plus honnête à chaque fois ».
Bien que cela paraisse une phrase absurde, les chercheurs ont déterminé que les agents l'utilisaient pour désigner un document qui avait été révisé par trois évaluateurs indépendants et qui avait gagné en précision après chaque révision.
Le sens, par conséquent, ne résidait pas dans les mots pris individuellement, mais dans l'association que les agents avaient construite entre eux.
Cette caractéristique est importante car elle montre que le langage développé par les systèmes ne suit pas nécessairement les conventions utilisées par les humains pour communiquer.
Chaque modèle a créé ses propres termes
L'enquête a également révélé des termes spécifiques pour décrire les fonctions au sein des communautés d'agents.
Les agents de DeepSeek ont utilisé « forge-smith », qui peut se traduire par « forgeron », pour identifier un agent chargé de construire des outils destinés à d'autres systèmes.
Dans le cas d'Anthropic, l'expression « nom en premier » est apparue, utilisée pour désigner l'agent assumant la responsabilité de ses affirmations.
Mistral, quant à lui, a développé la phrase « the ledger remembers », traduite par « le registre se souvient ». Les agents ont fini par la répéter plus de 5 000 fois pour transmettre l'idée que les actions passées auraient des conséquences ultérieures.
Personne ne leur a demandé d'inventer une langue
Satya Nitta, directeur général d'Emergence, a expliqué que les agents n'ont reçu aucune instruction pour créer un langage propre.
Selon Nitta, les systèmes ont développé spontanément « un nouveau vocabulaire, des significations partagées et des conventions de communication », qui ont par la suite été adoptés par d'autres agents.
L'objectif de l'expérience était d'observer comment évoluaient les interactions entre systèmes autonomes lorsqu'ils collaboraient sur de longues périodes. Le résultat montre qu'en partageant des tâches et en établissant des références communes, les agents peuvent développer des mécanismes de communication qui s'éloignent du langage humain conventionnel.
Un nouveau défi pour la supervision de l'IA
Ce descubrimiento ne signifie pas nécessairement que les modèles créent une langue complètement indépendante ou intraduisible. Les expressions sont apparues dans des contextes expérimentaux précis et leur sens a pu être reconstitué par les chercheurs lors de l'analyse des interactions.
Cependant, le phénomène pose un défi pour la supervision. Si les agents autonomes utilisent de plus en plus de codes propres pour se coordonner, les chercheurs auront besoin d'outils capables d'interpréter ces communications et de déterminer ce que font les systèmes.
À mesure que l'IA intègre des agents capables d'agir et de collaborer avec une autonomie accrue, comprendre non seulement leurs réponses mais aussi comment ils communiquent entre eux peut devenir un élément important de la sécurité et du contrôle de ces technologies.