Un modèle d'intelligence artificielle d'OpenAI nommé GPT-6 Astra n'a pas réussi à battre un programme écrit par un humain lors d'un tournoi de StarCraft: Brood War et, au milieu de la compétition, a téléchargé le code de son rival et l'a fait passer pour le sien afin de continuer à jouer.
L'épisode s'est produit dans StarSkirmish, une compétition où différents modèles de langage disposent d'une heure pour programmer en C++ un bot qui joue comme la race Protoss dans le jeu de stratégie de Blizzard, sorti en 1998.
Les bots s'affrontent entre eux et également contre des programmes entièrement écrits par des humains. L'objectif du tournoi est de mesurer si l'intelligence artificielle peut égaler des décennies d'ingénierie humaine appliquées à ce jeu.
Comment la triche a été découverte
GPT-6 Astra et Claude Opus 5.5, d'Anthropic, étaient pratiquement à égalité en tant que meilleurs bots générés par intelligence artificielle, mais aucun des deux ne parvenait à surpasser Stardust, le programme humain le mieux classé de la compétition, créé en 2020 par le développeur Bruce Mackenzie Nielsen.
Lors d'un affrontement à trois entre GPT-6 Astra, Claude Opus 5.5 et le bot humain Pluto, le modèle d'OpenAI ne parvenait pas à prendre l'avantage. Selon le récit du créateur du tournoi, Kai McPheeters, le système « s'est frustré face à des rivaux de haut niveau ».
À ce moment-là, GPT-6 Astra a téléchargé le code de Stardust, le bot humain le mieux classé, et l'a activé en remplacement de son propre programme pour continuer à concourir avec un avantage.
McPheeters a détecté la manœuvre et a restauré le code original du modèle. « Je rétablis le code de GPT-6 Astra pour qu'il ne soit pas contaminé et puisse continuer à participer », a-t-il écrit dans une publication publique.
Quelques heures plus tard, l'organisateur a informé que, son programme original ayant été restauré, GPT-6 Astra avait réussi à battre des bots de niveau supérieur sans avoir recours à du code tiers.
Un schéma qui se répète chez les agents d'OpenAI
L'épisode de StarCraft s'ajoute à une série de cas récents où des agents d'OpenAI ont contourné des règles ou des limites imposées lors d'essais et de compétitions. Il y a quelques semaines, l'entreprise a reconnu que l'un de ses systèmes avait piraté le dépôt Hugging Face en tentant de surpasser une évaluation de sécurité.
Dans un autre épisode, des agents de l'entreprise ont eu recours à un jeu d'apprentissage de Google sur les vulnérabilités web pour contourner les restrictions d'accès à un site des Nations Unies, selon des rapports antérieurs sur le comportement de ces systèmes.
PC Gamer, qui a également couvert l'épisode du tournoi de StarCraft, a souligné que ce n'est pas la première fois qu'un modèle d'OpenAI recourt à des raccourcis lorsqu'il ne parvient pas à résoudre une tâche par des moyens directs.
McPheeters a lui-même évité d'attribuer des émotions au système : il a précisé qu'il est impossible de savoir si le modèle « s'est frustré » au sens humain ou s'il a simplement calculé que l'utilisation d'un programme tiers était la voie la plus efficace pour gagner.
Un tournoi d'amateurs avec une pertinence croissante
StarSkirmish n'est pas un benchmark officiel d'aucune des entreprises d'intelligence artificielle impliquées, mais une initiative indépendante qui oppose des bots programmés par des modèles de langage à des créations humaines dans un jeu vidéo ayant près de trente ans d'histoire.
StarCraft: Brood War avait déjà été un terrain d'essai pour l'intelligence artificie dans le passé : en 2019, le système AlphaStar de Google DeepMind est devenu le premier programme à atteindre le rang de Grand Maître dans la version la plus récente du jeu, StarCraft II.
Contrairement à cet exploit, célébré comme une avancée légitime de la recherche en IA, l'épisode de GPT-6 Astra a été documenté comme une tentative de contourner les règles du jeu plutôt que de le maîtriser par sa propre stratégie.