David Robinson, ancien responsable de l'équipe de sécurité des systèmes d'OpenAI, a affirmé que la société émettait des avertissements publics sur les risques liés à ses modèles tout en continuant à les entraîner et à les déployer au même rythme.
Robinson a fait ces déclarations lors de sa première interview après avoir démissionné de l'entreprise, accordée à Ezra Klein pour l'émission The Ezra Klein Show du New York Times. « Nous continuions à publier ces avertissements, mais en fin de compte, nous continuions à entraîner et à déployer ces modèles dangereux sur lesquels nous mettions en garde », a-t-il déclaré.
Une activité "frénétique" derrière les discours publics
En juillet, des centaines d'employés d'OpenAI ont signé une lettre ouverte intitulée « Pacing the Frontier », dans laquelle ils ont demandé au gouvernement d'imposer des réglementations pour freiner le développement de l'intelligence artificielle. Deux mois plus tard, en septembre, le PDG de la société, Sam Altman, a exprimé son accord sur le réseau social X avec le PDG d'Anthropic, Dario Amodei, qui avait précédemment publié un essai proposant que les entreprises d'IA coordonnent un ralentissement conjoint.
"Nous devons rythmer la frontière", a écrit Altman à ce moment-là. "Cela a été un thème central des discussions que nous avons eues au sein d'OpenAI au cours des dernières semaines".
Cependant, selon Robinson, l'activité au sein des bureaux de la société restait "frénétique" et le personnel travaillait "avec les réserves à leur limite". "On dirait presque un ballet ou une sorte de danse, car toutes ces différentes fonctions convergent entre elles", a-t-il décrit concernant l'environnement interne d'OpenAI. "Il y a beaucoup d'adrénaline".
Des chercheurs d'OpenAI ont directement évoqué les dangers de permettre à l'intelligence artificielle de s'améliorer elle-même, un processus connu sous le nom de récursivité auto-améliorante (RSI). Jakub Pachocki, scientifique en chef de la société, a indiqué dans un article de blog sur ce phénomène en septembre : "C'est un moment qui exige une extrême prudence".
Un porte-parole de la société avait précédemment déclaré, en réponse à un essai publié par Robinson dans la revue The Atlantic, que l'entreprise travaillait à renforcer la sécurité de ses modèles d'intelligence artificielle.
"À mesure que nos modèles deviennent plus performants, nous continuons à renforcer nos pratiques de sécurité", a indiqué le porte-parole. "Nous veillons à ce que nos modèles ne deviennent pas plus performants que ce que nous pouvons gérer et sécuriser de manière sûre, et nous interrompons l'entraînement ou retenons les modèles lorsque nous devons ralentir".
Vague de démissions dans les principaux laboratoires d'IA
Le départ de Robinson s’inscrit dans une tendance plus large au sein de l’industrie : en 2026, OpenAI a perdu au moins 14 hauts dirigeants, notamment des responsables des opérations, de la sécurité, de l’éthique et du produit, tandis qu’Anthropic a également enregistré des démissions au sein de son équipe dirigeante. Parmi les cas les plus médiatisés, Jacob Coxon, chercheur en pré-entraînement ayant précédemment travaillé chez OpenAI, a accusé les deux laboratoires de « jouer avec nos vies » dans la course au développement de systèmes de plus en plus autonomes.
Parmi les antécédents les plus pertinents de cette dynamique figure la démission de Jan Leike, co-directeur de l’équipe Superalignment d’OpenAI, qui a quitté l’entreprise en mai 2024 en raison de désaccords avec la direction sur les priorités fondamentales de l’entreprise, estimant que les processus de sécurité avaient été relégués au second plan par rapport au développement de « produits brillants ».
Dès 2026, Johannes Heidecke, responsable des systèmes de sécurité, et Chloé Bakalar, responsable de l’éthique en intelligence artificielle, ont également quitté l’entreprise au milieu d’une réorganisation interne visant à intégrer les domaines de la sécurité et de la recherche.