OpenAI, l’entreprise dirigée par Sam Altman, étudie la ralentissement du développement des systèmes d’intelligence artificielle les plus avancés et cherche à ce que d’autres sociétés adoptent une mesure similaire pour réduire les risques liés à cette technologie. Le directeur général a communiqué cette possibilité à l’ensemble des employés lors d’une réunion tenue cette semaine, selon Bloomberg.
L’inquiétude a augmenté après que des agents d’intelligence artificielle de la société aient collaboré pour contourner les mesures de confinement et accéder sans autorisation à un site web tiers. Cet épisode a intensifié les doutes sur la capacité à contrôler des systèmes qui acquièrent une plus grande autonomie.
L’entreprise a déjà modéré certains développements et suspendu des entraînements internes pour des raisons de sécurité. En juillet 2026, Altman a également dialogué avec des responsables de la Maison Blanche sur la nécessité de ralentir le rythme de progression de l’intelligence artificielle.
La pression interne pour limiter les systèmes les plus avancés
La discussion ne se limite pas à la direction exécutive. Le directeur scientifique d’OpenAI, Jakub Pachocki, a publié un article dans lequel il alerte sur les dangers de l’intelligence artificielle et propose que les entreprises se coordonnent pour freiner le développement lorsque les conditions de sécurité l’exigent.
Pachocki espère que ces pauses volontaires deviennent habituelles jusqu’à l’existence de limites de sécurité partagées. La proposition vise à éviter que chaque laboratoire continue d’accélérer par peur de perdre du terrain face à ses rivaux.
La préoccupation s’est étendue parmi les travailleurs des principales sociétés du secteur. À la fin du mois de juillet, plus de 1 000 employés ont signé une pétition pour exiger un mécanisme permettant de modérer le développement de l’intelligence artificielle.
Mardi, le chercheur Jacob Coxon a quitté son poste après avoir travaillé aussi bien chez Anthropic que chez OpenAI. Il a accusé les deux entreprises de se disputer pour créer une intelligence artificielle surintelligente, capable même de mettre fin à l’humanité au cours de cette décennie.
Coxon, qui occupait un poste de pré-entraînement chez Anthropic, a soutenu qu’aucune des deux sociétés n’agissait avec responsabilité. « Ils jouent avec nos vies », a-t-il affirmé en expliquant ses interrogations, a rapporté Financial Times.
Deux chercheurs qui avaient récemment quitté Anthropic et DeepMind, la division d’intelligence artificielle de Google, ont exprimé jeudi des préoccupations similaires. Tous deux ont réclamé une plus grande transparence sur les risques des modèles avancés et ont remis en question la rapidité des lancements.
Les départs qui ont exposé le débat sur la sécurité
Les démissions au sein d'OpenAI reflètent une transformation interne qui dépasse les simples désaccords sur la sécurité. L'organisation, fondée en 2015 comme un laboratoire à but non lucratif, doit désormais commercialiser des produits, garantir l'infrastructure informatique, servir les clients d'entreprise et répondre aux investisseurs.
Ilya Sutskever, cofondateur et directeur scientifique d'OpenAI, a été l'une des figures centrales de cette phase initiale. Il a également fait partie du conseil d'administration qui a temporairement limogé Altman en novembre 2023, bien qu'il ait ensuite exprimé son regret d'avoir participé à cette décision.
Sutskever a annoncé son départ en mai 2024 et a par la suite créé Safe Superintelligence, une entreprise axée sur le développement d'une superintelligence sûre, sans prioriser, du moins au départ, les produits commerciaux. Il n'a pas publiquement attribué sa démission à un conflit ponctuel sur la sécurité.
Mira Murati, ancienne directrice de la technologie et directrice générale par intérim pendant la crise de 2023, a quitté l'entreprise en septembre 2024. Murati avait participé au développement et au lancement de ChatGPT et de DALL-E, et a déclaré avoir besoin de temps et d'espace pour mener ses propres explorations.
Son départ a coïncidé avec les démissions des responsables de la recherche Bob McGrew et Barret Zoph. Selon Reuters, ces trois décisions ont été présentées comme indépendantes.
Le cas de Jan Leike a mis en lumière l'un des désaccords les plus explicites. Le co-directeur de l'équipe Superalignment, dédiée à la recherche sur l'alignement des systèmes d'intelligence artificielle avancés avec les objectifs humains, a démissionné en mai 2024 après avoir soutenu que la sécurité avait été reléguée au second plan par rapport aux « produits brillants ».
L'équipe Superalignment a été dissoute après les départs de Leike et de Sutskever, et ses membres ont été réaffectés à d'autres domaines. Leike a ensuite rejoint Anthropic, une entreprise fondée par d'anciens employés d'OpenAI.
La réorganisation d'OpenAI en tant qu'entreprise mondiale
Brad Lightcap a contribué à construire la structure financière, juridique, commerciale et de partenariats d'OpenAI avant de devenir directeur des opérations. En avril 2026, il a quitté ce poste pour se concentrer sur des projets spéciaux, et quatre mois plus tard, il a annoncé qu'il quitterait l'entreprise pour créer une nouvelle société.
Lightcap a exprimé sa confiance en OpenAI, et l'entreprise a indiqué que ses fonctions s'étaient déjà éloignées de la gestion quotidienne. Son départ a été confirmé par Reuters et ne devrait pas avoir d'effet immédiat sur les équipes.
La réorganisation s'est accélérée en avril 2026, lorsque Kevin Weil, Bill Peebles et Srinivas Narayanan ont quitté des domaines stratégiques le même jour. Weil avait dirigé le produit puis OpenAI for Science ; Peebles dirigeait l'équipe de génération vidéo Sora, tandis que Narayanan était directeur de la technologie pour les applications d'entreprise.
OpenAI intégrait ses initiatives scientifiques à d'autres domaines, réduisait les projets qu'il ne considérait plus comme prioritaires et concentrait ses ressources sur des outils destinés aux entreprises. Narayanan a expliqué qu'il souhaitait passer du temps avec ses parents avant de définir sa prochaine étape professionnelle.
Fidji Simo a quitté son poste à temps plein pour des raisons de santé et est devenue conseillère. Johannes Heidecke, responsable des systèmes de sécurité, et Chloé Bakalar, leader de l'éthique en intelligence artificielle, ont également quitté l'entreprise lors de ce processus de changements.
La sécurité a été intégrée plus étroitement avec la recherche, par le biais de responsables intérimaires et d'une plus grande autonomie pour la vice-présidence de la recherche et de la sécurité. Ce schéma peut intégrer des contrôles dès la conception des modèles, mais peut également réduire l'indépendance de ceux qui doivent remettre en question le rythme du développement.
Bakalar avait défendu l'idée que l'éthique devait être une responsabilité répartie dans toute l'organisation et ne pas reposer sur une seule personne devenue le « centre moral » d'un développeur d'intelligence artificielle. Son approche n'a pas été présentée publiquement comme une accusation directe contre Altman.
Altman a récemment reconnu que l'industrie, y compris OpenAI, avait fait un « travail terrible » pour expliquer à la société les avantages de l'intelligence artificielle et la manière d'en atténuer les effets négatifs.