Sam Altman, directeur général de OpenAI, a admis que l'entreprise n'a pas de contrôle sur l'utilisation que le Pentagone fait de sa technologie d'intelligence artificielle, même dans des contextes militaires et des opérations secrètes.
Selon des médias américains, Altman a indiqué aux employés que les décisions opérationnelles concernant le déploiement de l'IA relèvent exclusivement des autorités militaires américaines.
Tension entre éthique et utilisation militaire de l'intelligence artificielle
L'annonce d'Altman intervient au milieu d'un débat croissant sur les limites éthiques de l'application de l'intelligence artificielle dans la sphère militaire. OpenAI et d'autres entreprises technologiques ont reçu des pressions du Department of Defense des États-Unis (actuellement dénommé "Department of War" suite à un ordre exécutif) pour assouplir les restrictions de sécurité de leurs modèles, dans le but d'élargir leur utilisation dans des opérations de défense.
Selon Bloomberg, Altman a souligné devant son équipe : “Vous ne pouvez pas prendre de décisions opérationnelles”, et a illustré la situation en disant : “Peut-être pensez-vous que l'attaque en Iran était justifiée et que l'invasion du Venezuela était négative. Cela ne vous concerne pas de donner votre avis là-dessus”. Ces affirmations reflètent la distance entre les développeurs d'IA et les décisions stratégiques concernant leur utilisation réelle dans les conflits.
Rivalité commerciale et dilemmes éthiques
Le contexte de ces déclarations comprend une rivalité directe entre OpenAI et Anthropic, son principal concurrent, pour des contrats avec le gouvernement américain. Anthropic, dirigé par Dario Amodei, a récemment rejeté un accord avec le Pentagone en raison de préoccupations concernant le possible usage de son IA pour une surveillance interne massive ou le développement de systèmes d'armement autonomes.
Ce refus a conduit le secrétaire à la Défense, Pete Hegseth, à qualifier Anthropic de "risque dans la chaîne d'approvisionnement", une désignation sans précédent pour une entreprise américaine et ayant de graves implications économiques si elle est officialisée.
Quelques heures après la rupture de l'accord avec Anthropic, le Pentagone a annoncé publiquement un contrat avec OpenAI pour remplacer la technologie de son rival dans des applications militaires. The Information et ABC ont détaillé que cette décision a suscité des critiques tant internes qu'externes à l'égard d'OpenAI, et a entraîné des réactions d'employés préoccupés par le franchissement de lignes éthiques qu'Anthropic avait décidé de ne pas traverser.
Changements et promesses après la polémique
Face à la vague de questions, Altman a reconnu que l'accord avec le Pentagone avait été signé rapidement, ce qui a donné une image “opportuniste et négligente” de l'entreprise. Dans une tentative de limiter les dommages à la réputation, le PDG d'OpenAI a annoncé la révision du contrat pour inclure des garanties supplémentaires : la technologie ne sera pas utilisée pour la surveillance interne des citoyens américains et ne sera pas utilisée par des agences comme la NSA sans un nouvel accord spécifique.
Dans des déclarations recueillies par CNBC, Altman a déclaré : “Deux de nos principes de sécurité les plus importants sont l'interdiction de la surveillance massive domestique et l'exigence de responsabilité humaine dans l'utilisation de la force, même dans des systèmes d'armement autonomes”. Le Département de la Défense a publiquement soutenu ces engagements, assurant que la collaboration sera limitée à des usages légaux et que toute exception nécessitera un accord supplémentaire.
Pour sa part, Anthropic, après avoir été écartée des contrats gouvernementaux, a remis en question l'intégrité d'Altman et de la direction d'OpenAI. Dans un communiqué interne diffusé par The Information, Amodei a accusé Altman de “manque d'honnêteté” et d'avoir tenté de proposer “du théâtre de sécurité” pour calmer ses employés, tout en cédant aux pressions politiques et économiques.
L'avenir de l'IA dans la défense américaine
La confrontation entre les entreprises technologiques et le Department of Defense a mis en lumière les difficultés à définir des limites claires à l'utilisation militaire de l'intelligence artificielle. Alors qu'Altman admet qu'OpenAI manque de contrôle sur l'application finale de ses systèmes, le gouvernement insiste sur le fait qu'il cherche uniquement à utiliser la technologie à des fins légales et sous surveillance.
La controverse laisse ouverte la discussion sur qui doit établir les lignes rouges dans l'avancement de l'IA militaire : si cela revient aux entreprises fournisseurs ou si le dernier mot doit revenir aux organismes d'État et de défense.