Le PDG d'OpenAI, Sam Altman, a soutenu que « le monde devrait accepter certains risques liés à l'intelligence artificielle (IA) en échange des avantages et de l'autonomie qu'elle offre », tout en écartant toute possibilité de tolérer une perte grave de contrôle sur les systèmes avancés.
Sa position marque une différence avec Anthropic, dirigée par Dario Amodei, l'un des laboratoires qui plaide pour des réglementations plus strictes pour les modèles de plus grande capacité.
Qu'a pensé Sam Altman de l'intelligence artificielle
Altman a formulé sa vision lors d'une interview avec Decoded de Politico, où il a déclaré que le développement de l'IA apporterait des séquelles négatives ainsi que des avancées à grande échelle.
L'exécutif a soutenu que la société doit accepter cet échange pour que les personnes conservent leur capacité de décision quant à l'utilisation de ces outils.
« Nous pensons que le monde devrait accepter certains aspects négatifs en échange des avantages de cette technologie et du fait que les personnes aient de l'autonomie », a affirmé Altman. Cela génère du bruit car OpenAI s'était joint quelques semaines plus tôt à Anthropic pour demander un ralentissement de l'avancée de certaines capacités de l'IA.
Pourquoi la vision du contrôle de l'IA d'Anthropic s'est éloignée de celle d'OpenAI
L'écart entre les deux laboratoires s'est réduit ces derniers mois en matière de sécurité et de réglementation des modèles, mais Altman a maintenu ses réserves sur la manière dont Anthropic conçoit le contrôle de la technologie. Sa critique visait la possibilité que cette responsabilité soit concentrée dans une seule organisation.
« Je ne suis pas d'accord, mais je comprends la perspective de ceux qui pensent quelque chose comme : 'Cette technologie sera si puissante et si dangereuse qu'un seul laboratoire à San Francisco devrait la posséder et s'assurer qu'il n'y ait rien de mal, gérant d'une manière ou d'une autre la répartition de ses avantages' », a assuré le directeur général d'OpenAI.
Pour Altman, les personnes utiliseront ces systèmes à des fins positives dans une proportion « énormément plus grande » que pour des fins préjudiciables. Par conséquent, il n'accepterait pas de renoncer aux avantages de l'IA pour empêcher complètement de grandes cyberattaques, des escroqueries, des utilisations abusives ou d'autres dommages qui, selon lui, se produiront.
L'exécutif a précisé que cette acceptation des risques a une limite : elle n'inclut pas les scénarios catastrophiques ni une perte grave de contrôle sur la technologie. Un porte-parole d'Anthropic a expliqué à Politico que ses propositions réglementaires s'appliquent uniquement aux modèles de pointe.
Quels autres leaders remettent en question le contrôle strict de l'IA
Les divergences entre les principaux dirigeants du secteur ont été exposées lors d'une réunion privée à la Maison Blanche, après un déjeuner organisé par le président des États-Unis, Donald Trump, et le président de la Chambre des représentants, Mike Johnson.
Là, Dario Amodei, directeur général d'Anthropic, a défendu ses avertissements sur les risques de la technologie face aux critiques de Jensen Huang, le responsable de Nvidia.
La rencontre à Washington a montré que le désaccord ne se limite pas à OpenAI et Anthropic. Les participants ont diffusé une position commune sur l'importance de la sécurité, mais les différences sont apparues lors d'une session plus restreinte dans la salle Roosevelt, selon The Wall Street Journal.
Huang a remis en question les déclarations publiques d'Amodei sur les capacités des systèmes d'IA. Le responsable d'Anthropic a défendu la nécessité de communiquer avec transparence sur les risques associés à ces outils, en particulier leur potentiel pour faciliter les cyberattaques et modifier le marché du travail.
La vision d'Amodei consiste à évaluer les dangers avant que les modèles n'atteignent des capacités permettant des activités malveillantes ou accélérant l'automatisation de certaines professions. D'autres entrepreneurs ont objecté aux propositions qui pourraient limiter le rythme de développement de cette technologie.
De plus, Huang a rejeté des mesures qui, selon lui, pourraient concentrer trop de pouvoir entre les mains d'un groupe restreint d'entreprises. La discussion avait déjà émergé autour d'une proposition de créer une organisation d'autorégulation soutenue par Anthropic, OpenAI et Google.