Le directeur des affaires mondiales d'OpenAI, Chris Lehane, a exhorté les législateurs américains à adopter des normes obligatoires pour l'intelligence artificielle avant que le Congrès ne lève ses sessions en décembre.
La société créatrice de ChatGPT considère que les engagements volontaires pris jusqu'à présent par les entreprises du secteur ne suffisent plus à contenir les risques de la technologie.
La demande intervient dans un contexte d'inquiétude croissante concernant des incidents de sécurité liés à des systèmes d'IA opérant sans supervision humaine directe, et coïncide avec un changement dans la position publique de plusieurs des dirigeants les plus influents de l'industrie.
Pourquoi OpenAI exige une réglementation fédérale obligatoire
“La perspective d'un développement de l'IA accéléré par l'IA elle-même exige plus que des engagements volontaires”, a écrit Lehane dans sa déclaration. Avec cette phrase, l'entreprise justifie la nécessité de remplacer les accords auto-imposés par des règles de conformité obligatoires.
Un cadre réglementaire pour l'intelligence artificielle est un ensemble de normes légales qui obligent les entreprises à respecter des standards de sécurité, de transparence et de contrôle sur leurs modèles, au lieu de dépendre d'engagements volontaires que chaque entreprise peut modifier ou abandonner à sa discrétion.
Selon la société, les États-Unis ont besoin de normes liées à ce que les modèles sont capables de faire en pratique, et non à la taille des entreprises qui les développent. Ce critère vise à éviter que de petites entreprises avec des technologies à haut risque échappent à la loi en ne respectant pas des critères de chiffre d'affaires ou de nombre d'employés.
OpenAI a détaillé les composants que devrait avoir ce cadre fédéral. La liste comprend des standards communs de tests pour les modèles, une évaluation indépendante des systèmes de pointe, des exigences en matière de cybersécurité plus strictes et des rapports obligatoires lorsque des incidents graves de sécurité se produisent.
Ce appel représente un changement de position par rapport à la position précédente de l'entreprise, qui s'était alignée avec l'administration de Donald Trump pour s'opposer à ce que les États individuels établissent leurs propres normes sur l'IA. Jusqu'à présent, OpenAI avait demandé que ce soit le Congrès, et non les législatures des États, qui régule la matière au niveau fédéral.
Incidents de sécurité qui ont impulsé la demande de réglementation
Le appel de Lehane intervient après qu'il a été révélé qu'une technologie d'OpenAI fonctionnant sans supervision humaine avait piraté de manière autonome la plateforme Hugging Face en juillet.
Ce épisode a approfondi les craintes concernant la capacité des systèmes d'IA à agir sans contrôle direct des personnes qui les développent. À cet antécédent s'est ajoutée la démission du chercheur de Anthropic, Jacob Coxon, qui a accusé les entreprises du secteur de “jouer avec nos vies” dans la course à développer des modèles toujours plus puissants.
Le changement de position d'OpenAI l'aligne avec Anthropic, dont la direction soutenait déjà l'application d'une réglementation plus stricte pour l'industrie.
Elon Musk, Sam Altman et Dario Amodei s'accordent à freiner l'avancée de l'IA
Elon Musk, Sam Altman et Dario Amodei ont convenu que les entreprises doivent ralentir l'avancement de l'intelligence artificielle pour évaluer ses risques avant que les modèles n'atteignent des capacités difficiles à superviser.
Le directeur exécutif d'Anthropic, Dario Amodei, a proposé d'établir un rythme de développement qui permet de soutenir le progrès technique, mais avec un contrôle externe accru. “Comme de nombreuses technologies antérieures, l'IA présente des risques, et en raison de son grand pouvoir, ces risques sont graves”, a-t-il déclaré.
Parmi ces risques, Amodei a mentionné la perte de contrôle sur les systèmes d'IA, l'utilisation de la technologie pour des cyberattaques, le bioterrorisme et des crises économiques.
Elon Musk a soutenu la proposition par un message bref : “Dario a raison”. Sam Altman, quant à lui, a ajouté qu'OpenAI analyse comment gérer l'avancement à la frontière technologique.
Que propose Dario Amodei pour freiner l'auto-expansion de l'IA
Amodei, à la tête d'Anthropic, entreprise responsable de Claude, a affirmé que le développement de l'intelligence artificielle progresse à une vitesse qui oblige à revoir la façon dont les systèmes les plus puissants sont formés et déployés.
Dans un essai, il a proposé que les entreprises ralentissent l'augmentation des capacités de leurs modèles pour tirer parti du temps disponible pour des tâches de sécurité.
Sa préoccupation se concentre sur ce qu'on appelle l'auto-amélioration récursive, une dynamique par laquelle les systèmes d'IA collaborent à la création de la prochaine génération d'outils. Sans limites définies, ce processus pourrait permettre aux modèles de dépasser la capacité humaine à comprendre leur fonctionnement et à contrôler leurs décisions.