Le président Joe Biden a signé lundi un décret de grande envergure sur l’intelligence artificielle (IA), exploitant la force des agences du gouvernement fédéral et invoquant de larges pouvoirs d’urgence pour exploiter le potentiel et faire face aux risques de ce qu’il a appelé « le plus important ». technologie de notre époque.
Il s'agit de l'initiative la plus ambitieuse du gouvernement américain visant à stimuler l'innovation et à répondre aux préoccupations selon lesquelles la technologie en plein essor pourrait exacerber les préjugés, déplacer les travailleurs et compromettre la sécurité nationale .
"Une chose est claire : pour réaliser les promesses de l'IA et éviter les risques, nous devons gouverner cette technologie", a déclaré Biden lors d'un discours à la Maison Blanche avant la signature lundi, qualifiant l'ordre de "€ « l'action la plus importante qu'un gouvernement dans le monde ait prise en matière de sûreté, de sécurité et de confiance dans l'IA. »
Cette décision intervient à un moment où les décideurs politiques et les régulateurs du monde entier envisagent de nouvelles mesures pour superviser et renforcer le déploiement de la technologie, mais aussi à un moment où les tentatives visant à adopter une législation complète sur l'IA au Congrès restent naissantes, limitant les dirigeants du gouvernement fédéral. faire appliquer les protections existantes et suivre les actions exécutives.
L'ordonnance aborde un large éventail de questions, imposant de nouvelles obligations de sécurité aux développeurs d'IA et demandant à un certain nombre d'agences fédérales d'atténuer les risques de la technologie tout en évaluant leur propre utilisation des outils, selon une synthèse fournie par la maison Blanche.
L'ordonnance oblige les entreprises qui construisent les systèmes d'IA les plus avancés à effectuer des tests de sécurité , une pratique appelée « équipe rouge », et à communiquer les résultats au gouvernement avant de lancer leurs produits . L’ordonnance utilise la loi sur la production de défense – une loi de 1950 qui a été utilisée lors de crises récentes telles que la pandémie de coronavirus et les pénuries de formules – pour obliger les entreprises à partager avec le gouvernement les résultats des tests.
Biden a déclaré que ces pouvoirs sont généralement réservés aux « moments les plus urgents », comme les temps de guerre, et qu'il prévoyait d'utiliser « la même autorité pour forcer les entreprises à démontrer que leurs systèmes les plus puissants sont sécurisés avant de permettre leur utilisation ». »
L'ordonnance exploite le pouvoir d'achat fédéral, ordonnant au gouvernement d'utiliser des pratiques de gestion des risques lors de l'utilisation de l'IA susceptible d'avoir un impact sur les droits ou la sécurité des personnes, selon un projet d'ordonnance consulté par le Washington Post. Selon le projet, les agences devront surveiller et évaluer en permanence l’IA utilisée.
L'ordonnance ordonne également au gouvernement d'élaborer des règles permettant aux entreprises d'étiqueter le contenu généré par l'IA , souvent appelé filigrane, et demande à plusieurs agences d'analyser comment la technologie pourrait perturber des secteurs tels que l'éducation, la santé et la défense.
Cette ordonnance intervient au milieu d’une vague d’efforts visant à élaborer de nouvelles lois, à mener des enquêtes sur la protection des consommateurs et à collaborer avec les régulateurs internationaux pour réduire les risques liés à l’IA. Cette décision aura de vastes implications pour presque toutes les agences du gouvernement fédéral, ainsi que pour une multitude d’entreprises de la Silicon Valley qui se précipitent pour créer des systèmes d’IA avancés.
La mise en œuvre de cette ordonnance représente un test majeur pour l’administration Biden, qui a eu du mal à tenir ses promesses de créer des barrières pour les puissantes entreprises de la Silicon Valley. Biden et le vice-président Harris se sont engagés depuis la campagne électorale à s’attaquer à la concurrence dans le secteur technologique et aux méfaits des médias sociaux, signalant ainsi leur intention d’adopter une ligne plus dure à l’égard de l’industrie technologique que l’administration Obama.
Mais il y a des limites à ce que l’administration Biden peut accomplir sans une loi du Congrès. Hormis la nomination de responsables clés ayant un historique d’antagonisme envers la Silicon Valley, la Maison Blanche a pris peu de mesures sur les questions technologiques. Le Congrès, pour sa part, n'a adopté aucune législation technologique majeure , malgré des années de tentatives pour élaborer des règles sur la confidentialité, la sécurité en ligne et les technologies émergentes.
À titre d'exemple de ces restrictions, l'ordonnance appelle le Congrès à « adopter une législation bipartite sur la confidentialité des données pour protéger tous les Américains, en particulier les enfants », selon le résumé de la Maison Blanche, une mesure qui sert de reconnaissance tacite des limites de Biden.
"Je peux voir la frustration dans ce [décret exécutif] selon lequel une grande partie de cela devrait être faite par le Congrès, mais ils ne font rien ", a déclaré Ryan Calo, professeur de droit spécialisé dans la technologie et l'IA à l'Université de Washington. Washington.
On ne sait pas exactement dans quelle mesure l'ordonnance affectera le secteur privé, étant donné qu'elle se concentre sur les agences fédérales et sur des « circonstances très spécifiques » liées aux questions de sécurité nationale, a ajouté Calo.
Un haut responsable de l'administration Biden, qui a informé les journalistes sous couvert d'anonymat avant l'introduction de l'ordonnance, a déclaré que, parce qu'ils fixent un « seuil très élevé » pour les modèles couverts, les exigences en matière de tests de sécurité « ne prendront probablement en compte aucun système ». actuellement sur le marché.
"Il s'agit avant tout d'une action prospective pour la prochaine génération de modèles" , a déclaré le responsable.
"Ce décret représente une action audacieuse, mais nous avons encore besoin que le Congrès agisse ", a déclaré Biden lundi.
Le chef de la majorité au Sénat, le démocrate Charles Schumer, qui a assisté à la signature, et le directeur du Bureau de la politique scientifique et technologique de la Maison Blanche, Arati Prabhakar, ont déclaré la semaine dernière lors d'un événement en direct au Washington Post que le Congrès avait également un rôle à jouer dans l'élaboration du projet. Législation sur l’IA.
"Il y a probablement une limite à ce qui peut être fait par décret", a déclaré Schumer. "Ils sont inquiets et font beaucoup de réglementation, mais tout le monde admet que la seule vraie réponse est législative ."
Schumer dirige un groupe bipartite de législateurs axés sur l’élaboration d’une législation sur l’IA, mais il leur faudra probablement des mois avant de présenter une proposition. Cette semaine devraient accueillir deux forums AI Insight, qui ont réuni des cadres supérieurs de l'industrie, des dirigeants de la société civile et d'éminents chercheurs en IA pour discuter de la nécessité de barrières fédérales à l'IA, ainsi que d'un financement accru pour la recherche. Biden a déclaré qu'il prévoyait de rencontrer Schumer et d'autres législateurs pour discuter de la législation sur l'IA à la Maison Blanche mardi.
La représentante Zoe Lofgren (Californie), la plus haute démocrate de la commission des sciences, de l'espace et de la technologie de la Chambre, a déclaré que le Congrès devra également « financer de manière adéquate nos agences scientifiques fédérales afin qu'elles puissent mener à bien l'importante recherche et l'élaboration de normes décrites dans cet exécutif ». commande."
Le décret ordonne à plusieurs agences gouvernementales d’atténuer les obstacles à l’immigration hautement qualifiée, dans un contexte de bataille mondiale pour les talents en IA. Les dirigeants de la Silicon Valley poussent Washington depuis des années à prendre des mesures pour améliorer le processus pour les immigrants hautement qualifiés, mais les experts disent qu'ils espèrent que le Congrès suivra l'exemple de l'administration Biden et envisagera de nouvelles lois sur l'immigration au milieu de son débat sur l'IA.
"C'est peut-être la mesure la plus importante qui stimulera la compétitivité américaine ", a déclaré Divyansh Kaushik, directrice associée des technologies émergentes et de la sécurité nationale à la Fédération des scientifiques américains.
L’administration Biden agit alors que d’autres gouvernements du monde entier poursuivent leurs efforts pour réglementer les systèmes d’IA avancés. L’Union européenne devrait parvenir à un accord plus tard cette année sur sa loi sur l’IA, un vaste paquet destiné à protéger les consommateurs contre les applications potentiellement dangereuses de l’IA. Pendant ce temps, la Chine a de nouvelles réglementations pour les systèmes d'IA générative , qui tentent de stimuler la croissance des outils d'IA générative du pays tout en gardant le contrôle sur les informations que les systèmes mettent à la disposition du public.
Le jour même de la signature du décret, le G7 - qui comprend les États-Unis, la France, l'Allemagne, l'Italie, le Japon, le Royaume-Uni et le Canada, en plus de l'Union européenne - a annoncé des lignes directrices volontaires pour les entreprises, appelées Code de conduite international pour les organisations développant des systèmes d'IA avancés . Les lignes directrices exhortent les entreprises à procéder régulièrement à des évaluations des risques de leurs modèles et à prêter attention aux systèmes susceptibles de constituer une menace pour les valeurs démocratiques ou la société, comme permettre la création d'armes biologiques ou nucléaires.
La Commission européenne a décrit le code comme un « document évolutif » qui sera mis à jour pour répondre à l'évolution de la technologie.
Cette vague d'activité inquiète certains législateurs de Washington, qui craignent que les États-Unis soient à la traîne par rapport aux autres pays dans l'établissement de nouvelles normes pour cette technologie.
Le décret intervient quelques jours seulement avant que Harris ne s'apprête à promouvoir la vision américaine de la réglementation de l'IA lors du British AI Summit, un événement de deux jours qui rassemblera des dirigeants du monde entier pour discuter de la manière de répondre aux applications les plus risquées. de la technologie. Le décret indique que l'administration Biden adopte une approche différente de celle du Royaume-Uni, qui a jusqu'à présent adopté une position douce à l'égard des entreprises d'IA et concentre son sommet sur les menaces à long terme de l'IA, y compris la possibilité d'un dépassement technologique. humains.
"Nous souhaitons que les mesures que nous prenons au niveau national servent de modèle pour l'action internationale", a déclaré Harris avant la signature de lundi.
Reggie Babin, avocat spécialisé dans la réglementation de l'IA chez Akin Gump Strauss Hauer & Feld, a déclaré que le décret envoie un « signal au monde » sur les priorités américaines en matière de lutte contre l'IA.
Jusqu'à présent, « beaucoup de gens considéraient les Américains comme, je ne veux pas dire absents, mais ils n'ont certainement pas joué un rôle central en termes d'établissement d'une vision claire de la politique applicable à la façon dont notre condition de leader mondial pourrait suggérer que nous devrions le faire », a déclaré Babin, qui était auparavant conseiller principal de Schumer.
L’administration Biden a annoncé pour la première fois qu’elle travaillait sur l’action exécutive en juillet, lorsqu’elle a demandé à des entreprises comme OpenAI et Google de s’engager volontairement à tester leurs modèles avancés avant de les rendre publics et à partager des données sur la sécurité de leurs systèmes.
© Le Washington Post 2023