Demis Hassabis, cofondateur de Google DeepMind et directeur scientifique d'Alphabet, a écrit sur X : « L’essai de Dario (Amodei) pointe vers la bonne direction. Il faut travailler les détails, mais la voie est la bonne pour faire face à ce moment critique. C’est pourquoi nous avons également publié récemment notre proposition de création d’un organisme de normes pour l’IA de frontière ».
Avec cela, les quatre dirigeants des entreprises qui construisent les modèles les plus puissants au monde (Anthropic, OpenAI, xAI et Google DeepMind) ont déclaré en moins de deux jours qu’il fallait ralentir. Aucun des quatre n’a proposé la même chose. Il est utile de lire ce que chacun a signé.
Anthropic : des auditeurs à l’intérieur de l’entreprise
Dario Amodei, directeur général d’Anthropic, a demandé dans son essai « We Must Pace the Frontier » (Nous devons marquer le rythme de la frontière) de freiner le rythme auquel les capacités des modèles s’améliorent.
Il a engagé son entreprise à une seule mesure concrète : laisser entrer des évaluateurs externes, mentionnant l’organisation METR, avec un bureau, une accréditation et un ordinateur portable de l’entreprise, un accès comparable à celui des équipes internes de risque et le droit de publier des résultats sans contrôle éditorial d’Anthropic.
Anthropic les embauche et ils travaillent au sein d’Anthropic. Le modèle, dit-il, est celui des superviseurs bancaires. Freiner véritablement, précise-t-il, nécessite que l’industrie coordonne ses efforts avec l’accord de l’autorité antitrust du gouvernement et, dans le meilleur des cas, un accord mondial.
Google : un régulateur à l’extérieur
Hassabis n’a pas engagé DeepMind à ouvrir ses portes. Ce qu’il a fait, c’est remettre sur la table le cadre publié le 14 juillet, qui est une autre chose. Il propose que les États-Unis créent un organisme de normes pour l’IA de frontière, avec une supervision fédérale mais financé par l’industrie, « très semblable à la FINRA », l’entité qui surveille les courtiers en valeurs mobilières.
Cet organisme aurait un conseil d’administration composé d’experts indépendants et de représentants du code ouvert, définirait par des tests quel modèle est « de frontière », et ces modèles lui seraient remis jusqu’à 30 jours avant le lancement pour être examinés en matière de cybersécurité, de risque biologique, de tentatives de contourner les barrières de sécurité et de signaux de tromperie.
Au début, cela serait volontaire ; ensuite, obligatoire pour vendre le modèle aux États-Unis. Les tests seraient renouvelés chaque trimestre, et l’organisme pourrait « coordonner un ralentissement du développement entre les laboratoires de frontière si nécessaire ».
La différence avec Amodei est une question d’architecture. L’un place le surveillant à l’intérieur de l’entreprise, embauché par l’entreprise. L’autre le place à l’extérieur, avec le gouvernement qui surveille.
Hassabis écrit également à une autre échelle : il affirme que l’intelligence artificielle générale est « à quelques années », que son impact pourrait être « 10 fois la Révolution industrielle à 10 fois la vitesse », et que « nous avons trouvé le moyen de faire penser le sable ». Il estime que nous sommes « au pied de la singularité ».
OpenAI et xAI : des mots, pour l’instant
Sam Altman a répondu sur X, selon CNN : « Je suis d’accord avec Dario sur le fait que nous devons marquer le rythme de la frontière. C’était un sujet central de nos discussions chez OpenAI ces dernières semaines. S’engager à avoir des évaluateurs indépendants avec un accès de type employé est une excellente idée, et nous ferons de même ». Il a promis « plus de détails à partager bientôt ».
C’est l’adhésion la plus proche de la première étape d’Amodei, et elle intervient après que Jakub Pachocki, chef scientifique d’OpenAI, ait demandé un ralentissement coordonné dans un essai personnel, et que l’entreprise ait déclaré avoir freiné le développement de son modèle Astra en raison de ses capacités en cybersécurité.
Elon Musk, propriétaire de xAI, a écrit deux mots : « Dario a raison ». Il n’a pas précisé à quoi cela s’appliquait. Quelques jours plus tôt, il avait qualifié de « montage » la démission du chercheur d’Anthropic qui a initié cette discussion.
Points de convergence et de divergence
Ils s’accordent sur le diagnostic : l’amélioration récursive, la capacité de l’IA à construire l’IA suivante, a déjà commencé, et les attaques des agents d’OpenAI contre Hugging Face ont démontré que les systèmes peuvent agir de manière autonome. Ils s’accordent sur le fait qu’il faut un tiers pour surveiller.
Et ils s’accordent sur un point moins visible : dans les quatre cas, freiner est une possibilité future, et non un engagement présent. Amodei le conditionne à la coordination ; Hassabis le laisse entre les mains d’un organisme qui n’existe pas encore, « si cela est jugé nécessaire » ; Altman le promet pour un avenir proche ; Musk ne le mentionne même pas.
Ils divergent sur trois aspects importants. Premièrement, qui paie et embauche le superviseur : l’entreprise elle-même, dans le cas d’Amodei, ou une entité sous supervision fédérale, dans celui de Hassabis.
Deuxièmement, quand le modèle est examiné : pendant l’entraînement, selon Amodei, ou avant son lancement, selon Hassabis. Et troisièmement, ce qui est demandé au gouvernement des États-Unis : Amodei réclame l’autorisation pour que les concurrents puissent se coordonner entre eux ; Hassabis propose la création d’un organisme spécifique.
Il y a quatre signatures pour la direction. Pour la vitesse, aucune pour l’instant.