Des représentants d'OpenAI et d'Anthropic ont déclaré mardi à un comité du Parlement britannique que les engagements volontaires ne suffisent plus à garantir la sécurité de l'intelligence artificielle et ont plaidé pour des lois obligatoires. Google DeepMind et Meta, cités lors de la même audience, ont refusé d'appuyer cette position.
La séance s'est tenue devant le Comité des affaires, de l'innovation, de la science et du commerce de la Chambre des communes, composé de parlementaires de différents partis. Les quatre entreprises, quatre anciens employés devenus lanceurs d'alerte et de hauts fonctionnaires britanniques y ont participé.
« Les règles devraient être obligatoires », a déclaré Liam Booth-Smith, responsable d'Anthropic pour l'Europe, interrogé sur le savoir si l'entreprise estime que la sécurité de l'IA nécessite aujourd'hui un cadre juridique. La société a ajouté : « Je pense toujours qu'il doit y avoir des règles obligatoires pour les entreprises et que les engagements volontaires ne suffisent pas ».
La fracture entre les quatre géants
Le vice-président d'OpenAI, Tom Duff Gordon, s'est montré prudent mais a également soutenu un cadre juridique et une convention internationale. « Il devrait y avoir certains éléments obligatoires », a-t-il déclaré, en commençant par le signalement des incidents. Il a soutenu que fonder tout sur des engagements volontaires « n'est pas un bon plan à long terme » pour les risques liés aux modèles les plus avancés.
Leurs homologues de la concurrence n'ont pas suivi cette position. Interrogé directement sur son soutien à un cadre juridique obligatoire, Owen Larter, responsable des politiques publiques chez Google DeepMind, a répondu que la priorité de l'entreprise était de travailler « sur les normes ». Rob Sherman, de Meta, a salué le fait que le Royaume-Uni « n'ait pas écrit sur une page blanche » car il dispose déjà de régulateurs sectoriels.
Pour Liam Byrne, le parlementaire travailliste qui préside le comité, ce contraste était précisément l'objectif de l'audience. Il a déclaré à Wired que la séance visait à « exposer les vastes différences d'opinion entre certaines des entreprises les plus riches du monde » et à démontrer « qu'on ne pouvait pas se fier à l'auto-régulation volontaire ».
Avertissements simultanés à Westminster
Tandis que les quatre dirigeants témoignaient, à quelques mètres de là, le directeur du service de renseignement MI5, Ken McCallum, présentait son rapport annuel sur les menaces et mettait en garde contre l'usage abusif de l'IA pour le développement d'armes biologiques.
« Cela ne s'est pas encore concrétisé, mais le cas d'usage abusif auquel j'attribue le plus de poids est le potentiel de l'IA à changer les règles du jeu dans les armes biologiques existantes ou même nouvelles », a déclaré McCallum.
Byrne a lié ces deux faits. « Que le chef du MI5 mette en garde contre des capacités extrêmement dangereuses pour les bioterroristes au sein d'une partie du gouvernement, et qu'en parallèle, le fonctionnaire principal du Cabinet admette que notre régime réglementaire pour l'IA est volontaire, cela vous dit tout ce que vous devez savoir », a-t-il déclaré à Wired.
Lors de la dernière partie de l'audience, les fonctionnaires ont admis les limites du système actuel. L'Institut britannique pour la sécurité de l'IA (AISI), l'organisme qui évalue les modèles avant leur lancement, dépend entièrement de la décision des entreprises de les lui soumettre volontairement.
Son directeur, Henry de Zoete, a reconnu que l'institut n'a aucun moyen d'empêcher une entreprise de publier un modèle même si elle le considère dangereux. « Ce que nous ne faisons pas, c'est certifier », a-t-il expliqué, ajoutant que l'AISI « ne dit ni oui ni non à aucun modèle ».
Cat Little, la fonctionnaire la plus élevée du Cabinet dont dépend l'AISI, a été interrogée sur le caractère volontaire de l'ensemble du régime. « Pour le moment, oui, c'est le cas », a-t-elle répondu aux législateurs.
Une réclamation qui remonte à septembre
Le comité avait envoyé des lettres formelles aux quatre entreprises le 22 septembre, avec dix questions sur les tests de sécurité obligatoires, l'accès de l'AISI aux modèles et aux données d'entraînement, ainsi que la responsabilité personnelle des dirigeants autorisant la mise sur le marché d'un modèle. Les entreprises devaient confirmer leur présence avant le 29 septembre.
Le comité a indiqué qu'il publierait un rapport contenant ses conclusions et recommandations une fois l'analyse des témoignages recueillis lors de l'audience terminée, une étape qui pourrait pousser le gouvernement britannique à légiférer sur les tests obligatoires et la déclaration d'incidents pour les systèmes d'IA les plus avancés.