Les dirigeants des principales entreprises d'intelligence artificielle ont demandé au Conseil de sécurité des Nations Unies de promouvoir une réglementation mondiale pour la technologie qu'ils développent eux-mêmes, face au risque que leur expansion incontrôlée échappe à toute forme de supervision humaine.
Dario Amodei, directeur général d'Anthropic, et Sam Altman, directeur général d'OpenAI, ont fait des déclarations devant l'organisme et sont convenus que, sans sauvegardes communes, l'humanité pourrait perdre le contrôle sur le développement de l'intelligence artificielle.
Ce que demandent les leaders de l'intelligence artificielle à l'ONU
Dario Amodei a mis en garde contre le fait que le manque de contrôle sur cette technologie pourrait entraîner des conséquences irréversibles. « Si elle est mal gérée, je pense que l'IA pourrait même représenter un risque pour l'humanité dans son ensemble », a-t-il déclaré devant le Conseil de sécurité.
Sam Altman a exprimé une préoccupation similaire quant à la direction que peut prendre le développement de ces systèmes s'il n'existe pas de limites claires. « Nous pourrions perdre le contrôle de l'avenir entre les mains de l'IA », a soutenu le directeur général d'OpenAI.
Les deux dirigeants sont convenus sur un point central : les pays du monde, par l'intermédiaire du Conseil de sécurité, doivent établir des sauvegardes pour empêcher que la technologie n'atteigne un niveau de pouvoir impossible à superviser. Ils ont également réclamé que ce pouvoir ne soit pas concentré dans une seule entreprise ou un seul pays.
L'intelligence artificielle, lorsqu'elle est réglementée de manière appropriée, est une technologie capable d'élargir les capacités humaines dans les tâches d'analyse, de production et de prise de décision, mais elle comporte également des risques de perte de contrôle si elle se développe sans normes communes de sécurité vérifiables entre les gouvernements et les entreprises.
Altman a en outre souligné le potentiel de cette technologie pour le progrès humain, indiquant qu'elle peut « donner aux personnes un plus grand contrôle sur leur propre vie ». Avec eux, Clément Delangue, directeur général de Hugging Face, a participé à distance, dont la connexion a subi des pannes techniques pendant la session.
Le ministre britannique des Affaires étrangères, Ed Miliband, a soutenu devant le Conseil de sécurité la position des dirigeants. « Ils nous disent clairement qu'on ne peut pas leur laisser la responsabilité d'empêcher que le monde soit assiégé », a-t-il déclaré. « Nous ne pouvons pas les ignorer car ils ont raison ».
L'affrontement entre l'Europe et les États-Unis sur la gouvernance mondiale de l'IA
Miliband a annoncé que, lorsque le Royaume-Uni assumera la présidence du G20 l'année prochaine, il placera le contrôle de l'intelligence artificielle au centre des discussions du forum. L'objectif déclaré est d'atteindre un ensemble unique de normes mondiales « pour garantir que le développement de l'IA soit sûr ».
Cette position entre en conflit direct avec celle des États-Unis, exprimée lors de la même séance par Michael Kratsios, conseiller scientifique de la Maison Blanche. Selon Kratsios, les préoccupations concernant le contrôle de la technologie “ne sont pas une raison pour arrêter son développement ni pour le limiter par une nouvelle structure de gouvernance globale”.
Kratsios a souligné que la position de Washington vise à étendre les bénéfices de l'intelligence artificielle à ses partenaires internationaux sans la soumettre à un cadre réglementaire partagé. “Nous voulons que vous, nos alliés et partenaires, bénéficiiez de cette technologie”, a-t-il affirmé devant le Conseil de sécurité.
Cette divergence laisse en suspens une question qui traverse l'agenda des principaux gouvernements : qui doit avoir le dernier mot sur les décisions impliquant des systèmes d'intelligence artificielle, les humains ou les machines elles-mêmes, et selon quelles règles communes, si tant est qu'elles existent.
L'avertissement sur les armes autonomes et le risque des armes biologiques
Un jour avant la séance avec les dirigeants technologiques, le secrétaire général de l'ONU, Antonio Guterres, avait mis en garde contre ce que l'on appelle les “robots tueurs”. Selon des experts et des dirigeants européens ayant participé au débat, cet avertissement ne décrit pas un scénario hypothétique, mais une réalité déjà présente ou dangereusement proche de se concrétiser.
Dans ce contexte, Amodei a demandé aux dirigeants mondiaux de convenir de ne pas permettre à l'intelligence artificielle de participer à la construction d'armes biologiques.
Il a également réclamé des mécanismes pour vérifier les capacités réelles des modèles disponibles et “établir des normes communes” pour les tests de sécurité, la perte de contrôle des systèmes et leur utilisation abusive.
Le ministre français des Affaires étrangères, Jean-Noël Barrot, dont le pays a convoqué la réunion de mercredi, a tracé un parallèle entre le moment actuel de l'intelligence artificielle et deux épisodes historiques : l'ordinateur incontrôlable HAL9000 du film “2001 : L'Odyssée de l'espace” et les premières années de l'ère atomique.
“Tout comme cela s'est produit avec l'atome à son époque, la communauté internationale doit désormais réguler l'IA pour tirer le meilleur parti de son potentiel et éviter le pire”, a soutenu Barrot devant le Conseil de sécurité des Nations Unies.