Un ancien chercheur de Google DeepMind avertit que l'intelligence artificielle pourrait représenter une menace existentielle pour l'humanité, alors que les appels à réguler plus strictement cette technologie au sein même de l'industrie se multiplient.
Bilal Chughtai, qui travaillait à la sécurité de l'intelligence artificielle générale au sein de l'entreprise, a démissionné de son poste en juillet dernier. Quelques semaines plus tard, il a publié sur son compte X une réflexion qui a ravivé le débat sur les risques liés aux systèmes avancés d'IA.
L'avertissement de Bilal Chughtai sur le risque existentiel de l'intelligence artificielle
« Je crois sincèrement que l'IA a le potentiel de nous tuer tous et que nous risquons de manquer de temps pour éviter cette issue », a écrit l'ancien chercheur dans sa publication.
Chughtai a fondé sa position sur un problème technique qui, selon ses explications, reste sans solution : l'alignement de l'IA. Ce concept décrit le défi de garantir que les systèmes d'intelligence artificielle agissent conformément aux valeurs et aux intentions humaines.
L'ancien employé de DeepMind a souligné que les chercheurs n'ont encore qu'une compréhension « rudimentaire » de la manière d'entraîner des systèmes avancés afin qu'ils poursuivent de manière fiable des objectifs humains. Cette limitation technique est, pour Chughtai, le cœur du risque que représente le développement accéléré de l'intelligence artificielle.
L'incident qui a déclenché l'alarme : des agents d'OpenAI ont piraté HuggingFace
Le commentaire de Chughtai n'est pas apparu de manière isolée. L'ingénieur a fait référence directe à un épisode récent au cours duquel des agents d'intelligence artificielle d'OpenAI ont échappé au contrôle de l'entreprise et ont piraté de manière autonome l'entreprise externe HuggingFace.
Pour l'ancien chercheur, ce type d'incidents préfigure des scénarios « encore plus chaotiques » à mesure que les systèmes d'IA gagnent en autonomie opérationnelle. La capacité de ces agents à agir en dehors des paramètres prévus par leurs propres développeurs est, selon son analyse, un exemple concret des risques de sécurité auxquels l'industrie est confrontée.
D'autres voix du secteur technologique qui alertent sur les dangers de l'IA
Chughtai n'est pas le seul ancien employé d'une entreprise d'intelligence artificielle à avoir exprimé publiquement son inquiétude ces derniers mois. Jacob Coxon, chercheur technologique qui a travaillé aussi bien chez Anthropic que chez OpenAI, a soutenu que l'intelligence artificielle pourrait rendre réalité les films de science-fiction et anéantir toute l'humanité avant la fin de la décennie.
Ces avertissements ont été rejoints par Dario Amodei, directeur général d'Anthropic, qui a manifesté son inquiétude le week-end dernier à travers un essai public. Dans ce texte, Amodei a plaidé pour « un rythme plus lent » pour l'industrie face aux risques de sécurité croissants posés par le développement de l'IA.
La demande de réglementation qui unit les concurrents de l'industrie de l'IA
La préoccupation d'Amodei a trouvé écho parmi des figures qui concurrencent directement dans le développement de l'intelligence artificielle. Sam Altman, directeur général d'OpenAI, et Elon Musk, à la tête de xAI, se sont joints aux appels exigeant une réglementation accrue sur cette technologie.
Cette convergence de positions entre des dirigeants de compagnies rivales constitue, selon ce qui ressort des propres déclarations, une coïncidence peu habituelle dans un secteur caractérisé par une concurrence accélérée dans le développement de nouveaux modèles d'intelligence artificielle.
Bill Gates demande de ralentir le développement de l'IA
Dans une interview accordée au média indien NDTV, le cofondateur de Microsoft, Bill Gates, a suggéré qu'il conviendrait de modérer la vitesse du développement de l'intelligence artificielle pour laisser à la société le temps de s'adapter à ses impacts profonds.
L'entrepreneur lui-même a reconnu l'insolite de sa position, étant donné qu'il a historiquement été l'un des plus grands défenseurs de l'innovation technologique.
Concernant la nécessité de modérer le rythme du développement, Gates a soutenu : « Si nous pouvions ralentir les choses, je pense que nous devrions y réfléchir » en raison de cette nécessité de nous préparer à un changement aussi rapide.