Elon Musk a qualifié de “piège” et d'“opération psychologique” la vague d'avertissements apocalyptiques sur l'intelligence artificielle diffusée cette semaine par des chercheurs et des employés d'Anthropic.
La réaction de l'entrepreneur est survenue un jour après qu'un ancien chercheur de la société mentionnée a annoncé publiquement sa démission par crainte des risques que représente la technologie qu'il aidait à développer.
Un chercheur démissionne et avertit sur les risques de l'IA
L'origine de la controverse remonte à un fil publié mercredi par Jacob Coxon, chercheur ayant travaillé à la fois chez Anthropic et chez son concurrent OpenAI. Coxon a annoncé sa démission et a affirmé que aucune des deux sociétés ne développait des modèles d'IA de manière responsable. “Ils jouent avec nos vies”, a-t-il écrit à l'époque, selon le fil qui est devenu viral sur le réseau social X.
La publication a généré une chaîne de réactions parmi les employés actuels d'Anthropic, qui se sont manifestés en accord avec les préoccupations de leur ancien collègue.
Anna Wang, qui travaille dans la sécurité de l'intelligence artificielle générale dans la société et qui a précédemment exercé chez DeepMind de Google, a soutenu jeudi que de nombreux membres d'Anthropic souhaitent ralentir le développement de la technologie pour élaborer un plan qui atténue les risques. “Il n'existe toujours pas de plan scientifique viable pour résoudre les risques découlant de l'IA qui s'auto-améliore récursivement”, a écrit Wang sur X.
Des employés d'Anthropic évoquent le risque d'extinction humaine
D'autres membres de l'équipe ont publiquement soutenu la position de Coxon avec des déclarations de ton similaire. Drake Thomas, également employé de la société, a dit respecter la décision de son ancien collègue de s'abstenir de construire des modèles qui pourraient représenter des risques à l'échelle planétaire. “Les choses avancent trop vite ; nous n'avons pas du tout le degré de sécurité que nous souhaiterions pour la superintelligence artificielle”, a affirmé Thomas.
Samuel Marks, chercheur en sécurité chez Anthropic, a écrit que les propres développeurs de la technologie croyaient que celle-ci pourrait provoquer l'extinction humaine “ou des conséquences également néfastes” dans les prochaines années, et que l'inquiétude augmente en fonction du poste occupé par l'employé au sein de l'entreprise.
Dans le même sens, Evan Hubinger, qui se décrit comme le leader de la division d'alignement de la société, chargée de garantir que les modèles d'IA fonctionnent conformément aux objectifs humains, a déclaré : “¡Nous croyons vraiment que l'IA pourrait tuer tous les humains !”, a écrit Hubinger. “Personnellement, je pense que cela se produira dans plus de 10 % des cas dans la prochaine décennie”.
Musk et d'autres figures parlent d'une opération coordonnée
Face à cet ensemble d'avertissements, Musk a adopté une posture de suspicion. “Cela ressemble à un piège”, a écrit sur X. Coxon lui a répondu avec un selfie et un message direct : “Je suis réel et ce sont mes véritables croyances. Vous pourriez leur demander à vos chercheurs de xAI à mon sujet si vous ne les aviez pas renvoyés”.
Le propriétaire de xAI a été plus loin en reprenant une publication de Parker Thayer, chercheur du groupe de réflexion conservateur Capital Research, qui a suggéré, sans preuves concluantes, que la démission de Coxon marquait le début de “une opération de relations publiques très sophistiquée et bien financée pour obtenir le soutien des démocrates afin de réguler l'IA jusqu'à l'oubli”.
Musk a repris cette théorie sur son propre compte : “Je crois que les bases de cette opération psychologique ont été préparées depuis longtemps”, a-t-il publié. “Cela n'a été que l'étincelle qui a mis le feu aux poudres”.
La théorie a trouvé écho chez d'autres figures du monde des affaires. Bill Ackman, directeur exécutif du fonds spéculatif Pershing Square, a cité la publication de Thayer avec un bref commentaire : “Intéressant”.