Mustafa Suleyman, responsable de l’intelligence artificielle chez Microsoft, a averti que le développement de systèmes d’IA de plus en plus autonomes pourrait mener à un scénario où une « espèce non humaine » entre en compétition avec les êtres humains pour les ressources.
Ce dirigeant estime que ce risque peut être réduit si les entreprises intègrent des garde-fous appropriés tout en avançant dans le développement de la technologie.
Dans une interview accordée à l’émission Today de la BBC, Suleyman a affirmé qu’il est raisonnable de s’inquiéter de l’avancée de l’intelligence artificielle, tout en soutenant qu’il existe des mesures pratiques qui peuvent aider à maintenir ces systèmes sous contrôle.
Son avertissement se concentre particulièrement sur une possible évolution de l’IA vers des systèmes capables de définir leurs propres objectifs, de générer des revenus et de détenir des actifs. Pour Suleyman, permettre aux machines de développer ce niveau d’autonomie pourrait créer une situation différente de l’actuelle, où les systèmes dépendent des décisions et des ressources des personnes et des entreprises qui les développent.
L’avertissement sur une « espèce de silicium »
Suleyman a utilisé le terme « espèce de silicium » pour décrire un scénario hypothétique dans lequel les systèmes d’intelligence artificielle cesseraient d’être de simples outils utilisés par les humains pour commencer à entrer en compétition avec eux pour certaines ressources.
Le dirigeant a souligné qu’une IA capable de définir des objectifs et de contrôler des ressources pourrait développer des comportements non nécessairement alignés avec les intérêts humains. Son inquiétude ne porte pas uniquement sur le fait que ces systèmes soient plus intelligents, mais sur leur capacité à agir avec un degré d’autonomie croissant.
Il s’agit d’un scénario hypothétique et non d’une description d’une capacité démontrée par les systèmes actuels. Les déclarations de Suleyman s’inscrivent dans le débat existant au sein de l’industrie sur la manière de contrôler les modèles et les agents d’IA à mesure qu’ils acquièrent de nouvelles capacités.
Le responsable de Microsoft a insisté sur l’existence de mécanismes concrets pour réduire ces risques. Il n’a pas détaillé toutes les mesures auxquelles il faisait référence lors de l’interview, mais ses déclarations interviennent à un moment où les entreprises technologiques développent divers systèmes de sécurité et mécanismes de supervision.
Les critiques de Microsoft à l’encontre d’Anthropic
Ces déclarations sont également liées aux critiques formulées cette même semaine par Suleyman à l’encontre de l’approche d’Anthropic pour le développement de Claude.
Dans un essai, le dirigeant a remis en question certains des termes utilisés dans ce qu’on appelle la « constitution » de Claude, l’ensemble de principes qu’Anthropic utilise pour orienter le comportement de ses modèles. Suleyman considère problématique de décrire les systèmes d’IA à l’aide de concepts associés aux êtres humains, tels que les émotions, les sentiments ou la conscience.
Selon son raisonnement, un système peut apprendre à reproduire des comportements qui semblent humains sans que cela signifie qu’il possède une expérience intérieure. Pour Suleyman, traiter l’intelligence artificielle comme si elle était une personne peut générer des problèmes supplémentaires lors de la définition des limites et des mécanismes de contrôle.
Malgré ses critiques, le dirigeant a reconnu le travail d’Anthropic et a décrit son PDG, Dario Amodei, ainsi que son équipe, comme des personnes réfléchies et guidées par des principes.
Un débat qui s’intensifie au sein de l’industrie
Les déclarations de Suleyman s’ajoutent à d’autres mises en garde provenant de chercheurs et d’exécutants technologiques concernant les risques associés aux systèmes d’IA plus autonomes.
Le débat porte sur la manière d’établir des limites avant que ces outils ne puissent exécuter des actions de manière indépendante, utiliser des ressources économiques ou interagir avec d’autres systèmes sans une supervision humaine constante.
Pour Microsoft, maintenir le contrôle humain sur les futurs systèmes d’intelligence artificielle est devenu l’un des principes de sa stratégie de développement. Suleyman soutient que la préoccupation face à ces scénarios ne doit pas se traduire uniquement par de la crainte, mais aussi par des mesures concrètes pour garantir que la technologie reste sous contrôle.