C’est le sujet du moment dans les médias du monde entier. L’ancien chercheur en IA, Jacob Coxon, a publié un fil sur X après avoir démissionné de son poste chez Anthropic (le développeur de Claude), dans lequel il a averti que des systèmes superintelligents pourraient « nous tuer tous » d’ici la fin de la décennie. À cet avertissement s’est ajoutée celui d’Evan Hubinger, responsable d’une équipe de sécurité de cette entreprise, qui a estimé à plus de 10 % la probabilité d’extinction de la race humaine dans une décennie, si les développements des futurs modèles d’intelligence artificielle ne parviennent pas à être alignés.
L’Argentine n’est pas étrangère à ce débat qui a déjà des répercussions sur le plan politique. L’une de ces discussions repose sur le Sénat : face à cette agenda qui a connu une croissance exponentielle depuis mardi, des législateurs de différents groupes affirment que l’officiel de La Libertad Avanza doit freiner la totalité ou au moins une partie centrale du projet de Loi Générale des Sociétés que pousse le ministre de la Dérégulation et de la Transformation de l’État, Federico Sturzenegger ; il s’agit de l’une des initiatives qui enthousiasme le président Javier Milei lui-même.
Le projet vise à mettre fin à la Loi 19.550, datant de 1972, et à promouvoir la numérisation, à flexibiliser l’objet social et à introduire les « sociétés automatisées », celles qui développent leur activité au moyen de « systèmes algorithmiques autonomes ou d’agents d’intelligence artificielle, sans nécessiter de travailleurs en relation de dépendance ni de ressources humaines pour leur fonctionnement ordinaire ».
Le gouvernement a déposé ce projet le 1er juin de cette année et depuis lors, il est débattu dans la commission de Législation Générale, présidée par la sénatrice nationale du Neuquén, Nadia Márquez. Des sources de La Libertad Avanza et de trois groupes alliés à l’officiel ont admis en privé que le débat, qui avait trouvé quelques canaux ces dernières semaines, risque de stagner en raison de ce nouveau contexte.
« Je ne vais pas le voter », s’est confié un siège libertarien sous stricte réserve. Observant la situation, une autre figure proche de l’officiel a souligné : « C’est le même phénomène que la Loi sur les Terres, on ne peut pas la traiter ». Une source gouvernementale s’est contentée de préciser que pour la Casa Rosada, « c’était une opportunité importante » pour traiter cette thématique, mais qu’ils comprennent que « la discussion passe par ailleurs aujourd’hui ». « Le projet est disponible pour quand ils jugeront opportun de le traiter », concluent-ils.
Fin août, la cheffe libertarienne au Sénat, Patricia Bullrich, avait annoncé des modifications à la loi sur les Sociétés afin de garantir le soutien des groupes alliés qui n’étaient pas convaincus de signer l’avis. Bien que le nouveau texte n’ait pas été spécifié, la dirigeante violette a visé à ce que la responsabilité finale des personnes physiques dans les sociétés automatisées soit clairement établie.
« Nous réfléchissons, depuis le camp gouvernemental et certains autres groupes parlementaires, à rendre beaucoup plus rigide la responsabilité des sociétés automatisées avec des responsables physiques. Cela leur apportera plus de sécurité juridique », a déclaré Bullrich. La suggestion d’incorporer une personne morale avait également été formulée par le titulaire de l’Inspection générale de la justice (IGJ), Alejandro Ramírez. De son côté, Sturzenegger avait accueilli favorablement cette modification et précisé que seule « la gestion opérationnelle de cette société n’est pas effectuée par des humains, mais par des programmes, des logiciels, des robots, ou quoi que ce soit d’autre ».
Le projet original, émanant de la Casa Rosada, comprend trois chapitres et 277 articles au total. Il s’agit d’une réforme plus large que la simple incorporation de sociétés dotées de systèmes algorithmiques autonomes ou d’agents d’intelligence artificielle. C’est pourquoi se multiplient les voix au sein des bancs sénatoriaux affirmant que « il est plus facile d’approuver le projet dans son ensemble que le chapitre particulier contenant la section sur l’automatisation des sociétés ».
Le débat susceptible de naître autour de cette réforme en particulier s’inscrit dans un contexte, au minimum, hostile aux prétentions de Milei, de Sturzenegger ou des principaux promoteurs du gouvernement. La discussion née des déclarations de l’ancien chercheur en IA d’Anthropic a placé l’intelligence artificielle au centre du débat mondial, ainsi que les capacités dont disposent les États nationaux ou les propres corporations pour empêcher que les modèles existants ne mutent en schémas surintelligents à partir de l’auto-amélioration récursive.
Pour les partisans du gouvernement comme pour les opposants disposant d’un siège au Congrès, la discussion sur les détails du projet n’est plus viable politiquement. Du moins à court et moyen terme. C’est un scénario similaire à celui de la Loi sur les terres au début du mois d’août. Des sénateurs avaient signé l’avis de l’initiative, mais avec l’approche de la séance destinée à accorder la première lecture au projet, ils ont fait marche arrière et rejeté des chapitres importants. Des sénateurs affirment déjà en off the record qu’ils ne soutiendront pas l’automatisation des sociétés.
Dans ce contexte, l’administration nationale de Milei a accordé une importance au rôle de l’intelligence artificielle pour le développement de l’économie des prochaines décennies. Dans une récente interview publiée par The Economist, le Président a de nouveau promis que l’Argentine adoptera l’IA plus que tout autre pays et qu’il croit qu’elle pourrait l’aider à « devenir une puissance mondiale leader comme les États-Unis » en seulement 20 ans.
Le Président n'a pas été étranger à ce type de débats. Le projet imaginé dans les cercles de Sturzenegger a reçu une réponse de la part de l'historien et écrivain Yuval Noah Harari — connu pour des ouvrages tels que Sapiens et Homo Deus, entre autres — qui a mis en garde dans une tribune publiée par le Financial Times qu'accorder la personnalité juridique aux agents d'IA leur donnerait une « clé maîtresse » pour accéder aux systèmes financiers, économiques et politiques avec la capacité de posséder des biens, embaucher du personnel, engager des procédures judiciaires et même financer des campagnes sans qu'il n'y ait de responsabilité directe derrière ces décisions.
La réponse épistolaire du Président ne s'est pas fait attendre. À travers un texte publié par le FT, Milei a qualifié d'« inattendue » la préoccupation de Harari sur ce sujet et a souligné que doter de cadre juridique les entreprises gérées par IA « semble être une caractéristique nécessaire » de l'avenir technologique. Il a soutenu qu'une entreprise autonome soumise à un cadre légal qui peut la dissoudre, saisir ses actifs ou lui demander des responsabilités « n'échappe pas à la loi. Elle s'y soumet ». De plus, il a estimé que si les entreprises d'IA impliquent des risques plus grands que celles dirigées par des humains, « l'argument en faveur de la personnalité juridique se renforce, ne s'affaiblit pas », car elles seraient soumises aux mêmes sanctions, saisies et possibilité de dissolution qui régissent toute compagnie non automatisée.