Des organisations de la société civile argentine ont demandé à la senatrice Patricia Bullrich d'éliminer les articles du projet de Loi Générale des Sociétés qui autorisent l'existence de sociétés automatisées et autonomes, après avoir exprimé des objections constitutionnelles et averti des risques non résolus concernant le contrôle humain sur les systèmes de intelligence artificielle.
Dans une lettre adressée à Bullrich et au Sénat, les signataires ont indiqué que la proposition législative soumise à discussion permettrait la constitution d'entités juridiques opérées par des algorithmes avec seulement un représentant légal nominal et sans supervision humaine documentée. Les organisations ont demandé la convocation d'une audience publique et la suppression intégrale de l'article 14 (Société Automatisée) et de la Section V, articles 258 à 265, concernant les Sociétés Autonomes Décentralisées (DAO).
Le document rappelle que, lors d'audiences réalisées entre juin et août dans la Commission de Législation Générale, des spécialistes en droit des sociétés et pénal convoqués par le Sénat ont averti de l'impossibilité d'attribuer la responsabilité pénale ou civile à des systèmes sans une personne humaine identifiable derrière chaque décision pertinente. Parmi les cités figurent la juge María Eugenia Boquín et le procureur Jorge Flores. De plus, la Union Industrielle Argentine (UIA) a exprimé des objections et demandé le retrait des deux figures du projet.
Le texte de la société civile compile des déclarations de responsables et défenseurs du projet devant le Sénat. Il mentionne que le ministre Federico Sturzenegger, promoteur de la réforme, a caractérisé l'initiative comme un “expérience” et a reconnu l'absence de précédents comparables dans le droit des sociétés national. Il ajoute qu'Emiliano Kargieman, défenseur des sociétés autonomes, a exprimé devant la commission législative que ce type d'entités nécessite une réglementation plus stricte que celle des corporations traditionnelles, opinion opposée à celle envisagée dans les articles contestés.
Les organisations font également référence à des avertissements internationaux récents. Elles citent le cas de Jacob Coxon, ancien chercheur de OpenAI et Anthropic, qui a affirmé en septembre que ces entreprises ne gèrent pas de manière responsable le développement de systèmes de plus en plus autonomes. Selon des rapports médiatiques, Evan Hubinger, membre de Anthropic, a déclaré publiquement que la probabilité que l'intelligence artificielle cause de graves dommages à l'humanité dépasse le 10% dans la prochaine décennie.
La lettre souligne que les préoccupations concernant l'attribution de la responsabilité et la capacité effective de contrôle par des personnes physiques ont été soulevées depuis la première réunion de la commission du 24 juin. Selon les ONG, à cette occasion, dix-sept conditions minimales pour la viabilité d'une figure de société automatisée ont été présentées, toutes rejetées par l'exécutif national.
Le principal objectif de la sénatrice Bullrich est d'ouvrir le débat à la citoyenneté par l'organisation d'une audience publique avant la signature du rapport, d'éliminer les articles en discussion et de réécrire l'article 102 pour exiger une documentation et une autorisation humaine préalables à toute action sociétale significative prise par le biais de l'intelligence artificielle.
Les entités signataires proposent que tout futur régime pour les entreprises opérées par IA soit débattu dans un cadre normatif global, avec gouvernance, audits obligatoires et assurances contre les dommages, et non à travers des articles insérés dans des réformes commerciales générales.
Le document est soutenu par plus de trente organisations de différentes provinces, parmi lesquelles l'Association Argentine des Avocats Environnementalistes, le Laboratoire Ouvert d'Intelligence Artificielle (LAIA), l'Assemblée Permanente pour les Droits de l'Homme et la Coalition pour la Patagonie. À ces collectifs s'ajoutent des signatures de références et spécialistes de différentes disciplines.
Les groupes ont rappelé que, depuis août, ils ont présenté des propositions techniques et alternatives documentées, sans recevoir de réponse formelle de la part du Sénat ou de la majorité concernant leur demande d'audience publique.
Les signataires affirment que l'approbation de figures de sociétés automatisées sans garanties suffisantes peut compromettre la capacité du droit argentin à attribuer des responsabilités et à protéger des droits dans des scénarios de dommages causés par des systèmes reposant sur l'intelligence artificielle.