L'organisation Algorithmic Avengers a réalisé la première enquête sur les systèmes de décision automatisés (SDA) actuellement utilisés dans les agences nationales de l'État afin de « promouvoir le débat sur la nécessité de renforcer la transparence et la responsabilité des comptes sur ces systèmes ».
Pour collecter les informations , 117 dossiers d'accès à l'information publique ont été initiés dans un total de 2 934 zones gouvernementales.
L'enquête a permis de systématiser les SDA en usage, de générer les procédures nécessaires pour intégrer progressivement les systèmes en cours de développement, de définir les processus d'annexion des nouvelles données à celles existantes et de préparer un projet de résolution qui oblige le National Les dépendances de l'État doivent être transparentes et leurs SDA.
Un SDA, comme l'explique le rapport, est un système contrôlé par un algorithme, dans lequel un processus de décision est partiellement ou totalement délégué à un autre, qui à son tour prend ou propose automatiquement une décision.
Au total, 10 SDA ont été identifiés et opèrent dans les dépendances suivantes : Siège du Cabinet des Ministres (Service Chatbot) ; Commission nationale des activités spatiales (algorithmes d'apprentissage automatique) ; au ministère de l'Économie (Jiménez-Olé et Chat-Bot) ; Commission nationale des valeurs mobilières (Stockwatch) ; Registre national des personnes (algorithmes d'identification) ; Ministère des Travaux Publics (système de gestion routière et IA pour l'automatisation) ; et à l'Institut National Central pour la Coordination de l'Ablation et des Implants (SINTRA).
"Il est étrange qu'au niveau national l'Argentine ait si peu de SDA utilisés pour gérer ses politiques publiques et qu'elle ne dispose pas d'un plan opérationnel d'intelligence artificielle qui désagrège les actions présentes et futures sur ce type de technologie", indique le rapport. parmi ses conclusions.
« La première enquête coûte cher car l'État est toujours réticent à fournir des informations. Nous avons déjà trouvé plusieurs autres SDA qui n'avaient pas été informés et nous demandons maintenant à l'Agence d'accès à l'information d'obliger tous les domaines à rendre leurs systèmes transparents, a expliqué à Infobae Martín Villar, directeur d'Algorithmic Avengers.
L'enquête a été réalisée au moyen d'un questionnaire standard qui décrit en détail les caractéristiques de la SDA dans différents niveaux d'analyse. La structure du modèle est composée de cinq chapitres : 1) Informations de base ; 2) description de l'utilisation ; 3) la documentation des données utilisées ; 4) explication du fonctionnement des systèmes et 5) désagrégation des outils de supervision et de suivi.
Parmi les résultats de l'enquête, le rapport souligne qu'il a été possible de vérifier qu'il n'y a pratiquement aucune information publique de la part des différentes dépendances de l'État national sur les opérations de leurs SDA et qu'il existe trois domaines du gouvernement national qui élaborent des documents et/ou des réglementations ayant une perspective similaire sur la portée possible des systèmes d’IA.
Après avoir terminé l'enquête, l'Observatoire social des algorithmes publics (OSAP) a préparé un projet de norme pour que l'État national oblige les zones gouvernementales à rendre leurs SDA transparents et continue de travailler pour promouvoir le débat interne. "Des pays comme la France, le Canada ou la Nouvelle-Zélande ont développé des réglementations pour générer des normes de transparence, avec des modèles différents mais avec le même objectif, être responsable de la manière dont elles sont utilisées par leurs administrations", souligne la première enquête.
Continuer à lire: