Le Código d'Éthique pour l'IA commencera à régir les services publics de la République dominicaine après l'approbation du Décret 787-26. La norme établit des conditions pour l'utilisation de systèmes automatisés par l'État, avec des règles concernant les contrôles préalables, l'information aux citoyens et les limites pour certaines applications.
La norme s'appliquera aux entités de l'Administration publique centralisée et décentralisée. Parmi d'autres obligations, elles devront réviser les technologies qu'elles utilisent déjà, identifier les responsables de leur application et adapter leurs procédures.
L'élaboration de la réglementation a été prise en charge par le Bureau gouvernemental des Technologies de l'Information et de la Communication (Ogtic) et la DIRECTION Générale de l'Éthique et de l'Intégrité Gouvernementale (Digeig). Le processus a inclus la participation de différents secteurs et a bénéficié d'un accompagnement technique de l'Alliance pour le Gouvernement Ouvert.
Le Code prend comme référence les normes de l'UNESCO et de l'Organisation de coopération et de développement économiques. Son contenu intègre des critères pour l'utilisation de l'intelligence artificielle dans les décisions, les formalités administratives et les marchés publics.
Les systèmes qui affectent les droits ou les prestations devront subir une révision
Les systèmes considérés à haut impact devront être soumis à une Évaluation d'Impact Éthique et des Droits avant leur mise en service. La catégorie inclut les outils susceptibles d'influencer l'accès aux droits, aux prestations sociales ou aux pouvoirs de sanction.
L'évaluation devra obtenir l'approbation de l'organe de supervision prévu. Le décret n'autorise pas la mise en production de ces technologies sans cette étape préalable.
La norme établit qu'une personne peut savoir si une formalité ou une décision administrative a bénéficié du soutien de l'intelligence artificielle. Les institutions devront également mettre en place des voies pour demander des explications sur ces processus.
Le Code prévoit une révision humaine lorsqu'une personne souhaite contester une décision soutenue par des systèmes automatisés. Cette disposition vise à ce que les formalités ne restent pas exclusivement soumises au fonctionnement d'un outil technologique.
Le décret fixe des limites pour la surveillance et les décisions automatisées
La réglementation interdit la classification sociale généralisée, connue sous le nom de scoring. Elle empêche également l'identification biométrique massive dans les espaces publics en l'absence d'un mandat judiciaire.
Le texte interdit le profilage criminel prédictif basé sur des critères territoriaux ou socio-économiques. Par ailleurs, il n'autorise pas l'utilisation de l'intelligence artificielle pour automatiser les sentences pénales ni pour développer des armes autonomes.
Les dispositions incluent une protection spécifique pour les enfants et les adolescents. Tout système automatisé destiné à cette population bénéficiera d’une présomption renforcée de risque.
La réglementation interdit l’utilisation de l’intelligence artificielle pour générer ou distribuer des contenus préjudiciables, abusifs ou discriminatoires à l’égard des mineurs. Cette restriction s’inscrit parmi les règles applicables aux services publics.
L'État devra pouvoir réviser les systèmes qu'il contracte
Les entités publiques devront exiger de leurs prestataires des garanties de traçabilité, de cybersécurité et de contrôle sur les données de la population dominicaine. Cette mesure s’applique à l’acquisition d’outils technologiques utilisés par l’État.
Le Code vise à éviter l’achat de systèmes en « boîte noire » qui ne peuvent pas être audités. Selon ce critère, les institutions devront disposer d’informations suffisantes pour examiner le fonctionnement des solutions qu’elles intègrent.
Le Décret 787-26 dispose la création du Conseil national de l’éthique de l’intelligence artificielle, aux fonctions consultatives et de coordination. L’organisme réunira des institutions étatiques et des représentants non gouvernementaux du Forum multipartite pour un gouvernement ouvert.
La composition du Conseil prévoit la participation du monde universitaire et de la société civile. Ce cadre aura pour mission d’accompagner le suivi des règles incluses dans le Code.
Les entités publiques disposeront de 180 jours calendaires pour adapter leurs processus internes. Durant cette période, elles devront enregistrer les systèmes technologiques déjà opérationnels, désigner des responsables et appliquer les mesures requises par la norme.