Le sénateur de Morena, Ricardo Monreal , a proposé une nouvelle initiative visant à réglementer le développement, la vente et l'application de systèmes d'intelligence artificielle (AIS) au Mexique. Cette mesure se concentre sur la création d’un cadre juridique qui s’aligne sur des stratégies de gestion des risques similaires à celles récemment établies par l’Union européenne.
Selon le projet de décret, publié au Journal officiel du Sénat , les créateurs et distributeurs de SIA doivent obtenir l'autorisation de l' Institut fédéral des télécommunications (IFT) avant de pouvoir commercialiser leurs produits sur le territoire mexicain. Cette procédure s'inscrit dans le cadre d'un effort visant à garantir que la mise en œuvre de l'intelligence artificielle dans le pays se fasse de manière responsable et sûre.
Le projet de Monreal établit non seulement des exigences pour la commercialisation de ces technologies, mais propose également la formation d'une Commission nationale sur l'intelligence artificielle . Cet organisme ferait office de comité consultatif pour l'IFT et serait composé de cinq scientifiques de renom dans le domaine technologique. Cette équipe, dont la participation serait honorifique, aurait pour objectif principal de conseiller sur la mise en œuvre et la réglementation adéquate de l'intelligence artificielle au Mexique.
Les calcifications du risque proposées par l’initiative
La classification comprend les utilisations à risque inacceptable , à risque élevé et à faible risque , dans le but de protéger les droits de l'homme et la sécurité des personnes face aux progrès technologiques. Chaque type de danger a une définition qui précise la manière dont l’utilisation de l’AIS peut nuire à autrui en raison d’une mauvaise utilisation par des personnes dans un contexte donné :
Risque inacceptable : Systèmes qui manipulent le comportement ou exposent des groupes vulnérables . Leur mise en œuvre est interdite dans les espaces où ils pourraient causer de graves dommages physiques ou psychologiques.
Risque élevé : fait référence aux systèmes qui pourraient affecter la santé, la sécurité ou les droits fondamentaux, cela inclut ceux appliqués dans les espaces privés pour l'identification biométrique, la gestion des services de base, l'accès et l'évaluation à l'éducation, la passation de contrats de travail, l'accès aux programmes sociaux et l'évaluation économique des individus.
Risque faible : cette classification inclut les systèmes qui ne sont pas susceptibles de causer des menaces directes à la santé, à la sécurité ou aux droits de l'homme, et leur utilisation n'est pas soumise à des restrictions significatives dans le cadre de la proposition. Toutefois, la réglementation accorde aux autorités compétentes le pouvoir d'utiliser même des systèmes présentant un risque inacceptable dans des conditions spécifiques, telles que la détection et la prévention d'infractions ou dans des cas d'intérêt public ou de sécurité nationale, à condition qu'ils soient justifiés et annoncés par l'autorité compétente. autorité. .
Les sanctions posées par l'initiative
Les fournisseurs de systèmes d’IA à haut risque devront se conformer à un certain nombre d’exigences établies pour garantir une sécurité et une surveillance adéquates avant la mise en œuvre. Les exigences comprennent la possession d'un système de gestion de la qualité, la préparation d'une documentation technique détaillée du système, la maintenance de fichiers journaux générés automatiquement lorsqu'ils sont sous le contrôle du fournisseur et la soumission des systèmes à des procédures d'évaluation et de contrôle. établi par l’autorité compétente. De plus, les entreprises dédiées à la vente de ces technologies doivent s'inscrire auprès de l'entité de régulation correspondante et s'assurer que leurs systèmes peuvent être surveillés par celle-ci.
L'initiative précise que les fournisseurs sont tenus d'informer les utilisateurs qu'ils interagissent avec cette technologie. Ce mandat vise à promouvoir la transparence et à établir une base de confiance entre les utilisateurs et la technologie avancée. En cas de non-respect de ces réglementations, les sanctions comprennent des réprimandes publiques, des amendes pouvant aller jusqu'à 5 % du revenu annuel du fournisseur et, pour les agents publics concernés, des sanctions allant de la suspension temporaire à la révocation.