La députée de Morena, Gabriela Jiménez Godoy, cherche à promouvoir une initiative pour que les photographies et vidéos générées par intelligence artificielle portent une marque de eau obligatoire, afin de distinguer le contenu synthétique du réel.
La proposition s'ajoute à un ensemble d'initiatives législatives visant à établir un cadre régulatoire pour l'IA au Mexique, à un moment où la présidente Claudia Sheinbaum a appelé à ouvrir un débat national sur le sujet et d'autres pays d'Europe, d'Asie et des États-Unis ont déjà des réglementations en vigueur.
Marque de eau obligatoire pour le contenu généré avec l'IA
L'axe de l'initiative de Jiménez Godoy est l'identification visuelle du contenu synthétique. "Nous voulons que lorsqu'une photographie ou une vidéo a été réalisée avec l'intelligence artificielle, elle porte une marque de eau, pour que nous puissions distinguer ce qui est réel de ce qui ne l'est pas", a déclaré la législatrice.
La députée a souligné que l'IA est déjà utilisée pour falsifier des vidéos, des audios, des photos et des documents, ce qui rend l'identification nécessaire pour protéger les utilisateurs. Elle a précisé que la régulation n'affecte pas la liberté d'expression : "Il serait beaucoup plus bénéfique pour tous de pouvoir savoir quand quelque chose est réel et quand quelque chose ne l'est pas".
La proposition prévoit également que les utilisateurs soient notifiés lorsque l'IA intervient dans des décisions qui affectent leur vie. Les secteurs que la législatrice mentionne comme prioritaires sont :
- Santé : les médecins qui utilisent l'IA pour diagnostiquer ou prescrire doivent en informer le patient.
- Droit : les avocats qui rédigent des plaintes avec l'aide de l'IA.
- Rendu de justice : les juges, ministres et magistrats qui utilisent l'outil pour élaborer des jugements.
Morena cherche à garantir une supervision humaine dans l'utilisation de l'IA
Jiménez Godoy a clairement indiqué que l'objectif n'est pas de limiter l'utilisation de la technologie. "L'objectif n'est pas de freiner l'intelligence artificielle. Nous savons qu'elle fait déjà partie de notre vie, fait partie de notre quotidien. Tous l'utilisons car elle rend également notre travail, notre analyse plus efficace et plus rapide. Mais il est toujours important de s'assurer que la dernière vision soit humaine", a-t-elle déclaré devant des représentants des médias.
La législatrice a reconnu que l'IA est un outil d'usage quotidien dans différentes professions et que son efficacité est réelle. Le point de l'initiative est que lorsqu'une personne peut être affectée dans sa vie par l'utilisation de l'IA, elle doit en être informée.
Jiménez Godoy a indiqué que plus de législateurs et de législatrices ont proposé des initiatives dans la même direction, étant donné que l'IA possède déjà un cadre régulatoire aux États-Unis et dans des pays d'Europe et d'Asie.
Voici cinq clés de la réforme qui vise à réguler l'IA
- Marque de eau obligatoire pour les photos et vidéos générées avec l'IA, afin de distinguer le contenu synthétique du réel.
- Réponse aux falsifications en cours: l'IA est déjà utilisée pour falsifier des vidéos, des audios et des documents.
- Notification à l'utilisateur lorsque l'IA intervient dans des décisions qui l'affectent, avec un accent sur la santé, le droit et le rendu de justice.
- Supervision humaine comme principe : la dernière décision doit toujours revenir à une personne.
- Partie d'un débat plus vaste: la proposition s'ajoute à d'autres initiatives pour réguler l'IA au Mexique, en ligne avec des cadres déjà en vigueur aux États-Unis, en Europe et en Asie.