La possibilité d'identifier un contenu généré par intelligence artificielle commence à avancer par des chemins différents. Google permet de retirer la marque de eau visible de les productions réalisées avec ses outils, mais conserve des systèmes qui permettent de reconnaître son origine de manière invisible; en Europe, en revanche, l'identification de certains contenus générés ou manipulés avec IA fait déjà partie des nouvelles exigences de transparence.
“Nous avons besoin d'une marque de eau”, a déclaré la spécialiste. Elle a précisé qu'il n'est pas nécessaire que cela soit un signal visible pour l'utilisateur : il peut s'agir d'une identification numérique intégrée au fichier qui permet de vérifier par la suite s'il a été généré ou modifié par intelligence artificielle.
L'identification invisible de Google
Le cas de Google permet de comprendre comment fonctionne ce système. La compagnie a développé SynthID, une technologie qui incorpore une marque de eau invisible dans certains contenus générés par ses modèles et qui peut être détectée par des outils spécifiques, même si le signal n'apparaît pas sur l'image ou la vidéo.
“Google avec son modèle Gemini a lancé il y a plus d'un an quelque chose qui s'appelle SynthID, qui est essentiellement une marque de eau, mais pas visible à l'œil humain”, a expliqué Arambillet. Pour la journaliste, ce type de mécanismes deviendra de plus en plus pertinent à mesure que les productions artificielles réduisent les différences perceptibles avec celles réalisées par des personnes.
La discussion prend une autre dimension car le signal visible et l'identification numérique ne sont pas nécessairement la même chose. Un utilisateur peut ne trouver aucune indication sur une image, tandis qu'un outil spécialisé peut encore déterminer qu'elle a été générée par IA. La question se pose alors de savoir qui a accès à cette information et dans quelles circonstances elle peut être utilisée.
Europe a converti la transparence en une exigence
La Union Européenne a décidé de porter cette discussion sur le terrain réglementaire. Le AI Act établit des obligations de transparence pour certains contenus générés ou manipulés par intelligence artificielle, parmi lesquels ceux qui peuvent induire les gens à croire qu'ils sont face à un matériel authentique alors qu'il a en réalité été produit ou modifié artificiellement.
Pour Arambillet, le changement est significatif car l'identification ne dépend plus uniquement des décisions volontaires des entreprises. “C'est l'un des plus grands marchés au niveau mondial et qu'un groupe de pays exige à travers une réglementation quelque chose qui jusqu'à présent se faisait par de bonnes pratiques va dans le bon sens”, a-t-elle déclaré.
La spécialiste a également lié la position européenne à une préoccupation plus large pour la souveraineté technologique et la protection des données. L'Europe ne concentre pas le même nombre de grandes entreprises d'intelligence artificielle que les États-Unis et, en même temps, elle a une longue tradition réglementaire en matière de confidentialité.
Dans ce scénario apparaît Mistral, l'entreprise française qui cherche à développer ses propres modèles et à concurrencer les géants américains. Arambillet l'a décrite comme “un ChatGPT français”, développé dans le but d'entraîner des modèles en Europe et avec une spécial force en français.
Les entreprises n'ont pas non plus une seule vision
Le débat sur l'identification fait partie d'une discussion plus large sur les limites et les risques de l'intelligence artificielle. Arambillet a souligné que les principales entreprises du secteur ont des positions différentes sur la manière dont la technologie devrait se développer et quels usages elles sont prêtes à autoriser.
Un des cas qu'elle a mentionnés était Anthropic, l'entreprise dirigée par Dario Amodei, qui avait travaillé chez OpenAI avant de se distancer de la compagnie. Selon Arambillet, Anthropic est née avec une préoccupation particulièrement marquée pour les risques des modèles avancés et pour la nécessité d'accompagner leur développement avec des mécanismes de sécurité.
Cette position a également été transposée dans le domaine militaire. La journaliste a rappelé le conflit entre Anthropic et le Département de la Défense des États-Unis concernant certaines conditions d'utilisation de ses modèles et l'a contrasté avec la position d'OpenAI, qui a ensuite avancé dans des accords avec le Pentagone.
Pour Arambillet, ces différences montrent que il n'existe pas une unique philosophie au sein de l'industrie de l'IA. Chaque entreprise cherche à définir ses propres limites et, en même temps, à se positionner face à une technologie dont la portée est encore en train de s'étendre.
Le défi de l'Argentine
Pour la journaliste, la discussion ne devrait pas non plus se limiter aux entreprises et aux gouvernements qui mènent actuellement le développement de la technologie. L'Argentine doit également définir quelle place elle souhaite occuper face à une transformation qui peut modifier les secteurs productifs, les emplois et les façons de produire et de consommer des informations.
“En tant que pays, nous devons commencer à réfléchir à notre stratégie d'intelligence artificielle”, a affirmé Arambillet. À son avis, il ne suffit pas de réagir à chaque nouvel outil : il est également nécessaire d'établir quelles capacités technologiques le pays souhaite développer et comment profiter d'une industrie qui concentre de plus en plus de pouvoir économique et stratégique.
La spécialiste a considéré que cette discussion a encore un espace important à occuper dans l'agenda public. “Il ne s'agit pas de propositions concrètes ou de projets qui sont bloqués au Congrès, ce n'est pas directement. Il y a un grand vide ici”, a-t-elle soulevé.
Le débat sur les marques de eau est, en fin de compte, l'une des premières manifestations d'un problème qui dépasse un outil ou une entreprise. À mesure que l'intelligence artificielle produit des contenus de plus en plus difficiles à distinguer de ceux réalisés par des personnes, la technologie et les gouvernements commencent à chercher des mécanismes pour certifier leur origine. Entre les identifications invisibles des entreprises et les exigences de transparence en Europe, la discussion commence à définir une nouvelle question pour les utilisateurs : non seulement ce qu'ils voient, mais aussi qui — ou quoi — l'a créé.
–