« Puisque les défis et les opportunités de l’IA sont mondiaux, nous maintiendrons les progrès du leadership américain à l’échelle mondiale », a déclaré Biden avant de signer l’ordonnance le lundi 30 octobre 2023, la qualifiant d’« action la plus significative » qu’un gouvernement puisse prendre. le monde a pris en matière d’IA. Cependant, Reality Defender, une entreprise leader dans la détection des deepfakes ou des médias manipulés par l’IA, a noté que cette mesure présente des « limites dangereuses ».
Dans une interview avec FOX News, le co-fondateur et PDG de Reality Defender, Ben Colman, a exprimé plusieurs inquiétudes concernant le décret , notamment concernant le filigrane de provenance .
Le filigrane d'intelligence artificielle est un identifiant unique intégré dans les données produites par une IA, telles que des textes ou des images, et sert à déterminer que les données ont été générées par une certaine IA, aidant à différencier ces contenus de ceux créés par des êtres humains. . Elle s'apparente à une signature qui certifie l'origine de l'information.
Une proposition inefficace
"Le ministère du Commerce élaborera des directives sur l'authentification du contenu et le filigrane afin d'étiqueter clairement le contenu généré par l'IA", a annoncé la Maison Blanche. "Les agences fédérales utiliseront ces outils pour permettre aux Américains de savoir plus facilement que les communications qu'ils reçoivent de leur gouvernement sont authentiques et donneront l'exemple au secteur privé et aux gouvernements du monde entier."
En fait, ce filigrane de provenance proposé dans le décret a été développé et promu par certaines des plus grandes entreprises technologiques, notamment Microsoft , Adobe , Arm et Intel . Colman s'est dit préoccupé par ce qu'il appelle « une approche de jardin clos » de la part de ces entreprises , car elle semble demander la confiance des utilisateurs, sans tenir compte de la nécessité de réglementations externes .
Colman a mis en garde contre la possibilité que les pirates informatiques et les acteurs malveillants, qui représentent une part importante de l'utilisation nuisible de l'IA, ne respectent pas les règles fixées par le gouvernement et les grandes entreprises.
"À notre avis, c'est une sorte de pansement", a déclaré Colman à Fox News. "Cela suppose que le filigrane est parfait et que tout le monde, y compris les pirates, va suivre les règles. "C'est comme dire que nous construisons de grandes serrures pour les maisons qui n'acceptent qu'un certain type de clé et que tous les criminels potentiels suivront nos protocoles."
Soheil Feizi, professeur à l' Université du Maryland , est d'accord avec Colman. L'universitaire a mentionné au magazine Wired que les chercheurs de son groupe avaient déterminé qu'il n'existait actuellement aucune méthode fiable de marquage à l'eau. De plus, ils ont découvert qu’il était facile de contourner les systèmes existants et d’ajouter de faux sceaux au contenu non produit par l’IA . Cette conclusion est étayée par une étude conjointe de l'Université de Californie à Santa Barbara et de l'Université Carnegie Mellon, dans laquelle il a été constaté que les emblèmes peuvent être facilement éliminés grâce à des attaques simulées .
Notation probabiliste
Ben Colman met en avant une approche utilisée par la société Reality Defender : la notation probabiliste. La technique consiste à évaluer le contenu sur une échelle de certitude de 0 à 99 % après avoir analysé la couche de pixels, le spectrogramme, les formes d'onde audio et la construction de phrases dans le texte.
De cette façon, une société de détection des deepfakes peut dire à une partie intéressée si le contenu est légitime sur la base de cette vision probabiliste. De plus, Colman a souligné le risque qu’il y a à s’appuyer sur des marques qui se font de la publicité et tentent de devenir des standards, car elles sont finalement « piratables ».
L’expert a exhorté les élus à mettre en place un outil rapide pour fournir davantage d’informations avant qu’un contenu éventuellement manipulé ne devienne viral. Il peut s'agir d'un score probabiliste, d'une case à cocher rouge-vert, des résultats d'une société de détection de deepfake ou d'un autre type de rapport.
De cette manière, l'utilisateur final serait informé, avant de décider de publier, de l'authenticité de l'image ou des informations auxquelles il a accès.