Google a créé un outil appelé SynthID qui résoudra l'un des problèmes apparus avec le développement de l'intelligence artificielle : l'identification des images générées par l'IA. La société a annoncé le fonctionnement de cette technologie, qui vise à être disponible sur n'importe quelle plateforme de génération de contenu, telle que Midjourney et Stable Diffusion.
« Les filigranes traditionnels ne suffisent pas pour identifier les images générées par l'IA, car ils sont souvent appliqués comme un tampon sur une image et peuvent être facilement modifiés. Nous avons conçu SynthID pour qu'il ne compromette pas la qualité de l'image et permette au filigrane de rester détectable, même après des modifications », a publié la société sur son blog.
Cette technologie surgit donc en réponse à la nécessité de lutter contre la capacité croissante de l'IA à générer des images réalistes pouvant être utilisées pour diffuser de fausses informations, comme le cas des photos manipulées sur l'arrestation de Donald Trump et du pape François dans un manteau matelassé.
Comment fonctionnera ce filigrane
SynthID est un filigrane numérique intégré directement dans les pixels d'une image, garantissant qu'elle est complètement invisible à l'œil humain.
L'outil n'affecte pas la qualité de l'image et peut résister à d'autres modifications telles que des ajustements de couleur, un recadrage ou des conversions de format.
Le système permet non seulement aux utilisateurs d’ajouter un filigrane à leurs images générées par l’IA, mais peut également analyser les images existantes pour déterminer si elles ont été produites par un algorithme d’intelligence artificielle.
Pour y parvenir, il utilise deux modèles d’apprentissage profond : un pour créer le filigrane et un autre pour identifier les images générées par l’IA. Ces modèles ont été formés en conjonction avec un large éventail d’images. Pour fonctionner, le modèle d'identification aligne visuellement l'identifiant avec le contenu original de l'image pour vérifier sa présence.
La vérification du filigrane serait exécutée dans un deuxième système créé par Google, soit un site Web, soit une extension supplémentaire pour les navigateurs, ce qui n'a pas été défini pour l'instant.
L'efficacité de SynthID sera testée dans des cas de manipulation extrême d'images, où les pixels d'origine peuvent être obscurcis. Malgré cela, les premiers résultats des tests sont satisfaisants pour Google, qui envisage d'étendre ce concept à d'autres types de contenus, comme l'audio, la vidéo ou le texte.
Dans un premier temps, SynthID sera disponible en version bêta pour un nombre limité d'utilisateurs utilisant le service Vertex AI Image de Google. De plus, le filigrane numérique est également compatible avec les méthodes d'identification d'images basées sur des métadonnées, telles que celles utilisées dans les programmes d'édition tels que Photoshop.
De plus, l'objectif de l'entreprise n'est pas de disposer de cette technologie pour ses propres contenus et plateformes, mais plutôt d'élargir son accès aux systèmes tiers afin qu'ils puissent les adapter à l'avenir et pour cela espérer que cette première phase de test leur permettra pour corriger les erreurs et les améliorations de la version dans les versions futures.
L'importance d'un système de ce type a conduit d'autres entreprises à créer leurs propres technologies permettant l'identification d'images créées avec l'IA, comme c'est le cas d' Adobe, Microsoft et Intel , qui ont soutenu le développement de la norme C2PA. Coalition pour la provenance et l'authenticité du contenu, qui cherche à lutter contre la désinformation et la fraude de contenu en ligne.