Google a ouvert au public un nouvel outil web permettant de vérifier si une image, une vidéo ou un fichier audio a été généré par intelligence artificielle. Le service utilise une technologie de la compagnie appelée SynthID pour rechercher des filigranes numériques qui permettent d'identifier le contenu créé avec certains modèles d'IA.
L'outil, initialement disponible pour un groupe limité de journalistes, de professionnels des médias et de chercheurs, peut désormais être utilisé par toute personne.
La proposition vise à offrir un moyen simple de vérifier l'origine des contenus circulant sur Internet à un moment où il devient de plus en plus difficile de distinguer le matériel réel du contenu généré artificiellement.
Pour l'utiliser, l'utilisateur doit charger un fichier multimédia compatible sur le site de vérification. Google analyse le contenu et détermine s'il trouve des signaux associés à SynthID.
Quels fichiers la tool peut analyser
Le service de Google prend en charge une large variété de formats. Pour les images, il accepte les fichiers JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF et GIF.
Pour les vidéos, il permet de charger des fichiers MP4, MOV et WEBM, tandis que les formats audio compatibles incluent WAV, MP3, OGG, FLAC, AAC et M4A.
La technologie utilisée est SynthID, un système que Google a présenté en 2023 et qui fonctionne par l'incorporation d'un filigrane numérique dans les contenus créés avec intelligence artificielle. Ces filigranes ne sont pas nécessairement visibles pour les personnes, mais peuvent être détectés ultérieurement grâce à des outils conçus pour les identifier.
Google utilise SynthID dans des modèles comme Nano Banana, Veo et Lyria, ainsi que dans des produits avec des fonctions de génération de contenu comme Gemini, Flow, ProducerAI et Vids.
Cela signifie que l'outil ne détermine pas simplement si une image « semble » avoir été créée par intelligence artificielle. Il recherche plutôt des signaux spécifiques associés aux systèmes compatibles avec SynthID.
La technologie est déjà utilisée sur d'autres plateformes
SynthID n'est pas limité aux produits de Google. OpenAI, Nvidia et Kakao sont également compatibles avec cette technologie, tandis qu'OpenAI dispose en outre de son propre site pour vérifier le contenu généré par ses modèles.
Google a également intégré la vérification de SynthID dans Gemini et Google Chrome. Selon la compagnie, environ un million de demandes sont effectuées quotidiennement pour vérifier du contenu via ce système.
L'expansion de ces outils répond à la croissance des images, vidéos et audios créés par intelligence artificielle. Le contenu synthétique peut être utilisé pour le divertissement et la création numérique, mais pose également des problèmes lorsqu'il est présenté comme du matériel authentique.
Une fausse photographie peut être utilisée pour diffuser des informations trompeuses, tandis qu'un enregistrement vocal généré artificiellement peut se faire passer pour une personne réelle.
La vérification par l'IA a encore des limites
Bien que les filigranes numériques représentent un outil pour identifier le contenu généré par l'IA, ils ne constituent pas un mécanisme infaillible. La technologie elle-même dépend du fait que le contenu ait été créé via un système intégrant le filigrane correspondant.
Microsoft et Meta ont également développé leurs propres normes pour marquer et vérifier le contenu généré par l'intelligence artificielle. Cependant, ces systèmes peuvent rencontrer des difficultés à reconnaître du matériel produit par les modèles d'autres entreprises.
Pour cette raison, une réponse négative d'un outil de détection ne signifie pas nécessairement qu'un contenu est authentique. De même, un filigrane identifié peut servir de signal concernant son origine, mais il ne remplace pas d'autres formes de vérification.