Google a ouvert au public mondial SynthID Detector, un outil permettant de vérifier si une image, une vidéo ou un fichier audio contient des filigranes associés à l'intelligence artificielle. Cette fonctionnalité sera disponible en anglais et vise à fournir un contexte sur les contenus circulant sur Internet, qui peuvent sembler créés par des humains, mais qui proviennent de systèmes automatisés de génération de contenu numérique.
Cette ouverture est importante car les outils d'IA s'améliorent et deviennent plus accessibles. Par conséquent, des photographies, des enregistrements et des vidéos peuvent être diffusés sans informations suffisantes sur leur origine. L'outil vise à aider les utilisateurs à prendre des décisions éclairées sur ce qu'ils voient, partagent ou considèrent comme fiable, sans remplacer l'analyse du contexte, de la source ni le jugement nécessaire pour interpréter chaque fichier.
SynthID intègre des signaux invisibles dans les images, les vidéos et les audios
Google a présenté SynthID en 2023, lorsqu'il a commencé à intégrer des filigranes imperceptibles dans le contenu multimédia généré par l'intelligence artificielle. Ces signaux numériques restent intégrés aux images, aux vidéos et aux audios sans modifier de manière visible leur apparence ou leur lecture. Le système permet d'associer un fichier à des données sur son origine technique et offre un moyen d'identifier les contenus créés par des modèles compatibles ultérieurement.
Depuis son lancement, l'entreprise affirme avoir marqué plus de 180 milliards d'images et de vidéos. Elle a également indiqué que la technologie a atteint 240 000 années de contenu audio. Ces chiffres reflètent l'échelle des outils génératifs liés à Google, ainsi que l'intention d'introduire un mécanisme technique qui accompagne les fichiers dès leur création et leur distribution.
L'outil cesse d'être limité aux journalistes et aux vérificateurs
Jusqu'à présent, Google offrait une version préliminaire de SynthID Detector aux professionnels des médias. Les journalistes et les équipes de vérification pouvaient utiliser l'outil pour examiner les contenus générés par l'IA avant de les publier ou de les analyser. L'élargissement de l'accès supprime cette restriction et permet à toute personne de tenter de vérifier l'origine technique d'un fichier depuis la plateforme disponible à l'échelle mondiale.
Le fonctionnement du détecteur dépend du fait que le fichier conserve un filigrane compatible avec SynthID. S'il en trouve un, l'outil peut indiquer que le contenu a été généré par l'intelligence artificielle de Google ou d'une entreprise associée. Si aucun signal n'apparaît, le résultat ne prouve pas que le matériel a été créé par un humain, ni qu'il est authentique ou fiable.
OpenAI, NVIDIA, Kakao et Apple élargiront la portée
Google a indiqué que le service pourra reconnaître les fichiers produits par ses systèmes et par des partenaires comme OpenAI, NVIDIA et Kakao. Apple s'ajoutera prochainement à cette liste, selon la compagnie. La participation de différentes entreprises peut élargir la portée des filigranes, car l'utilité d'un détecteur augmente lorsque davantage d'outils adoptent des signaux compatibles dans leurs processus de création numérique.
L'outil se joint à d'autres fonctions de vérification intégrées par Google dans la Recherche, l'application Gemini et Chrome. L'entreprise a assuré que ces systèmes gèrent régulièrement plus d'un million de demandes quotidiennes. Ce chiffre montre qu'il existe une demande croissante d'informations sur l'origine des contenus qui apparaissent dans les recherches, les navigateurs, les conversations avec des assistants et d'autres espaces numériques.
L'expansion de SynthID Detector répond à un problème qui affecte les utilisateurs, les médias et les plateformes : la difficulté à distinguer le contenu généré par l'IA des matériaux créés sans elle. Une image marquée peut apporter une donnée utile, mais ne résout pas à elle seule si la scène représente un fait réel ni si elle est partagée avec des informations complètes. L'interprétation continuera de nécessiter des vérifications.
Google présente le lancement comme faisant partie d'un travail orienté vers l'offre de plus de contexte sur ce qui circule sur internet. La disponibilité mondiale en anglais ouvre le service à un public plus large, bien que l'outil maintienne des limites liées aux filigranes qu'il peut détecter. Son utilisation permettra de vérifier des images, des vidéos et des audios, tandis que l'évaluation des sources et du contexte restera nécessaire.