L'une des formes de divertissement utilisées par les utilisateurs de programmes d'intelligence artificielle est de créer des versions de chansons interprétées par des artistes complètement différents comme Chester Bennington chantant en espagnol ou même de créer des chansons complètement nouvelles comme le viral « Bad Bunny » sur TikTok . YouTube a décidé résoudre le problème avec un système de balises qui ne seront affichées que sur les contenus créés avec ce type de technologie.
"Nous demanderons aux créateurs d'indiquer lorsqu'ils ont créé un contenu de manière synthétique ou modifié un contenu existant de manière réaliste", a déclaré YouTube dans un communiqué dans lequel ils expliquent le fonctionnement d'un nouveau système de balises qui fournira ces informations aux utilisateurs qui visitent. le site Web .
Selon la plateforme vidéo de Google , les utilisateurs qui ne respectent pas cette nouvelle directive lors de la publication de vidéos, que ce soit dans YouTube Shorts ou dans du contenu long, s'exposent à des sanctions telles que l'élimination de la monétisation de ce contenu particulier. Toutefois, la sanction peut également inclure la suppression complète de toute vidéo « simulant une personne identifiable en simulant son visage ou sa voix ».
Même lorsque le contenu est généré dans le but de divertir par satire ou imitation, la vérité est que YouTube demandera également que ces étiquettes soient mises en place pour faciliter la reconnaissance de ce type de vidéos et pour éviter que la désinformation ne se propage en utilisant l' application comme intermédiaire.
Selon YouTube, cette méthode d'identification est « particulièrement importante dans les cas où le contenu traite de sujets sensibles, tels que les élections, les conflits en cours et les crises de santé publique, ou les agents publics ». Bien qu'il s'agisse d'une option de marquage facultative, dans le cas où les créateurs ne parviennent pas à identifier les vidéos générées par l'intelligence artificielle, le système se chargera de les éliminer et de sanctionner l'utilisateur.
Ces étiquettes seront de deux types : la première est la plus petite et sera affichée dans des sections telles que YouTube Shorts en bas à gauche de l'écran, tandis que la seconde sera plus grande et se retrouvera en bas de la description de la vidéo. Ce seront les deux moyens dont disposera YouTube pour arrêter la prolifération de contenus comme celui-ci.
Bien que les deux étiquettes puissent être affichées sur les vidéos pour empêcher la diffusion d' images altérées, éditées ou générées par l'intelligence artificielle , YouTube indique dans sa déclaration officielle qu'il peut y avoir des cas dans lesquels les étiquettes ne suffisent pas, vous devrez donc supprimer le vidéo car en plus d'être générées par des programmes informatiques , elles violent également les normes de la communauté même si elles ont été correctement identifiées comme du contenu créé par l'IA .
"Par exemple, une vidéo créée de manière synthétique qui montre une violence réaliste peut toujours être supprimée si son objectif est de surprendre ou de dégoûter les spectateurs ", indique la plateforme dans l'annonce lançant ces nouvelles mesures préventives.
La raison de la création de ce type d' outils supplémentaires pour les utilisateurs est que, selon YouTube , il existe des cas dans lesquels différentes personnes, publiques ou non, voient leurs visages et même leurs voix utilisés dans le contenu sans leur consentement pour exprimer des opinions ou des idées. ne les représente pas.
"Dans les prochains mois, il sera possible de demander la suppression de contenus générés par l'IA qui simulent une personne identifiable, y compris son visage ou sa voix, via notre processus de demande de confidentialité", a indiqué la plateforme de Google.
La mise à jour de l'application vidéo a déjà été officiellement lancée et atteindra progressivement les comptes d'utilisateurs des sites de bureau et mobiles au cours des prochains mois.