TikTok a pris la décision de donner plus de clarté aux utilisateurs sur les contenus créés avec l'intelligence artificielle et permettra désormais de marquer les vidéos dotées de cette technologie, dans une mesure qui cherche à donner aux gens les informations nécessaires et à empêcher la diffusion de contenus potentiellement trompeurs. ours.
L’influence croissante de l’IA sur la création de contenu devient de plus en plus courante. Grâce à différents outils, les créateurs ont la possibilité de produire des vidéos dont il est parfois difficile de distinguer si elles sont réelles ou non.
Pour aider à résoudre ces doutes, le réseau social a mis en place des mesures qui cherchent à donner aux utilisateurs un meilleur contrôle et une meilleure compréhension du contenu qu'ils consomment sur la plateforme, de sorte que les nouvelles étiquettes seront appliquées au contenu qui a été entièrement généré ou modifié de manière significative par une IA. .
Comment fonctionnera le label IA
Au cours des derniers mois, le contenu créé avec cette technologie s'est développé, par exemple les vidéos deepfake dans lesquelles une personne change de visage et assume le rôle d'une personne célèbre, comme dans le cas des vidéos d'Elon Musk, Messi et Shakira, qu'ils présentent un degré élevé de similitude avec des personnes réelles et les utilisateurs peuvent être confus.
Il s'agit d'un profil qui le fait uniquement pour créer de l'humour et du divertissement, mais il se peut que quelqu'un l'utilise pour produire de fausses informations ou diffamer une autre personne. C'est pourquoi il est important d'avoir une étiquette qui avertit les gens.
La vérification affectera non seulement les filtres que TikTok a dans son catalogue, mais sera également disponible pour les vidéos précédemment éditées sur des plateformes tierces.
En plus de cela, au cours des prochaines semaines, le réseau social publiera des ressources pédagogiques, telles que des vidéos et des guides, pour aider ses utilisateurs à comprendre le but de ces balises et comment les mettre en œuvre correctement.
Au fil du temps, l'application espère que ces marques deviendront un outil utilisé par les créateurs et les téléspectateurs pour partager et contextualiser le contenu, à l'instar des badges de compte vérifié et des badges de contenu sponsorisé.
Cependant, l'attribution de la balise ne sera pas facultative pour les téléchargeurs, car la politique de l'application stipule que tout contenu généré par l'IA qui contient des « images, audio ou vidéo réalistes » doit être balisé comme tel pour « aider les téléspectateurs à contextualiser » la situation et « empêcher la diffusion possible de contenus trompeurs.
La plateforme explore également la possibilité d'automatiser l'identification du contenu généré par l'IA, car elle ne veut pas laisser cela entre les mains des téléspectateurs car il pourrait y avoir des erreurs. C'est pourquoi, dans les prochains jours, nous commencerons à tester une étiquette « Généré par l'IA » qui sera automatiquement appliquée au contenu détecté comme édité ou créé avec cette technologie, même si le créateur ne l'a pas préalablement étiqueté, offrant ainsi une plus grande sécurité sur la validité des vidéos ou des images.
Pour parvenir à une plus grande transparence, le réseau social a pris la décision de renommer les effets IA sur la plateforme, en incluant le mot « IA » explicitement dans leurs noms et étiquettes correspondantes.
La décision de TikTok d'introduire ces mesures a été prise en collaboration avec des conseillers en sécurité et des experts du secteur, tels que le Dr David G. Rand du MIT, qui a étudié la façon dont les téléspectateurs perçoivent les différents types de balises d'IA et cela a influencé la manière dont les utilisateurs perçoivent les différents types de balises d'IA. l'application commencera à appliquer cet outil.
Enfin, l'entreprise a annoncé que pour continuer à améliorer l'évolution de l'IA, elle s'associerait à l'organisation Digital Moment pour organiser des discussions sur l'avancement de cette technologie avec les « jeunes membres de la communauté ».