YouTube veut permettre aux créateurs d'exploiter la puissance de l'intelligence artificielle , mais en même temps, il met également en œuvre de nouvelles politiques qui obligent les créateurs à indiquer quand ils ont mis en ligne du contenu généré par cette technologie.
En fait, à partir de 2024, les YouTubers devront qualifier de « réaliste » le contenu généré par l’IA lors de la mise en ligne de vidéos. De plus, cette exigence de divulgation sera particulièrement importante lorsqu’il s’agira de questions telles que des élections ou des conflits en cours.
Alors que les utilisateurs pourront demander la suppression de vidéos qui simulent « un individu identifiable » et les maisons de disques associées pourront également demander la suppression de contenu qui « imite la voix unique d'un artiste » .
Les changements surviennent alors que l'IA générative a rendu beaucoup plus facile la création de vidéos réalistes (deepfakes) qui montrent des scénarios fictifs ou profitent de la popularité de personnalités connues pour diffuser des informations erronées ou utiliser du matériel protégé par le droit d'auteur .
Un étiquetage inapproprié entraînera des sanctions
YouTube prévient que les sanctions en cas de non-étiquetage précis du contenu généré par l'IA varieront, mais pourraient inclure la suppression et la démonétisation .
Et bien que pour l’instant, on ne sache pas comment la plateforme saura si une vidéo non étiquetée a réellement été générée par l’IA. Le porte-parole de la plateforme, Jack Malon , a déclaré qu'elle « investit dans des outils qui nous aident à détecter et à déterminer avec précision si les créateurs ont satisfait à leurs exigences de divulgation en ce qui concerne les vidéos synthétiques ou modifiées ».
Bien qu'il n'existe actuellement aucune définition spécifique de ce que YouTube considère comme « réaliste » , Malon a précisé que la société fournira des conseils plus détaillés avec des exemples lorsque l'obligation de divulgation entrera en vigueur l'année prochaine.
De plus, il est important de noter que de tels outils ne sont pas encore disponibles et que les outils actuels ont un historique de performances médiocres.
Facteurs lors de l’évaluation des demandes de suppression
Les utilisateurs peuvent demander à YouTube de supprimer « le contenu qui ressemble à une personne identifiable , y compris son visage ou sa voix », en utilisant un formulaire de demande de confidentialité.
Ainsi, en cas de deepfake , il y a un processus à suivre qui peut entraîner la disparition de cette vidéo. Cependant, la société a noté que toutes les demandes ne seront pas acceptées et que des seuils de modération de contenu plus élevés s'appliqueront au matériel satirique ou parodique et au contenu qui imite des personnages publics.
Ce point peut générer une grande controverse, car ces éléments sont des facteurs importants dans la défense d’un usage loyal en cas de violation du droit d’auteur et il n’existe actuellement aucune loi spécifique qui réglemente les deepfakes réalisés avec l’IA.
Cependant, YouTube élabore ses propres règles pour prendre de l'avance et qu'il pourra faire respecter comme bon lui semble, sans besoin de transparence ni de cohérence particulière.
De plus, il n’y aura aucune exception pour la parodie et la satire en ce qui concerne le contenu musical généré par l’IA par les maisons de disques associées à la plateforme.
Protection spéciale pour les partenaires de l’industrie musicale
YouTube offrira à ses partenaires de l'industrie musicale la possibilité de demander à YouTube de supprimer le contenu qui "imite la voix unique de chant ou de rap d'un artiste". La seule exception envisagée est si le contenu fait « l’objet d’actualités, d’analyses ou de critiques de voix synthétiques ».
Malon a également révélé que « les demandes de suppression de musique seront effectuées via un formulaire » que les étiquettes associées devront remplir manuellement. .
Cependant, cela inquiète de nombreux créateurs dont les chaînes entières sont dédiées à la production de couvertures IA d'artistes vivants et morts, car la plupart seraient susceptibles d'être supprimées par les labels.
YouTube est depuis longtemps un environnement généralement hostile à l'analyse et à la critique musicale en raison d'une application trop zélée des droits d'auteur. Tandis que Malon a précisé qu'initialement "le contenu supprimé, que ce soit en raison d'une demande de confidentialité ou d'une demande vocale synthétique, n'entraînera pas de sanctions pour celui qui l'a téléchargé".
Sur cette question, l'entreprise marche sur la corde raide, car il n'existe aucun cadre juridique établi ni aucun procès qui déclare qu'il est illégal d'entraîner un système d'IA à chanter avec la voix de Taylor Swift .