Facebook et Instagram devront dire s'ils utilisent du contenu créé ou modifié numériquement, comme une vidéo deepfake d'un candidat. L’industrie technologique se prépare à une vague de vidéos, d’images et de sons créés grâce à l’intelligence artificielle avant les élections américaines de 2024.
La nouvelle règle entrerait en vigueur dans le monde entier début 2024, dans le cadre électoral américain. Ceux qui ne s'y conforment pas pourraient être sanctionnés. » L'IA appliquée aux campagnes politiques est définitivement là pour rester , mais si les annonceurs utilisent des médias synthétiques, ils devront le divulguer pour s'assurer que les gens ne soient pas induits en erreur.
La campagne électorale de Barack Obama en 2008 a été la première à utiliser efficacement les médias sociaux. Aujourd’hui, une technologie transformatrice semble destinée à révolutionner les campagnes politiques : l’intelligence artificielle. Les contenus créés par ordinateur, qui brouillent la frontière entre réalité et fiction, suscitent des inquiétudes partout dans le monde.
Google va dans la même direction que le groupe Meta et a indiqué en septembre dernier qu'il exigerait la même chose des annonceurs. « Les deux géants sont les plus grandes sociétés de publicité sur Internet en termes de ventes totales dans le monde, donc leurs décisions marqueront probablement une direction et sont devenus des standards de fait dans le commerce en ligne, parvenant à réguler une activité valant plusieurs millions de dollars et ayant un impact très élevé sur la population.
Les publicités politiques qui incluent du contenu artificiel représentant "fictivement" de vraies personnes, leurs actions et leurs paroles, ou des événements d'apparence réaliste, doivent inclure des informations "claires et visibles" avertissant les téléspectateurs qu'il ne s'agit pas d'un contenu réel. Tout porte à croire que la tendance sera que l’industrie technologique devra développer des mécanismes, tels que des filigranes, pour garantir que les utilisateurs sachent quand le contenu a été généré par l’IA.
L’IA permet à quiconque de créer gratuitement du texte, de l’audio et de la vidéo de plus en plus convaincants. L’avalanche de fausses nouvelles, de désinformation et de deepfakes va de pair avec cette croissance exponentielle, et les capacités de discernement et de détection sont faibles en raison de la très haute qualité obtenue, et du fait qu’à ce stade, l’information nous choisit. Comportement en tant qu'utilisateur : profil, envies, likes, modèle de navigation et même situation géographique ; Ils génèrent une corrélation avec le contenu que les annonceurs souhaitent que nous voyions.
Dans notre pays, lors des multiples élections de 2023, plusieurs candidats et acteurs politiques ont été les protagonistes de contenus générés artificiellement. L’IA parvient rapidement à mieux imiter la réalité , ce qui soulève de grandes questions sur la manière de la réguler.
Ces dernières années, l'IA a été utilisée pour insérer numériquement des visages de femmes dans des vidéos pornographiques, à des fins d'extorsion ou à des fins commerciales, produites pour exploiter l'image de célébrités et les commercialiser ou affecter leur réputation . Dernièrement, ils ont été utilisés comme instrument de vengeance , aux mains d'utilisateurs anonymes qui, à très bas prix, obtiennent un poignard électronique pour donner libre cours à une rancune qui deviendra rapidement virale.
Nous entrons dans une phase où tout peut être faux . N’importe qui peut nier la réalité, générer une vidéo en seulement 5 minutes et la rendre virale. L’autre aspect de ce processus est la croissance des Fake News et des Deep Fakes, où en cas d’éventuelle vidéo qui affecte négativement un candidat, même si elle est réelle, le syndicat pourrait simplement affirmer qu’elle est fausse.
Dans certains domaines, la nécessité d'un désarmement mutuel, d'un traité de non-prolifération, est maintenue, comme s'il s'agissait de capacités de bombardement avec des têtes nucléaires, alors qu'en réalité il s'agit de l'utilisation de l'IA générative par les partis politiques, ce qui suggère que cela pourrait affecter démocratie .
Les optimistes de l'IA souligneront qu'il existe des cas d'utilisation positifs pour les campagnes politiques. Il est vrai que lors des élections de 2020 en Inde, le message vidéo d'un candidat a été traduit en plusieurs langues et dialectes pour tenter d'atteindre davantage d'électeurs. . L’IA permet d’analyser des millions de données afin de cibler chirurgicalement plus précisément les électeurs.
La vérité est que cela se produit et pour le moment, c’est imparable. De fausses images de l'ancien président Donald Trump… en train de se battre avec la police, une… image du pape François… portant un élégant manteau matelassé et une « fausse chanson » utilisant des voix clonées de stars de la musique ; en sont quelques exemples.
Les risques de l’IA ne concernent pas seulement ce que la technologie peut faire, mais aussi la façon dont nous réagissons à ces outils. Il n’existe pas de formule magique pour distinguer les contenus générés par l’IA de ceux créés par les humains. C’est pourquoi des dates comme celles-ci nous rappellent l’importance de s’informer et d’être attentifs aux contenus numériques.