Le téléphone de Divyendra Singh Jadoun n'arrête pas de sonner. Connu sous le nom de « Indian Deepfaker », Jadoun est célèbre pour avoir utilisé l’intelligence artificielle pour créer des séquences Bollywood et des publicités télévisées.
Mais alors que le vote échelonné commence pour les élections indiennes , Jadoun affirme que des centaines de politiciens réclament ses services, et plus de la moitié demandent des choses « contraires à l'éthique ». Les candidats lui ont demandé de simuler des enregistrements audio de concurrents ayant commis des erreurs lors de la campagne ou de superposer les visages des challengers sur des images pornographiques. Certaines campagnes ont demandé de fausses vidéos de mauvaise qualité de leur propre candidat, qui pourraient être diffusées pour jeter le doute sur d'éventuelles vidéos réelles préjudiciables qui émergeraient pendant l'élection .
Jadoun , 31 ans, dit rejeter les travaux destinés à diffamer ou à tromper. Mais il s'attend à ce que de nombreux consultants soient d'accord, déformant ainsi la réalité de la plus grande élection au monde, où plus d'un demi-milliard de personnes ont été élues. des électeurs indiens se rendent aux urnes.
"La seule chose qui nous empêche de créer des deepfakes contraires à l'éthique est notre éthique", a déclaré Jadoun . "Mais il est très difficile d'arrêter cela."
Les élections indiennes , qui ont débuté la semaine dernière et se sont terminées début juin, offrent un aperçu de la façon dont l'explosion des outils d'IA transforme le processus démocratique, facilitant le développement de faux médias transparents autour des campagnes. Plus de la moitié de la population mondiale vit dans plus de 50 pays qui organiseront des élections en 2024, année cruciale pour les démocraties mondiales.
Bien que l’on ne sache pas combien de deepfakes d’IA ont été réalisés sur des politiciens, les experts affirment qu’ils constatent une augmentation mondiale des deepfakes électoraux .
" Je vois plus de [deepfakes politiques] cette année que l'année dernière et ceux que je vois sont plus sophistiqués et convaincants ", a déclaré Hany Farid , professeur d'informatique à l' Université de Californie à Berkeley .
Alors que les décideurs politiques et les régulateurs, de Bruxelles à Washington, se précipitent pour rédiger une législation restreignant les audios, images et vidéos alimentés par l'IA pendant la campagne électorale, un vide réglementaire apparaît. La loi historique de l'Union européenne sur l'IA n'entrera en vigueur qu'après les élections législatives de juin. Au Congrès américain , une législation bipartite qui interdirait les fausses déclarations des candidats fédéraux par AI ne deviendra probablement pas loi avant les élections de novembre. Une poignée d’États américains ont adopté des lois qui pénalisent les personnes qui réalisent des vidéos trompeuses sur des politiciens, créant ainsi une mosaïque de politiques à travers le pays.
Parallèlement, il existe peu de moyens de dissuasion pour empêcher les politiciens et leurs alliés d’utiliser l’IA pour tromper les électeurs, et les forces de l’ordre sont rarement à la hauteur des contrefaçons qui peuvent se propager rapidement via les réseaux sociaux ou dans les discussions de groupe. La démocratisation de l’IA signifie qu’il appartient à des individus comme Jadoun – et non aux régulateurs – de prendre des décisions éthiques pour éviter le chaos électoral provoqué par l’IA .
« Ne restons pas les bras croisés pendant que nos élections sont ruinées », a déclaré le sénateur . Amy Klobuchar (D-Minn.), présidente de la commission du Règlement du Sénat , dans un discours le mois dernier à l' Atlantic Council . « …C'est un moment « cheveux en feu ». Ce n’est pas une question de « attendons trois ans et voyons comment ça se passe ».
Pendant des années, les groupes étatiques ont inondé Facebook et Twitter ( maintenant que combattre les mensonges est une tâche fragmentée et difficile).
Le ministère de la Sécurité intérieure a averti les responsables électoraux dans une note que l’IA générative pourrait être utilisée pour renforcer les campagnes d’influence étrangère ciblant les élections. Les outils d'IA pourraient permettre à de mauvais acteurs de se faire passer pour des responsables électoraux, a déclaré le DHS dans la note, diffusant des informations incorrectes sur la manière de voter ou sur l'intégrité du processus électoral.
Ces avertissements deviennent une réalité partout dans le monde. Des acteurs soutenus par l'État ont utilisé l'IA générative pour s'immiscer dans les élections taïwanaises du début de cette année. Le jour du scrutin, un groupe affilié au Parti communiste chinois a publié un enregistrement audio généré par l'IA d'un éminent homme politique qui s'est retiré des élections taïwanaises en soutenant un autre candidat, selon un rapport de Microsoft . Mais le politicien, Terry Gou , propriétaire de Foxconn , n'avait jamais fait une telle approbation, et YouTube a supprimé l'audio.
Taïwan a finalement élu Lai Ching-te , un candidat auquel s'opposaient les dirigeants du Parti communiste chinois , signalant les limites de la campagne dans son impact sur les résultats des élections.
Microsoft s'attend à ce que la Chine utilise cette année un modèle similaire en Inde , en Corée du Sud et aux États-Unis . « L'expérimentation croissante de la Chine en matière de mise à l'échelle des mèmes, de la vidéo et de l'audio va probablement se poursuivre et pourrait s'avérer plus efficace à long terme », indique le rapport de Microsoft .
Mais le faible coût et la large disponibilité des outils d’IA générative ont permis à des personnes sans soutien étatique de se lancer dans des canulars qui rivalisent avec les campagnes des États-nations.
En Moldavie , des vidéos deepfake d'AI ont montré la présidente pro-occidentale du pays, Maia Sandu , démissionnant et encourageant la population à soutenir un parti pro- Poutine lors des élections locales. En Afrique du Sud , une version modifiée numériquement du rappeur Eminem a soutenu un parti d'opposition sud-africain avant les élections de mai.
En janvier, un agent politique démocrate a usurpé la voix du président Biden pour exhorter les électeurs des primaires du New Hampshire à ne pas se rendre aux urnes, une farce destinée à attirer l'attention sur les problèmes du média.
La montée en puissance des deepfakes d’IA pourrait changer les données démographiques des candidats aux élections, car les mauvais acteurs utilisent de manière disproportionnée le contenu synthétique pour cibler les femmes.
Depuis des années, Rumeen Farhana , une politicienne de l'opposition au Bangladesh , est victime de harcèlement sexuel en ligne. Mais l’année dernière, une fausse photo d’elle en bikini est apparue sur les réseaux sociaux.
Farhana a déclaré qu'il n'était pas clair qui avait réalisé l'image. Mais au Bangladesh , pays conservateur à majorité musulmane, la photo a suscité des commentaires harcelants de la part de citoyens ordinaires sur les réseaux sociaux, de nombreux électeurs pensant que la photo était réelle.
Ces types de diffamations pourraient empêcher les candidates de se soumettre à la vie politique, a déclaré Farhana .
« Tout ce qui sort est toujours utilisé contre les femmes en premier. Ils sont les victimes dans tous les cas », a déclaré Farhana . « L’IA ne fait en aucun cas une exception. »
En l’absence d’activité du Congrès , les États prennent des mesures tandis que les régulateurs internationaux établissent des engagements volontaires de la part des entreprises.
Une dizaine d’États ont adopté des lois qui pénaliseraient ceux qui utilisent l’IA pour tromper les électeurs. Le mois dernier, le gouverneur du Wisconsin a signé un projet de loi bipartite qui imposerait des amendes aux personnes qui ne divulgueraient pas l'IA dans les publicités politiques. Et une loi du Michigan punit toute personne qui diffuse sciemment un deepfake généré par l’IA dans les 90 jours suivant une élection.
Cependant, il n'est pas clair si les sanctions, qui vont d'une amende allant jusqu'à 1 000 $ à 90 jours de prison, selon la municipalité, sont suffisamment sévères pour dissuader les contrevenants potentiels.
Avec une technologie de détection limitée et peu d'employés désignés, il pourrait être difficile pour les forces de l'ordre de confirmer rapidement si une vidéo ou une image est réellement générée par l'IA .
En l’absence de réglementation, les responsables gouvernementaux recherchent des accords volontaires de la part des politiciens et des entreprises technologiques pour contrôler la prolifération du contenu électoral généré par l’IA . La vice-présidente de la Commission européenne, Vera Jourova, a déclaré qu'elle avait envoyé des lettres aux principaux partis politiques des États membres européens avec un « appel » à résister à l'utilisation de techniques de manipulation. Cependant, a-t-il ajouté, les politiciens et les partis politiques ne subiront aucune conséquence s'ils ne tiennent pas compte de sa demande.
"Je ne peux pas dire s'ils suivront nos conseils ou non", a-t-il déclaré lors d'un entretien. "Je serai très triste s'ils ne le font pas, car si nous avons l'ambition de gouverner nos États membres, nous devons également montrer que nous pouvons gagner les élections sans méthodes sales."
Jourova a déclaré qu'en juillet 2023, elle avait demandé aux grandes plateformes de médias sociaux d'étiqueter les productions générées par l'IA avant les élections. La demande a reçu une réponse mitigée dans la Silicon Valley , où certaines plateformes ont déclaré qu'il serait impossible de développer une technologie pour détecter l'IA .
OpenAI , qui fabrique le chatbot ChatGPT et le générateur d'images DALL-E , a également cherché à nouer des relations avec des sociétés de médias sociaux pour gérer la distribution de documents politiques générés par l'IA . Lors de la conférence sur la sécurité de Munich en février, 20 grandes entreprises technologiques se sont engagées à s'unir pour détecter et supprimer les contenus nuisibles de l'IA lors des élections de 2024.
"Il s'agit d'un problème à l'échelle de la société", a déclaré Anna Makanju , vice-présidente des affaires mondiales chez OpenAI , lors d'une interview sur Post Live . "Aucun d'entre nous n'a intérêt à ce que cette technologie soit exploitée de cette manière, et tout le monde est très motivé, notamment parce que nous tirons désormais les leçons des élections précédentes et des années précédentes."
Toutefois, les entreprises ne seront pas sanctionnées si elles ne respectent pas leur promesse. Il existe déjà des écarts entre les politiques déclarées d' OpenAI et leur application. Un super PAC soutenu par des influenceurs de la Silicon Valley a lancé un chatbot IA du candidat à la présidence de longue date Dean Phillips , propulsé par le logiciel ChatGPT de l'entreprise, en violation de l'interdiction d' OpenAI d'utiliser sa technologie par des campagnes politiques. La société n’a pas interdit le robot jusqu’à ce que le Washington Post en fasse état.
Jadoun , qui fait du travail politique sur AI pour les principaux partis électoraux indiens , a déclaré que la propagation des deepfakes ne peut pas être résolue par le gouvernement seul : les citoyens doivent être plus éduqués.
" Tout contenu qui fait passer vos émotions au niveau supérieur ", a-t-il déclaré, "arrêtez-vous et attendez avant de le partager."
(c) 2024, Le Washington Post