Quatre jours après l'attaque par l' État islamique d'une salle de concert en Russie en mars, une vidéo a commencé à circuler sur une plateforme privée affiliée au groupe terroriste. L’émission de 92 secondes montrait un présentateur de journal portant un casque et un uniforme militaire affirmant que l’attaque n’était pas une opération terroriste, mais faisait partie du « contexte normal de la guerre en cours entre l’État islamique et les pays luttant contre l’islam ».
L'« ancre » était fausse, un clone généré par l'IA créé par des sympathisants de l'État islamique dans le cadre d'un nouveau programme médiatique généré par l'IA appelé News Harvest , selon des vidéos et des messages de discussion partagés avec le Washington Post par le SITE Intelligence Group, qui. suit les mouvements terroristes et extrémistes en ligne.
Depuis mars, le programme propose des dépêches vidéo quasi hebdomadaires sur les opérations de l’État islamique dans le monde. Conçu pour ressembler à un journal télévisé d'Al Jazeera, le programme – qui n'a pas été rapporté auparavant – marque l'émergence de l'IA comme un puissant outil de propagande alors que les affiliés de l'État islamique gagnent en force et reconstruisent les opérations médiatiques du groupe, a-t-il déclaré. -fondateur du Groupe SITE Intelligence.
« Pour ISIS, l’IA change la donne », a déclaré Katz. « Ce sera pour eux un moyen rapide d’étendre et de diffuser leurs attaques sanglantes [pour] atteindre presque tous les coins du monde. »
Les programmes commencent par afficher un logo graphique et une séquence de titres. Des présentateurs de nouvelles générés par l’IA apparaissent à l’écran, vêtus d’équipements de combat ou de robes formelles, tandis que les gros titres défilent et des séquences vidéo montrent des membres de l’État islamique menant des missions terroristes. Les présentateurs lisent les dépêches des médias officiels de l’État islamique, notamment al-Naba et Amaq.
Les vidéos offrent certains des premiers signes montrant que l’IA aide les groupes terroristes à diffuser rapidement de la propagande et à recruter des membres, ont déclaré des experts des médias spécialisés dans le terrorisme, et ont même déclenché un débat interne sur l’utilisation de cette technologie dans le cadre de la loi islamique.
L’État islamique est connu pour ses opérations médiatiques éclatantes, créant des vidéos de recrutement de niveau hollywoodien qui plaisent aux jeunes. Les générateurs vidéo IA leur permettent désormais de créer ce type de contenu pour une fraction du coût. Plusieurs groupes militants islamistes, dont al-Qaïda, ont manifesté leur intérêt pour l'utilisation de chatbots IA, de générateurs d'images et de cloneurs de voix pour créer rapidement de la désinformation, selon des messages partagés avec The Post.
L’intelligence artificielle donne aux sympathisants de l’État islamique la possibilité de créer une propagande déguisée de manière inoffensive, comme un journal télévisé, ce qui rend difficile la modération des entreprises technologiques, a déclaré Katz. Des outils d'IA bon marché et faciles à utiliser permettent de réaliser des vidéos rapidement et avec un budget restreint, profitant à des groupes comme l'État islamique et Al-Qaïda, qui ont été affaiblis par les frappes militaires.
« Moudjahidines des médias »
Les sympathisants de l’État islamique se sont empressés d’utiliser l’IA à des fins de propagande. Le 15 mars, un partisan, « Al Kurdi 500 », a expliqué sur un serveur de messagerie privé pourquoi d’autres partisans devraient adopter l’IA.
« Ce serait formidable si les frères produisaient des vidéos sur l'actualité quotidienne, comme alternative à la lecture des informations sous forme de texte et au visionnage d'images », a écrit Al Kurdi 500, « comme le font les chaînes d'information comme Al Jazeera » lorsqu'elles parlent d'événements.
« La technologie a beaucoup évolué et cela serait plus facile à faire aujourd'hui, notamment avec l'utilisation de l'IA », a ajouté Al Kurdi 500. « Les médias sont aussi importants que la guerre physique, sinon plus. Parce qu’ils ont une grande influence sur les gens.
Sept jours après ce message, des membres de l'État islamique ont tué au moins 133 personnes lors d'une attaque contre une salle de concert dans la région de Moscou. Un sympathisant du groupe extrémiste appelé Hisad s’est rapidement mobilisé pour créer une vidéo générée par l’IA. Le 26 mars, Hisad a publié le premier épisode de News Harvest sur une plateforme de messagerie privée.
Depuis l’attaque en Russie, six émissions de News Harvest ont été publiées, donnant un aperçu des récentes opérations menées par les groupes affiliés à l’État islamique dans le monde, notamment au Niger, au Cameroun, en Irak, en Syrie et au Nigeria. On ne sait pas exactement quelle technologie d'IA est utilisée, bien que certains partisans dans des publications aient encouragé l'utilisation de « bons » logiciels d'IA, tels que l'outil de clonage vocal d' Eleven Labs , une société de génération audio d'IA. (Eleven Labs n'a pas répondu à une demande de commentaire.)
Steven Stalinsky, directeur exécutif de l'Institut de recherche sur les médias du Moyen-Orient (MEMRI), a déclaré que les épisodes ne sont pas réalisés par la branche officielle de l'État islamique et qu'il n'est donc pas clair s'ils correspondent à la stratégie globale du groupe. Mais il a déclaré qu'il ne serait pas surpris si l'entreprise créait une division média basée sur l'IA, car elle a toujours été prompte à adopter une technologie de pointe.
Les médias pro-État islamique recherchent déjà des personnes possédant des compétences en IA, a-t-il déclaré. Un message obtenu par MEMRI le 23 avril montre que des experts sont recherchés en matière de création d'affiches, de rédaction d'articles et de montage vidéo, et possédant une connaissance d'Adobe Photoshop, Premiere et AI. « Ô moudjahidin des médias », peut-on lire dans le message. "Les médias attendent votre attaque."
D’autres organisations militantes islamistes, comme Al-Qaïda, discutent également de l’utilisation de l’IA. Le 9 février, un groupe affilié à Al-Qaïda a annoncé qu’il commencerait à organiser des ateliers en ligne sur l’IA. Le lendemain, l'entreprise s'est associée à une autre organisation affiliée à Al-Qaïda pour publier un guide de 50 pages intitulé « Des façons géniales d'utiliser les chatbots IA », qui fournissait un aperçu de base du ChatGPT d'OpenAI, y compris des rapports de médias comme Wired Magazine sur. AI traduit en arabe, selon un document que le SITE Intelligence Group a partagé avec The Post.
"ChatGPT est un outil puissant", indique l'introduction du guide. "Alors, voyons ce que vous pouvez faire avec cet outil, d'accord ?"
Stalinsky a déclaré que les entreprises technologiques dans lesquelles les sympathisants de l'État islamique diffusent du contenu – comme sur la plateforme de messagerie sécurisée Rocket.Chat , Telegram et X – font un mauvais travail en ce qui concerne la suppression des documents des militants islamistes. Maintenant que l’IA permet l’émergence d’un plus grand nombre de médias de ce type, a-t-il déclaré, cela constituera un défi pour les régulateurs et les efforts de lutte contre le terrorisme.
Laís Machado Rocha, représentant des relations publiques de Rocket.Chat , a déclaré que l'entreprise est une plateforme open source qui n'héberge pas de messages sur ses serveurs et ne peut donc pas les supprimer. "La diffusion des messages est limitée aux utilisateurs de l'espace de travail illégal spécifique", a déclaré Rocha.
Telegram et X n'ont pas répondu aux demandes de commentaires.
Des visages interdits ?
Il y a plus de dix ans, la branche médiatique de l'État islamique, al-Hayat, a permis à l'État islamique de produire des vidéos de haute qualité, une tactique clé pour recruter des personnes dans le monde entier. Même si les frappes militaires occidentales ont brisé les divisions, affirment les experts en terrorisme, l’IA permet aux sympathisants de l’État islamique de créer rapidement une propagande dans les jours qui suivent une attaque terroriste, qui peut rester en ligne plus longtemps qu’un contenu sanglant, lorsque l’opportunité de radicaliser de nouveaux membres est élevée.
"Si vous réalisez la meilleure attaque au monde et ne la propagez pas, vous perdez votre exploit", a déclaré Katz. « Ce que fait désormais l’IA, c’est leur permettre de créer autant qu’ils le souhaitent en peu de temps. »
Entre-temps, les vidéos ont également déclenché une controverse interne parmi les sympathisants de l’État islamique sur la question de savoir si les représentations artificielles d’humains sont interdites par la loi islamique, connue sous le nom de « haram ».
"Ne montrez pas le visage d'une caricature ou le visage d'une... animation, LE HARAM EST INTERDIT", a écrit un sympathisant de l'État islamique nommé Hamed 123 au créateur de la série News Harvest sur une plateforme privée, selon des messages partagés par SITE Intelligence. Groupe avec The Post.
Hamed 123 a écrit que les personnes qui réaliseraient des images par « dessin ou gravure » seraient punies le Jour de la Résurrection de l'Islam. "Ces images interdites sont des images d'êtres animés, comme des humains, des animaux et des oiseaux", a ajouté Hamed 123.
Hisad a répondu début mai. "Je suis allé en parler au cheikh et il a dit qu'il était haram de montrer des animations ou des dessins d'IA", a écrit Hisad. "Alors il m'a dit de flouter le visage du modèle et c'est pourquoi vous le voyez comme ça maintenant", faisant référence à des épisodes plus récents de l'émission News Harvest où le présentateur généré par l'IA a l'air plus caricatural, avec son visage obscurci.
Aaron Zelin, chercheur principal au Washington Institute for Near East Policy, a déclaré que l'IA pourrait contribuer à la croissance de l'extrémisme local en donnant aux gens du monde entier la possibilité de consommer de la propagande, de créer des médias générés par l'IA et de s'engager avec le groupe extrémiste.
"Si vous jetez beaucoup de morceaux de spaghetti contre un mur, l'un d'eux finira par rester collé", a-t-il déclaré. "Cela pourrait offrir davantage de possibilités de viralité pour ce type de contenu."
© 2024, Le Washington Post