« La facture sera payée par les Américains bien après la fin des combats », avertissait un article d’opinion publié le mois dernier dans le Port St. Joe Star, un petit hebdomadaire de Floride, concernant la guerre avec l’Iran.
L’article était signé Ervin Hoskins, un nom qui figure également dans des textes critiques envers la guerre publiés dans des médias de plus grande envergure, tels que Daily Kos et Middle East Monitor ; ces deux derniers cumulent plus de trois millions d’abonnés sur Facebook.
Cependant, OpenAI, la créatrice de ChatGPT, a déclaré jeudi que les travaux supposés de Hoskins avaient été générés par son chatbot par des utilisateurs résidant en Iran, dans le cadre d’une « campagne d’influence ». Selon l’entreprise, cette campagne a permis de placer près de 100 articles faux dans au moins 20 médias.
La photo de l’auteur accompagnant la colonne de Hoskins publiée par le Star a été générée à l’aide d’outils d’intelligence artificielle d’OpenAI, selon l’outil de vérification en ligne de l’entreprise elle-même.
À mesure que les outils d’intelligence artificielle gagnent en puissance, certains médias ont été contraints de retirer des contenus générés par IA et publiés sous de fausses signatures, qui étaient passés inaperçus pour les éditeurs au départ. L’année dernière, Business Insider et Wired ont retiré une série d’articles signés Margaux Blanchard, qui semblaient avoir été créés à l’aide de l’intelligence artificielle.
Bien qu’il ne soit pas clair qui — ou quoi — se cachait derrière les textes attribués à Blanchard et à d’autres identités apparemment fictives, OpenAI a révélé jeudi, dans un rapport sur l’utilisation de ChatGPT dans les campagnes d’influence politique, que Hoskins faisait partie d’une opération visant à diffuser des contenus sur une éventuelle action militaire américaine en Iran. Beaucoup de ces articles soulignaient les répercussions négatives que la guerre aurait pour les Américains.
OpenAI a indiqué que Hoskins était l’une des sept signatures utilisées dans cette série d’articles générés par IA, créés par des utilisateurs envoyant des instructions au chatbot en persan. Selon l’entreprise, les opérations semblaient être dirigées par une entité commerciale comme une « campagne d’influence sur commande ». (The Washington Post entretient un accord de collaboration de contenus avec OpenAI).
David Adlerstein, rédacteur en chef du Port St. Joe Star, a expliqué par courriel que la colonne de Hoskins avait attiré son attention après qu’elle lui ait été proposée par PeaceVoice, un petit think tank de tendance progressiste basé en Oregon, qui envoyait des contenus au Star depuis des « années ». Le comté de Gulf, où se trouve Port St. Joe, compte une population d’environ 15 000 habitants.
« Étant donné que nous sommes dans une zone de Floride à forte tendance républicaine, je ne publie normalement pas de colonnes de PeaceVoice ; cependant, celle-ci m’a semblé inviter à la réflexion et ne constituait pas une attaque stridente contre M. Trump, ce qui aurait posé problème pour une grande partie de nos lecteurs », a déclaré Adlerstein. Selon ses explications, compte tenu de sa relation antérieure avec PeaceVoice, il n’a pas jugé nécessaire de vérifier l’origine de la colonne ni l’identité de l’auteur.
Tom Hastings, directeur fondateur de PeaceVoice, a indiqué que l’organisation avait renforcé sa politique existante de non-utilisation de l’intelligence artificielle après avoir été contacté par OpenAI.
OpenAI a informé avoir suspendu les comptes responsables de la campagne et avoir bloqué l’accès à ChatGPT depuis l’Iran.
« L’activité générale semblait cohérente avec celle d’un acteur commercial menant une campagne d’influence sur commande, bien que nous ne puissions identifier l’acteur spécifique impliqué », a affirmé l’entreprise dans son rapport. « Nous avons partagé des informations sur cette affaire avec les autorités compétentes ».
Middle East Monitor et Daily Kos ont communiqué avoir retiré les articles publiés sous des noms d’auteurs fictifs.
Les articles de Hoskins sur Daily Kos sont apparus sur une plateforme communautaire qui n’est pas soumise à une révision par le personnel du média avant publication. Markos Moulitsas, fondateur du site, a déclaré par courriel que cette campagne était « incroyablement corrosive » pour la plateforme et qu’il étudiait comment éviter de futurs incidents.
« Nous avons déjà des problèmes avec des membres de la communauté qui accusent d’autres d’être des bots ou des faux comptes simplement parce qu’ils ne sont pas d’accord avec eux. Une opération comme celle-ci jette de l’huile sur le feu », a-t-il affirmé. « C’est la confiance même de notre communauté qui est en jeu ».
Les articles rédigés par des auteurs qui, selon OpenAI, faisaient partie de la campagne iranienne abordaient divers sujets liés au Moyen-Orient, bien qu’ils critiquent souvent les répercussions de la guerre de l’Iran pour les Américains. La plupart des médias concernés se concentraient sur la politique et les affaires étrangères.
Après avoir généré des articles en anglais, les utilisateurs de ChatGPT en Iran demandaient au chatbot d’ajuster le brouillon pour répondre aux critères de soumission d’un média spécifique et de rédiger un courriel de proposition à envoyer à un éditeur de ce média. Les prétendus auteurs des articles étaient décrits comme des rédacteurs indépendants, des analystes de politiques et des défenseurs de la paix. Middle East Monitor, média qui se définit comme partisan de la cause palestinienne, avait publié au moins 21 articles sous des signatures qualifiées de fausses par OpenAI, y compris celles de Hoskins, Michael Harrison, Jenny Williams et Alice Johnson.
Certaines des signatures d'auteur, y compris celle de Hoskins, apparaissent également sur des comptes de réseaux sociaux — et dans un cas, sur un profil de la plateforme de blogs Medium — qui partageaient le nom et l'image de profil avec les articles publiés. Un compte de messagerie électronique, apparemment utilisé pour envoyer l'article de Hoskins à PeaceVoice, ainsi qu'un compte LinkedIn à son nom avec une photo apparaissant aux côtés de certaines des signatures, n'ont pas répondu à une demande de commentaire.
Au moins une autre auteure supposée, Ericka Feusier, a utilisé une photo de profil générée par intelligence artificielle, selon l'outil d'OpenAI qui vérifie si les images ont été créées avec la technologie de la société.
Le rapport d'OpenAI sur les campagnes d'influence menées avec sa technologie décrivait également un groupe de comptes ChatGPT en Russie qui ont été bloqués après avoir été utilisés pour gérer ce qui semblait être un centre d'études fictif en Amérique latine. OpenAI a indiqué qu'il y avait des indices suggérant que le projet aurait pu recruter des personnes réelles pour travailler dans l'organisation.
L'entreprise d'IA a affirmé avoir publié cette recherche afin d'informer les régulateurs, les autres entreprises et le public sur « la manière dont nous voyons les acteurs de menaces tenter d'exploiter l'IA, et pour mettre en lumière les vulnérabilités qu'ils tentent d'exploiter ».
Les médias touchés par la campagne ont des portées très diverses. Cependant, bien qu'il semble qu'ils aient publié des articles générés par IA sous de fausses signatures, il y avait des personnes réelles qui les ont lus.
L'éditorial de Hoskins dans le Star a motivé une lettre au directeur, ce qui est peu habituel pour un article d'opinion sur un sujet d'envergure nationale, a commenté Adlerstein. Il a ajouté qu'il envisageait désormais de mettre en œuvre une politique explicite concernant l'utilisation de l'IA.
Hastings, de PeaceVoice, a déclaré que l'article lui semblait authentique lorsqu'il l'a vu.
« Je n'ai rien trouvé de particulièrement favorable à l'Iran dans son travail — quelque chose que je ne publierais jamais — mais simplement une critique légitime de la guerre choisie par Trump. Si M. Hoskins nous envoie un autre article, j'exigerai simplement que nous nous rencontrions par Zoom pour en discuter », a-t-il écrit dans un courriel. « Pour l'instant, c'est le mieux que je puisse faire ».