OpenAI , la société qui a créé ChatGPT , a confirmé jeudi que des groupes de Russie , d'Iran , de Chine et d'Israël utilisaient cet outil pour produire et diffuser leur propagande malveillante . La nouvelle a été confirmée quelques semaines avant les élections européennes et présidentielles aux États-Unis, ainsi qu’en pleine guerre au Moyen-Orient et en Ukraine.
Selon la société, il s’agissait de comptes associés à des opérations de propagande bien connues à Moscou, Pékin et Téhéran, ainsi qu’à une société de campagne politique à Tel Aviv et à un groupe russe jusqu’alors inconnu. Ces utilisateurs utilisent la technologie depuis plusieurs années pour rédiger des publications, les traduire dans différentes langues et créer des logiciels qui leur permettent de publier automatiquement sur les réseaux sociaux, diffusant ainsi leurs messages plus rapidement.
Spamouflage , un groupe chinois déjà sous le contrôle de la communauté internationale, a utilisé cet outil pour enquêter sur l'activité des médias sociaux et rédiger des articles en chinois, coréen, japonais et anglais , sur la base de ces données. L’ Union internationale iranienne des médias virtuels l’a également utilisé pour créer des articles qu’elle a ensuite publiés sur son site Internet.
Pendant ce temps, Bad Grammar , le groupe russe découvert grâce à ce complot, a pu créer un programme capable de publier automatiquement sur Telegram et, à son tour, de générer des publications et des commentaires en russe et en anglais , pointant du doigt les États-Unis et eux. a donné des arguments sur les raisons pour lesquelles il ne devrait pas aider davantage l'Ukraine dans la guerre.
En référence à Israël, il a été constaté que la société de campagne politique Stoic avait généré, grâce à ces avancées technologiques , des publications en faveur du pays dans le contexte de la guerre à Gaza , destinées au Canada, aux États-Unis et à Israël . Meta a été ajouté aux conclusions d'OpenAI, qui ont également fait état de pratiques similaires de la part de l'entreprise dans son réseau, à travers 510 comptes sur Facebook et 32 sur Instagram . Selon ce qu'ils ont ajouté, certains d'entre eux sont apparus sous des noms de personnes fictives tandis que d'autres ont été piratés par des utilisateurs réels.
Grâce à cela, des commentaires répétés ont été créés dans les pages de personnalités et d’organisations médiatiques sous le couvert d’étudiants universitaires pro-israéliens ou afro-américains qui soutenaient les forces de défense et mettaient en garde contre les menaces d’un « islam radical ».
"Nous les avons vu générer un volume de texte plus élevé et avec moins d'erreurs que ce que ces opérations traitaient traditionnellement", a déclaré au Washington Post Ben Nimmo, chef de l'équipe d'enquête sur le renseignement d'OpenAI, qui a précédemment travaillé sur les opérations d'influence chez OpenAI. .
Tous ces comptes ont cependant été supprimés, même si aucun d'entre eux n'a de toute façon eu beaucoup de succès : ils ont gagné quelques abonnés, leur portée était assez limitée et les commentaires ont été sortis de leur contexte. Cependant, cela a révélé les risques liés à l'utilisation de l'IA à des fins malveillantes et tous les dommages qu'elle peut causer à la société, étant donné qu'il n'est pas exclu que d'autres groupes existent encore sur la base des outils OpenAI sans que l'entreprise en ait connaissance .
« C’est plus une évolution qu’une révolution. L’heure n’est pas à la complaisance. "L'histoire montre que des opérations d'influence qui, pendant des années, n'ont abouti à rien, peuvent soudainement exploser si personne ne les recherche ", a ajouté Nimmo, notant qu'aucune preuve n'a été trouvée d'autres utilisations plus sophistiquées du logiciel, telles que les opérations longues et détaillées. conversations avec les utilisateurs, avec des messages personnalisés, même si cela « ne veut pas dire que nous ne pouvons pas le voir à l’avenir ».
Depuis des années, les gouvernements et les groupes militants se battent pour lutter contre l’utilisation des médias sociaux comme canal d’influence et de manipulation politiques. Luego de las denuncias en 2016 de la interferencia del Kremlin en las elecciones de Estados Unidos, las principales plataformas en línea comenzaron a prohibir a los políticos encubrir sus esfuerzos por influir en los usuarios y hasta se exige que se demuestre quién está detrás del financiamiento de annonces.
Le problème est que les avancées technologiques et les mécanismes d’adaptation de ces groupes ont tendance à être plus rapides que ceux des entreprises, qui consacrent des mois de travail et de recherche à des experts. C’est pourquoi, avec l’apparition récente d’outils capables de produire à grande échelle des textes, des images et même des vidéos réalistes, les entreprises du secteur se lancent dans une course contre la montre.
Les premiers exemplaires ne tardèrent pas à arriver. Plus tôt cette année, un groupe affilié au Parti communiste chinois a publié une vidéo du candidat taïwanais à l'élection présidentielle Terry Gou dans laquelle on le voyait soutenir un autre homme politique. Cependant, ces images avaient été créées avec l’IA et ne cherchaient qu’à accroître la fracture politique sur l’île, au milieu des ambitions de Pékin d’en prendre le contrôle.
De plus, en janvier, les électeurs des primaires du New Hampshire , aux États-Unis, ont affirmé avoir reçu un appel du président lui-même et du candidat à sa réélection, Joe Biden , ce qui s'est également révélé faux. La semaine dernière, un employé de la campagne démocrate a avoué le stratagème et a été officiellement accusé de suppression d'électeurs et d'usurpation d'identité d'un candidat.
OpenAI, Google et d'autres ont déjà commencé à développer leur logiciel pour identifier les deepfakes , mais cette technologie n'a pas encore été approuvée et beaucoup sont encore moins encourageants quant à son efficacité.
Nouveau