Le développement de l'intelligence artificielle a apporté plusieurs défis et l'un d'eux est la croissance des fausses nouvelles. Grâce à cette technologie, de fausses informations sont diffusées, mais en copiant la voix des protagonistes ou leur image.
Jeremy Kahn, écrivain pour le magazine Fortune, a fait une analyse du problème que peut représenter la croissance des fausses nouvelles basées sur l'IA, au milieu de la proximité des élections présidentielles aux États-Unis et des événements futurs.
Bien que, dans le même temps, l'intelligence artificielle soit postulée comme la solution à ce problème, contrecarrant sa portée et étant un outil de détection de faux contenus.
Fausses nouvelles avec l'IA
Il existe déjà plusieurs exemples dans lesquels cette technologie a été utilisée pour tromper les gens. En pleine élection municipale à Chicago, aux États-Unis, un média qui s'appelait le Chicago Lakefront News a publié une image du candidat Paul Vallas, accompagnée d'un audio dans lequel il aurait évoqué une question de refinancement de la police, bien qu'en réalité, il ne l'a jamais fait.
Le contenu divulgué avait été créé avec l'intelligence artificielle , copiant la voix de Vallas et atteignant des milliers de personnes, qui croyaient sûrement que la situation était réelle.
Pour cette raison, Gary Marcus, professeur émérite de sciences cognitives à l'université de New York et expert en IA, a assuré, dans l'article écrit par Kahn, que cette technologie est très susceptible de générer de fausses nouvelles et d'être "une force majeure dans le prochain élections".
Un autre exemple s'est produit il y a quelques mois, lorsque deux photographies d'un policier étreignant une femme lors de manifestations ont été publiées en France. Mais grâce à une erreur dans la génération de l'image, il a été possible de détecter la fausseté de l'information, qui avait un niveau de détail élevé.
Ces situations génèrent une alerte sur l'avenir des fake news et leur propagation rapide. Pour cette raison, Marcus assure qu'une réglementation est déjà nécessaire et que les plateformes en charge de l'IA devraient inclure un filigrane qui distingue leur contenu.
D'un côté moins catastrophique, Chris Meserole, chercheur à la Brookings Institution spécialisé dans l'impact de l'intelligence artificielle, estime que cette technologie va peu changer le paysage des fake news, par rapport à ce qui s'est passé lors des précédentes élections aux Etats-Unis.
"Je ne pense pas que cela change complètement la donne et que 2024 sera très différent de 2020 ou 2016", a déclaré l'expert.
De plus, il assure qu'à l'heure actuelle les outils de création vidéo ne sont pas assez précis pour être considérés comme un problème et que l'accent devrait être mis sur ceux de l'audio et du texte.
L'IA est une solution
Dans ses recherches, Khan a découvert qu'en Espagne, il existe une société appelée Newtral , spécialisée dans la vérification des affirmations des politiciens et qui expérimente de grands modèles linguistiques similaires à ceux de ChatGPT pour effectuer ce processus.
Bien que l'objectif ne soit pas de nier les faits, de meilleurs outils peuvent être donnés aux personnes qui se consacrent à ce travail.
Cette technologie a la capacité de sceller lorsque le contenu fait une réclamation qui doit être vérifiée et de détecter d'autres contenus qui la soutiennent. De plus, en combinant d'autres modèles de langage avec un logiciel d'apprentissage automatique, il sera possible d'évaluer la probabilité que quelque chose soit faux en fonction des sentiments exprimés.
Avec la mise en place de ce système, l'entreprise a réduit entre 70 et 80% le temps nécessaire pour détecter la véracité des informations.