Saviez-vous que les incendies de forêt qui ont dévasté Hawaï l’été dernier ont été déclenchés par une « arme climatique » secrète testée par l’armée américaine, et que des ONG américaines propageaient la dengue en Afrique ? Qu'Olena Zelenska, la première dame d'Ukraine, a fait une virée shopping pour 1,1 million de dollars sur la Cinquième Avenue à Manhattan ? Ou que Narendra Modi, le premier ministre indien, a été soutenu par Mahendra Kapoor, un chanteur indien décédé en 2008, sur une nouvelle chanson ?
Bien entendu, ces histoires sont toutes fausses . Ce sont des exemples de désinformation : des mensonges destinés à tromper. Ces contes fantastiques sont diffusés à travers le monde grâce à des campagnes de plus en plus sophistiquées. Des outils ingénieux d’intelligence artificielle (IA) et des réseaux complexes de comptes de médias sociaux sont utilisés pour créer et partager des photographies, des vidéos et des fichiers audio étrangement convaincants, confondant la réalité et la fiction. À une époque où la moitié du monde organise des élections, cela alimente les craintes que la technologie rende impossible la lutte contre la désinformation, sapant fatalement la démocratie. À quel point devriez-vous être inquiet ?
La désinformation existe depuis aussi longtemps qu’il existe deux côtés à un débat. Ramsès II n'a pas gagné la bataille de Kadesh en 1274 avant JC. Ce fut, au mieux, un match nul ; mais on ne le devinerait jamais d'après les monuments que le pharaon a construits en l'honneur de son triomphe. Le récit de Jules César sur la guerre des Gaules est à la fois de la propagande politique et un récit historique. L’ère de l’imprimerie n’était pas meilleure. Pendant la guerre civile anglaise des années 1640, les contrôles sur la presse se sont effondrés, suscitant de nombreuses inquiétudes concernant les « pamphlets diffamatoires et fictifs ».
Internet a encore aggravé le problème. De fausses informations peuvent être diffusées à moindre coût sur les réseaux sociaux ; L’IA rend également la production bon marché. Une grande partie de la désinformation est trouble. Mais dans une section spéciale sur la science et la technologie, nous retraçons les façons complexes dont elle est semée et diffusée sur les réseaux, les comptes de médias sociaux et les sites Web. La campagne russe contre Zelenska, par exemple, a commencé sous la forme d'une vidéo sur YouTube, avant de passer par les sites de fausses informations africaines et d'être renforcée par d'autres sites et comptes de réseaux sociaux. Le résultat est un vernis trompeur de plausibilité.
Les comptes de diffusion créent des abonnés en publiant des articles sur le football ou la famille royale britannique, instaurant ainsi la confiance avant de mélanger des informations erronées. Une grande partie des recherches sur la désinformation ont tendance à se concentrer sur un sujet spécifique sur une plateforme particulière dans une seule langue. Mais il s’avère que la plupart des campagnes fonctionnent de la même manière. Les techniques utilisées par les opérations de désinformation chinoises pour dire du mal des entreprises sud-coréennes au Moyen-Orient, par exemple, ressemblent de façon frappante à celles utilisées dans les efforts menés par la Russie pour répandre des mensonges en Europe.
Le but de nombreuses opérations n’est pas nécessairement d’amener l’un à soutenir un parti politique plutôt qu’un autre. Parfois, l’objectif est simplement de contaminer la sphère publique ou de semer la méfiance à l’égard des médias, des gouvernements et de l’idée même que la vérité peut être connue. D'où les fables chinoises sur les armes météorologiques à Hawaï, ou la tentative de la Russie de cacher son rôle dans l'abattage d'un avion malaisien en promouvant divers récits concurrents.
Tout cela fait craindre que la technologie, en rendant la désinformation imbattable, ne menace la démocratie elle-même. Mais il existe des moyens de minimiser et de gérer le problème.
Il est encourageant de constater que la technologie est à la fois une force pour le bien et pour le mal. Si l’IA rend la production de désinformation beaucoup moins coûteuse, elle peut également faciliter le suivi et la détection. Même si les campagnes deviennent plus sophistiquées et que chaque compte diffusé varie suffisamment dans sa langue pour être plausible, les modèles d’IA peuvent détecter des récits qui semblent similaires. D'autres outils peuvent détecter les vidéos douteuses en identifiant les faux sons ou en recherchant des signes de vrais battements de cœur, comme le révèlent les variations subtiles de la couleur de la peau du front des gens.
Une meilleure coordination peut également aider. D’une certaine manière, la situation est analogue à celle de la science du climat dans les années 1980, lorsque les météorologues, les océanographes et les spécialistes de la Terre pouvaient dire que quelque chose se passait, mais chacun ne pouvait voir qu’une partie du tableau. Ce n’est que lorsqu’ils se sont rencontrés que la véritable ampleur du changement climatique est devenue évidente. De même, les chercheurs universitaires, les ONG, les entreprises technologiques, les médias et les agences gouvernementales ne peuvent pas résoudre seuls le problème de la désinformation. Avec une coordination, ils peuvent partager des informations et détecter des modèles, permettant ainsi aux entreprises technologiques de marquer, de désactiver ou de supprimer les contenus trompeurs. Par exemple, Meta, la société mère de Facebook, a mis fin à une opération de désinformation en Ukraine fin 2023 après avoir reçu une notification de Google.
Mais une compréhension plus approfondie nécessite également un meilleur accès aux données. Dans le monde actuel du sourcing algorithmique, seules les entreprises technologiques peuvent savoir qui lit quoi. En vertu de la loi américaine, ces entreprises ne sont pas tenues de partager des données avec les chercheurs. Mais la nouvelle loi européenne sur les services numériques exige le partage des données et pourrait servir de modèle à d'autres pays. Les entreprises soucieuses du partage d’informations secrètes pourraient permettre aux chercheurs d’envoyer des programmes à exécuter, plutôt que d’envoyer des données pour analyse.
Cette coordination sera plus facile à réaliser dans certains endroits que dans d’autres. Taiwan, par exemple, est considérée comme la référence en matière de lutte contre les campagnes de désinformation. Il est utile que le pays soit petit, que la confiance dans le gouvernement soit élevée et que la menace d’une puissance étrangère hostile soit claire. D’autres pays disposent de moins de ressources et d’une plus faible confiance dans les institutions. Aux États-Unis, malheureusement, la polarisation politique signifie que les tentatives coordonnées de lutte contre la désinformation ont été présentées comme la preuve d’une vaste conspiration de gauche visant à faire taire les voix de droite en ligne.
Le fait d'une personne...
Les dangers de la désinformation doivent être pris au sérieux et soigneusement étudiés. Mais gardez à l’esprit qu’ils sont encore incertains. Jusqu’à présent, il existe peu de preuves que la désinformation puisse à elle seule influencer le résultat d’une élection. Pendant des siècles, il y a eu des gens qui ont diffusé de fausses informations et d’autres qui ont voulu y croire. Cependant, les sociétés ont généralement trouvé des moyens de faire face à cette situation. La désinformation pourrait aujourd’hui prendre une forme nouvelle, plus sophistiquée. Mais elle ne s’est pas encore révélée comme une menace inattaquable et sans précédent.
© 2024, Journal The Economist Limité. Tous droits réservés.