L'arrivée de nouveaux outils d'intelligence artificielle générative ( IA ) qui seront bientôt lancés a généré de nombreuses questions et inquiétudes chez les personnes impliquées dans les prochaines élections électorales de 2024 aux États-Unis , mais depuis l'Université de Columbia , ils travaillent déjà sur la manière de les combattre. risques numériques.
Comme le souligne Axios , en raison de la réduction des investissements internes des principales entreprises technologiques dans ce domaine et du manque de ressources et de relations dans les nouvelles entreprises d'IA , la nouvelle vague technologique pourrait affecter les perspectives avec ce qu'on appelle les « deepfakes ». € qui est apparu lors des récentes élections slovaques et lors de la conférence annuelle du parti travailliste britannique .
Les « Deepfakes » sont une technique d'intelligence artificielle qui permet de créer des vidéos hyperréalistes, souvent utilisées pour simuler de vraies personnes dans des situations fictives. Le terme est une combinaison de « deep learning » et de « faux ». Ces matériaux sont créés à partir de grandes quantités de données visuelles et sonores, parvenant à imiter des personnages avec une précision étonnante et, précisément pour cette raison, ils ont suscité des inquiétudes quant à leur éventuelle mauvaise utilisation.
Face à un tel risque, l'Université Columbia et Sciences Po à Paris ont lancé un laboratoire d'innovation dans le but de suivre l'impact de l'IA sur les élections électorales et de renforcer les sociétés démocratiques.
Ce centre de recherche sera dirigé par des experts renommés tels que Maria Ressa , directrice exécutive de Rappler et lauréate du prix Nobel de la paix , et Camille François , connue pour ses travaux de recherche sur la désinformation électorale en Russie lors des élections de 2016.
François, s'adressant à Axios , a assuré qu'il enquêterait sur les risques et les dommages réels posés par les modèles de langage colossaux (LLM), afin de garantir que le fossé des connaissances entre les experts en IA et les développeurs soit comblé.
Ce nouveau laboratoire est né dans le cadre d'un projet d'alphabétisation numérique, soutenu par 3 millions de dollars du gouvernement français et qui soutient d'autres initiatives importantes pour comprendre les nouvelles technologies et "garantir une information libre et indépendante", comme le propose un communiqué sur le site officiel. de la présidence française.