Dans une étape sans précédent, 20 grandes entreprises technologiques , dont Adobe , Amazon , Google , IBM , Meta , Microsoft , OpenAI , TikTok et X , ont uni leurs forces pour lutter contre l'utilisation trompeuse de l'intelligence artificielle (IA) face aux élections mondiales de ce mois-ci. année. Lors de la Conférence de Munich sur la sécurité qui s'est tenue le 16 février 2024, ils ont annoncé le « Pacte technologique contre l'utilisation trompeuse de l'IA lors des élections de 2024 », dans lequel ils se sont engagés à déployer une technologie pour détecter et contrer les contenus nuisibles de l'IA conçus pour tromper les électeurs. Cet accord intervient au cours d’une année décisive, où plus de quatre milliards de personnes dans plus de 40 pays ont exercé leur droit de vote.
Les signataires de l'accord s'engagent à travailler ensemble pour développer des outils permettant d'identifier et de lutter contre la distribution en ligne de contenus d'IA préjudiciables , des initiatives éducatives visant à sensibiliser le public et à améliorer la transparence de leurs opérations. En outre, ils se concentrent sur des principes fondamentaux, tels que la recherche de l’origine des contenus électoraux trompeurs et la sensibilisation à ces défis. « Les élections sont le cœur de la démocratie. Ce Pacte technologique est une étape cruciale pour faire progresser l’intégrité électorale, accroître la résilience sociétale et établir des pratiques technologiques dignes de confiance », a déclaré l’ambassadeur Christoph Heusgen, président de la Conférence de Munich sur la sécurité.
Le contenu numérique visé par l'accord comprend des fichiers audio, vidéo et images générés par l'IA qui falsifient ou modifient de manière trompeuse l'apparence, la voix ou les actions des candidats politiques, des fonctionnaires électoraux et d'autres acteurs clés d'une élection démocratique, ou qui fournissent de fausses informations. aux électeurs sur quand, où et comment voter.
Les engagements pris par les entreprises participantes visent à développer et à mettre en œuvre des technologies pour atténuer les risques liés au contenu électoral trompeur généré par l'IA, y compris des outils open source le cas échéant, à évaluer les modèles dans le cadre de cet pacte pour comprendre les risques qu'ils peuvent présenter. s'efforcer de détecter la diffusion de ce contenu sur leurs plateformes et d'y remédier de manière appropriée une fois détecté.
« La transparence renforce la confiance », a déclaré Dana Rao, directeur juridique et directeur de la confiance chez Adobe. Cela souligne l’importance de créer une infrastructure qui fournit un contexte autour du contenu que les consommateurs consultent en ligne. "C'est une année électorale charnière pour plus de 4 milliards d'électeurs dans le monde et la sécurité et la confiance sont essentielles au succès des élections et des campagnes dans le monde", a ajouté David Zapolsky, vice-président principal des politiques publiques mondiales et conseiller général chez Amazon, soulignant L'engagement d'Amazon à défendre la démocratie et la manière dont cet pacte complète ses efforts existants pour développer et déployer de nouvelles technologies d'IA fiables et sécurisées.
Kent Walker , président des affaires mondiales chez Google , a souligné l'engagement de longue date de Google en faveur de l'intégrité électorale et comment l'accord reflète un engagement à l'échelle de l'industrie contre la désinformation électorale générée par l'IA qui érode la confiance. Christina Montgomery , vice-présidente et directrice de la confidentialité et de la confiance chez IBM , a souligné la nécessité de mesures concrètes et collaboratives pour protéger les personnes et les sociétés contre les contenus trompeurs amplifiés par l'IA au cours de cette année électorale exceptionnelle.
L’initiative sera également soutenue par des efforts visant à promouvoir la sensibilisation du public, l’éducation aux médias et la résilience de l’ensemble de la société face aux décomptes trompeurs. Brad Smith , vice-président et président de Microsoft , a déclaré : « Alors que la société profite des avantages de l'IA, nous avons la responsabilité de garantir que ces outils ne deviennent pas des armes lors des élections. » Cet accord représente un effort unificateur entre les leaders technologiques mondiaux pour relever de manière proactive les défis posés par l’utilisation malveillante de l’intelligence artificielle dans les processus démocratiques critiques.
« Nous nous engageons à protéger l'intégrité des élections en mettant en œuvre des politiques qui préviennent les abus et en améliorant la transparence autour du contenu généré par l'IA », a déclaré Anna Makanju , vice-présidente des affaires mondiales d' OpenAI . « Nous sommes impatients de travailler avec des partenaires industriels, des dirigeants de la société civile et des gouvernements du monde entier pour contribuer à protéger les élections contre l’utilisation trompeuse de l’IA. »
Pour sa part, Linda Yaccarino , PDG de X , a déclaré : « Dans les processus démocratiques à travers le monde, tous les citoyens et entreprises ont la responsabilité de garantir des élections libres et équitables. L’entreprise a la responsabilité de garantir des élections libres et équitables, c’est pourquoi nous devons comprendre les risques que pourrait présenter le contenu de l’IA dans le processus. « X s'engage à jouer son rôle en collaborant avec ses homologues pour lutter contre les menaces de l'IA, tout en protégeant la liberté d'expression et en maximisant la transparence. »
Cette initiative va de la création de tels contenus sur des plateformes à grande échelle et des modèles open source fondamentaux, jusqu'à leur distribution sur de grandes plateformes sociales ou de publication. Tout cela, aligné sur les propres politiques et pratiques des participants, conformément aux engagements exprimés dans l'accord.