L’intelligence artificielle (IA) est la nouvelle frontière mondiale et, comme c’était le cas pour l’énergie atomique, elle représente un énorme potentiel à double face. Si son utilisation appropriée peut garantir d’incroyables possibilités de développement de nos sociétés, elle peut en même temps, à des fins malveillantes, devenir une arme parfaite et sophistiquée difficile à contrer, avec des campagnes de désinformation d’une ampleur sans précédent. Selon le dernier rapport Global Risks 2024 du Forum économique mondial, les informations fausses ou déformées produites par l’IA ne représentent rien de moins que le « plus grand risque mondial à court terme ». Cette année, quelque 2 milliards d'électeurs se rendront aux urnes dans plusieurs pays, dont le Brésil, où les futurs maires et conseillers municipaux seront élus en octobre.
C'est pour cette raison qu'en août, une Commission temporaire interne sur l'intelligence artificielle (CTIA) a été inaugurée au Sénat du géant latino-américain, dont le vice-président est l'ancien astronaute Marcos Pontes, ancien ministre de la Science et de la Technologie du gouvernement Bolsonaro et actuel sénateur. pour le Parti Libéral (PL). La première réunion s'est également déroulée en présence du vice-président senior de Google, Prabhakar Raghavan, car les grandes entreprises technologiques ont déjà déclaré et s'apprêtent à rejoindre le Brésil dans ce nouveau voyage technologique qui constitue un défi mondial et pour lequel il existe encore peu d'instruments de contrôle.
La CTIA a été créée pour débattre du projet de loi 2338 de 2023 sur l'intelligence artificielle , dont l'auteur est le président du Sénat, Rodrigo Pacheco, du Parti social-démocrate (PSD). Les priorités du projet incluent "la protection des droits fondamentaux et la garantie de la mise en œuvre de systèmes sûrs et fiables au profit de la personne humaine, du régime démocratique et du développement scientifique et technologique". La loi, si elle est approuvée, réglementera donc l’utilisation de l’IA et l’exécutif devra créer un organisme de régulation à cet effet. Ce n’est pas une tâche facile, comme l’a souligné l’ancien astronaute Pontes. "Vous ne pouvez pas éviter ou prédire les effets de l'IA, également parce que cette technologie est en phase de développement, il ne sera jamais possible de créer quelque chose de prédictif, imaginez à quoi ressemblera cette technologie, mais nous pouvons imaginer des situations d'utilisation, pour cela ensuite , dans le cadre de la correspondance et de la nécessité de protéger l'être humain comme centre de tout cela, nous pouvons prendre les précautions nécessaires. Cela implique l'utilisation de personnes, de données, de questions éthiques, de discriminations qui peuvent survenir", a déclaré Pontes.
Lors d'un séminaire à Brasilia en décembre dernier, le juge de la Cour suprême Alexandre de Moraes a insisté pour que la loi soit approuvée. "Il est absolument nécessaire que le Congrès réglemente l'utilisation de l'intelligence artificielle à temps pour les élections municipales", a-t- il déclaré. Pour Moraes, le candidat qui utilise l'intelligence artificielle pour tenter de manipuler les élections doit voir son inscription annulée et, s'il est élu, perdre son mandat. "Nous ne pouvons pas permettre que la volonté des électeurs soit déformée", a-t-il ajouté, laissant entendre que si le Sénat ne se dépêche pas, ce sera le STF qui légifèrera. « S'il n'y a pas de régulation, il faut une régulation par les tribunaux, même si le pouvoir judiciaire est ensuite accusé d'usurper le pouvoir législatif. Il n'est pas possible pour la justice électorale de dire : « puisqu'il n'y a pas de réglementation, nous ne pouvons pas juger cela ». C'est ce qui pourrait mettre en danger l'impartialité des élections . Cette question tient tellement à cœur au STF que son président, Luis Roberto Barroso, fera une présentation mercredi au Forum économique mondial de Davos sur le sujet du point de vue brésilien.
Déjà lors de la campagne électorale présidentielle de 2022, le Brésil a connu le premier deepfake de son histoire, c'est-à-dire une vidéo qui a fait le tour des plateformes sociales, entièrement créée avec l'intelligence artificielle. Dans ce document, une célèbre journaliste de la télévision brésilienne, Renata Vasconcelos, apparaît reproduite comme si elle était en chair et en os, annonçant un sondage électoral donnant l'avantage à Jair Bolsonaro. La vidéo entière était fausse, y compris l'enquête. « Jusqu'à ce qu'il soit prouvé qu'une vidéo comme celle-ci n'est pas vraie, des milliers, voire des millions de personnes y auront accès, la considérant comme une véritable nouvelle. Et puis tout le monde n’aura pas accès au déni et, même si c’est le cas, tout le monde n’y croira pas », a déclaré Moraes.
Les élections municipales de 2024 sont également très importantes car elles représentent un test politique pour les élections présidentielles de 2026 . C'est pourquoi l'alerte est maximale. "Malheureusement, la menace est concrète et certainement capable d'influencer le résultat final du vote grâce à l'utilisation de systèmes basés sur l'IA capables de diffuser des informations astucieusement créées et d'utiliser des chatbots pour stimuler les discussions sur les principaux réseaux sociaux", explique-t-il à Infobae. Pierluigi Paganini, expert en cybersécurité et renseignement. Un chatbot est un logiciel qui simule et traite des conversations humaines écrites ou parlées, permettant aux utilisateurs d'interagir avec des appareils numériques. « De cette façon, il est possible de bénéficier à un candidat spécifique en influençant l'opinion publique . Les systèmes basés sur l'IA peuvent également être utilisés pour lancer des attaques de phishing (cyberattaques frauduleuses) dirigées contre des personnalités politiques dans le but d'acquérir des informations sensibles qui pourraient être potentiellement dangereuses si elles étaient divulguées », explique Paganini, qui met également en garde contre la vulnérabilité du Brésil en matière de cybersécurité. "Ces dernières années, le Brésil a subi plusieurs attaques qui ont révélé la faible résistance de son système informatique", explique-t-il. "Une attaque contre une infrastructure affectée pendant une élection pourrait avoir de graves répercussions et même conduire à l'annulation du vote si des installations critiques étaient touchées, dont la compromission jetterait inévitablement le doute sur la validité du vote, qui au Brésil est électronique". . Un attaquant pourrait même identifier et exploiter les vulnérabilités des systèmes électoraux pour modifier les résultats des élections », explique Paganini.
Cependant, il existe également une utilisation positive de l'IA pour la communication politique, étant donné la capacité de cette technologie à créer des campagnes politiques à la demande, hyperlocales et hyperpersonnalisées et ainsi transmettre des messages adaptés à un certain groupe social et à ses besoins spécifiques. « L’accessibilité » à l’information pourrait également être facilitée grâce à l’IA . Au lieu de simplement lire les positions politiques de quelqu'un sur son site Web, un chat régulé par l'IA pourrait fournir les réponses et donner l'impression que vous avez une ligne directe avec la campagne. Mais pour tout cela, une réglementation est nécessaire, qui s’inscrit également dans un plan national de cybersécurité plus large.
Pour cette raison, le 26 décembre, Lula a signé un décret, proposé par le Cabinet de sécurité institutionnel (GSI), pour établir la politique nationale de cybersécurité et un comité national de cybersécurité . Cette mesure, selon le GSI, « est de la plus grande urgence et pertinence », puisque le Brésil « est l’un des pays les plus attaqués dans les environnements virtuels ». L'objectif est de lutter contre la criminalité et les opérations malveillantes, de développer des mécanismes de régulation, de promouvoir les technologies nationales et de garantir la sécurité de l'information, ainsi que de coordonner l'échange d'informations entre le gouvernement, le secteur privé et la société. Au premier semestre 2023, le Brésil a subi 328 326 cyberattaques, soit 41,78 % du total de 785 871 attaques enregistrées en Amérique latine , selon les données de la société de cybersécurité Netscout. En octobre dernier, l'Association des fournisseurs Internet Intersul a signalé que des attaques par déni de service distribué (DDoS) avaient touché des centaines d'entreprises clientes dans le sud du Brésil. Une attaque DDoS est un type de cyberattaque dans lequel un criminel surcharge un site Web, un serveur ou une ressource réseau avec du trafic malveillant. En conséquence, le système attaqué plante ou cesse de fonctionner, refusant le service aux utilisateurs légitimes.
Comme l'indique le rapport Global Cybersecurity Outlook 2023 du Forum économique mondial , 86 % des dirigeants mondiaux estiment que la cybersécurité devrait figurer en tête des priorités des gouvernements et les experts prédisent que les prochaines tranchées seront virtuelles, avec un risque d'interruption des services sensibles. De plus, selon les données de Cybersecurity Ventures, les coûts mondiaux associés à la cybercriminalité devraient atteindre 10 500 milliards de dollars par an d’ici 2025, dépassant les dommages causés par les catastrophes naturelles et même les bénéfices combinés du commerce mondial des principales drogues illégales. « Le décret signé par Lula est très important pour élever le niveau de cybersécurité dans le pays. Il est cependant difficile de l'appliquer correctement pour les prochaines élections», explique Pierluigi Paganini à Infobae. « Des structures similaires dans d'autres pays ont mis des années à rattraper leur retard et à assurer une cybergarnison capable de promouvoir et d'atténuer les actions visant à accroître la sécurité des réseaux gouvernementaux. Le gouvernement brésilien doit intensifier sa collaboration internationale avec d'autres gouvernements et, en même temps, impliquer les entreprises du secteur privé dans un processus d'amélioration globale des mesures de sécurité informatique adoptées”, ajoute Paganini.
Entre-temps, même si la politique nationale de cybersécurité du Brésil n'a pas encore été élaborée, la controverse a déjà commencé. Dans le nouveau Comité national de cybersécurité, Lula a laissé de côté la Police fédérale (PF) . Le comité est composé de 25 membres, dont 15 proviennent de ministères et d'autres agences gouvernementales et le reste de la société civile et du secteur privé. Selon Valdemar Latance Neto, directeur du Service de renseignement et d'analyse de la Direction de la Cybercriminalité de la Police Fédérale, l'absence du PF pourrait provoquer « une inefficacité dans les actions de l'organisme collégial », compte tenu du rôle clé de l'entreprise dans l'élaboration des normes. pour le stockage et la collecte de données pour les enquêtes et le signalement des cyberincidents aux autorités chargées de l'application de la loi.