Microsoft a déclaré mercredi que les adversaires des États-Unis – principalement l'Iran et la Corée du Nord et, dans une moindre mesure, la Russie et la Chine – commençaient à utiliser son intelligence artificielle générative pour monter ou organiser des cyberopérations offensives .
Dans un article de blog, Microsoft a déclaré que les techniques utilisées en étaient à leurs « premiers stades » et non « particulièrement nouvelles ou uniques », mais qu’il était important de les exposer publiquement alors que les adversaires américains exploitent de grands modèles linguistiques pour étendre leur capacité à pénétrer les réseaux et exercer une influence. opérations.
Les entreprises de cybersécurité utilisent depuis longtemps l’apprentissage automatique dans le domaine de la défense, principalement pour détecter les comportements anormaux sur les réseaux. Mais les criminels et les pirates informatiques offensifs l'utilisent également, et l'introduction de grands modèles de langage dirigés par ChatGPT d'OpenAI a accru ce jeu du chat et de la souris.
Microsoft a investi des milliards de dollars dans OpenAI, et l'annonce de mercredi a coïncidé avec la publication d'un rapport indiquant que l'IA générative devrait améliorer l'ingénierie sociale malveillante, conduisant à des deepfakes et au clonage vocal plus sophistiqués . Une menace pour la démocratie au cours d’une année au cours de laquelle plus de 50 pays organiseront des élections, amplifiant la désinformation déjà répandue.
Vous trouverez ci-dessous quelques exemples fournis par Microsoft. Dans chaque cas, il indique que tous les comptes et actifs d’IA générative des groupes nommés ont été désactivés :
— Le groupe de cyberespionnage nord-coréen connu sous le nom de Kimsuky a utilisé ces modèles pour enquêter sur des groupes de réflexion étrangers étudiant le pays et pour générer du contenu susceptible d'être utilisé dans des campagnes de piratage par phishing.
— Les Gardiens de la révolution iraniens ont utilisé la modélisation en langage long pour faciliter l'ingénierie sociale, corriger les bogues logiciels et même étudier comment les intrus pourraient échapper à la détection sur un réseau compromis . Cela inclut la génération d’e-mails de phishing, « dont un prétendant provenir d’une agence de développement international et un autre tentant d’attirer d’éminentes féministes vers un site Web féministe créé par des attaquants ». L’IA contribue à accélérer et à stimuler la production d’e-mails.
— L'unité de renseignement militaire russe du GRU, connue sous le nom de Fancy Bear, a utilisé ces modèles pour enquêter sur les technologies satellitaires et radar susceptibles d'être liées à la guerre en Ukraine.
— Le groupe de cyberespionnage chinois connu sous le nom d'Aquatic Panda, qui cible un large éventail d'industries, d'enseignement supérieur et de gouvernements, de la France à la Malaisie, a interagi avec les modèles « d'une manière qui suggère une exploration limitée de la manière dont les LLM peuvent étendre leurs opérations ». .»
— Le groupe chinois Maverick Panda, qui cible les sous-traitants américains de la défense, entre autres secteurs, depuis plus d'une décennie, a eu des interactions avec des modèles en langage long, suggérant qu'il évaluait leur efficacité en tant que source d'informations « sur des sujets potentiellement sensibles, à haute sensibilité ». profil des personnes, géopolitique régionale, influence américaine et affaires intérieures.
Dans un autre blog publié mercredi, OpenAI a déclaré que son chatbot modèle GPT-4 actuel n'offre « que des capacités incrémentielles limitées pour les tâches malveillantes de cybersécurité, au-delà de ce qui peut déjà être réalisé avec des outils accessibles au public et sans technologie d'IA ».
Les chercheurs en cybersécurité espèrent que cela changera.
En avril dernier, la directrice de l’Agence américaine de cybersécurité et de sécurité des infrastructures, Jen Easterly, a déclaré au Congrès qu ’« il existe deux menaces et défis qui marquent notre époque. L’un est la Chine et l’autre l’intelligence artificielle.
Easterly avait déclaré à l’époque que les États-Unis devaient veiller à ce que l’IA soit conçue dans un souci de sécurité.
Les critiques de la sortie publique de ChatGPT en novembre 2022 (et des versions ultérieures de concurrents comme Google et Meta) affirment qu'elle a été précipitée de manière irresponsable, considérant que la sécurité était en grande partie une réflexion après coup dans son développement.
« Bien sûr, les mauvais acteurs utilisent des modèles en langage long ; cette décision a été prise lors de l'ouverture de la boîte de Pandore », a déclaré Amit Yoran, PDG de la société de cybersécurité Tenable.
Certains professionnels de la cybersécurité se plaignent du fait que Microsoft crée et vend des outils pour remédier aux vulnérabilités des grands modèles de langage alors qu'il pourrait se concentrer de manière plus responsable sur leur sécurité.
« Pourquoi ne pas créer des modèles LLM de base plus sûrs en boîte noire au lieu de vendre des outils défensifs pour un problème qu’ils contribuent à créer ? » a demandé Gary McGraw, vétéran de la cybersécurité et co-fondateur du Berryville Institute for Machine Learning.
Edward Amoroso, professeur à l'Université de New York et ancien responsable de la sécurité d'AT&T, a déclaré que même si l'utilisation de l'IA et des grands modèles de langage ne constitue pas une menace immédiatement évidente, « avec le temps, ils deviendront l'une des armes les plus puissantes dans l'offensive militaire de chaque nation ». -État."
(Avec informations AP)