Les services de renseignement américains déploient l'intelligence artificielle ( IA ) pour détecter les pirates informatiques qui tentent d'infiltrer les infrastructures critiques du pays, notamment les réseaux de transport, les pipelines et les ports.
Rob Joyce , directeur de la cybersécurité à la National Security Agency ( NSA ), a souligné lors d'une conférence à l'université Fordham de New York , mardi 9 janvier, que l'apprentissage automatique et l'intelligence artificielle apportent une aide précieuse aux chercheurs en cybersécurité pour traquer les incursions numériques qui serait autrement très difficile à voir.
Joyce a expliqué que les cybercriminels « utilisent des failles architecturales, des problèmes de mise en œuvre et d'autres éléments pour s'introduire dans des comptes ou créer des comptes qui semblent ensuite devoir faire partie du réseau », faisant référence à ce qu'on appelle les techniques de « vivre hors réseau ». Il a souligné que des techniques avancées telles que l’apprentissage automatique aident à identifier des incursions numériques qui autrement passeraient inaperçues.
Les attaques, principalement ciblées par des pirates informatiques chinois, se caractérisent par l'imitation de leurs opérations avec l'activité habituelle des réseaux, ce qui représente un danger important pour la stabilité de la société plutôt que par l'obtention d'avantages financiers ou d'espionnage, a commenté Joyce à l'Université Fordham de New York. Selon le Wall Street Journal , ces cybercriminels évitent d'utiliser des programmes malveillants courants et choisissent d'exploiter les vulnérabilités et les problèmes de mise en œuvre pour infiltrer les réseaux.
Les autorités ont constaté la menace que représente l’IA entre les mains de pirates informatiques, qui peuvent causer des dégâts à grande échelle. Le risque ne se pose pas seulement en cas d'utilisation offensante ; Dans le domaine défensif, on craint que les entreprises les plus riches ne disposent de cyberdéfenses plus robustes au détriment de celles qui disposent de moins de ressources.
Stephen Schmidt , responsable de la sécurité chez Amazon.com, a mentionné dans le passé qu'ils adoptaient une approche « super agressive » lors de l'application de l'IA dans les cyberdéfenses et a souligné que l'IA générative peut devenir un outil indispensable pour les ingénieurs en sécurité.
Défense et attaque
Des investissements sont nécessaires dans les technologies capables de détecter les deepfakes et autres contenus frauduleux générés par l'IA, selon Breon Peace , procureur des États-Unis pour le district oriental de New York . Cependant, les cybercriminels et les pirates informatiques soutenus par les États utilisent également des outils d’IA générative pour créer des tentatives de phishing indétectables.
Le phishing est un type d'attaque informatique qui vise à inciter les gens à révéler des informations personnelles et confidentielles, telles que des mots de passe, des numéros de carte de crédit ou des détails de compte bancaire. Les attaquants déguisent souvent leurs communications en messages légitimes provenant d'entités de confiance, telles que des banques, des réseaux sociaux ou des plateformes de paiement, via des e-mails, des SMS ou des sites Web usurpés.
D'un autre côté, Damian Williams , procureur du district sud de New York , a averti que les protections de l'IA générative sont "assez faciles à contourner", car les pirates ont une longueur d'avance, car ils créent et vendent leur propre IA . outils sur les marchés du dark web , a noté Maggie Dugan, analyste du renseignement du FBI .