Ces plateformes prennent le modèle d'outils comme ChatGPT et Gemini, mais les adaptent pour créer des « versions manipulées » et ainsi créer du contenu qui leur permet de générer « de faux sites Web, d'écrire des logiciels malveillants et de personnaliser des messages pour se faire passer pour des dirigeants et d'autres entités de confiance », selon au Wall Street Journal.
Un danger difficile à maîtriser
Vish Narendra, CIO de Graphic Packaging International, a déclaré au Wall Street Journal que ces e-mails générés par l'IA sont souvent personnalisés pour paraître plus légitimes , augmentant ainsi leur efficacité en matière de phishing et de tromperie.
C'est pourquoi les experts en cybersécurité mettent en garde contre le risque croissant que représentent ces e-mails générés par l'IA. Brian Miller, RSSI de Healthfirst, assure que « la communauté cybercriminelle nous a devancés », au point que son entreprise a vu ces deux dernières années se multiplier les attaques se faisant passer pour des fournisseurs de facturation, usurpant leur identité et exigeant des paiements.
Parallèlement à l’augmentation des tentatives d’attaques s’ajoute la difficulté de détecter ces emails créés dans les chatbots. Avivah Litan, analyste chez Gartner, souligne que les e-mails générés par l'IA sont conçus pour échapper à la détection , ce qui les rend particulièrement dangereux pour les entreprises qui s'appuient sur des solutions de cybersécurité traditionnelles.
En effet, en plus de leur permettre de générer du contenu avec une meilleure qualité d’écriture, les attaquants peuvent apprendre à l’intelligence artificielle à écrire des malwares et l’entraîner avec des techniques de détection extraites des logiciels de défense de cybersécurité. Il ne sert donc pas seulement à rédiger des emails, mais également à générer du code malveillant.
Face à cette menace croissante, les entreprises de cybersécurité intensifient leurs efforts pour lutter contre les courriels frauduleux générés par l’IA. Abnormal Security, un fournisseur de sécurité de messagerie, a utilisé l'IA pour identifier des milliers d'e-mails malveillants générés par l'IA et a constaté une augmentation significative des attaques ciblées et personnalisées.
Il n’est toutefois pas facile de stopper ces attaques. Comme l'a déclaré un porte-parole d'OpenAI au Wall Street Journal, l'entreprise s'efforce constamment de rendre ses systèmes plus robustes contre ce type d'abus, mais elle reconnaît les défis auxquels elle est confrontée en raison de la croissance de cette modalité et de sa transformation constante.
L'un de ces défis est qu'une grande partie de ces chatbots malveillants sont ouverts au public, c'est-à-dire qu'il n'est pas nécessaire d'accéder au dark web pour interagir avec eux, mais qu'ils peuvent être trouvés en les recherchant directement sur Internet. .
Même Andy Sharma, CIO et RSSI de Redwood Softwar, a déclaré que grâce aux vidéos sur X et YouTube, il savait comment créer un test de phishing pour ses employés , en utilisant des outils ouverts au public ou coûtant moins d'un dollar.
Comment se protéger de ces attaques générées par l'IA
Bien que les e-mails frauduleux générés par l’IA puissent être difficiles à détecter, les entreprises et les utilisateurs à domicile peuvent prendre certaines mesures pour se protéger.
Pour les entreprises, il est essentiel de former les employés à reconnaître les signes d’un email suspect et de favoriser une culture de cybersécurité dans toute l’organisation.
Tandis que les utilisateurs à domicile doivent mettre en œuvre des pratiques plus méfiantes. Même si un faux email est bien rédigé, sans fautes d'orthographe ou de rédaction, il s'agit quand même d'un message dont le contenu sort de l'ordinaire : comme des prix auxquels nous n'avons pas participé ou des problèmes d'accès aux comptes bancaires qui ne sont pas notifiés. par ce moyen.
Chaque fois qu'un message de ce type nous invite à télécharger un fichier ou à cliquer sur un lien, il faut hésiter. Même si les systèmes de sécurité ne le détectent pas, nous sommes la principale barrière et face à la multiplication de ces faux contenus nous devons être de plus en plus vigilants.