Les intelligences artificielles , en particulier celles qui sont génératives, sont conçues pour faciliter le travail des programmeurs, photographes, éditeurs, rédacteurs, analystes de données, entre autres. Cependant, leur liberté d'utilisation signifie également que ces outils peuvent être utilisés par de mauvais agents pour exécuter des instructions qui vont à l'encontre de la sécurité et de la vie privée des personnes sur Internet.
Par exemple, il est possible de voir des escrocs utiliser une intelligence artificielle formée pour simuler la voix d'une personne avec l'intention de demander un paiement à un proche en guise d'extorsion. Vous pouvez également utiliser la capacité de script de logiciels tels que ChatGPT pour créer des scripts de sites malveillants. Cependant, tout comme sa liste d'utilitaires, les risques pouvant être générés par ces programmes augmentent.
Voici quelques-unes des expositions ou attitudes dangereuses qui peuvent être générées par l'interaction de personnes malveillantes à l'aide de certains outils d'intelligence artificielle :
"Libération" de l'intelligence artificielle
L'utilisation la plus élémentaire de tous les programmes tels que ChatGPT , Stable Diffusion, DALL-E, Midjourney, entre autres, consiste à établir une "invite" ou une indication sur laquelle chaque intelligence artificielle peut commencer à créer sa propre interprétation de la commande donnée, toujours et lorsque le résultat va à l'encontre des limites de votre programmation de sécurité.
Cela signifie que, par exemple, ChatGPT ne peut pas être utilisé pour obtenir des informations qui pourraient être potentiellement préjudiciables à la personne utilisant l'intelligence artificielle et DALL-E ne peut pas générer d'images sexuelles à la demande de l'utilisateur. Cependant, il existe une tendance appelée « jailbreak » qui consiste à créer des indices de manière à ce que leur résultat « libère » les programmes des mesures de sécurité qui y ont été implantées.
En conséquence, certains utilisateurs de forums tels que Reddit affirment avoir amené ChatGPT à générer des réponses violentes ou délibérément incorrectes, à soutenir des théories du complot ou à suggérer des activités illégales telles que le vol ou la construction d'explosifs.
Assistance dans les escroqueries en ligne
Bien que le risque de réponses "libérées" de ChatGPT soit considérable étant donné qu'il peut propager de la désinformation et du contenu préjudiciable aux personnes, l'utilisation de ce type de logiciel inclut également l'obtention de données de quelqu'un sur Internet, qui peut être particulièrement vulnérable à une sorte de arnaque virtuelle.
Les cybercriminels peuvent même manipuler des programmes pour obtenir des informations sensibles telles qu'un numéro de carte de crédit, ou créer un virus à l'aide d'un code de programmation qui est ensuite envoyé par e-mail à une victime potentielle.
D'autre part, lorsqu'elles sont exécutées via ce type de programme, les attaques avec intelligence artificielle peuvent être intégrées dans des applications tierces qui pourraient être installées sur les téléphones portables et les ordinateurs de n'importe qui et exécuter leurs commandes malveillantes sans que l'utilisateur ne les reconnaisse facilement.
empoisonnement des données
Un autre aspect fondamental de l'intelligence artificielle est qu'elle nécessite une formation afin que les commandes saisies obtiennent des résultats adéquats. Bien que certains, comme ChatGPT, puissent effectuer une analyse sur Internet pour résoudre certaines requêtes, la formation permet le renforcement d'un type d'information particulier.
Même avec des systèmes de sécurité préventifs, il est possible d'alimenter des banques de formation d'intelligences artificielles qui ne contiennent que des données erronées ou des informations délibérément trafiquées afin que le logiciel considère ces prémisses erronées comme vraies, ce qui pourrait conduire à la production de contenus plus nuisibles ou de mauvaise qualité que pourrait ruiner l'expérience des autres utilisateurs et même devenir la source d'une prise de décision importante pour certaines personnes.