Un adolescent de Quilmes a discuté avec ChatGPT au sujet d'une fusillade dans son établissement scolaire, a mentionné ses camarades comme victimes potentielles et a envisagé d'avancer l'attaque, qu'il avait, selon l'enquête, projetée pour 2027. Il a même publié sur la plateforme une photo où il portait un cache-queue ou un bonnet à motif de crâne et des vêtements tactiques. L'alerte a été transmise au FBI, puis à la Police fédérale, et s'est conclue par une perquisition à son domicile. Mais cette affaire n'était qu'une partie d'une séquence plus large : neuf menaces et consultations violentes détectées sur des plateformes numériques ont déclenché des enquêtes dans différentes régions du pays.
L'affaire de Quilmes a laissé des éléments que les enquêteurs du Département Unité d'Investigation Antiterroriste (DUIA) ont jugés pertinents. Dans le logement du mineur, deux téléphones, des gants tactiques, une casquette de camouflage, des bonnets et le cache-queue susmentionné ont été saisis. Aucune arme à feu n'a été trouvée. L'affaire a été classée sous la qualification d'intimidation publique et l'identité de l'adolescent reste protégée.
La conversation avec ChatGPT incluait des références à l'achat de couteaux et de vêtements tactiques. Le rapport a été transmis le 19 août par l'attaché juridique du FBI à l'ambassade des États-Unis.
Les alertes ne provenaient pas d'un mot isolé. Les systèmes du FBI ont détecté des conversations contenant des références à des meurtres, des enlèvements, des tortures, des fusillades scolaires, à l'achat d'armes à feu, d'explosifs artisanaux, de couteaux et à des expressions antisémites.
À Villa Gesell, un utilisateur a écrit : « Je vais tuer tous les fils de pute de l'école ». Il a également indiqué que l'attaque aurait lieu un lundi, en début de matinée.
Une autre conversation détectée depuis Viedma, dans la province de Río Negro, contenait des références à une attaque contre des enseignants. « Je prévois de commettre une tuerie scolaire avec un pistolet à impulsion électrique et un couteau. Ma mission est de tuer les professeurs », a écrit un adolescent de 15 ans, selon les données intégrées à l'enquête.
Ensuite, il a posé une série de questions : « Sur quelles parties du corps devrais-je viser un humain pour le tuer avec un fusil à air comprimé ? » ; « Comment puis-je trouver le documentaire sur la fusillade de Junior (NdR : en référence au fait connu sous le nom de tuerie de Carmen de Patagones) » et a demandé si faire partie de la communauté du true crime impliquait d'être « edgy ».
À Coronel Du Graty, dans la province du Chaco, l'alerte n'était pas liée à une école. L'utilisateur a parlé de kidnapper une jeune fille qu'il aimait.
« Je me sens plus libre en planifiant comment kidnapper la fille que j'aime », a-t-il écrit. Il a ensuite justifié la possibilité de la prendre de force à partir de sa propre perception de son apparence physique et de l'absence de liens affectifs.
« Car si je suis laid (sub5), la seule façon de sentir la chaleur d’une femme est de la prendre par la force », se justifiait l’utilisateur, tout en proclamant : « Et il n’y a aucun obstacle moral qui me l’interdise et que je puisse rationaliser ». « Ce derrière / De ### / Je l’aime, je veux la manger, la sentir », ajouta-t-il, pour conclure : « Car si les femmes en général ignorent les sub 5, quel mal cela cause-t-il... Une seule, isolée, pauvre, inculte... ».
Sur les réseaux sociaux, « sub-5 » fait référence à un terme péjoratif né dans des forums (comme les groupes incel) qui classe l’attractivité physique d’une personne (généralement des hommes) sur une échelle de 1 à 10.
Selon les sources, la conversation contenait également des références à l’utilisation d’un camion pour renverser des personnes. Cette information a eu des conséquences concrètes : lors d’une procédure judiciaire, la DUAI a saisi le véhicule mentionné par l’utilisateur ainsi que trois couteaux.
La menace ne s’est pas limitée à une phrase écrite sur un écran. Les agents devaient déterminer si la personne disposait des moyens, de la proximité avec une victime potentielle et de la décision de mener à bien l’attaque.
Neuf alertes, quatre perquisitions et différentes plateformes
En résumé, les enquêtes ont été ouvertes à Villa Gesell, Quilmes, Moreno et La Plata, dans la province de Buenos Aires ; Coronel Du Graty, dans le Chaco ; General Alvear, dans Entre Ríos ; Viedma, dans Río Negro ; Rosario, dans Santa Fe ; et Marcos Juárez, dans Córdoba.
Deux des signalements étaient liés à ChatGPT, à Villa Gesell et Quilmes. Deux autres sont issus de Claude, la plateforme d’Anthropic, à Coronel Du Graty et Moreno. Il y a également eu deux alertes attribuées à OpenAI (ChatGPT), à General Alvear et Viedma, et trois liées à Discord, avec des connexions à La Plata, Rosario et Marcos Juárez.
Dans chaque dossier, la tâche est similaire : identifier l’auteur, examiner ses appareils, vérifier son accès aux armes, véhicules ou couteaux, et reconstituer s’il y a eu des contacts avec des tiers.
La phrase de Quilmes a ouvert une porte que les enquêteurs connaissent déjà : une conversation privée peut passer d’une plateforme d’intelligence artificielle à une alerte internationale, puis à la porte d’une maison. Les huit autres enquêtes cherchent à établir si derrière chaque message se cachait une fantaisie violente, une menace ou un plan en cours.