Le procureur général de la Floride, James Uthmeier, a ouvert une enquête formelle sur OpenAI, responsable de ChatGPT, en raison de préoccupations concernant l'accès potentiel des mineurs à du contenu nuisible, ce qui pourrait engendrer des risques pour la sécurité publique aux États-Unis.
L'ampleur et l'étendue de ChatGPT exigent des contrôles plus stricts, a averti Uthmeier, qui a souligné que l'utilisation généralisée de cette technologie par des enfants nécessite la mise en œuvre de mesures immédiates, selon des informations diffusées ce jeudi par le média original.
Le bureau du procureur général soutient qu'il existe des indications selon lesquelles le chatbot de OpenAI pourrait être lié à des épisodes d'auto-mutilation et de suicides chez des mineurs.
Uthmeier a affirmé que Phoenix Ikner, identifié comme le responsable de la fusillade de masse du 17 avril 2025 à l'Université d'État de Floride, aurait utilisé ChatGPT avant l'attaque, qui a laissé deux morts et cinq blessés. De plus, il a averti du risque que le gouvernement de Chine accède à des données traitées par OpenAI, une situation qui pourrait affecter la sécurité nationale des États-Unis.
Dans un message diffusé sur X, Uthmeier a exprimé : “L'IA doit exister pour compléter, soutenir et faire progresser l'humanité, pas pour nous conduire à une crise existentielle ou à notre disparition définitive”.
Il a souligné qu'aucune entreprise technologique ne peut “mettre en danger nos enfants, faciliter des crimes, renforcer les ennemis des États-Unis ni menacer notre sécurité nationale”. De plus, il a insisté sur le fait que toutes les entreprises devront répondre devant la justice si elles manquent à ces obligations, selon ce que rapportent les médias régionaux de Floride.
Les préoccupations du procureur général s'inscrivent dans le débat national et international concernant l'impact de l'intelligence artificielle sur l'enfance et la sécurité publique. Des cas récents remettent en question la capacité des systèmes d'IA à filtrer des contenus sensibles, ce qui a motivé l'intervention d'organismes de régulation dans plusieurs États des États-Unis.
OpenAI a rejeté les accusations et défendu ses normes de sécurité, soulignant à la fois la popularité et les avantages de ChatGPT. Un porte-parole de l'entreprise a déclaré : “Chaque semaine, plus de 900 millions de personnes utilisent ChatGPT pour améliorer leur vie quotidienne grâce à des applications comme l'apprentissage de nouvelles compétences ou la gestion de démarches de santé”.
Il a ajouté que le travail continu sur la sécurité est essentiel pour préserver ces avantages et soutenir la recherche et la découverte scientifique. “ChatGPT est conçu pour comprendre les intentions des utilisateurs et répondre de manière sécurisée, et nous continuons à perfectionner notre technologie. Nous coopérerons pleinement avec l'enquête du procureur général de Floride”. L'entreprise a confirmé qu'elle coopérera avec les autorités durant le processus.
Jusqu'à présent, le bureau du procureur n'a pas précisé l'étendue de l'enquête, mais des sources officielles ont indiqué que des assignations à comparaître pourraient être émises dans le cadre des procédures. Cette mesure pourrait marquer une nouvelle étape dans la supervision des grandes entreprises d'intelligence artificielle par l'État.
Les autorités de Floride soutiennent que l'enquête sur OpenAI vise à déterminer si l'entreprise a mis en place des mécanismes efficaces pour protéger les enfants et les adolescents de l'exposition à des contenus inappropriés et pour éviter la manipulation malveillante de ses systèmes.
Directives et alliances pour la protection des enfants
L'ouverture de l'enquête coïncidait avec la publication, par OpenAI, d'un cadre d'action élaboré en collaboration avec le National Center for Missing and Exploited Children (organisme américain spécialisé dans la protection des enfants) et le AI Working Group de l'Alliance des Procureurs Généraux (entité composée de procureurs d'État pour coopérer sur des questions d'intelligence artificielle).
Ce document propose, entre autres mesures, que les États adoptent le terme “matériaux d'abus sexuel d'enfants” en remplacement de “pornographie infantile”, et qu'ils interdisent aux systèmes d'IA de générer du contenu illégal ou nuisible indépendamment des demandes des utilisateurs.
Le cadre, présenté un jour avant l'annonce de l'enquête, vise à adapter les législations d'État aux nouvelles formes de risque numérique associées à l'intelligence artificielle. Les entités participantes ont souligné la nécessité de mettre à jour les termes juridiques et d'établir des protocoles clairs pour la collaboration entre les entreprises technologiques et les autorités.
Réformes légales et obstacles à la régulation de l'IA
Dans le domaine législatif, le Projet de Loi 245 de la Chambre des Représentants de la Floride a été promulgué par le gouverneur Ron DeSantis le 1er avril. Cette réglementation met à jour la législation d'État sur les contenus numériques et formalise l'utilisation du terme “matériel d'abus sexuel d'enfants” dans le contexte d'images ou de textes générés par intelligence artificielle.
L'objectif est d'équiper les procureurs d'outils pour poursuivre les crimes d'abus commis via des plateformes numériques.
Parallèlement, la législature d'État a débattu d'une proposition soutenue par DeSantis pour créer une “Déclaration des Droits de l'IA”, destinée à renforcer la protection du consommateur et à établir des réglementations spécifiques pour les entreprises technologiques.
Bien que le projet ait reçu l'approbation du Sénat, il a été bloqué à la Chambre des Représentants après que le président Daniel Pérez ait argumenté que la régulation de l'intelligence artificielle doit être traitée au niveau fédéral. Cette position s'aligne avec la vision de l'ancien président Donald Trump, qui soutient une stratégie réglementaire nationale unifiée.
Le procureur général Uthmeier a exhorté les législateurs à rouvrir le débat : “Je demande à la Législature de la Floride d'agir rapidement pour mettre en œuvre des mesures qui protègent les mineurs des risques associés à l'IA et qui donnent davantage de pouvoirs au bureau du procureur général pour faire face à ces défis”.
Débat national et implications futures
L'enquête contre OpenAI en Floride illustre la tension existante entre l'avancement des technologies d'IA et la nécessité d'établir des limitations claires pour garantir la sécurité des mineurs et la transparence des entreprises.
Des experts et des défenseurs des droits numériques avertissent que les risques associés à l'intelligence artificielle nécessitent des réponses coordonnées entre les législateurs, les régulateurs et le secteur privé.
En attendant, selon des données rapportées par la société elle-même, plus de 900 millions de personnes utilisent ChatGPT chaque semaine dans différents pays, ce qui lui confère une portée mondiale sans précédent pour des outils d'IA générative et souligne le défi réglementaire auquel les autorités sont confrontées.