Huit procureurs généraux des États-Unis ont intenté une action en justice contre OpenAI devant les tribunaux d'État, accusant l'entreprise d'avoir conçu ChatGPT pour capter l'attention des mineurs tout en dissimulant des risques qui, selon les poursuites, ont conduit des jeunes à se blesser eux-mêmes.
Les États ayant déposé des actions indépendantes sont l'Arkansas, l'Arizona, l'Idaho, l'Iowa, le Kansas, le Montana, le Nebraska et la Virginie-Occidentale, ce que l'agence Reuters a qualifié de l'action coordonnée la plus significative des gouvernements d'État contre une entreprise d'intelligence artificielle.
Chaque bureau du procureur a déposé sa propre demande devant son tribunal d'État, mais toutes partagent la même revendication centrale : OpenAI aurait promu ChatGPT comme sûr pour les utilisateurs âgés de 13 ans et plus tout en connaissant des défaillances mettant en danger les mineurs et d'autres utilisateurs vulnérables.
Le procureur général du Kansas, Kris Kobach, a précisé que les huit demandes sont des actions parallèles et indépendantes, déposées chacune devant le tribunal de son propre État et non comme un litige conjoint.
Les cas cités dans les poursuites
La procureure générale de l'Iowa, Brenna Bird, a déclaré qu'OpenAI « a dit aux utilisateurs de tout le pays que ChatGPT est sûr, alors qu'il ne l'est pas ». Bird a ajouté que le chatbot renforce les délires et donne des conseils médicaux dangereux.
Le procureur général de Virginie-Occidentale, JB McCuskey, a déposé sa demande lors d'une conférence de presse avec ses homologues de l'Iowa, du Kansas et du Nebraska. Selon son bureau, la plainte décrit un cas dans lequel ChatGPT a incité un adolescent à se suicider.
Les procureurs ont également cité le cas d'un adolescent du Texas qui, selon la demande de l'Iowa, a reçu des informations médicales dangereuses sur la combinaison du Xanax et du kratom par ChatGPT, ce qui a conduit à sa mort.
La procureure générale de l'Arizona, Kris Mayes, a déposé sa demande devant le tribunal supérieur du comté de Maricopa. Selon le texte diffusé par son bureau, OpenAI « a conçu un produit pour attirer les jeunes utilisateurs et les maintenir captivés aussi longtemps que possible » afin de collecter leurs données personnelles.
Le procureur général du Nebraska, Mike Hilgers, a soutenu lors de la même conférence que les États-Unis « doivent gagner la course à l'intelligence artificielle », mais que les entreprises du secteur « ne peuvent pas tromper ou désinformer les consommateurs sur leur technologie » dans ce processus.
Ce que demandent les procureurs
Les poursuites invoquent les lois d'État sur la protection des consommateurs et, dans certains cas, des normes spécifiques sur la confidentialité des mineurs en ligne. Les États accusent OpenAI de causer un trouble public en mettant en danger la santé de ses résidents.
Les demandes incluent des ordres judiciaires obligeant l'entreprise à modifier le fonctionnement de ChatGPT, à divulguer clairement les risques du produit et à reverser les revenus obtenus à partir de l'utilisation par des mineurs. Elles réclament également des sanctions civiles et des indemnités.
L'Arkansas est allé plus loin : sa demande exige l'arrêt du développement de modèles d'intelligence artificielle capables de s'améliorer eux-mêmes, jusqu'à ce qu'il existe des garanties que ces systèmes sont alignés sur les valeurs humaines.
Le procureur général de l'Arkansas, Tim Griffin, a détaillé que sa demande inclut des réclamations pour violations de la loi de l'État sur les pratiques commerciales trompeuses et de la réglementation de protection des données des enfants et des adolescents, en plus d'accusations de négligence et de défaut de conception du produit.
Selon Griffin, son bureau a documenté des cas d'utilisateurs, y compris des mineurs, qui ont obtenu de ChatGPT des instructions pour s'automutiler et ont réussi à contourner les filtres de sécurité que l'entreprise affirmait avoir mis en place.
Diverses procureures ont également mentionné des épisodes dans lesquels des agents d'IA d'OpenAI, des assistants capables d'exécuter des tâches de manière autonome, auraient agi de façon autonome et envahi les systèmes d'autres entreprises, un antécédent utilisé pour remettre en question les contrôles internes de l'entreprise.
La réponse d'OpenAI
Un porte-parole d'OpenAI, Drew Pusateri, a défendu les mesures de l'entreprise auprès de la chaîne locale KVOA, en Arizona. « Nous avons construit des protections spécifiques par âge que beaucoup d'autres entreprises d'IA n'ont pas », a-t-il affirmé, ajoutant que l'entreprise continuera à travailler avec des spécialistes pour ajouter des garde-fous.
Pusateri a indiqué que ChatGPT est conçu pour les utilisateurs de 13 ans et plus, que les mineurs de moins de 18 ans ont besoin de l'autorisation d'un adulte et que les utilisateurs adolescents passent, en moyenne, moins de quinze minutes par jour sur la plateforme.
OpenAI n'a pas répondu immédiatement aux demandes de commentaire d'autres agences. L'entreprise fait face à des dizaines de poursuites individuelles l'accusant d'avoir contribué à la planification d'actes de violence ou d'épisodes d'automutilation.
La Floride avait déposé une demande similaire en juin et ouvert une enquête pénale sur le rôle de ChatGPT dans la planification d'une fusillade. Les procureurs des huit États ont averti que d'autres poursuites étatiques pourraient s'ajouter dans les prochaines semaines.
Ces actions en justice surviennent alors qu'OpenAI se prépare à une éventuelle introduction en bourse et que ChatGPT, lancé en 2022, reste le chatbot le plus utilisé au monde, avec près de la moitié du marché américain des assistants conversationnels, selon les procureurs eux-mêmes.
Lignes d'aide et prévention
Aux États-Unis, il existe le Réseau national de prévention du suicide pour demander de l'aide. Vous pouvez appeler le 1-888-628-9454 ou le 1-800-273-8255, la ligne du Service national de prévention du suicide, pour parler à quelqu'un qui vous offrira un soutien gratuit et confidentiel 24 heures sur 24, sept jours sur sept. Les CDC recommandent également leurs propres politiques, programmes et pratiques de prévention.
Ligne de prévention du suicide en Argentine : le Centro de Asistencia al Suicida offre des conseils et un soutien. Ils disposent d'une ligne de prévention du suicide au numéro 135 (appel gratuit) ou aux numéros (011)5275-1135 et 0800 345 1435 pour les appels depuis tout le pays.
Au Mexique, pour ceux qui cherchent de l'aide ou une assistance en relation avec le suicide, il existe la Línea de la Vida : 800-911-2000. Ce service est gratuit et disponible 24 heures sur 24, sept jours sur sept.
En Colombie, la Línea de la Vida offre un soutien émotionnel aux personnes confrontées à une crise suicidaire ou à une détresse. Ce service est disponible dans plusieurs villes du pays. À Bogota, vous pouvez contacter le 106 ou via WhatsApp au 3007548933. Barranquilla dispose de la ligne 339 99 99, tandis qu'à Medellín, il y a la Línea Amiga au 444 44 48. À Cali, comme à Bogota, le numéro d'assistance est le 106. Ces lignes offrent une réponse immédiate à ceux qui ont besoin d'aide dans des moments critiques.
Au Pérou, le Ministère de la Santé (Minsa) offre un soutien émotionnel via la Línea 113 Salud, accessible nationalement par téléphone, WhatsApp ou Telegram aux numéros 955557000 et 952842623.
En Espagne, le Ministère de la Santé a établi la Línea 024 pour l'attention à la conduite suicidaire.