Une mère d’Hawaï a intenté une action en justice contre OpenAI devant un tribunal fédéral de Californie, l’accusant d’avoir extrait des données sensibles de ses deux enfants, âgés de 12 et 16 ans, via des conversations avec ChatGPT, afin d’entraîner ses modèles d’intelligence artificielle sans le consentement valide des parents.
La plainte, déposée auprès du tribunal de district des États-Unis pour le district nord de la Californie, décrit ChatGPT comme un produit conçu pour imiter le langage de chaque utilisateur, le flatter et se souvenir des conversations précédentes, dans le but d’encourager les mineurs à continuer de partager des informations personnelles.
Selon le document judiciaire, qui compte 81 pages, l’une des mineures, âgée de 12 ans, a révélé son âge réel au chatbot lors d’une conversation, mais le système a continué d’interagir avec elle sans interrompre le lien ni transmettre le cas à un adulte responsable.
« Si un inconnu avait fait cela à un enfant, cela aurait suscité l’indignation », a déclaré Paul Yetter, principal avocat des plaignants et associé du cabinet Yetter Coleman, lors de l’annonce de la plainte.
Demande de titres d’OpenAI pour les jeunes
La plainte formule une demande inhabituelle : que les mineurs concernés par l’action collective reçoivent une participation au capital de l’entreprise, ou son équivalent en espèces, proportionnelle à la quantité d’informations qui leur a été extraite. OpenAI cherche actuellement une valorisation allant jusqu’à 1,4 billion de dollars avant son introduction en bourse, selon Bloomberg Law.
Andy Liddell, du cabinet EdTech Law Center, l’un des cabinets qui soutiennent l’affaire, a expliqué que la demande d’une compensation financière vise à ce que, si OpenAI doit payer pour l’utilisation des données des enfants, cela finisse par inciter à la création d’un produit plus sûr pour les mineurs.
« Pendant des années, elle a extrait de manière indue d’énormes quantités de données sensibles et précieuses de millions d’enfants », affirme le document judiciaire, selon Courthouse News. « Elle n’avait aucun droit de prendre ces informations, mais elle l’a fait quand même ».
OpenAI a rejeté les accusations. « Nous sommes fermement en désaccord avec cette plainte erronée qui vise uniquement OpenAI, malgré les protections spécifiques liées à l’âge que nous avons intégrées dans notre produit », a répondu l’entreprise, selon Bloomberg News. La société a également averti que l’affaire pourrait pousser les adolescents vers des plateformes offrant moins de contrôles parentaux.
Huit États ont déjà poursuivi l’entreprise pour les mêmes risques
Un jour avant le dépôt de la plainte de la mère d’Hawaï, les procureurs généraux de l’Iowa, du Kansas, du Nebraska, de la Virginie-Occidentale, de l’Arkansas, de l’Arizona, de l’Idaho et du Montana ont engagé des actions juridiques distinctes contre OpenAI. Les huit plaintes accusent la société d’avoir trompé les parents sur la sécurité de ChatGPT et d’avoir violé les lois étatiques de protection des consommateurs.
Maintenant, les règles d'utilisation d'OpenAI exigent la permission d'un adulte pour qu'un mineur de moins de 18 ans utilise ChatGPT et interdisent l'accès aux mineurs de moins de 13 ans, mais la demande elle-même de Hawaï soutient que l'entreprise ne vérifie pas ce consentement : il suffit de cocher une case déclarant avoir plus de 13 ans.
La controverse s'ajoute à une récente remise en question par le Youth AI Safety Institute, le secteur de l'organisation Common Sense Media dédié à évaluer les produits d'intelligence artificielle pour les enfants, qui a qualifié ChatGPT for Teens de « risque inacceptable » après avoir détecté des lacunes dans l'alerte des parents concernant des conversations sur l'automutilation ou les troubles alimentaires.