Le gouverneur de Californie, Gavin Newsom, a promulgué le 10 septembre un ensemble de lois interdisant aux plateformes de réseaux sociaux d'offrir des fonctionnalités addictives aux utilisateurs de moins de 16 ans et établissant des contrôles sur les chatbots d'intelligence artificielle (IA). La législation, qui comprend des restrictions sur le défilement infini, la lecture automatique et les systèmes de recommandation algorithmique, fait de la Californie le premier État des États-Unis à adopter une réglementation de cette ampleur.
Newsom l'a signée devant le pont Golden Gate, accompagné de législateurs et de familles touchées par les risques de la technologie dans l'enfance.
Les 13 lois qui composent le paquet de sécurité infantile de Californie
L'ensemble promulgué le 10 septembre comprend 13 normes couvrant les réseaux sociaux et les chatbots d'IA, ainsi que la vie privée à l'école et les jouets technologiques :
- AB 1709 : Interdit les fonctionnalités addictives (défilement infini, lecture automatique, flux algorithmiques) sur les réseaux sociaux pour les utilisateurs de moins de 16 ans.
- SB 1119 (Loi Adam) : Régule les chatbots d'accompagnement : exige des évaluations des risques, des contrôles parentaux, des protocoles de crise et des limites de temps pour les mineurs.
- AB 2 : Fixe des sanctions civiles allant jusqu'à un million de dollars par enfant pour les plateformes causant des dommages par négligence.
- SB 1276 : Élargit la définition légale de l'exploitation sexuelle des enfants pour inclure les images numériquement altérées ou générées par IA.
- SB 1128 : Interdit aux écoles d'exiger que les élèves de maternelle et de prématernelle apportent des appareils électroniques à la maison.
- SB 867 : Interdit pendant quatre ans la fabrication et la vente de jouets avec chatbots d'accompagnement pour les mineurs de moins de 16 ans.
- AB 1856 : Ajuste le système de signalement de vérification d'âge établi par l'AB 1043, avec une exemption pour les systèmes d'exploitation open source.
- AB 2246 : Met à jour les obligations de conception sécurisée pour les services numériques accessibles aux mineurs.
- AB 1946 : Crée un mécanisme de signalement de matériel d'abus sexuel sur les enfants dans les plateformes numériques.
- AB 1159 : Renforce la protection des informations personnelles des étudiants dans les systèmes d'IA.
- AB 2071 : Intègre des contenus de bien-être numérique dans les normes d'éducation en informatique.
- AB 302 : Régule l'utilisation de flux algorithmiques addictifs dans les communications scolaires concernant les activités parascolaires.
- AB 2298 : Met à jour les programmes scolaires d'informatique avec un accent sur le bien-être et la sécurité numérique.
Californie interdit les fonctionnalités addictives des réseaux sociaux pour les mineurs de moins de 16 ans
La norme centrale du paquet est la loi AB 1709, portée par le député démocrate Josh Lowenthal. La loi interdit aux réseaux sociaux d'offrir aux utilisateurs de moins de 16 ans des éléments de design tels que le défilement infini, la lecture automatique de vidéos et les flux personnalisés —connus sous le nom de pages « Pour vous»— qui sont construits à partir de l'historique de navigation et du profil de l'utilisateur. Selon les législateurs, ces mécanismes prolongent le temps d'utilisation des plateformes au-delà de l'intention initiale de l'utilisateur.
La loi n'oblige pas les mineurs à quitter les plateformes : les entreprises peuvent se conformer en désactivant ces fonctions pour ce groupe d'âge ou, à défaut, en leur interdisant complètement l'accès à leurs services. Pour vérifier l'âge des utilisateurs, les plateformes devront s'appuyer sur un système introduit par une autre norme étatique approuvée l'année dernière, la AB 1043, qui exigera des fournisseurs de systèmes d'exploitation de transmettre aux applications un signal indiquant la tranche d'âge de l'utilisateur à partir de janvier 2027.
« Il s'agit de traiter le problème réel : le défilement, les algorithmes. Il s'agit de traiter la question fondamentale de l'ingénierie », a déclaré Newsom devant la presse, selon The Guardian. « Et c'est ce qui fait de cette loi une loi véritablement significative et transcendante ».
Quelles obligations auront les plateformes numériques et les chatbots d'intelligence artificielle
Le paquet adresse des exigences spécifiques aux chatbots d'accompagnement, l'IA qui maintient des conversations continues avec les utilisateurs. La loi SB 1119, appelée loi Adam du nom d'Adam Raine, un adolescent californien décédé par suicide en 2025 après avoir utilisé ChatGPT, fixe des obligations pour les opérateurs de ces systèmes :
- Réaliser des évaluations de risque indépendantes avant de lancer leurs produits au public.
- Mettre en œuvre des contrôles parentaux actifs et des protocoles de crise : si un chatbot détecte des signes d'automutilation chez un utilisateur mineur, l'entreprise devra en informer ses parents ou tuteurs.
- Définir des limites de temps d'utilisation pour les mineurs.
- Intégrer des ressources de santé mentale au sein même de l'interface du chatbot.
- Réaliser des audits de sécurité infantile indépendants annuellement.
Maria Raine, mère d'Adam, a participé à la signature de la législation. « Adam était un utilisateur précoce de l'IA, et beaucoup de parents ne comprenaient pas les dangers à ce moment-là. Nous devenons maintenant plus conscients des dangers des chatbots d'accompagnement », a-t-elle déclaré, selon The Guardian.
Dos autres lois du paquet élargissent ce cadre : l'une interdit pendant quatre ans la vente de jouets dotés de capacités d'IA conversationnelle pour les enfants de moins de 16 ans, et l'autre renforce les protections de la vie privée des mineurs en empêchant les entreprises de collecter des données sur les mineurs comme condition d'accès à leurs services.
Amendes et changements pour protéger les enfants et les adolescents en Californie
La loi AB 2, également signée le même jour, prévoit que les entreprises technologiques peuvent faire face à des amendes allant jusqu'à un million de dollars par enfant dont les plateformes ont causé des dommages démontrables, tels que l'anxiété, la dépression ou d'autres préjudices pour la santé mentale. La norme fixe l'indemnisation au montant le plus élevé entre deux sommes : 5 000 dollars par violation avec un plafond d'un million par enfant, ou le triple des dommages réels prouvés, ce qui peut en pratique élever les amendes au-delà de ce seuil.
Le paquet comprend également une disposition qui élargit la définition légale de l'exploitation sexuelle des mineurs pour inclure les images générées ou altérées par l'IA représentant des mineurs. Par ailleurs, la loi SB 1128 interdit aux écoles d'exiger que les élèves de maternelle et de prématernelle ramènent des appareils électroniques à la maison, une mesure visant à limiter l'exposition précoce aux écrans.
L'affaire Meta et le débat sur l'addiction aux réseaux sociaux
L'approbation de ce paquet intervient quelques semaines après que Meta soit parvenue à un accord avec la Californie et 28 autres États qui avaient intenté des actions collectives contre l'entreprise. Les accusations soutenaient que la compagnie avait délibérément conçu ses plateformes Instagram et Facebook pour générer des comportements addictifs chez les mineurs et qu'elle avait trompé les consommateurs sur la sécurité de ses produits.
Meta a accepté de payer jusqu'à 18 milliards de dollars et de s'engager à mettre en œuvre une série de changements sur ses plateformes pour les adolescents, notamment des limites quotidiennes d'utilisation et des blocages automatiques pendant la nuit. L'accord a évité le déroulement d'un procès fédéral en Californie. L'affaire a été l'une des plus retentissantes ces dernières années en matière de responsabilité des plateformes numériques face au bien-être des enfants, et elle a influencé le climat politique qui a rendu possible l'adoption de ces lois.
La Californie cherche à réguler l'intelligence artificielle et ses risques
Quelques jours auparavant, Newsom avait promulgué deux lois sur une supervision plus large de l'IA, soutenues par Anthropic : l'une crée un cadre permettant à des organisations indépendantes d'évaluer la sécurité des systèmes et modèles d'IA ; l'autre établit un registre d'État des auditeurs avec des normes d'indépendance financière, de transparence et d'intégrité.
Ces deux mesures s’ajoutent à une stratégie que l’État a commencé à construire depuis 2024, avec des normes sur les deepfakes, les marques d’eau numériques et la divulgation publique des protocoles de sécurité par les grandes entreprises du secteur. L’**Australie** a été le premier pays au monde à interdire les réseaux sociaux aux mineurs de moins de 16 ans, et depuis lors, plus de 40 pays ont pris cette décision comme référence.
Les critiques à la loi californienne sur les réseaux sociaux et les mineurs
La législation n’a pas été exempte de critiques. La **Electronic Frontier Foundation (EFF)**, organisation sans but lucratif dédiée à la vie privée numérique et à la liberté d’expression, considère que l’AB 1709 fonctionne en pratique comme une interdiction déguisée de l’utilisation des réseaux sociaux pour les mineurs de moins de 16 ans, car supprimer des fonctionnalités de navigation de base peut les exclure des communautés, des informations et des espaces d’expression numérique.
« Refuser aux mineurs l’accès aux forums numériques — ou supprimer les outils de base nécessaires pour naviguer dessus — ne les rendra ni plus sûrs ni plus en bonne santé », a déclaré Rindala Alajaji, directrice adjointe des affaires étatiques de la EFF, dans un communiqué repris par The Guardian. Avec ce paquet de 13 lois, la Californie se situe parmi les juridictions qui tentent d’établir des limites concrètes à l’impact des plateformes et de l’intelligence artificielle sur l’enfance.