L'intégration de Grok, l'intelligence artificielle générative développée par xAI et déployée sur le réseau social X, a déclenché des interrogations en raison de l'exposition des mineurs à des risques graves d'abus numérique. Des rapports récents ont averti que la facilité de manipulation des images et le manque de contrôles efficaces ont rouvert le débat sur la responsabilité des plateformes face aux dommages sociaux.
À la fin décembre 2025, xAI a intégré dans X une fonction qui permet d'éditer des images par le biais d'instructions textuelles. Présenté comme une ressource créative, cet outil a également permis la manipulation de photos de personnes réelles pour les sexualiser ou les dévêtir numériquement sans autorisation. Des rapports du Centre pour Contrer la Haine Numérique (CCDH) ont indiqué que le système a généré près de trois millions d'images sexualisées photoréalistes en onze jours, avec une moyenne de 190 fichiers par minute.
Le phénomène s'est étendu au-delà des figures publiques et a inclus des utilisatrices anonymes, des adolescentes et des jeunes dont les images ont été réutilisées sans consentement. Le CCDH a estimé qu'environ 0,5% du matériel concernait des mineurs, ce qui équivaut à plus de 23.000 fichiers. Bien que X ait annoncé des restrictions et des suppressions, une partie du contenu a continué à circuler, renforçant les critiques sur l'efficacité de ses mécanismes de modération.
Restrictions et échecs de modération
Face à la pression publique, X a restreint l'accès à l'édition et à la génération d'images pour les utilisateurs gratuits, laissant ces fonctions aux comptes payants. Des spécialistes et des organisations civiles ont indiqué que conditionner l'utilisation à un abonnement ne constitue pas une politique intégrale de prévention, détection et réparation des dommages.
Des enquêtes journalistiques ultérieures ont indiqué que certains utilisateurs sans abonnement ont conservé l'accès, tandis que des tests externes ont détecté des réponses problématiques du système face à des demandes d'images humiliantes ou non consenties.
Depuis la gouvernance technologique, le cas a exposé une tension centrale : les plateformes ne peuvent pas déléguer à l'utilisateur final la responsabilité exclusive des dommages prévisibles causés par des outils conçus, distribués et monétisés par les entreprises elles-mêmes.
Amende en Australie et débat réglementaire
La controverse autour de la gestion de contenu illégal sur X a eu des répercussions légales en Australie. Là-bas, la justice fédérale a imposé à X Corp une amende de 650.000 dollars australiens suite à une procédure initiée par l'autorité de sécurité numérique, eSafety, suite à une demande pour que la plateforme informe ses mesures contre le matériel d'abus et d'exploitation sexuelle des enfants.
Le manque de coopération suffisante a abouti à la sanction et à un message institutionnel : les plateformes mondiales doivent respecter les normes locales lorsqu'elles opèrent dans ces marchés. Pendant le procès, l'entreprise a soutenu que Twitter Inc. avait cessé d'exister après sa fusion avec X Corp, mais la justice a rejeté cette position et a affirmé que la réorganisation sociétaire ne l'exonérait pas de ses obligations réglementaires en matière de sécurité des enfants.
Risques prévisibles et conséquences pour les victimes
Depuis la cybersécurité, le débat s'est concentré sur la responsabilité des entreprises lors du lancement de produits pouvant amplifier les attaques, le harcèlement ou la violence numérique. David González, chercheur en sécurité informatique chez ESET Amérique Latine, a averti le portail Économie Durable des risques du déploiement accéléré de l'intelligence artificielle générative et du manque de réglementation.
González a souligné que l'IA générative facilite des comportements nuisibles : des utilisateurs sans connaissances avancées peuvent créer des images manipulées ou automatiser des attaques numériques. « Tout avancement technologique devrait être utilisé de manière responsable. Actuellement, plus de 80% des dispositifs connectés à Internet ne disposent d'aucune sécurité », a-t-il informé le portail mentionné.
Concernant Grok, il a ajouté que la prévention doit être intégrée dès la conception : « L'entreprise développeur a une responsabilité directe tant dans la conception que dans le déploiement de l'outil », avec des filtres, des limites et des mécanismes de détection des abus.
Le dommage causé par des images manipulées se traduit par des conséquences réelles : cela affecte l'intimité, la réputation et la confiance. Chez les adolescents et les mineurs, l'impact est aggravé par la pression scolaire, la viralisation et la difficulté de supprimer le contenu du réseau.