Meta a intégré de nouveaux outils d'intelligence artificielle pour détecter des publicités qui, bien qu'elles paraissent inoffensives, redirigent les utilisateurs vers des contenus d'abus sexuel sur mineurs hébergés en dehors de ses plateformes.
L'entreprise propriétaire de Facebook et Instagram a précisé qu'elle a agi sur 33,2 millions de contenus d'exploitation sexuelle d'enfants sur ces deux réseaux au cours du premier semestre de 2026. Plus de 97 % de ce matériel a été détecté par ses propres systèmes avant toute signalement par un utilisateur.
En Inde, où la société a fait face à une pression réglementaire spécifique sur cette question, Meta a déclaré avoir agi sur 5,3 millions de contenus d'exploitation d'enfants sur la même période, avec plus de 98 % détectés avant la réception d'un signalement.
Fonctionnement de la nouvelle détection
Conformément au communiqué officiel publié sur le site corporatif de Meta, la société a identifié une tactique qu'elle décrit comme une « signalisation » (signposting) : des annonces qui semblent respecter les normes mais qui mènent vers des sites externes contenant des contenus illégaux.
Pour contrer cette manœuvre, Meta a introduit un système basé sur un modèle de langage qui analyse non seulement ce qu'affiche une annonce, mais aussi la destination vers laquelle elle redirige l'utilisateur qui clique dessus. Ces informations permettent de bloquer les destinations externes et d'agir contre les comptes responsables.
L'entreprise a également ajouté des analyses supplémentaires par intelligence artificielle pour trouver du matériel que ses anciens systèmes n'avaient pas détecté, ainsi qu'un « agent de l'équipe rouge » qui met à l'épreuve ses propres défenses à la recherche de vulnérabilités que les contrevenants pourraient exploiter. Meta a également renforcé les mécanismes permettant d'identifier les utilisateurs qui recréent des comptes après la suppression de leurs précédents pour ce type d'infractions.
Le contexte de la pression réglementaire
Cette annonce intervient après des mois de scrutiny sur la sécurité des enfants sur les plateformes de Meta. Selon TechCrunch, la société a conclu en août un accord pour verser jusqu'à 18 milliards de dollars afin de mettre fin à une plainte déposée par 29 États américains liée à la protection des mineurs sur ses réseaux.
Ce litige s'ajoute aux enquêtes menées par des organisations non gouvernementales qui, dans les mois précédents, avaient identifié des centaines d'annonces contenant des contenus d'abus sexuel sur mineurs générés par intelligence artificielle circulant sur Facebook et Instagram, plusieurs d'entre elles étant liées à des applications de « nudification » numérique développées en Chine.
Meta a soutenu dans son communiqué que la lutte contre l'exploitation des enfants « ne s'arrête jamais » car les responsables de ces réseaux changent constamment de tactique pour échapper à la détection. Une équipe d'experts, dont d'anciens enquêteurs du FBI, mène des investigations manuelles pour identifier des réseaux complets de comptes prédateurs.
Lorsqu’elle détecte du contenu qui viole ses politiques, l’entreprise le supprime et, dans les cas où il y a des indices de distribution malveillante, désactive les comptes impliqués et signale le matériel au Centre national pour les enfants disparus et exploités des États-Unis, l’organisation qui centralise ce type de plaintes dans ce pays.
L’entreprise a ajouté que cette année elle avait déjà ajouté d’autres fonctions liées à la sécurité des mineurs, notamment des contrôles parentaux pour son assistant d’intelligence artificielle et des comptes avec des restrictions spécifiques pour les utilisateurs préadolescents.
Meta n’a pas précisé de date pour une prochaine mise à jour publique sur les résultats de ces outils, bien qu’elle ait déclaré qu’elle continuera à intégrer de nouveaux signaux au fur et à mesure qu’elle identifiera des changements dans le comportement des réseaux d’exploitation infantile.
Meta avance également dans la détection des arnaques
Meta, en collaboration avec la Police nationale espagnole, a identifié les arnaques les plus fréquentes sur Internet pendant la période de fin d’année, lorsque le Black Friday et Noël augmentent l’activité commerciale et les tentatives de fraude sur Instagram, Facebook et les services de messagerie.
Grâce aux données de son Centre de protection contre les arnaques, l’entreprise a détecté de fausses boutiques proposant des produits à des prix irréellement bas, des tirages au sort frauduleux exigeant des paiements ou des données bancaires préalables, et des messages de phishing imitant des banques ou des entreprises connues pour voler des informations personnelles. Rien qu’en 2025, Meta a supprimé plus de 159 millions d’annonces frauduleuses sur ses plateformes.