TikTok a retiré plus de 86 millions de faux comptes au cours des trois premiers mois de 2026, un chiffre qui reflète le volume de profils créés pour diffuser du spam, amplifier des publications ou simuler une activité réelle sur la plateforme.
Cette mesure coïncide avec un changement dans la production de contenu : l'intelligence artificielle permet de générer rapidement des textes, des voix, des images et des vidéos, ce qui facilite également l'utilisation abusive de ces ressources. L'entreprise a en outre indiqué avoir identifié plus de 3 milliards de vidéos liées à l'intelligence artificielle.
Ce chiffre ne signifie pas que toutes ces publications violent les règles, mais il montre l'ampleur d'une technologie qui fait déjà partie de l'activité quotidienne sur les réseaux sociaux. TikTok cherche à ce que les utilisateurs distinguent quand un contenu a été généré ou modifié par une IA et puissent reconnaître les profils dédiés à la distribution de matériel artificiel.
Les faux comptes peuvent promouvoir du contenu de manière automatisée
Le problème ne se limite pas aux vidéos manipulées. Un profil faux peut publier de manière répétée, envoyer des messages, commenter, suivre des comptes ou stimuler des conversations pour donner une apparence d'intérêt réel. Avec des outils d'intelligence artificielle, ces actions peuvent adopter un langage plus naturel et s'adapter à des sujets spécifiques.
TikTok prépare des mesures visant à détecter les comptes qui diffusent du spam généré par l'IA. La plateforme prêtera une attention particulière aux catégories où le contenu inexact peut avoir des conséquences majeures, comme la politique et l'actualité, les conseils financiers et les informations médicales.
L'élimination de 86 millions de profils en un trimestre place la modération des comptes comme l'un des axes de la stratégie de TikTok. L'entreprise cherche à limiter le fait que des réseaux d'utilisateurs faux occupent des espaces destinés aux créateurs et aux audiences réelles, surtout lorsqu'ils utilisent du matériel produit automatiquement.
Des étiquettes pour savoir si une vidéo a été créée avec l'IA
L'une des outils employés par TikTok est l'étiquetage du contenu généré par l'IA. La plateforme combine des identifiants de contenu, des options permettant aux créateurs d'identifier leurs publications et un filigrane invisible.
Ces mécanismes permettent d'indiquer si une pièce a été créée ou modifiée de manière significative avec des outils d'IA. L'information apporte du contexte au spectateur avant de partager une vidéo, de supposer qu'elle représente un fait réel ou de la prendre comme une source fiable.
TikTok a indiqué avoir déjà étiqueté plus de 3 milliards de vidéos. Ce chiffre montre que l'utilisation de l'intelligence artificielle ne se concentre pas sur des cas isolés, mais traverse différents formats et sujets au sein de l'application.
La filigrane invisible fonctionne comme un signal technique qui peut accompagner le contenu sans en altérer l’apparence pour l’utilisateur. Les certificats, quant à eux, regroupent des données sur l’origine et l’historique de modification d’un fichier numérique.
Un effort pour identifier le contenu généré par l’IA
TikTok a été la première plateforme vidéo à implémenter les Content Credentials de la Coalition pour la Provenance et l’Authenticité des Contenus, connue sous le sigle C2PA, il y a deux ans. Cette norme permet d’intégrer des informations sur l’origine d’une image ou d’une vidéo ainsi que sur les modifications effectuées lors de sa création.
L’entreprise fait désormais partie du Comité directeur de la C2PA. Sa participation vise à renforcer le développement d’outils permettant de savoir si un contenu a été généré ou modifié de manière significative par l’intelligence artificielle.
La traçabilité ne remplace pas la modération et ne garantit pas que tout contenu étiqueté soit correct. Son rôle est d’ajouter des informations sur le parcours d’une publication et de faciliter la compréhension par les utilisateurs du type d’intervention technologique subie avant son affichage sur leurs écrans.
La réponse de la plateforme inclut également des programmes éducatifs. TikTok a élaboré un guide sur l’utilisation responsable de l’IA avec des organisations et des spécialistes en littératie médiatique, notamment NAMLE et Henry Ajder.
Dans l’application, un Centre d’information a été intégré, offrant des ressources pour ceux qui effectuent des recherches sur l’intelligence artificielle. Les utilisateurs peuvent y trouver des matériaux destinés à reconnaître les contenus générés par ces outils.
La combinaison de comptes supprimés, de vidéos identifiées et de ressources de formation vise un même problème : l’intelligence artificielle peut amplifier la production de contenu, mais elle permet aussi à des profils faux et à des publications automatisées de circuler à une échelle difficile à contrôler.