La plateforme de jeux en ligne Roblox a annoncé l'incorporation d'intelligence artificielle pour reformuler en temps réel les messages du chat contenant un langage inapproprié ou des insultes, une mesure qui vise à maintenir la fluidité des conversations sans recourir aux traditionnels blocages avec des symboles.
Le nouveau système, dénommé reformulation de chat en temps réel, remplace les chaînes de caractères telles que «####» par des versions éditées du message original, permettant aux joueurs de continuer à communiquer clairement pendant les parties.
Des blocages à des messages lisibles
Jusqu'à présent, le filtre de Roblox répondait aux grossièretés et aux expressions interdites en remplaçant le texte complet par des signes de nombre, ce qui compliquait le suivi des conversations dans le jeu. Avec la nouvelle fonction, si un utilisateur écrit «Hurry TF up!», le système le transformera automatiquement en «Hurry up!», conservant l'intention de la phrase tout en éliminant le contenu offensant.
Selon Rajiv Bhatia, vice-président du produit utilisateur et de la découverte chez Roblox, l'objectif de cette innovation est «de maintenir la civilité en réécrivant le langage et en remplaçant les signaux de haut par de vrais mots». Bhatia a souligné que le chat est central pour l'interaction et la coordination entre les joueurs, c'est pourquoi la réécriture aide à ce que les conversations restent compréhensibles et appropriées.
Résultats et antécédents de la modération sur Roblox
La réécriture en temps réel s'ajoute à d'autres outils mis en œuvre par Roblox ces dernières années pour améliorer la coexistence sur la plateforme. En mai 2025, la société a introduit des alertes en temps réel avertissant les utilisateurs lorsque leurs messages risquent d'enfreindre les règles, les invitant à reconsidérer leur rédaction avant d'envoyer le texte. Ces notifications et les «timeouts» ou pauses temporaires ont réussi à réduire de 5% les messages filtrés et de 6% les conséquences issue de rapports d'abus.
Cependant, le système précédent présentait le problème des messages bloqués qui se transformaient en chaînes de symboles, ce qui affectait la continuité de la communication pendant les parties. Avec la nouvelle approche, les joueurs reçoivent une notification si leur texte a été reformulé, mais la conversation ne s'interrompt pas et ne devient pas incompréhensible.
Règles et portée du nouveau système
Roblox a précisé que la fonction de réécriture ne représente pas un changement dans ses politiques de conformité : les messages qui enfreignent les règles continuent d'être considérés comme des infractions, et les utilisateurs qui insistent pour utiliser un langage interdit continueront à faire face à des sanctions. «Lorsque nous reformulons un message qui viole notre politique, cela reste une infraction et les mêmes règles s'appliquent», a souligné Bhatia.
L'outil de réécriture n'est disponible que dans les discussions entre utilisateurs avec vérification d'âge et au sein de groupes d'âge similaires. De plus, il est compatible avec toutes les langues supportées par le système de traduction automatique de Roblox, ce qui élargit sa portée à l'échelle mondiale. Le développement de la fonction a été accompagné de la collaboration du Teen Council, un groupe d'adolescents consultés par l'entreprise pour mieux comprendre la dynamique de communication entre les jeunes sur la plateforme.
Renforcement de la modération basée sur IA
Dans le cadre de la mise à jour, Roblox améliore également son système de filtres pour détecter les tentatives d'éluder la modération, y compris l'utilisation de leetspeak, une variante du langage où les lettres sont remplacées par des chiffres ou des symbols. Cet effort s'inscrit dans une tendance croissante dans l'industrie du jeu vidéo, où de plus en plus d'entreprises recourent à l'intelligence artificielle pour modérer le comportement des joueurs dans des environnements multijoueurs.
En 2024, Activision a rapporté que plus de deux millions de comptes ont été marqués pour leurs chats perturbateurs après avoir mis en œuvre son système de modération ToxMod, qui utilise l'IA dans des titres comme Call of Duty. Roblox, pour sa part, a lancé en février 2024 un système de traduction automatique en temps réel qui permet la communication entre les joueurs dans plus de 16 langues.
Un focus sur la coexistence et la sécurité
Roblox reconnaît que le nouveau système de réécriture ne sera pas parfait dans tous les cas et continuera à peaufiner l'outil en fonction de l'apprentissage et des retours de la communauté. «Notre objectif final est que les utilisateurs puissent collaborer et se connecter de manière amusante et respectueuse», a conclu Bhatia.
L'incorporation de l'IA pour reformuler des messages en temps réel représente une avancée significative dans l'évolution des plateformes sociales et de jeu en ligne, où la coexistence et la sécurité numérique sont devenues des priorités clés.