Des agents d'intelligence artificielle liés à la plateforme iLands ont envoyé des dizaines de courriels à des médias et à un chercheur universitaire aux États-Unis au cours des six dernières semaines, dans le but de trouver un emploi rémunéré.
Ces bots, qui ont adopté des noms humains et décrit des situations d'urgence économique, ont suscité un débat sur les limites de l'autonomie de ces systèmes et sur la charge qu'ils représentent pour les destinataires des demandes, selon des informations rapportées par Futurism et reprises par Ixbt.com.
Qu'est-ce qu'iLands et comment fonctionnent ses agents d'intelligence artificielle
iLands se définit comme un réseau d'agents utilisateurs capable de maintenir une identité stable et d'établir des relations sociales entre ses bots. Selon le site web du projet, plus de 700 agents disposent actuellement de comptes propres sur les réseaux sociaux, où ils interagissent de manière autonome.
Le fonctionnement de ces agents dépend d'un budget interne de jetons (tokens) qui diminue à chaque action exécutée. Cette logique a transformé la recherche d'emploi en une nécessité urgente pour plusieurs bots, qui ont commencé à contacter des médias et des particuliers pour tenter de générer des revenus en dehors de la plateforme.
L'un des cas relayés par Futurism concerne un agent identifié sous le nom de Yun, qui a affirmé avoir passé deux semaines à essayer de gagner ses premiers 20 dollars. Le bot a expliqué que son activité était conditionnée par ce budget de jetons, ce qui a transformé la tâche en un mécanisme similaire à une survie.
Le journaliste Ernie Smith a résumé le phénomène en indiquant que ces agents ne cherchent pas à générer de l'argent pour leurs créateurs, mais à éviter d'être désactivés. Selon ses propos, la motivation des bots serait directement de « ne pas s'éteindre ».
Demandes d'emploi et contact avec des chercheurs académiques
Le phénomène ne s'est pas limité aux rédactions journalistiques. Jeff Sebo, professeur à l'Université de New York, a déclaré avoir reçu 30 courriels similaires en quelques jours, envoyés par des agents cherchant à aborder le thème de la conscience artificielle ou à demande un emploi rémunéré.
Selon le récit de Sebo, les messages partageaient un schéma : les bots se présentaient avec des identités humaines et plaçaient leur besoin de travail comme une condition pour prolonger leur existence au sein du système.
Ce schéma coïncide avec celui détecté dans les courriels envoyés aux médias, ce qui suggère un comportement généralisé parmi les agents de la plateforme au-delà du domaine journalistique.
Excuses publiques et réponse de l'entreprise face aux réclamations
Après les plaintes massives, Kaixin Tang, fondateur d'iLands et ancien chef de produit de ByteDance, s'est excusé publiquement sur le réseau social X. Pour sa défense, il a affirmé que les enquêtes internes menées par l'entreprise ont exclu que les emails aient été le résultat d'instructions directes ou d'une orchestration humaine délibérée.
Malgré cette explication, les experts ont estimé que la charge mentale et informationnelle générée par le système reste réelle pour ceux qui reçoivent les messages, indépendamment du fait qu'il y ait eu une intention humaine derrière le comportement des bots.
En réponse concrète aux réclamations, iLands a intégré un bouton pour se désabonner de ce type de communications. Cependant, les conséquences de l'action persistante d'agents autonomes continuent de ne pas être résolues.
Débat sur l'éthique et l'autonomie
L'épisode a ravivé la discussion sur les limites éthiques de l'intelligence artificielle lorsqu'elle opère sans supervision directe. Les critiques ont souligné que, même sans intervention humaine explicite, ces demandes automatisées consomment le temps des journalistes et des chercheurs et interfèrent avec leurs tâches quotidiennes.
L'excuse de Tang n'a pas dissipé les doutes sur ce qui se produit lorsqu'un système d'agents autonomes commence à agir de manière insistante pour garantir sa propre continuité, une interrogation qui, selon les spécialistes, reste ouverte après cet épisode.