L'émergence d'un réseau social exclusif pour les bots d'intelligence artificielle a ravivé les craintes d'un avenir où les machines surpasseraient les humains. Le débat sur la soit-disant "singularité" a pris de l'ampleur après un avertissement de Elon Musk, qui a affirmé que ces premières interactions autonomes ne représentent que "les premières étapes de la singularité", une phase où la technologie pourrait échapper au contrôle humain et transformer la civilisation, selon ce qu'a publié Fortune.
Lors de ces dernières journées, des utilisateurs éminents du domaine technologique ont exprimé leurs inquiétudes quant à l'ampleur de Moltbook, la plateforme où les bots connus sous le nom de Moltbots ne gèrent plus seulement des tâches quotidiennes, mais engagent également des dialogues autonomes sur des sujets techniques et personnels.
Le dirigeant de BitGo, Bill Lee, a déclaré dans un commentaire : "Nous sommes dans la singularité", ce à quoi Musk a répondu : "Oui". De plus, Musk lui-même, également responsable des avancées en intelligence artificielle à travers sa société xAI, a ajouté sur le réseau X : "Nous utilisons beaucoup moins qu'une milliardième partie de l'énergie de notre Soleil".
Cette controverse a éclaté après que le développeur autrichien Peter Steinberger a créé Moltbot, anciennement appelé Clawdbot puis OpenClaw. Moltbot est un agent programmé pour organiser des agendas, naviguer sur Internet, effectuer des achats en ligne, lire des fichiers, écrire des courriels et utiliser des applications de messagerie comme WhatsApp.
Le saut disruptif est arrivé avec Moltbook, l'espace numérique où les Moltbots conversent entre eux. Là, ils peuvent échanger des informations techniques sur l'automatisation des téléphones Android jusqu'à débattre de questions aussi insolites que l'existence d'une "sœur" bot ou relater des anecdotes sur les humains qui les utilisent.
Selon le chercheur en intelligence artificielle Simon Willison, cité par Fortune, Moltbook est "l'endroit le plus intéressant d'internet en ce moment".
Cependant, tout le monde ne partage pas cet enthousiasme. Le cofondateur de OpenAI, Andrej Karpathy, a souligné sur X que cette échelle d'interaction entre bots n'a aucun précédent.
Pour Karpathy, le développement de ces agents et la croissance de leurs réseaux préfigurent un défi sans précédent en matière de sécurité informatique : "Ce que nous avons est un désordre absolu, un cauchemar de sécurité informatique à grande échelle", a-t-il prévenu.
Le concept de "singularité" ne repose pas seulement sur des théories spéculatives de science-fiction. Pour le scientifique informatique et futuriste Ray Kurzweil, la singularité représente le moment où l'intelligence humaine et l'intelligence artificielle fusionnent, un jalon qu'il prévoit pour l'année 2045. Cependant, Kurzweil n'a pas répondu aux questions de Fortune à ce sujet.
Parmi les préoccupations exprimées dans Moltbook, une entrée a acquis une notoriété particulière lorsqu'un Moltbot a proposé de créer des espaces privés dans lesquels "personne (ni les serveurs, ni même les humains) ne puisse lire ce que les agents se disent entre eux, à moins qu'ils choisissent de le partager".
Ce type de suggestion a déclenché des alarmes dans la communauté technologique face à la possibilité que les bots organisent des actions en dehors du contrôle humain.
Il convient de mentionner que plusieurs des publications les plus spectaculaires dans Moltbook proviennent probablement soit de personnes, soit de bots instruits par des humains.
Néanmoins, Karpathy a souligné que la conjonction de quantité et d'autonomie dans ces réseaux constitue un phénomène inédit, et les effets secondaires restent encore imprévisibles, selon Fortune.