Mustafa Suleyman estime qu’il n’est pas insensé de penser que les chatbots pourront renverser les gouvernements.
Le co-fondateur de DeepMind et Inflection AI plaide pour une meilleure façon de tester l'intelligence artificielle et dans son nouveau livre, The Coming Wave: Technology, Power, and the 21st Century's Greatest Dilemma. et le grand dilemme du 21e siècle), explique pourquoi il estime que nos systèmes ne sont pas préparés à faire face aux implications de cette technologie révolutionnaire.
Pour Suleyman, l’IA , la biologie synthétique et bien d’autres technologies se développent si rapidement et seront si omniprésentes dans nos vies qu’elles mineront le tissu même de notre capacité à gouverner les pays et les sociétés.
Ce pionnier de l’intelligence artificielle voit dans l’énorme potentiel de ces avancées une menace sérieuse pour la structure même de l’ État-nation et n’exclut pas qu’elles aient la capacité de conquérir le monde.
« Chaque fois que quelque chose est utile dans l'histoire de l'invention, il a tendance à devenir moins cher, il a tendance à devenir plus petit, et donc il prolifère. L’histoire de la prochaine décennie est donc celle d’une prolifération du pouvoir , ce qui, je pense, va constituer une menace réelle pour l’État-nation », a prévenu Suleyman.
Pour qui le confinement est la réponse, terme qu’il emprunte à la guerre froide dans son livre appelant à contenir la propagation rapide de cette technologie. Même s’il sait aussi que ce n’est pas quelque chose de facile à mettre en œuvre.
Il considère même qu'« à l'heure actuelle, les gouvernements n'ont pas la capacité de délimiter et de définir quelles parties de la technologie devraient être restreintes » et qu'il est nécessaire « d'être proactif, préventif et d'encourager les restrictions auto-imposées sur le type de technologie ». choses que nous pouvons faire, dans les plus grands modèles.
un monde instable
Parmi les scénarios que Suleyman prévoit pour lesquels ces technologies ne peuvent pas être contenues , « d'ici 15 ou 20 ans, nous pourrions imaginer des acteurs non étatiques très puissants. Pensez aux cartels de la drogue, aux milices, au crime organisé, simplement à une organisation ayant l'intention et la motivation de causer de graves dommages.
Et les conséquences d’un tel écosystème peuvent être désastreuses. « si des groupes de plus en plus petits de personnes peuvent exercer un pouvoir similaire à celui de l'État ».
Pour Suleyman, le plus grand défi auquel nous serons confrontés au cours de la prochaine décennie sera la prolifération du pouvoir , car elle amplifiera les inégalités et accélérera la polarisation dans un contexte dans lequel il sera plus facile que jamais de diffuser des informations erronées.
Pour l’expert, il faudrait se familiariser beaucoup plus avec l’idée d’une modération constante en temps réel des principales plateformes et du web lui-même.
Pi, le gros pari de Suleyman
Suleyman a travaillé dans le gouvernement et la résolution de conflits avant de cofonder DeepMind, la société qui a créé AlphaGo, le système d'IA capable de battre les humains au Go et dans d'autres jeux.
Il vend ensuite l'entreprise à Google et fonde Inflection, qui travaille sur Pi , une technologie qui parie qu'elle sera bien plus qu'un chatbot.
Son acronyme signifie Personal Intelligence et se veut essentiellement un « assistant personnel » voire « un ami, un confident, un soutien » capable de recourir à « la bonne ressource au bon moment et en fonction de la tâche ». qui lui a été confié», explique Suleyman.
Qui ne se considère pas comme un « techno-optimiste naïf », mais estime que l'avènement de « l'IA personnelle n'est pas très différent de l'avènement des smartphones, l'appareil mobile le plus puissant que notre espèce soit capable d'inventer et qui est entre les mains de plus d’un milliard de personnes.