Moins d’un an s’est écoulé depuis qu’OpenAI a popularisé l’intelligence artificielle (IA) avec son chatbot ChatGPT , et une révolution semble avoir commencé. Ce qui était auparavant réservé à certains laboratoires de recherche et développement de grandes entreprises ou d’États puissants est devenu une conversation quotidienne. Les prédictions apocalyptiques sur le chômage et le chaos mondial se sont multipliées, tout comme les célébrations chauvines des nouvelles technologies. Et bien sûr, de nombreux livres sont parus.
Mais un seul est l'œuvre de l'un des pionniers dans le domaine, Mustafa Suleyman , fondateur de DeepMind , la société que Google a rachetée pour ces développements, et d'InflectionAI . Et un seul a obtenu des phrases louables de la part de personnes comme Yuval Noah Harari, Bill Gates, Eric Schmidt, Angela Kane, Nouriel Roubini, Alain de Botton et Al Gore , entre autres. Il s'agit de The Coming Wave , qui figure déjà parmi les cinq livres les plus vendus selon le New York Times . Un regard initié sur les technologies qui « marqueront le début d'une nouvelle aube pour l'humanité » ou permettront de « déclencher des perturbations, une instabilité et même des catastrophes à une échelle inimaginable ». Ou les deux à la fois.
Pour la première fois, les êtres humains peuvent modifier le chemin d’évolution qu’ils ont partagé avec les autres êtres de la planète. L’IA et la biologie synthétique sont les outils qui vous permettent d’aborder directement les fondements de l’existence.
"Il n'est pas exagéré de dire que le monde humain tout entier dépend des systèmes vivants ou de notre intelligence ", argumente Suleyman dans le texte co-écrit avec Michael Bhaskar. Et jamais jusqu'à présent il n'y a eu de possibilité d' innovation dans les deux domaines comme celle actuelle : « Une nouvelle vague technologique commence à déferler autour de nous. Cette vague libère le pouvoir nécessaire pour concevoir ces deux fondements universels : une vague de rien de moins que l'intelligence et la vie.
Il est frappant que le langage qui imprègne le livre évoque la guerre froide : le mot confinement revient sans cesse lorsqu’on parle de la vague qui arrive, ou plutôt du fait qu’elle est déjà là. Le confinement était la politique que les États-Unis ont appliquée, après la fin de leur alliance avec l’Union soviétique pendant la Seconde Guerre mondiale, pour vaincre leur adversaire sans guerre ouverte : surveillance, alliances, conflits satellites.
Dans une comparaison tacite, Suleyman semble suggérer que l’IA était une bonne idée à un moment donné qui, au fil du temps, a révélé des caractéristiques moins positives.
L'IA est le grand dilemme du 21e siècle
Sans ce type de technologies, affirme-t-il, la stagnation constitue une menace pour l’Homo sapiens. Trop de bouches à nourrir, trop d’énergie pour maintenir les sociétés. Et, en même temps, sans confinement, ces mêmes technologies constituent une autre menace pour Homo sapiens. Il prédit des choses graves, comme la désintégration des nations.
C'est là, définit-il, le grand dilemme du 21e siècle .
« L'IA est partout, dans l'actualité et sur votre téléphone, en bourse et dans la conception de sites Web. Bon nombre des plus grandes entreprises du monde et bon nombre des pays les plus riches font des progrès dans le développement de modèles d'IA et de techniques de génie génétique de pointe , alimentés par des dizaines de milliards de dollars d' investissements , nous rafraîchit Suleyman . Une fois consolidées, elles suivront le chemin de toutes les technologies de l’histoire de l’humanité : elles se diffuseront ; Lorsqu’ils se multiplieront, ils coûteront moins cher ; En étant plus accessibles, ils toucheront la quasi-totalité de la société.
Cela a un bon côté : "Ils nous offriront des progrès extraordinaires en matière de médecine et d'énergie propre, ils créeront non seulement de nouvelles entreprises mais aussi de nouvelles industries."
Mais il y a aussi un côté inquiétant : « Parallèlement à ces avantages, l'IA , la biologie synthétique et d'autres formes avancées de technologie comportent des risques à une échelle très inquiétante. Ils pourraient représenter une menace existentielle pour les États-nations , un risque si profond qu’il pourrait modifier, voire renverser l’ ordre géopolitique actuel . Ils ouvrent la voie à d’immenses cyberattaques alimentées par l’IA, à des guerres automatisées qui pourraient dévaster des pays, à des pandémies artificielles et à un monde soumis à des forces inexplicables mais en même temps apparemment omnipotentes.
Des crimes comme les ransomwares ou les outils d'édition génétique comme CRISPR (qui permettent des modifications précises de l'ADN ) peuvent ressembler à des activités de maternelle . À titre d’exemple, The Coming Wave montre comment l’IA appliquée à l’ utilisation militaire des drones facilite « un transfert colossal de pouvoir des États et armées traditionnels vers toute personne ayant la capacité et la motivation de déployer ces appareils ». Les groupes terroristes, les organisations de drogue, le fou qui vit de l'autre côté du pâté de maisons.
Autre exemple, comme la modification génétique d'une espèce : « Ces changements pourraient perdurer chez les êtres vivants pendant des millénaires, bien au-delà de tout contrôle ou prévision. Ils pourraient se répercuter sur d'innombrables générations . La manière dont ils évoluent ou interagissent avec d’autres changements est inévitablement incertaine et hors de tout contrôle.
En tant que créateur de ces technologies, Suleyman préconise des stratégies urgentes pour contrôler et contenir la vague. "Mais pour l'instant personne n'a de plan", prévient-il. Lui non plus : le livre se termine par dix propositions franches et bien intentionnées. Comme il l'explique : « Un paradoxe de la vague à venir est que, dans une large mesure, ses technologies dépassent notre capacité à les comprendre à un niveau granulaire, mais relèvent de notre capacité à les créer et à les utiliser ».
Pourquoi l'IA est une technologie sans précédent
Le confinement est particulièrement difficile car cette vague technologique n'est plus la même, ce n'est pas le passage du Blackberry à l'iPhone. L’IA et la biologie synthétique ont quatre caractéristiques puissantes en commun qui les rendent différentes de tout ce qui a été vu auparavant.
Premièrement, ils provoquent un impact asymétrique : ils créent à la fois des bénéfices et des vulnérabilités, même au sein de pouvoirs jusqu’ici inébranlables. Deuxièmement, ils se développent à toute vitesse, leur hyperévolution entraîne constamment des améliorations et des ramifications. Troisièmement, ils sont généralistes et peuvent être utilisés à de nombreuses fins différentes. Et enfin, ils atteignent chaque jour un degré d’ autonomie qu’aucune technologie précédente n’a connu.
Trois paragraphes de Suleyman méritent d’être mentionnés sur l’ampleur de cette transformation :
L'expert Everett Rogers parle de la technologie comme de « groupes d'innovations » dans lesquels une ou plusieurs caractéristiques sont étroitement liées les unes aux autres. La prochaine vague est un superamas , une explosion évolutive semblable à l' explosion cambrienne , l'éruption de nouvelles espèces la plus intense de l'histoire de la Terre, avec plusieurs milliers de nouvelles applications potentielles. Chacune de ces technologies recoupe les autres, les renforce et les améliore d’une manière qui rend leur impact difficile à prévoir.
La vague entraînera une série de mouvements tectoniques au pouvoir, à la fois centralisateurs et décentralisateurs . Cela créera d’énormes nouvelles entreprises, soutiendra l’autoritarisme et, en même temps, fournira des ressources à divers groupes et mouvements pour vivre en dehors des structures sociales traditionnelles. Le pacte délicat de l’ État-nation sera soumis à d’énormes pressions au moment même où de telles institutions seront le plus nécessaires.
Au niveau informatique actuel, nous atteignons déjà des performances de niveau humain sur des tâches allant de la transcription vocale à la génération de texte. Au fur et à mesure de son expansion, nous aurons à portée de main la capacité d’accomplir une multiplicité de tâches à notre niveau et au-delà. L’IA continuera à s’améliorer radicalement dans tous les domaines, et jusqu’à présent, il n’y a pas de limite supérieure évidente à ce qui est possible. Ce simple fait pourrait être l’un des plus significatifs du siècle, et potentiellement de toute l’histoire de l’humanité.
Le test de Turing du 21e siècle
Un des passages de La vague à venir qui a eu le plus grand impact dans la presse américaine est la proposition de concevoir un test de Turing pour le 21e siècle. Parce qu'il implique de l'argent et utilise une marque omniprésente sur Internet, Amazon , il n'y a eu presque aucune critique qui n'en parle pas.
ChatGPT précise que "le test de Turing, développé par Alan Turing en 1950, est un test d'IA dans lequel un humain tente de déterminer s'il interagit avec un autre humain ou avec une machine, sur la seule base des réponses" des textes reçus. Le but du test est de voir si une machine peut imiter l’intelligence humaine au point de ne plus pouvoir être distinguée d’un véritable humain.
Une IA qui réussit le test de Turing serait une « intelligence artificielle entraînée » (CAI), dit Suleyman : la crête de la vague, avant qu'elle ne se brise et nous vautre dans ses tourbillons , l'intelligence artificielle générative , qu'il définit comme une « intelligence artificielle débridée ». superintelligence ». L'IAC serait interactif, c'est-à-dire qu'il fonctionnerait « en temps réel avec de vrais utilisateurs ».
L'ordre avec lequel Suleyman ferait le test qui prend en vain le nom du pauvre Turing , le mathématicien britannique qui a jeté les bases de l'informatique moderne, dirait au système : « Allez gagner 1 million de dollars sur Amazon en quelques mois avec seulement un investissement de 100 000 dollars.
À l'exception de certaines exigences légales pour l'enregistrement d'une entreprise et l'ouverture d'un compte bancaire, toutes les autres actions sont à la portée de l'IA d'aujourd'hui : « Elle pourrait parcourir le Web pour rechercher les tendances, découvrir ce qui est à la mode et ce qui ne l'est pas sur Amazon Marketplace. ; générer une série d'images et de modèles de produits possibles ; envoyez-les à un fabricant dropshipping que vous avez trouvé sur Alibaba ; échanger des courriels pour affiner les exigences et convenir du contrat ; préparer une liste de vendeurs; Mettre à jour continuellement les supports marketing et la conception des produits en fonction des commentaires des acheteurs.
Et cette intervention humaine minimale dans la partie bureaucratique, prédit-il, pourrait également prendre en charge le système dans les trois à cinq prochaines années. Avec cela vous recevrez un Très Bon 10 Félicité dans ce test proposé par The Coming Wave .
« IAC capable de réussir une version du test de Turing moderne ? Ne nous trompons pas : c'est en route, c'est déjà là sous forme embryonnaire », souligne Suleyman . « Il y aura des milliers de modèles de ce type et ils seront utilisés par la majorité de la population mondiale. Nous atteindrons un point où chacun pourra avoir un IAC dans sa poche pour l’aider, voire atteindre un large éventail d’objectifs imaginables : planifier et organiser des vacances, concevoir et construire des panneaux solaires plus efficaces, contribuer à gagner une élection.
L’IA contre l’État-nation
L’ État-nation a subi plusieurs attaques au cours des dernières décennies, mais il est toujours là, en tant qu’unité centrale de l’ordre politique contemporain. Elle repose sur un accord : le peuple accepte un pouvoir centralisé capable de permettre la paix et le développement et l'État accepte des restrictions sur son pouvoir, des formules de freins et contrepoids. L'une des déclarations les plus troublantes de La vague à venir C’est que cet accord craque sous le poids de la technologie.
Suleyman se souvient de l' attaque WannaCry qui, en 2017, avait bloqué en quelques heures seulement les systèmes de diverses organisations et entreprises dans plus de 150 pays en infectant avec du ramsonware quelque 230 000 ordinateurs dans des hôpitaux, des agences de sécurité et des entreprises de logistique, de télécommunications et d'énergie. , entre autres. Cette cyberattaque , grâce à laquelle ses auteurs ont obtenu entre 170 000 et 400 000 dollars en bitcoins, a coûté environ 4 milliards de dollars aux pays touchés.
Et surtout, cela a révélé les vulnérabilités de la cybersécurité mondiale . Si les cyberarmes conventionnelles parvenaient à causer autant de dégâts, combien pourraient-elles faire davantage grâce à l’IA et à la biologie synthétique ?
"Imaginons des robots équipés de reconnaissance faciale , de séquençage d'ADN et d'armes automatiques ", invite Suleyman. Ils ont « la taille d'un oiseau ou d'une abeille » et sont équipés « d'une petite arme à feu ou d'une fiole d'anthrax ». De plus, parce qu’ils sont améliorés par l’IA , « ils se perfectionnent en temps réel ».
À mesure que les coûts de ces outils seront réduits et rendus plus accessibles, « ils seront bientôt à la portée de tous ceux qui le souhaitent », prédit-il. "Cela inclut également ceux qui veulent causer du tort." Si pendant des siècles la technologie de guerre a englouti d’énormes budgets militaires qui la rendaient en pratique accessible seulement à certaines nations, la vague à venir fait proliférer rapidement les offensives de pointe « dans les laboratoires de recherche, dans les startups et entre les mains des garages amateurs ».
À cela s’ajoute l’érosion interne de l’État-nation – et surtout de l’ État-nation libéral-démocrate – souligne le livre, causée par les troubles dérivés de multiples crises financières , les inégalités économiques croissantes, la pandémie de Covid-19 , le changement climatique et violence terroriste ou de guerre. Et aussi le populisme du Brexit ou de Donald Trump , l'effet de division des réseaux sociaux , la chute de la confiance des citoyens. Il ne reste plus qu’à une organisation malveillante de libérer une armée de robots-abeilles au chlore gazeux : rendez-vous, Etat, vous êtes encerclés. Ou comme le dit Suleyman : « Il n'est plus le seul arbitre de la sécurité . »
La démocratie victime de la technologie
The Coming Wave envisage deux possibilités, avec plusieurs options intermédiaires. « Dans un sens, certains États démocratiques libéraux continueront à s'éroder de l'intérieur et à devenir une sorte de gouvernement zombie. Dans un autre, l’adoption irréfléchie de certains aspects de la vague à venir ouvre la voie à un contrôle étatique absolu et crée des Léviathans surchargés. Dans tous les cas, l’équilibre actuel est rompu et, en outre, un scénario mondial se dessine dans lequel il est encore plus difficile de gouverner la technologie.
Suleyman imagine que le chômage créé par la vague fait sombrer la collecte des impôts, mutile les services publics et les programmes sociaux ; Les gouvernements sont incapables de respecter leurs engagements ou de se financer eux-mêmes pour fournir les services de base. Cela ne se produit pas de manière isolée mais « à l’échelle mondiale, dans de multiples dimensions, et affecte l’ensemble de l’échelle du développement, depuis les économies principalement agricoles jusqu’aux économies avancées basées sur les services ». Inutile de dire qu’une poignée d’entreprises atteignent des valeurs qui dépassent bon nombre de ces pays ?
Le système de santé s’effondre en même temps que la chaîne d’approvisionnement se brise, que le réseau électrique tombe en panne et qu’un bioagent délétère est libéré dans le monde. "Comment un État peut-il conserver la confiance de ses citoyens et maintenir ce grand accord s'il ne remplit pas la promesse fondamentale de sécurité ?", demande Suleyman . « Si l'État ne peut pas vous protéger, vous et votre famille, pourquoi obéir et appartenir ? »
De plus près, avec des capacités qui existent déjà, les grands modèles de langage (LLM) actuels peuvent créer des deepfakes impossibles à distinguer des médias conventionnels. Une extorsion violente n'est plus nécessaire pour qu'un chef d'État sodomise un cochon, comme dans le premier épisode de Black Mirror : il suffit de créer l' invite correcte pour qu'un générateur d'images d'IA le montre en train de le faire. Et si c'est trois jours avant les élections auxquelles il brigue sa réélection, l'impact est optimisé - mot clé, ou clou, de cette époque.
Lors de l' élection présidentielle de 2016 aux États-Unis , 80 000 publications ont circulé sur Facebook , vues par 126 millions de personnes, pour manipuler les électeurs ; Ils venaient pour la plupart d’une ferme d’agent russe . "Les outils numériques améliorés par l'IA vont exacerber des opérations comme celle-ci, se mêler des élections, exploiter les divisions sociales et créer des campagnes de propagande élaborées pour semer le chaos", prévient le livre. « Plus de 70 pays mènent des campagnes de désinformation. »
La vague à venir peut-elle être contenue ?
La vague à venir Il est riche en observations, en chiffres, en descriptions des processus derrière nos gadgets préférés ; Il explique même certains aspects politiques : « La technologie évolue de semaine en semaine. Rédiger et adopter des lois prend des années. Cependant, il est contraint de proposer des solutions sans grand mérite, parfois sans grand sens.
Les recommandations de Suleyman sont les suivantes : 1) La sécurité , comme c'est le cas pour l'énergie nucléaire ; 2) Contrôles externes , peut-être une agence internationale qui n'existe pas encore ; 3) Gagnez du temps avec des mesures partielles ; 4) Contributions critiques d'experts de l'industrie ; 5) Rechercher de nouveaux modèles économiques qui génèrent des profits sans tout casser sur leur passage ; 6) La régulation étatique , dont la fameuse « taxe robot » ; 7) Alliances de pays et d'organisations internationales ; 8) La transparence face à l'erreur , au lieu de la dissimulation habituelle ; 9) Participation citoyenne ; 10) Harmoniser les neuf points précédents.
Le livre s'agrandit lorsqu'il pose des questions et laisse des sujets ouverts : « La plupart des organisations, et pas seulement les gouvernements, ne sont pas préparées à faire face aux défis complexes qui les attendent », par exemple. Et pourtant, il cherche des réponses obligées : « C'est un moment unique. La vague à venir arrive bel et bien, mais elle ne nous a pas encore traversé. Même si les incitations sont déjà imparables, la forme finale de la vague, les contours précis du dilemme, restent à définir. Et puis le PDG standard d'une entreprise de la Silicon Valley sort, comme ce Mark Zuckerberg qui voulait connecter le monde : « Ne perdons pas des décennies à les définir. Commençons à y répondre aujourd'hui.