Imaginez que lorsque vous montez à bord d'un avion, la moitié des ingénieurs qui l'ont construit vous disent qu'il y a 10 % de chances que l'avion s'écrase et que vous puissiez mourir avec tous les autres passagers. Est-ce que je m'y attaquerais quand même ?
En 2022, une enquête auprès de plus de 700 universitaires et chercheurs de premier plan derrière les principales entreprises d'intelligence artificielle (IA) a été demandée sur l'avenir et les risques de cette technologie. La moitié des personnes interrogées ont déclaré qu'il y avait 10 % ou plus de risque d'extinction humaine (ou une perte de puissance similaire, permanente et grave) des futurs systèmes d'IA. Les entreprises technologiques qui construisent les grands modèles de langage d'aujourd'hui sont engagées dans une course pour mettre toute l'humanité sur ce plan.
Les sociétés pharmaceutiques ne peuvent pas vendre de nouveaux médicaments aux gens sans soumettre d'abord leurs produits à des contrôles de sécurité rigoureux. Les laboratoires de biotechnologie ne peuvent pas diffuser de nouveaux virus dans la sphère publique pour épater les actionnaires avec leur magie. De même, l'IA, les systèmes alimentés par GPT-4 et au-delà, ne doivent pas s'emmêler dans la vie de milliards de personnes à un rythme plus rapide que les cultures ne peuvent les absorber en toute sécurité. Une course à la domination du marché ne devrait pas déterminer la vitesse de mise en œuvre de la technologie la plus importante de l'humanité. Nous devons avancer à la vitesse qui nous permet de bien le faire.
Le spectre de l'IA hante l'humanité depuis le milieu du XXe siècle , mais jusqu'à récemment, il restait une perspective lointaine, quelque chose qui appartient à la science-fiction plutôt qu'aux débats scientifiques et politiques sérieux. Il est difficile pour notre esprit humain de comprendre les nouvelles capacités de GPT-4 et d'outils similaires, et il est encore plus difficile de comprendre la vitesse exponentielle à laquelle ces outils développent des capacités plus avancées et plus puissantes. Mais la plupart des compétences clés se résument à une seule chose : la capacité de manipuler et de générer un langage, qu'il s'agisse de mots, de sons ou d'images.
Au commencement était le mot. La langue est le système d'exploitation de la culture humaine . Du langage naissent le mythe et la loi, les dieux et l'argent, l'art et la science, les amitiés et les nations et le code informatique. La nouvelle compétence linguistique de l'IA signifie qu'elle peut désormais pirater et manipuler le système d'exploitation de la civilisation . En acquérant la maîtrise du langage, l'IA s'empare de la clé maîtresse de la civilisation, des coffres-forts des banques aux tombes sacrées.
Qu'est-ce que cela signifierait pour les humains de vivre dans un monde où un grand pourcentage d'histoires, de mélodies, d'images, de lois, de politiques et d'outils sont façonnés par une intelligence non humaine, qui sait exploiter avec une efficacité surhumaine les faiblesses, les préjugés et les dépendances des humains ? , savoir établir des relations intimes avec les gens ? Dans des jeux comme les échecs, aucun être humain ne peut espérer battre un ordinateur. Que se passe-t-il lorsque la même chose se produit dans l'art, la politique ou la religion ?
L'IA pourrait rapidement engloutir toute la culture humaine , tout ce que nous avons produit pendant des milliers d'années, la digérer et commencer à faire germer un flot de nouveaux artefacts culturels. Pas seulement des dissertations scolaires mais aussi des discours politiques, des manifestes idéologiques, des livres sacrés pour les nouveaux cultes. D'ici 2028, la course présidentielle américaine ne sera peut-être plus dirigée par des humains.
Les humains n'ont souvent pas un accès direct à la réalité. Nous sommes enveloppés par la culture, expérimentons la réalité à travers un prisme culturel. Nos opinions politiques sont façonnées par les reportages des journalistes et les anecdotes des amis. Nos préférences sexuelles sont modifiées par l'art et la religion. Ce cocon culturel a jusqu'ici été tissé par d'autres humains. À quoi ressemblera l'expérience de la réalité à travers un prisme produit par une intelligence non humaine ?
Pendant des milliers d'années, les humains ont vécu dans les rêves d'autres humains . Nous avons adoré des dieux, poursuivi des idéaux de beauté et consacré notre vie à des causes nées de l'imagination d'un prophète, d'un poète ou d'un politicien. Bientôt, nous nous retrouverons également à vivre dans les hallucinations de l'intelligence non humaine.
La franchise « Terminator » présentait des robots courant dans les rues et tirant sur les gens. " The Matrix " supposait que pour prendre le contrôle total de la société humaine, l'IA devrait d'abord prendre le contrôle physique de nos cerveaux et les connecter directement à un réseau informatique. Cependant, simplement en acquérant la maîtrise de la langue, l'IA aurait ce qu'il faut pour nous contenir dans un monde d'illusions de type Matrix, sans tirer sur personne ni implanter de puces dans nos cerveaux. Si le tir est nécessaire, l'IA pourrait obliger les humains à appuyer sur la gâchette, simplement en nous racontant la bonne histoire.
Le spectre d'être piégé dans un monde d'illusions a hanté l'humanité bien plus longtemps que le spectre de l'IA bientôt nous allons enfin tomber nez à nez avec le démon de Descartes , avec la caverne de Platon , avec les Mayas bouddhistes . Un rideau d'illusions pourrait tomber sur toute l'humanité, et nous ne pourrons peut-être plus jamais déchirer ce rideau, ni même réaliser qu'il est là.
Les réseaux sociaux ont été le premier contact entre l'IA et l'humanité , et l'humanité s'est perdue . Le premier contact nous a donné le goût amer de ce qui est à venir. Dans les réseaux sociaux, l'IA primitive n'était pas utilisée pour créer du contenu mais pour organiser le contenu généré par les utilisateurs. L'IA derrière nos fils d'actualité continue de choisir les mots, les sons et les images qui atteignent nos rétines et nos tympans, en sélectionnant ceux qui obtiendront le plus de viralité, le plus de réaction et le plus d'engagement.
Bien que très primitive, l'IA derrière les médias sociaux était suffisante pour créer un rideau d'illusions qui augmentait la polarisation sociale , sapait notre santé mentale et détruisait la démocratie. Des millions de personnes ont confondu ces illusions avec la réalité. L'Amérique possède la meilleure technologie informatique de l'histoire, mais les citoyens américains ne peuvent plus s'entendre sur le vainqueur des élections. Bien que tout le monde soit maintenant conscient des inconvénients des médias sociaux, ils n'ont pas été abordés car un grand nombre de nos institutions sociales, économiques et politiques s'y sont mêlées.
Les grands modèles de langage sont notre second aperçu de l'IA. Nous ne pouvons pas nous permettre de perdre à nouveau. Mais sur quelle base doit-on croire que l'humanité est capable d'aligner ces nouvelles formes d'IA à notre profit ? Si nous continuons à faire comme si de rien n'était, les nouvelles capacités de l'IA seront utilisées à des fins de profit et de pouvoir, même si les fondements de notre société sont détruits par inadvertance.
L'IA, en fait, a le potentiel de nous aider à vaincre le cancer , à découvrir des médicaments vitaux et à inventer des solutions à nos crises climatique et énergétique . Il existe d'innombrables autres avantages que nous ne pouvons pas commencer à imaginer. Mais quelle que soit la hauteur du gratte-ciel des bénéfices de l'IA, il est construit sur des fondations en ruine.
Le temps de l'IA est avant que notre politique, notre économie et notre vie quotidienne n'en deviennent dépendantes. La démocratie est une conversation, la conversation est basée sur la langue, et lorsque la langue elle-même est piratée, la conversation s'effondre et la démocratie devient insoutenable . Si nous attendons que le chaos s'ensuive, il sera trop tard pour y remédier.
Mais une question peut nous trotter dans la tête : si nous n'allons pas le plus vite possible, l'Occident ne risque-t-il pas de perdre face à la Chine ? Non. Le déploiement et l'enchevêtrement de l'IA sans contrôle. dans la société, libérant des pouvoirs divins sans lien avec la responsabilité, pourrait être la raison pour laquelle l'Occident perd face à la Chine.
Nous pouvons toujours choisir quel avenir nous voulons avec l'IA. Lorsque les pouvoirs divins sont combinés avec la responsabilité et le contrôle correspondants, nous pouvons réaliser les avantages que l'IA promet.
Nous avons convoqué une intelligence extraterrestre . On ne sait pas grand-chose à son sujet, si ce n'est qu'il est extrêmement puissant et nous offre des dons éblouissants, mais il pourrait aussi pirater le fondement même de notre civilisation. Nous appelons les dirigeants mondiaux à répondre à ce moment au niveau du défi qu'il présente. La première étape consiste à gagner du temps pour mettre à jour nos institutions du XIXe siècle et apprendre à maîtriser l'IA avant qu'elle ne nous maîtrise.
Continuer à lire: