La peur de l'intelligence artificielle (IA) hante l'humanité depuis l'aube de l'ère informatique. Jusqu'à présent, ces craintes se concentraient sur des machines utilisant des moyens physiques pour tuer, asservir ou remplacer des personnes . Cependant, ces dernières années, de nouveaux outils d'intelligence artificielle sont apparus qui menacent la survie de la civilisation humaine dans une direction inattendue. L'intelligence artificielle a acquis des capacités remarquables pour manipuler et générer le langage, qu'il s'agisse de mots, de sons ou d'images.
La langue est l'étoffe dont presque toute la culture humaine est faite. Les droits de l'homme, par exemple, ne sont pas inscrits dans notre ADN. Ce sont plutôt des artefacts culturels que nous créons en racontant des histoires et en écrivant des lois. Les dieux ne sont pas des réalités physiques. Ce sont plutôt des artefacts culturels que nous créons en inventant des mythes et en écrivant des écritures.
L'argent est aussi un artefact culturel. Les billets de banque ne sont rien de plus que des morceaux de papier de couleur et aujourd'hui plus de 90% de l'argent n'est même pas des billets de banque, mais des informations numériques stockées dans des ordinateurs. Ce qui donne à l'argent sa valeur, ce sont les histoires que les banquiers, les ministres des finances et les gourous de la crypto-monnaie nous racontent à son sujet. Sam Bankman-Fried, Elizabeth Holmes et Bernie Madoff n'étaient pas particulièrement doués pour créer de la valeur réelle, mais ils étaient tous des conteurs extrêmement compétents.
Que se passerait-il lorsqu'une intelligence non humaine serait meilleure que l'être humain moyen pour raconter des histoires, composer des mélodies, dessiner des images et écrire des lois et des écritures ? Lorsque les gens pensent à ChatGPT et à d'autres nouveaux outils d'IA, ils pensent souvent à des exemples tels que des écoliers utilisant l'IA pour rédiger leurs essais. Qu'arrivera-t-il au système scolaire lorsque les enfants feront cela? Mais ce type de question ne tient pas compte de la situation dans son ensemble. Oubliez les salles de presse de l'école. Pensez à la prochaine élection présidentielle américaine en 2024 et essayez d'imaginer l'impact des outils d'intelligence artificielle qui peuvent être utilisés pour produire en masse du contenu politique, de fausses nouvelles et des écritures pour de nouvelles sectes.
Ces dernières années, le culte qAnon s'est regroupé autour de messages anonymes en ligne, connus sous le nom de "q drops". Les adeptes collectaient, vénéraient et interprétaient ces gouttes q comme un texte sacré. Bien que, pour autant que nous sachions, toutes les gouttes q précédentes ont été composées par des humains et que les bots ont simplement aidé à les diffuser, à l'avenir, nous pourrions voir les premiers cultes de l'histoire dont les textes vénérés ont été écrits par une intelligence non humaine. Tout au long de l'histoire, les religions ont revendiqué une source non humaine pour leurs livres saints. Cela pourrait bientôt devenir réalité.
À un niveau plus prosaïque, nous pourrions bientôt nous retrouver à avoir de longues discussions en ligne sur l'avortement, le changement climatique ou l'invasion russe de l'Ukraine avec des entités que nous pensons être humaines mais qui sont en réalité des IA. Le problème, c'est qu'il nous est totalement inutile de passer du temps à essayer de changer les avis déclarés d'un bot IA, alors que l'IA pourrait affiner ses messages si précisément qu'elle aurait de bonnes chances de nous influencer.
Grâce à sa maîtrise du langage, l'IA pourrait même entrer dans des relations intimes avec les gens et utiliser le pouvoir de l'intimité pour changer nos opinions et nos visions du monde . Bien que rien n'indique que l'IA ait une conscience ou des sentiments propres, pour favoriser une fausse intimité avec les humains, il suffit que l'IA les fasse se sentir émotionnellement attachés à elle. En juin 2022, Blake Lemoine, un ingénieur de Google, affirmait publiquement que le chatbot IA Lamda, sur lequel il travaillait, était devenu sensible. La réclamation controversée lui a coûté son emploi. La chose la plus intéressante dans cet épisode n'était pas la fausse affirmation de Lemoine, mais sa volonté de risquer son travail lucratif pour le chatbot IA. Si l'intelligence artificielle peut inciter les gens à risquer leur emploi pour elle, qu'est-ce qu'elle pourrait les inciter à faire d'autre ?
Dans une bataille politique pour les cœurs et les esprits, l'intimité est l'arme la plus efficace, et ai vient d'acquérir la capacité de produire en masse des relations intimes avec des millions de personnes. Nous savons tous qu'au cours de la dernière décennie , les réseaux sociaux sont devenus un champ de bataille pour contrôler l'attention humaine. Avec la nouvelle génération d'intelligence artificielle, les premières lignes passent de l'attention à la vie privée. Qu'adviendra-t-il de la société humaine et de la psychologie lorsque l'intelligence artificielle affrontera l'intelligence artificielle dans une bataille pour simuler des relations intimes avec nous, qui peuvent ensuite être utilisées pour nous convaincre de voter pour certains politiciens ou d'acheter certains produits ?
Même sans créer une "fausse vie privée", les nouveaux outils d'IA auraient une immense influence sur nos opinions et nos visions du monde. Les gens pourraient en venir à utiliser un seul conseiller en intelligence artificielle comme un oracle unique et omniscient. Pas étonnant que Google soit terrifié. Pourquoi s'embêter à chercher, quand je peux demander à l'oracle ? Les industries de l'information et de la publicité devraient également être terrifiées. Pourquoi lire un journal si je peux demander à l'oracle de me donner les dernières nouvelles ? Et à quoi servent les publicités si je peux demander à l'oracle de me dire quoi acheter ?
Et même ces scénarios ne reflètent pas vraiment la situation dans son ensemble. Nous parlons de la fin possible de l'histoire de l'humanité. Pas la fin de l'histoire, mais la fin de sa partie dominée par l'homme. L'histoire est l'interaction entre la biologie et la culture ; entre nos besoins et désirs biologiques pour des choses comme la nourriture et le sexe, et nos créations culturelles comme les religions et les lois. L'histoire est le processus par lequel les lois et les religions façonnent la nourriture et le sexe.
Qu'adviendra-t-il du cours de l'histoire lorsque l'IA prendra le contrôle de la culture et commencera à produire des histoires, des mélodies, des lois et des religions ? Des outils antérieurs comme l'imprimerie et la radio ont aidé à diffuser les idées culturelles des humains, mais ils n'ont jamais créé de nouvelles idées culturelles qui leur soient propres. L'IA est fondamentalement différente, elle peut créer des idées complètement nouvelles, une toute nouvelle culture.
Au début, l'intelligence artificielle imitera probablement les prototypes humains avec lesquels elle a été formée à ses débuts. Mais au fil des années, la culture de l'intelligence artificielle osera aller là où aucun être humain n'est allé auparavant. Pendant des millénaires, les êtres humains ont vécu dans les rêves d'autres êtres humains. Dans les décennies à venir, nous pourrions nous retrouver à vivre dans les rêves d'une intelligence extraterrestre.
La peur des extraterrestres n'a hanté l'humanité qu'au cours des dernières décennies. Mais depuis des milliers d'années, les humains sont hantés par une peur bien plus profonde. Nous avons toujours apprécié le pouvoir des histoires et des images pour manipuler nos esprits et créer des illusions. C'est pourquoi, depuis l'Antiquité, les humains craignent d'être piégés dans un monde d'illusions.
Au XVIIe siècle, René Descartes craignait qu'un démon malicieux ne le piégeât dans un monde d'illusions, créant tout ce qu'il voyait et entendait. Dans la Grèce antique, Platon a raconté la célèbre Allégorie de la Caverne, dans laquelle un groupe de personnes reste enchaîné à l'intérieur d'une grotte toute leur vie, face à un mur aveugle. Écran. Sur cet écran, ils voient projetées diverses ombres. Les prisonniers confondent les illusions qu'ils y voient avec la réalité.
Dans l'Inde ancienne, les sages bouddhistes et hindous ont souligné que tous les êtres humains vivaient piégés dans Maya, le monde des illusions. Ce que nous prenons normalement pour la réalité ne sont souvent rien de plus que des fictions dans nos propres esprits. Les gens peuvent mener des guerres entières, en tuant d'autres et en acceptant d'être eux-mêmes tués, à cause de leur croyance en telle ou telle illusion.
La révolution de l'IA nous confronte au démon de Descartes, à la caverne de Platon et aux Mayas. Si nous ne faisons pas attention, nous pourrions nous retrouver piégés derrière un rideau d'illusions, que nous ne pourrions pas arracher... ou même réaliser qu'il est là.
Bien sûr, le nouveau pouvoir de l'intelligence artificielle peut également être utilisé à des fins positives. Je ne m'attarderai pas là-dessus, car les gens qui développent l'intelligence artificielle en parlent déjà pas mal. Le travail des historiens et des philosophes comme moi est de pointer les dangers. Mais l'IA peut certainement nous aider d'innombrables façons, de la recherche de nouveaux remèdes contre le cancer à la découverte de solutions à la crise écologique. La question à laquelle nous sommes confrontés est de savoir comment nous assurer que les nouveaux outils d'IA sont utilisés pour le bien et non pour le mal. Pour ce faire, nous devons d'abord apprécier les véritables capacités de ces outils.
Nous savons depuis 1945 que la technologie nucléaire peut produire de l'énergie bon marché au profit des êtres humains, mais elle peut aussi détruire physiquement la civilisation humaine. C'est pourquoi nous avons réformé l'ensemble de l'ordre international pour protéger l'humanité et veiller à ce que la technologie nucléaire soit utilisée principalement pour le bien. Nous devons maintenant faire face à une nouvelle arme de destruction massive qui peut anéantir notre monde mental et social.
Nous pouvons encore réglementer les nouveaux outils d'IA, mais nous devons agir rapidement. Alors que les armes nucléaires ne peuvent pas inventer des armes nucléaires plus puissantes, l'intelligence artificielle peut rendre l'intelligence artificielle exponentiellement plus puissante. La première étape cruciale consiste à exiger des contrôles de sécurité rigoureux avant que de puissants outils d'IA ne soient rendus publics. Tout comme une société pharmaceutique ne peut pas lancer de nouveaux médicaments avant qu'il ne soit prouvé qu'ils ont des effets secondaires à court et à long terme, les entreprises technologiques ne devraient pas lancer de nouveaux outils d'IA avant qu'ils ne soient sûrs. Nous avons besoin d'un équivalent de la Food and Drug Administration (FDA) pour les nouvelles technologies, et nous en avions besoin hier.
Le ralentissement du déploiement public de l'intelligence artificielle ne laissera-t-il pas les démocraties derrière des régimes autoritaires plus impitoyables ? Tout le contraire. Le déploiement non réglementé de l'intelligence artificielle créerait un chaos social qui profiterait aux autocrates et ruinerait les démocraties. La démocratie est une conversation, et les conversations sont basées sur la langue. Lorsque l'IA pirate le langage, cela pourrait détruire notre capacité à avoir des conversations significatives, détruisant ainsi la démocratie.
Nous venons de trouver une intelligence extraterrestre, ici sur Terre. Nous n'en savons pas grand-chose, sauf qu'il pourrait détruire notre civilisation. Nous devons mettre fin au déploiement irresponsable des outils d'IA dans la sphère publique et réglementer l'IA avant qu'elle ne nous réglemente. Et le premier règlement que je suggérerais est de rendre obligatoire pour l'intelligence artificielle de divulguer qu'elle est une intelligence artificielle. Si j'ai une conversation avec quelqu'un et que je ne peux pas dire si c'est un humain ou une IA, la démocratie est terminée.
Ce texte a été généré par un humain.
Ou non?
© 2023, The Economist Newspaper Limited. Tous les droits sont réservés.