Yann LeCun contre. Yuval Noah Harari . L'un est chercheur, l'autre historien. Les premiers ne voient aucune raison de s'alarmer de l'apparition de l'intelligence artificielle tandis que les seconds craignent qu'elle ne conduise à l'effondrement de notre civilisation.
Harari a signé la lettre ouverte lancée par le groupe de réflexion The Future of Life , avec près de 30 000 autres penseurs, appelant à une pause de six mois dans le développement d'outils plus puissants que GPT-4, le modèle de langage qui a accéléré l'adoption de ChatGPT en un temps record, tandis que LeCun qualifiait un tel alarmisme de ridicule.
la revue française Le Point a proposé un débat par visioconférence . L'un de New York et l'autre de Jérusalem , ils ont fait valoir leurs points de vue sur les promesses, les dangers et l'avenir de l'IA.
Le Point a brisé la glace avec une question basique : quelle est votre définition de l'intelligence ?
Pour Yann LeCun , l'intelligence signifie être capable de percevoir une situation, de planifier une réponse et d'agir pour atteindre un objectif, c'est-à-dire d'être capable de poursuivre une situation et de planifier une séquence d'actions.
Et pour Yuval Noah Harari , l'intelligence est la capacité à résoudre des problèmes. Des organismes unicellulaires en quête de nourriture aux humains qui découvrent comment voler vers la Lune, c'est de l'intelligence. "Ce n'est pas la même chose que la conscience. Chez l'homme, ils se mélangent. La conscience est la capacité de ressentir les choses, la douleur, le plaisir, l'amour, la haine. Nous, les humains, utilisons parfois la conscience pour résoudre des problèmes, mais ce n'est pas un ingrédient essentiel. De nombreux organismes résolvent des problèmes sans en être conscients, comme les plantes et les micro-organismes. Les machines peuvent aussi être intelligentes et résoudre des problèmes sans avoir de sentiments », a-t-il expliqué.
"Pas encore, mais cela arrivera", a interrompu LeCun et le vrai débat a commencé.
Le responsable de l'IA de Meta a expliqué qu'il est très difficile de prédire combien de temps cela prendra. « Mais je ne doute pas que nous aurons des machines au moins aussi intelligentes que les humains. Et s'ils ont la capacité de planifier et de se fixer des objectifs, ils auront aussi l'équivalent de sentiments, car très souvent les émotions ne sont rien d'autre qu'une anticipation des résultats », a-t-il avancé.
Et il a expliqué : « En tant qu'êtres humains, si nous anticipons qu'une situation pourrait être dangereuse, nous ressentons de la peur, ce qui nous motive à explorer différentes options pour échapper à la situation dangereuse. Si les machines peuvent faire cela, elles auront des émotions. Mais nous sommes encore très loin de la possibilité qu'une machine prenne conscience..."
Harari n'a pas tardé à réagir : "C'est possible, mais pas inévitable."
Il a expliqué que dans l'évolution des humains, ainsi que des mammifères et des oiseaux, la conscience et l'intelligence sont allées de pair, nous résolvons les problèmes en ayant des sentiments. Mais il pourrait y avoir d'autres voies vers l'évolution de l'intelligence, où vous avez un type d'intelligence différent, qui pourrait être supérieur à l'intelligence humaine et n'impliquer aucun sentiment du tout. C'est déjà le cas dans des domaines limités comme les échecs ou le Go. » Je ne pense pas que quiconque pense vraiment qu'AlphaGo est heureux quand il gagne le jeu, et pourtant il est plus intelligent que les humains dans ce domaine très limité. Il se pourrait, même avec une intelligence artificielle générale, qu'il soit bien plus intelligent que nous et ne ressente toujours aucune émotion.
"Mais si nous voulons que les systèmes aient un certain niveau d'autonomie et fonctionnent pour tenter de satisfaire un objectif, alors ces systèmes auront probablement l'équivalent d'émotions, car ils devront alors être capables de prédire à l'avance quel sera le résultat de une séquence donnée va être d'actions », différait Le Cun.
"Est-ce que ChatGPT est dangereux pour notre démocratie et nos croyances ?" , interroge Le Poit .
"Je ne pense pas que ce soit dangereux pour le moment, mais la raison en est peut-être qu'il est fermé, donc les gens ne peuvent pas le comprendre et les chercheurs ne peuvent pas l'examiner. À mon avis, la façon d'avancer avec de grands modèles linguistiques est de les rendre ouverts. Et aujourd'hui, vous voyez divers efforts dans le monde pour produire des tests open source », a déclaré le chercheur Meta.
Optimiste, il invite Hariri à rejoindre son club : « Les gens ne doivent pas se sentir menacés. De la même manière que votre voiture est plus puissante que vous, imaginez un avenir dans lequel chacun dispose d'une équipe de machines intelligentes qui le rendent plus efficace, productif ou créatif. Je pense donc que cela apportera une nouvelle Renaissance, essentiellement un nouveau siècle des Lumières."
Cependant, il a averti qu'une réglementation est nécessaire pour garantir que les produits déployés dans la société aient un effet positif. "La même chose qui se passe avec n'importe quelle technologie."
L'historien israélien était lapidaire : « La question est entre les mains de qui est-elle ? Cela pourrait potentiellement être merveilleux, mais entre de mauvaises mains, cela pourrait détruire la démocratie."
Harari a expliqué que la démocratie est une conversation entre les gens, et si la conversation entre les gens est piratée ou détournée, ce que l'IA est maintenant tout à fait capable de faire, cela détruirait les fondements du système démocratique. "Imaginez que vous parlez à quelqu'un en ligne et que vous ne savez pas s'il s'agit d'un être humain ou d'un bot IA. Et tout comme avec les médias sociaux il y a dix ans, nous avons assisté à une course aux armements pour attirer l'attention, nous pouvons maintenant assister à une course aux armements pour la vie privée, et la vie privée est bien plus puissante que l'attention.
"Nous devons nous prémunir contre ces dangers, car ce que nous avons vu auparavant avec les algorithmes de recommandation n'est rien comparé au pouvoir de ces IA pour changer l'avis des gens sur tout, des produits à acheter aux politiciens pour lesquels voter", a-t-il insisté.
LeCun, une fois de plus, a tenté d'éloigner l'analyse du pessimisme. « Je pense que l'analogie correcte de ce monde est Wikipédia. Les gens font confiance à Wikipédia. Il y a beaucoup de travail éditorial pour essayer de garder ces points de vue sous contrôle. Il y a donc un moyen de le faire de manière éthique, et nous nous retrouvons avec quelque chose comme Wikipédia, qui a été inventé par des millions de personnes. Et cela signifie que les systèmes d'IA du futur devront essentiellement être créés par des milliards de personnes travaillant ensemble.
Le responsable de l'intelligence artificielle de Meta a une fois de plus souligné que la sécurité de l'IA résidera dans le fait que la technologie n'appartient pas à une seule entreprise.
L'animateur a rappelé que les systèmes actuels ont un fort pourcentage d'hallucination...
« En effet - accepte Le Cun - les systèmes actuels sont très peu fiables. Ils sont très bons comme aides à la rédaction, mais pas comme sources d'information fiables. Mais il a dit que ce qui va se passer dans les prochaines années, c'est que la conception de base du système va changer pour créer des systèmes qui sont plus directement adressables, contrôlables et factuels, si nécessaire. Ainsi, avec le temps, a-t-il ajouté, ces systèmes seront plus fiables que toute autre méthode de recherche d'informations. « Et ça va être un peu comme la conduite autonome et l'aide à la conduite. Actuellement, vous pouvez disposer de systèmes d'aide à la conduite pour votre voiture. Ils sont assez fiables sur l'autoroute, mais pas partout, et vous êtes censé garder les mains sur le volant en tout temps.
Mais Harari a averti que l'IA est le premier outil qui peut potentiellement nous remplacer dans la prise de décision . « Et ici le danger est conséquent car nous risquons de faire des erreurs. Et ça pourrait être une erreur à un tel niveau qu'on n'a pas le temps d'en tirer des leçons." L'historien a rappelé qu'au XXe siècle, l'homme a commis de terribles erreurs, de terribles expériences ratées sur la manière de construire des sociétés industrielles. « Le nazisme et le communisme ont été des expériences ratées. Les deux guerres mondiales ont été de terribles erreurs . Après avoir détruit la vie de centaines de millions de personnes, nous avons appris de ces erreurs et finalement appris comment construire de meilleures sociétés industrielles. Mais avec la nouvelle technologie du 21e siècle, si nous commettons à nouveau ces erreurs, par exemple en construisant un régime totalitaire basé sur l'IA, ou en déclenchant la troisième guerre mondiale, il n'y aura peut-être pas de retour en arrière", a-t-il averti.
L'Israélien a fait remarquer que la technologie du 21e siècle est beaucoup plus puissante : "Si nous commettons le même genre d'erreurs avec la technologie d'aujourd'hui, il y a de fortes chances que nous ne survivions pas pour apprendre de ces erreurs."
LeCun a répondu que la même chose pouvait être dite de toutes les révolutions technologiques de l'histoire. "L'imprimerie a détruit la société en Europe au début du XVIe siècle avec des divisions religieuses, mais elle a également apporté les Lumières, le rationalisme, la science, la philosophie et la démocratie."
L'argument n'a pas convaincu Harari… « L'imprimerie a favorisé les Lumières, mais aussi l'impérialisme européen et les guerres de religion. Cependant, il n'était pas assez puissant pour détruire totalement l'humanité. L'IA est assez puissante. S'il y a une autre série de guerres de religion, comme entre protestants et catholiques au XVIe siècle en France, mais avec l'intelligence artificielle et les bombes nucléaires, je ne pense pas que l'humanité survivra."
Il est clair pour l'historien que le danger réside dans le fait que l'IA détruira les fondements de la démocratie et conduira à la création de nouvelles dictatures numériques qui pourraient être encore plus extrêmes que l'Union soviétique.
L'enquêteur en chef de Meta pense le contraire. Pour lui, la nouvelle technologie va amplifier l'intelligence humaine et permettre une nouvelle renaissance portée par une accélération des progrès scientifiques, techniques, médicaux et sociaux grâce à l'IA.
"Je ne pense pas qu'un ralentissement ou une pause dans l'enquête soit utile car je ne pense pas que cela mettra fin à tout danger", a-t-il insisté et condamné: "L'idée qu'au moment où vous activez le système de superintelligence va conquérir le monde est ridicule."
Harari, d'autre part, assure qu'il est essentiel de le ralentir afin que la société puisse identifier les dangers et décider quoi faire à ce sujet.
« Sommes-nous déjà en train de perdre le contrôle ? », a demandé le modérateur.
"Pour l'instant, nous contrôlons toujours, mais nous ne le serons peut-être pas dans un avenir très proche. D'un point de vue historique, l'IA est le premier outil de l'histoire capable de prendre des décisions par lui-même. Beaucoup de gens le comparent aux révolutions précédentes, comme l'énergie nucléaire. Mais ce n'est pas une bombe atomique. La bombe atomique ne pouvait pas décider comment l'utiliser. L'IA peut prendre des décisions sur la façon de l'utiliser », a déclaré Harari.
Lecun l'a réfuté une fois de plus. "Pour le moment, les systèmes d'IA nécessitent d'énormes ressources pour être créés, mais au final, ils peuvent être utilisés par n'importe qui. Ce ne sera donc pas comme les armes nucléaires. De plus, la grande différence est que l'IA est conçue pour rendre les gens plus intelligents ou augmenter l'intelligence humaine, alors que les armes nucléaires sont conçues pour tuer des gens.
Harari n'est pas si convaincu… « Est-ce que nous concevons l'IA pour rendre les gens plus intelligents ou est-ce que nous la concevons pour contrôler les gens ? Ça dépend du pays", a-t-il frappé.
LeCun a relevé le gant, reconnaissant que certains pays le conçoivent probablement pour contrôler le peuple, mais affirmant que ces pays seront inévitablement laissés pour compte en termes de technologie, comme l'Empire ottoman l'a fait au 17e siècle en interdisant l'utilisation de l'imprimerie. « Au Moyen Âge, le monde musulman dominait la science. Au 17ème siècle, ils étaient loin derrière, et ils ont pris encore plus de retard par la suite. Quelque chose comme cela pourrait se produire en Chine, qui s'isole de l'écosystème de l'IA. Et s'ils ne font pas accéder leur population à une intelligence artificielle plus puissante parce qu'ils sont soucieux de contrôler l'immigration, ils seront également laissés pour compte », a-t-il prédit.
L'avenir de l'emploi
LeCun a expliqué que des économistes comme Erik Brynjolfsson de Stanford disent que les nouvelles technologies déplacent les emplois, mais elles rendent également les gens plus productifs, bien qu'il faille 15 à 20 ans pour rendre les gens sensiblement plus productifs. . "La quantité de richesse produite par heure travaillée augmente au total", s'est-il enthousiasmé. Et il a prévu que le déplacement des emplois sera également limité par la vitesse à laquelle les gens peuvent apprendre à utiliser la nouvelle technologie. « Donc, cela prendra 10 ou 15 ans. Il va y avoir des changements majeurs dans certains secteurs de l'économie. Certaines personnes devront se recycler. Il faudra qu'il y ait des plans sociaux dans les pays qui sauront le faire... Nul doute qu'il y aura des bouleversements. Mais au final, les gens vont gagner plus d'argent pour une certaine quantité de travail ou ils vont travailler moins pour la même somme d'argent », prédit-il.
Le chercheur Meta a expliqué que de nouvelles professions apparaîtront pour remplacer les anciennes. "Qui aurait pensé il y a 20 ans que vous pouviez gagner assez bien votre vie en produisant des vidéos YouTube, des applications mobiles ou en étant concepteur de sites Web ?", a-t-il déclaré.
Harari a qualifié le processus de transition d'inquiétant. « En histoire, les transitions sont dangereuses. Même s'il y aura suffisamment d'emplois pour tout le monde à long terme, dans les périodes de transition, de nombreuses personnes risquent de souffrir grandement entre-temps. Revenant à l'exemple habituel de l'Allemagne, après la crise de 1929, il n'y a eu que 4 années de chômage élevé en Allemagne... et nous avons eu Hitler. Le timing est donc crucial."
Conseils pour les nouvelles générations
« Je pense qu'il est préférable que nos enfants apprennent des métiers créatifs qui soient artistiques ou scientifiques et qui demandent des compétences approfondies. Et tout ce qui a à voir avec l'expérience humaine intrinsèque et la communication, car elle ne peut être remplacée par des machines », a recommandé LeCun. « Vous pouvez faire du bel art, mais qu'est-ce qui est communiqué ? Ces outils amplifieront la créativité humaine, mais ils ne la rendront pas obsolète. Ils ne feront que rendre plus facile pour plus de gens d'être créatifs et d'exercer leur créativité.
Toujours plus pessimiste, Harari met en garde contre le pari sur une capacité précise : « Il vaut mieux se concentrer sur apprendre à apprendre et aussi sur les outils psychologiques nécessaires pour continuer à changer tout au long de la vie. Le plus gros problème sera psychologique : comment continuer à changer, continuer à se réinventer, alors que le marché du travail devient de plus en plus volatil.
Le débat de haut niveau s'est terminé sans accord mais avec une cordialité admirable.
«Bon courage Yann, je pense que l'avenir de la démocratie dépend en grande partie de vous et des autres acteurs du secteur. Alors, s'il vous plaît, soyez responsable", a déclaré Harari.
"Cela a toujours été mon principe directeur", a promis LeCun.
Continuer à lire: