Le fait que la technologie soit immergée dans nos vies facilite presque automatiquement la vie de nombreuses personnes. Il offre des opportunités qui améliorent les performances humaines et permettent d’accéder à des choses qui, traditionnellement, coûtent un peu plus de travail. Mais au-delà des bénéfices apportés par la technologie en général, et l’intelligence artificielle en particulier, il faut se demander pourquoi on laisse ces outils dominer si facilement, et pendant des années, la vie sociale et personnelle de l’humanité.
Pour parler du côté philosophique de l'IA , mêlé à la portée peu évoquée de la technologie et de ce qu'est son interaction avec les humains au-delà de sa forme d'outil, Pablo González s'est rendu à l'auditorium Ticmas de la Foire internationale du livre de Buenos Aires et s'est effondré. tous ces sujets.
Pablo González est co-directeur du projet El Gato y la Caja , un média web qui allie science et design, en plus d'être le label d'édition qui a rassemblé six essais sur l'IA dans le livre Ok, Pandora . Le livre rassemble des essais de différents auteurs abordant les questions philosophiques, scientifiques et sociologiques de l’IA.
De quoi parle « Ok, Pandora » ?
Pablo González a commencé l'intervention en commentant que l'approche donnée à l'intelligence artificielle était due à la nécessité de la comprendre, en particulier dans ces espaces « contre nature » qu'elle occupe et perturbe aujourd'hui, c'est-à-dire là où elle donne un « saut qualitatif important ». .» Pour parvenir à cette approche, il a fallu un an de travail avec une équipe interdisciplinaire comprenant deux philosophes, un ingénieur, un expert en régulation et un scientifique de la conscience, afin qu'ensemble ils puissent répondre à des questions qui dépassent le cadre technique.
"Nous avons cherché ces vecteurs pour comprendre ce phénomène et cela incluait une petite compréhension historique, ce que fait Consuelo López , qui est ingénieur [et l'un des auteurs], et qui recueille l'histoire de l'intelligence artificielle, ses hivers, ses les étés . Et commencer à comprendre un peu la trace historique de l’intelligence artificielle. Leurs cycles, leurs manies où ils promettent de changer le monde, et leurs hivers où ils doivent repartir. La question clé est de savoir si ce moment historique est un autre de ces cycles de manie et de déception qui s'ensuit ou si c'est le moment où elle devient une technologie avec la pénétration que nous pensons qu'elle peut avoir et avec les effets systémiques que nous pensons qu'elle peut produire. " il a dit. Gonzalez.
Et il a répondu que précisément parce que Le Chat et la Boîte pensait que la nouvelle perturbation pourrait être différente des autres époques, une compréhension du corps idéologique, philosophique et spirituel qui soutient ce saut qualitatif était recherchée.
« Cela impliquait que Maxi Zeller, un philosophe spécialisé dans ce sujet [également auteur], commençait à parler des élites de la Silicon Valley et de tous ces projets millénaires, tous ces projets quasi religieux qui entourent l'intelligence artificielle. Comment Elon Musk se lève-t-il le matin et dit-il que je vais envoyer des gens sur Mars ? Et quand on lui demande « mais il y a la faim sur terre », il répond « non, non, prendre soin de l'espèce, c'est nous envoyer sur Mars ». Nous nous intéressions à ce corps idéologique qui existe autour de l’intelligence artificielle.
González a souligné qu'un autre des auteurs est Tomás Balmaceda, philosophe et journaliste, qui, dans son essai, réfléchit sur les relations entre les humains et l'intelligence artificielle. En ce sens, il a rappelé le film Her (2013), car il explore le développement de liens profonds avec des systèmes entièrement automatisés et ce qui sera fait de ce type de « nouvelles relations ». Dans une approche complémentaire, un autre des auteurs, Julian Peller, un ingénieur qui travaille dans la partie technique de l'IA et qui parle dans le livre du risque existentiel, met dans la conversation qu'avant de se demander s'ils ont conscience, on se demandera que faire des sentiments réels de vraies personnes à l'égard de ces systèmes.
« Si une personne vient vous dire de ne pas débrancher ce système. Parce que? Parce que je l'aime, parce que je m'en soucie, parce que je lui parle tous les matins. Tu le déconnectes ? C’est une question à laquelle nous devons répondre en tant qu’espèce, car le moment historique est déjà arrivé. Cela se produit déjà. Comment nous interagissons non seulement avec ces systèmes, mais aussi avec l'effet humain que ces systèmes créent, génèrent, entretiennent et aussi avec l'intimité avec laquelle j'ai tout raconté à ces systèmes », a souligné Pablo González.
"Je crois à la technologie"
Patricio Zunini , modérateur de la conférence, a déclaré que même si pour lui la relation avec les appareils électroniques est basée sur l'utilité et non sur le sentimentalisme, il n'hésite pas à faire confiance à la technologie, même si elle implique des aspects intimes comme le choix du partenaire, les aspects personnels. développement comme décider d'une voie professionnelle, ou choisir mon divertissement à travers un livre ou un film.
À ce propos, Pablo González a rappelé que ces fonctions sont en réalité déjà remplies par les technologies disponibles aujourd'hui grâce aux algorithmes d'IA présents sur Netflix ou sur n'importe quelle plateforme de streaming, ainsi que sur les marchés de vente comme Amazon. Et en fait, ce type d’interaction humaine avec l’IA n’est qu’une première étape, peut-être la plus fondamentale. Pour ce « second tour », l’IA explore désormais l’intimité et la relation entre créativité et cognitif.
« Il existe un groupe de philosophie, l'Institut pour l'avenir, qui travaille dans les centres d'études sur l'intelligence artificielle et la philosophie, et qui dit qu'il s'agit du deuxième cycle de l'intelligence artificielle . (...) Il y a quelque chose qu'ils disent qui est terrible, c'est qu'au premier tour, on l'a perdu et je pense que c'est vrai, parce qu'on ne choisit plus les films qu'on veut regarder, maintenant on regarde ce que recommande Netflix, ce que Prime recommande . Il y a une course aux armements pour l'attention que nous accordent les grands monopoles, les grands titans du présent dans la Silicon Valley, ces mêmes qui ont un échafaudage philosophique et religieux , qui les conduit dans cette direction de développement à vitesse maximale de systèmes qui nous ne comprenons pas bien comment ils fonctionnent".
Et il a poursuivi : « c’est important. Je vous l'ai dit, Julián Peller, l'ingénieur, parle du risque existentiel, du fait que l'intelligence artificielle est en réalité une technologie à risque existentiel. Si je cite d’autres technologies à risque existentiel, je dois parler de biotechnologie, de technologie nucléaire. Et nous disons 'mais est-ce que ça peut vraiment être si grave ?' Cette perturbation peut-elle vraiment être si importante ? Et je dis, imaginez que ces systèmes puissent faire des choses comme faire une grande découverte de médicaments et dire à quel point ils font du bien à l'humanité. Chaque neurotoxine que vous pouvez imaginer est une découverte de médicament et vous avez réduit l'énergie, les connaissances et la complexité nécessaires pour accéder à ce type de connaissances, à partir de quelque chose qui ne peut se produire que dans des installations de recherche extrêmement sophistiquées, vers n'importe quel ordinateur, n'importe où dans le monde. Qu'est-ce qu'on fait avec ça ? Des systèmes qui ont déjà été diffusés dans le monde et que nous ne pouvons pas remettre dans un espace de confinement . Ok, Pandora, c’est un peu accepter que nous n’avons pas la maturité institutionnelle, politique et même technique pour assurer le confinement de ces systèmes.
Comment préparer un cadeau sans confinement de ces systèmes ?
Pablo González a déclaré que même si l'on parle constamment de l'intelligence artificielle comme d'un outil pour améliorer ce que sera l'avenir, en réalité, cela se produit déjà et s'est même produit. Par conséquent, au-delà de la manière dont l’éducation va gérer ce problème, nous devons examiner ce qui s’est passé avec l’utilisation des algorithmes en classe au cours des dix dernières années.
Il a expliqué que nous devons nous demander comment nous avons abordé la technologie et les jeunes au cours de la dernière décennie, comment cela a été mesuré et comment nous avons essayé ou non de contenir les relations médiées par la technologie. Il a également commenté qu'il est important de garder à l'esprit que la technologie doit être opaque pour les êtres humains, c'est-à-dire que nous réalisons toujours qu'elle est là et qu'elle fonctionne comme un dispositif médiateur de la réalité, mais pas de la réalité elle-même.
« Il est également important de mettre en avant son opacité. Dans le livre, l'un des auteurs parle de quand une technologie est transparente et quand elle est opaque. Vous portez des lunettes [en référence à Patricio Zunini], vous ne regardez pas tout le temps vos lunettes. À un moment donné, vos lunettes ont disparu et faisaient partie de qui vous êtes. Vous ne voyez qu'à travers cet appareil. L’objectif dans ce cas est de rendre opaque l’intelligence artificielle tout en réalisant, sans échapper, que cette médiation est en train de se produire et ne fait pas partie du futur, elle fait totalement partie du présent », a-t-il souligné dans l’auditoire Ticmas.
L'accepter ou s'en méfier ?
« Le problème sous-jacent est que nous ne disposons pas d’instruments efficaces pour nous méfier. Qu'est-ce que je veux dire par là ? L’accepter a été le cours de l’histoire en ce moment », a déclaré González lorsqu’on lui a demandé comment faire face à cette réalité.
Il a commenté que pour avoir un point de vue critique, on ne peut pas tomber dans le pessimisme ou dans l'optimisme absolu, car le premier n'est pas très efficace car il y a une énorme incitation à les développer et que quelqu'un soit ou non contre les nouvelles technologies, celui qui veut les développer Il présente l'avantage utilitaire, technique et immédiat.
« Il n’existe plus de version de l’humanité dans laquelle cela n’est pas entré. Je pense donc que la question, ou du moins le défi que nous trouvons, est « dans un monde qui s'accélère de plus en plus vite », ce que nous devons trouver, ce sont des dispositifs permettant d'apprendre de plus en plus vite, d'avoir ces conversations de plus en plus vite. afin qu’ils passent du statut de niche à une conversation à plus grande échelle.
Il a ajouté qu'au début, Le Chat et la Boîte s'était interrogé sur l'objectif de faire un livre sur l'intelligence artificielle, notamment parce que la technologie se développe à un rythme accéléré et court le risque d'être obsolète. « Hacker le système » consiste à observer et à nommer les choses qui ne changent pas, ainsi que leurs effets sur les humains et le système social.
« Quand on pense à l'électricité, on ne pense pas à ce qui a changé dans l'industrie. L’électricité a changé le monde, l’intelligence artificielle a déjà changé le monde et le changera de plus en plus. La question est de savoir comment apprendre plus vite pour être à la hauteur des discussions qui doivent être plus ou moins thématiques », a insisté Pablo González.
Ok, humain
-Patricio Zunini : The Cat and the Box fait des choses incroyables depuis plusieurs années et quand ils ont sorti Ok Pandora, ils ont également lancé un site Web appelé OK Human , qui est un jeu auquel tout le monde a dû jouer, je pense, car il c'était un boom. 50 000 personnes auront joué en un week-end.
-Pablo González : Oui, je pense qu'il y en avait déjà 50 000. Je dois le regarder, mais il y avait plus de 40 000 jeux. Il doit avoir atteint 50 000 maintenant. Et c'est fou parce que nous mettons les gens en concurrence directe avec GPT.
-Patricio Zunini : Le jeu était le suivant : ils vous montraient les yeux d'une personne et vous deviez reconnaître le sentiment qu'elle éprouvait. J'y ai joué avec mes élèves ; nous avons joué et vu dans le projet. C’était vraiment incroyable que vous ayez eu un tel succès. Là, vous aviez sept sur 10, huit sur 10, mais l'ordinateur aussi, et il essayait également de vous montrer comment il pensait et pourquoi il risquait la réponse. "Oh regarde! Comment les yeux se plient ainsi, ou l'arcade des sourcils..."
-Pablo González : Quelque chose que nous pensons toujours, c'est que le livre n'est pas le projet, qu'il existe un projet plus vaste dans lequel nous pouvons faire numériquement des choses qui ne peuvent se produire nulle part ailleurs. Ce que nous avons fait avec les humains, c'est de nous poser la question de savoir comment créer une expérience où un autre, depuis chez soi, comprend dans le corps ce qui se passe. Alors nous avons dit, eh bien, prenons GPT quatre , qui est un système qui n'a en aucun cas été conçu spécifiquement pour lire les émotions humaines. Il s'agit d'un système très général et nous avons posé la question "ce système sera-t-il capable d'effectuer une tâche plus ou moins proche de celle de l'humain sur une tâche que l'on pourrait penser être une tâche humaine en raison de notre histoire évolutive ?". Reconnaître les émotions devrait être une tâche extrêmement humaine et extrêmement difficile à égaler pour l’intelligence artificielle. Les résultats nous ont surpris et un peu effrayés. Même si les humains ont gagné plus ou moins la moitié des parties, cela signifie que nous n'avons gagné que la moitié des parties . Lorsque nous avons analysé les données, GPT quatre a pu comprendre. Émotions humaines avec une différence décimale par rapport aux humains. L'humain a terminé plus ou moins à quatre sur sept et GPT à 4,5 sur sept, ce qui est scandaleux. En d’autres termes, nous disposons d’un système qui n’a pas été spécifiquement formé pour accomplir cette tâche. Nous l'avons chargé d'accomplir une tâche que nous pensions que l'humain accomplirait différemment et il nous a pratiquement liés. Et voici la question « et pourquoi cela se produit ? » Et la réponse est que nous ne le savons pas. Nous avons déjà dans le monde des systèmes aux performances quasi humaines et nous ne comprenons pas comment cela fonctionne car ce sont des systèmes fermés, non auditables, des boîtes noires dont nous ne comprenons même pas comment cela fonctionne et qui n'est pas encore compréhensible. Il n’existe aucune approche technique et scientifique pour comprendre ce qui se passe.
Patricio Zunini : Mais « Ok, Human » avait deux jeux, le premier était composé d'hommes et de femmes blancs et le second était une variété de races, de sexes et de couleurs. Et là, c'était plus facile de le battre.
Pablo González : C'est un peu ce que nous voulions essayer. Le principe était que GPT peut fonctionner comme un humain, nous lui donnons un « ensemble de données ». Cet ensemble de données tend à reproduire quelque chose que l’on dit souvent à l’intelligence artificielle, à savoir qu’elle a des préjugés en faveur de la blancheur, de l’occidentalisme et des hommes. Nous avons défié cette même intelligence artificielle avec un ensemble de données incluant beaucoup plus de diversité. Ça s'est très mal passé, vraiment très mal. Cela a très mal fonctionné pour les visages blancs et extrêmement mauvais pour les visages non blancs. Et nous avons également testé les humains, car la question était « peut-être que tous les humains ont de moins bons résultats là-bas ». Et ça m'a redonné une certaine foi en l'humanité, c'est qu'on ne trouve pas de différence. Blancs, non blancs, hommes, femmes, humains racisés, on ne reconnaît pas nos expressions, peu importe si elle est semblable à soi, différente de soi. Et voici l’autre question : « qu’est-il arrivé à GPT ? » Nous ne savons pas. Nous savons que les résultats sont pires, nous savons que les résultats sont particulièrement pires avec les visages non blancs, mais nous n'avons aucune idée de ce qui se passe.
-Pablo González : Et pour aggraver les choses, il a joué de manière très différente dans les deux expériences. Une chose qui nous a dérangé était cette idée de « je mets un système d’intelligence artificielle pour faire une tâche, je lui donne une tâche qui est proche, qu’on pourrait supposer, qui est extrêmement similaire » et ses performances sont énormément différentes. Ces systèmes sont déjà mis en œuvre dans le monde réel. Toute personne. Nous ne sommes pas une équipe particulièrement spécialisée en intelligence artificielle, nous avons une certaine connaissance de ces outils, mais ce n'est pas une force, ce n'est pas une technologie qui en ce moment est à un niveau de complexité qui nous empêche de la mettre en œuvre ou de la mettre en œuvre À l'échelle. Oui, nous pouvons le faire, il y a de nombreuses équipes partout dans le monde qui peuvent le faire. Oui, nous pouvons mettre cela en œuvre à grande échelle et les performances sont différentielles et nous ne comprenons pas pourquoi cela se produit, nous sommes confrontés à une perturbation que nous ne pouvons pas encore apprivoiser . Nous créons et vivons avec quelque chose de divin sans avoir les rênes de cette chose divine.
Combien de temps faudra-t-il pour que l’IA gagne à tout moment ?
Patricio Zunini a rappelé qu'il y a des années, l'ordinateur Deep Blue a remporté sa première partie d'échecs contre Kasparov, et même si à l'époque on disait qu'il s'agissait d'un marketing IBM, aujourd'hui, la puissance dont dispose l'ordinateur fait qu'il ne peut plus être battu, car il a « tous les mouvements de tous les jeux possibles de l’histoire ». En ce sens, il a demandé à Pablo González combien de temps il faudrait à l’IA pour vaincre les humains à tout moment.
González a déclaré que c'était l'une des questions posées entre les auteurs d'Ok Pandora et l'équipe éditoriale de Le Chat et la Boîte, et ils ont découvert qu'en réalité les humains n'arrêtaient pas de jouer aux échecs, donc peut-être que la barrière avait été surmontée. de compétition, et qu'elles continuent plutôt à être réalisées parce qu'elles donnent satisfaction aux humains et parce que ces tâches ne sont pas des instruments à accomplir, mais plutôt des outils de connexion.
« Vous jouez aux échecs avec quelqu’un, vous créez une œuvre d’art pour quelqu’un, pour communiquer. Alors peut-être que le réduire à une question instrumentale est un problème et nous avons un peu d’espoir en pensant que nous n’arrêterons jamais de jouer aux échecs, même s’il existe déjà des systèmes experts qui jouent aux échecs mieux que n’importe quel humain », a-t-il expliqué.