« Je suis convaincu que notre imagination ne sera pas amoindrie par des inventions techniques, mais qu'elle s'approfondira », dit la voix du cinéaste Werner Herzog au philosophe Slavoj Žižek dans The Infinite Conversation . Fin 2022, un Italien avec une formation en histoire classique et en informatique a créé le site internet Infinityconversation.com . On y retrouve un dialogue, précisément « infini », entre le réalisateur allemand et le philosophe slovène, créé avec l'intelligence artificielle.
Les voix, les idées et leurs portraits ont été réalisés à partir des données de chacun, basées sur de nombreuses sources internet. Ils sont appelés deepfakes : très similaires à la réalité et parfois indiscernables, utilisés pour créer de la désinformation politique et de la pornographie, les discours, les voix et le contenu de ce qu'ils disent ne sont pas réels, mais il semble. Comme la plupart des deepfakes , The Infinite Conversation n'a pas le consentement de ses auteurs.
Les soi-disant Herzog et Žižek parlent de philosophie, de psychologie, de cinéma, de géopolitique et de la fin du monde, mais ils racontent aussi des anecdotes et confessent des souhaits et des rêves. Ils s'écoutent et se répondent, reprenant tel ou tel aspect du propos de l'autre, comme s'il s'agissait d'un véritable dialogue entre deux personnes connaissant bien les règles de la conversation.
Connaissez-vous une histoire très étrange sur Klaus Kinski qui n'a jamais été rendue publique ? En plein tournage de Fitzcarraldo , à un moment on a eu une terrible bagarre et il a essayé de me tirer dessus" raconte le faux Herzog. Ce qui est troublant dans cette anecdote, c'est qu'elle peut être très plausible, car dans le tournage insensé du film, il y a eu plusieurs accidents et, selon le réalisateur dans son livre Conquista de lo inútil (Journal de tournage de Fitzcarraldo) , deux caciques indigènes lui ont offert tuer, parce qu'ils ne pouvaient pas le supporter, l'acteur allemand.
Il y a quelques jours, le philosophe Žižek publiait dans Project Syndicate un article avec quelques réflexions et dangers de la nouvelle génération d'intelligence artificielle : pour lui, il y a certains usages du langage qu'un robot ne comprendrait pas ou n'aurait pas l'ingéniosité de les faire. Et leur souci est que les gens, au plus fort de la communication avec le dernier modèle de chatbots, se mettent à parler et à écrire comme eux : de manière plate, sans nuances. La fameuse phrase « Imaginer une langue, c'est imaginer un mode de vie » que Ludwig Wittgenstein écrivait il y a des années résonne à nouveau face à ces technologies qui, pour l'instant, suscitent le plus de suspicion.
Quelque chose de similaire, bien que mineur, a fait que les emojis sont devenus monnaie courante dans les chats, ainsi que dans tous les cas où la communication est préétablie. C'est le cas de l'écriture intelligente de Gmail, Outlook et autres serveurs et, dans une moindre mesure, des applis de rencontres : dans tous ces cas, la communication tend vers un simple échange d'informations et toutes celles ironiques, ambiguës, indirectes, créatives : les la conversation devient, à un moment donné, artificielle. Selon Žižek, traiter avec l'IA éroderait également ces aspects du dialogue. Il semble que le pronostic du vrai Žižek soit contredit par celui du Herzog artificiel : notre imagination ne va pas s'approfondir, mais plutôt devenir plus robotique.
Dans The Infinite Conversation , les deepfakes Herzog et Žižek s'intéressent aux mêmes sujets que de vraies personnes, mais cela n'implique pas que leurs affirmations étaient réelles. Dans ce dialogue sans fin, ce qu'ils disent peut être vrai ou non, tout comme cela peut avoir été dit ou non par l'un d'entre eux.
Aussi brillant que soit le projet, il n'en demeure pas moins dangereux. Giacomo Miceli , le créateur de ce programme, écrit, conscient des risques encourus : « Ce projet vise à sensibiliser à la facilité d'utilisation des outils pour synthétiser une vraie voix. À l'heure actuelle, n'importe quel autodidacte peut le faire avec un ordinateur dans sa chambre."
La fausse crédulité est l'un des gros problèmes que génèrent les chatbots. Bien que cela puisse sembler contre-intuitif, les robots ont des biais d'entraînement. Le fait qu'ils aient une très grande capacité à traiter, rassembler et synthétiser l'information n'implique pas qu'ils ne la sélectionnent pas : comme ils ont circulé sur internet ces derniers jours, force est de constater que ChatGPT privilégie l'information eurocentrique et androcentrique. Par conséquent, se fier excessivement aux connaissances des bots peut conduire à des résultats erronés. Il est clair que les biais ne sont pas donnés par ignorance.
Les chatbots GPT sont une technologie dont les pouvoirs, bons et mauvais, ne sont pas encore pleinement compris. Comme s'il avait été développé simplement pour ses possibilités techniques, mais sans penser à quoi il servait, et comme une technologie "à portée de main" disponible pour chaque entreprise à utiliser à sa guise. Les traductions, les idées, les discours, les livres écrits avec l'IA apparaissent massivement, mais la relation entre les robots commence également à être étudiée, comme c'est le cas avec ce projet. L'Infinite Conversation est basée sur la communication de deux bots entre eux, avec des personnalités différentes et des voix différentes, qui s'écoutent et forment leur discours par rapport à l'autre, contrairement au boom ChatGPT-4 qui implique la relation entre un bot et une personne humaine. Sans même que nous nous en rendions compte, les robots commencent à faire partie de nos vies, et toutes ces dystopies se rapprochent.
Il serait pertinent d'un point de vue philosophique de souligner quelles possibilités cette nouvelle technologie ouvre et quels modes de vie ce nouveau langage permettrait. Car au-delà des dégâts, l'intelligence artificielle est un outil très puissant capable de changer le monde : on présume déjà quels métiers pourraient devenir en charge de robots et lesquels devraient s'adapter aux nouvelles technologies dans les années à venir. Il y a des usages dont le bénéfice est indéniable : la suppression des erreurs humaines et la réalisation de tâches automatiques pour qu'elles n'aient pas à être faites par des êtres humains.
Dans ce contexte, une lettre circule que des PDG de la stature d' Elon Musk et des universitaires ont déjà signée, appelant à arrêter les expériences géantes d'IA jusqu'à ce que nous soyons éthiquement, et pas seulement techniquement, prêts à y faire face. Et là quelques-unes de ces questions sont posées, auxquelles il faut répondre par la philosophie : « Faut-il automatiser tous les métiers, y compris les plus gratifiants ? Devrions-nous développer des esprits non humains qui finiront par être plus nombreux, plus intelligents, obsolètes et nous remplacer ?
Penser à un monde dans lequel le travail automatisé (qui peut être remplacé par un bot) cesse d'articuler la vie en commun, dans un certain sens, cela peut être révolutionnaire. Face à tous ces nouveaux problèmes, réguler les nouvelles technologies sans impliquer une atteinte à la vie privée, une perte de liberté et un recul technique est le grand défi politique, médiatique et philosophique d'aujourd'hui.
Continuer à lire