Le problème avec l'Intelligence Artificielle est ce qu'ils appellent les "hallucinations" : c'est-à-dire que la machine elle-même et son programme "élaborent" des réponses inventées, propres, autonomes, non logiques et dangereuses. Se comprend? Le système crée à partir de ce qu'il a comme entrées, des réponses créées par lui-même, pas forcément rationnelles. C'est le "tournant" auquel nous sommes . C'est le point du débat central qu'il faut installer. Là est le problème, ce n'est pas que la machine réponde comme le savoir lui a été introduit, mais le risque est qu'elle invente ce qu'on ne sait pas ce que ce sera. C'est le cheval de Troie.
Si ces machines ont aussi du "pouvoir" sur les humains, nous sommes en difficulté.
Aurons-nous toujours des ennuis à partir de maintenant ? Pas nécessairement, si les machines et les programmes informatiques ont un certain niveau de régulation ou de contrôle, les risques seront moindres, du moins limités. Nous ne croyons pas à la maîtrise de soi des entreprises, c'est impossible et nous le savons tous. Continuons. Vous devez atteindre un certain niveau de contrôle. Cela, précisément, n'est pas clair comment cela se produira.
Ce que nous vivons ces derniers temps, c'est une accélération tonitruante de la puissance des entreprises technologiques en matière d'IA. Ces entreprises ne sont pas la Croix-Rouge, et c'est bien qu'elles ne le soient pas, elles ne sont pas nées avec des objectifs altruistes, mais elles prennent d'assaut le monde avec leur génie et construisent des oligopoles du savoir. Minutieux.
Il ne faudrait pas être fou à cette époque : en tête de la consommation mondiale se trouve le savoir. Avant on croyait que la "demande" n'était pas inventée, que c'était ce que le marché demandait. Nous avons réalisé (au fil du temps) qu'il existe des produits dont nous n'avons jamais besoin et qui se sont installés par aspiration devant notre nez et nous avons été accrochés. Là, nous ne satisfaisions pas les "besoins de base" mais d'autres problèmes mineurs que "l'imagination collective" exigeait. L'homme de Marlboro est la meilleure image publicitaire dont nous puissions nous souvenir pour illustrer l'usage du tabac qui n'était pas une « nécessité ». Mais l'humain l'a créé pour ce besoin -supposé-. Et un jour on en est arrivé au point qu'il y avait même des médecins qui défendaient la consommation de tabac. (Il faudrait voir si le tabac ne cache pas des complexes, des insécurités et autres fragilités humaines ; c'est un autre débat).
Oui, c'est un fait douloureux : le consommateur a gagné le citoyen . Les gens semblent être beaucoup plus des consommateurs que des citoyens. Les citoyens font irruption dans les phases finales de la société lorsque le tissu social craque, lorsqu'ils sont appelés à décider, mais au quotidien, on remarque plus de consommateurs que de citoyens dans le monde. Ce n'est pas une évaluation, c'est une appréciation du comportement social que je n'aime pas nécessairement reconnaître.
Chaque jour, ce que nous voyons, ce sont des consommateurs de ce qu'ils sont partout. Et, en partie, cela se produit parce que nous avons besoin de consommer pour vivre, mais tout ce que nous consommons n'est pas nécessaire pour exister, en fait, une grande partie de ce que nous consommons nous tue.
La consommation sur les écrans dit tout : vêtements, pornographie, esthétique hyperbolique, fun, sucreries chimiques, sports sous forme d'aliénation télévisuelle, formats de divertissement et commérages. C'est vrai, ce sont les mêmes écrans qui éduquent aussi en même temps, mais le temps que les gens passent à perdre des heures à s'évader fait peur. ("Screen Time" sur votre téléphone portable, les chiffres augmentent et augmentent et les téléphones portables nous aspirent la vie.)
La conversation sur les réseaux sociaux a beaucoup plus à voir avec une essence primitive de l'être humain qu'avec un être coopérant et communautaire. Ça rugit là-dedans, c'est vrai, c'est pour ça qu'INSTAGRAM est apparu, comme pour dire : laisse-moi retourner un moment dans un monde sympa (même si la photo de la plage avec le filtre et le soleil qui brille n'est pas réelle). Ou TIK TOK qui est humour, grotesque ou légèreté esthétique. (Et qu'il est déjà le résultat d'une guerre commerciale - entre les deux plus grandes puissances de la planète - qui finit par être interdite dans certains États américains avec des amendes pouvant aller jusqu'à 10 000 dollars pour son utilisation).
Le bavard Sapiens des réseaux sociaux est un être qui crie, blasphème, hait, râle et ne veut rien de plus que des spasmes spontanés, généralement violents en rhétorique. TWITTER c'est ça ? Ce sont des lecteurs qui sont déchargés. Bien plus comme un bouton de toilette qu'un territoire de libre expression pour nouer des accords. C'est qu'ils n'y vont pas pour s'entendre sur quoi que ce soit. La même chose se produit sur les pages Web des journaux avec les opinions des lecteurs clandestins dans les coins anonymes d'Internet : les gens aboient et méprisent (l'anonymat -nous devrions déjà le savoir- n'existe pas, mais certaines personnes comprennent encore qu'un anonyme ne détecte pas une adresse IP ou le lieu où elle opère).
C'est pourquoi même des individus très intelligents et à l'esprit ouvert comme Yuval Noah Harari ou des hommes d'affaires postmodernes comme Elon Musk sont inquiets (et ces têtes n'ont rien à voir avec cela). Quelle est la raison? Ils ont peur que tout aille en enfer. Ils ont raison, nous sommes dans une zone sensible.
Que faites-vous lorsque vous êtes dans une zone sensible ? Vous pensez, vous méditez et vous agissez.
Penser implique de réfléchir, de discuter et d'échanger des points de vue, pas de cracher et d'ordonner. Méditer oblige à décanter les idées, à les soumettre à des contestations internes, externes, puis à les revoir de manière mesurée. Agir, c'est prendre des décisions après avoir traversé tout ce qui précède comme une certaine garantie que l'action ne sera pas prise sous l'impulsion d'une férocité brutale.
Ici, ceux qui doivent agir s'avèrent ne pas avoir le pouvoir d'agir. Encore un gâchis car le « vrai pouvoir » est détenu par ceux qui dominent le pouvoir sur les machines et les programmes informatiques. Ce que nous vivons est presque aliénant, ce n'est pas Terminator, ni 2001 L'Odyssée de l'Espace, ni toutes les histoires d' Isaac Asimov réunies, c'est ce que nous vivons en ce moment. Je ne sais pas ce qui se passera demain.
En d'autres termes, ceux d'entre nous qui s'objectent et se préoccupent de ce que nous vivons, défendant toujours la liberté comme drapeau central -soyons clairs- sont des citoyens du monde concernés par le sort de l'humanité, de nos enfants et de tout ce qui nous entoure.
Une information : le poids que les diverses organisations internationales ont perdu comme voix d'avertissement diminue de plus en plus. On suppose que pour cela, il existe des organisations internationales.
Bien sûr, l'OTAN avec l'usage de la force a plus de pouvoir qu'hier. Mais c'est l'exception. Ils semblent ces jours-ci brillants. Ce n'est pas le cas des organisations internationales de santé qui, dans la pandémie, ont montré des faiblesses. L'exemple du COVID est éloquent : là, la science a accéléré plus de dix fois sa capacité à développer un vaccin et l'humanité n'a pas coopéré à cette vitesse, chacun a simplement fait le sien. Le pouvoir, les pouvoirs étaient individualistes. Résultat : seuls les plus qualifiés et les plus « aptes » sont arrivés avec les vaccins à temps pour plus de monde. Trop de personnes sont mortes alors qu'elles n'auraient pas dû mourir dans de nombreux pays.
C'est pourquoi lorsque des parlementaires nord-américains se réunissent avec des dirigeants d'entreprises d'intelligence artificielle, et avant cela ils le faisaient avec des propriétaires de réseaux sociaux, il reste toujours l'impression qu'il s'agit d'une performance, d'un jeu d'acteur, de quelque chose qui est fait de bonne foi. .. mais cela ne donne rien de très concluant.
Qui met la clochette au chat alors ?
C'est la seule question à se poser et il n'est pas facile d'y répondre.
Il y a une réponse à réfléchir.
Il est pertinent que l'ONU comprenne que cette question doit figurer en tête de son ordre du jour. Premier niveau. Il est important de comprendre que le processus d'IA ne doit pas être publié sans assumer la responsabilité de ses créateurs. Ils sont trop puissants, ils gèrent une partie de notre destin d'humanité et il n'est pas logique qu'il n'y ait pas de transparence sur ces questions. La transparence est demandée à tous : quelle serait la raison de ne pas la demander là-dedans ?
Vous pouvez convoquer en urgence une réunion d'experts de tous les pays, travailler avec une feuille de route de base qui établit des cadres réglementaires (comme l'Europe a vocation à tout réglementer, elle a déjà fait quelque chose, ses projets peuvent servir de base) et à partir de là mettre en place législation urgente et rédiger un traité rapide. Cela devrait être la ligne et la fermer d'ici la fin de l'année. Ce n'est pas impossible.
Bien sûr, si vous consultez mes collègues juristes, ils vous diront tous que ce n'est pas possible. La même chose a été dite par d'autres à propos du vaccin COVID. C'est la même gravité, nous ne savons pas quelle entité de dégâts a une IA délirante, mais nous savons que nous prenons des risques. Voulons-nous les exécuter? Eh bien, que les dictatures les dirigent, si elles le souhaitent, sous leur contrôle. Les démocraties peuvent produire ces cadres réglementaires avec révision tous les six mois, attentifs au vertige dans lequel nous sommes. Les démocraties sont des pourparlers qui s'accordent sur des accords, qui établissent des contrats sociaux basés sur la coopération et la concurrence, mais en pensant à l'objectif supérieur de nous tous. Les dictatures inversent cette équation, pour cette raison, elles devraient être informées, mais nous savons déjà que les IA pathologiques là-bas (attention, soyez très prudents) vont s'égarer. Donc il faut y penser aussi. Comprenez-vous la complexité de ce qui vous attend ? Si nous avions un monde de paix et d'harmonie, comme celui auquel on faisait allusion jusqu'à il y a quelques années - et je pensais que c'était ce qui émergeait - je ne penserais pas comme ça. Eh bien, je ne pense pas, car l'agression contre l'Ukraine a beaucoup changé et nous devrions tous savoir que le monde est plus fragile.
L'affaire n'a pas de mystère. Il y a ceux qui ne veulent rien faire pour les imbéciles ou les voyous. Cela n'aide pas. Il y a ceux qui veulent tout réglementer. Ceux-ci dérangent. Et il y a ceux qui savent que quelque chose doit être fait : changer une partie de la culture mondiale, construire des pistes sur lesquelles marcher et avertir qu'il y en a d'autres qui ne peuvent pas être utilisées tant que nous ne comprenons pas sur quoi nous sommes.
Il y a d'ailleurs aussi un débat éthique qu'il faudra donner, c'est que tout va tellement vite qu'on n'a pas pu demander à ceux qui philosophent de le faire car les scénarios d'IA mutent d'une semaine à l'autre et sont de plus en plus belliqueux et difficiles à séquencer. Pouvez-vous philosopher sur une entité semblable à Cronos qui mange ses propres enfants ? Ce n'est pas facile non plus, mais il faut le faire de toute urgence. Pensez à nous dans ce contexte.
C'est la première fois que nous sommes dans une zone d'incompréhension du pouvoir que nous produisons, que nous possédons et dont nous ne connaissons pas la létalité réelle. Et ce qui est fou, c'est qu'une machine pourrait décider du sort de nos vies en se basant sur ce pouvoir biaisé que nous avons inventé.
Jamais mieux dit que de "l'invention qui a tué l'inventeur"
Nous devrions pouvoir ordonner cette affaire. Nous devrions.
Continuer à lire: