L'intelligence artificielle a marqué les discussions dans l'industrie technologique en ce début d'année 2023, et voilà qu'Elon Musk, Steve Wozniak (co-fondateur d'Apple), Jaan Tallinn (co-fondateur de Skype) et Max Tegmark (membre du MIT) ont signé un lettre demandant l'arrêt de son développement.
Le document comprend plus de 1 000 personnes qui parlent de l'avancement de GPT et de l'arrivée de GPT-4, la technologie derrière ChatGPT , l'une des IA les plus populaires.
L'objectif de la lettre n'est pas de demander la fin de ce développement, mais plutôt de mettre en lumière les acquis qu'il a obtenus et le changement qu'il peut représenter, mais pour cela il est important qu'il y ait une meilleure compréhension de son fonctionnement.
"Les systèmes d'IA contemporains viennent concurrencer les humains dans les tâches générales, et nous devons nous demander : devrions-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Doit-on automatiser tous les travaux ? Devrions-nous développer des esprits non humains qui, avec le temps, sont plus nombreux, plus intelligents, plus obsolètes et nous remplacent ?
Ce que des personnalités comme Musk et Wozniak souhaitent, c'est prendre du " recul " pour analyser la capacité de ces modèles et générateurs de contenus, afin que les systèmes actuels " soient plus précis, sécurisés, interprétables, transparents, robustes, alignés, fiables et loyaux ". ” et ne pas se précipiter sans comprendre pleinement ce qui est déjà créé.
Un autre point souligné dans la lettre est qu'il est nécessaire de créer des normes de sécurité pour le fonctionnement optimal de l'intelligence artificielle et de l'opération qui lui est confiée, et de cette manière, "garantir que les systèmes qui y adhèrent sont sûrs au-delà de tout doute raisonnable."
Pour cela, ils affirment qu'il est important de créer des autorités qui réglementent et supervisent l'IA, avec l'idée d'avoir des systèmes qui distinguent la réalité des créations artificielles, traquent les éventuelles fuites de données, les systèmes de financement politique et les réponses aux dommages éventuels.
"Les institutions doivent disposer de ressources suffisantes pour faire face aux perturbations économiques et politiques drastiques (en particulier pour la démocratie) que l'IA entraînera", déclarent-ils.
La critique de Musk à l'égard de GPT
En 2015, lorsque OpenAI , la société propriétaire de ChatGPT, est née, Elon Musk a été l'un des premiers investisseurs, apportant 1 000 millions de dollars. Cependant, trois ans plus tard, l'homme d'affaires décide de se retirer du projet considérant qu'il a échoué et parce que sa demande de prise de contrôle de l'entreprise a été rejetée.
Après l'importance que l'intelligence artificielle a prise ces derniers mois, le propriétaire de Tesla a rendu public son mécontentement vis-à-vis de GPT et d'autres plateformes.
La première chose qu'il a faite a été de supprimer l'accès d'OpenAI à la base de données Twitter . Il a ensuite critiqué la façon dont l'entreprise est passée d'une organisation à but non lucratif à une recherche de revenus. Puis il a assuré qu'il travaillait pour une société "contrôlée par Microsoft".
Musk a également appelé à une réglementation de ces technologies, déclarant que la réglementation "a tendance à être mise en place en réaction à un événement grave. Mais si quelque chose de mal arrive avec l'intelligence artificielle, la réaction d'un point de vue réglementaire peut être très lente.
Au point d'avertir de la portée démesurée que pourrait avoir l'IA. "Le danger d'entraîner l'IA à se réveiller, en d'autres termes à mentir, est mortel", a-t-il déclaré.