Le sénateur américain Bernie Sanders convoque un débat urgent au Capitole pour aborder les “risques existentiels” associés au développement de l'intelligence artificielle. La rencontre rassemblera des scientifiques éminents des États-Unis et de Chine afin d'analyser la possibilité de perdre le contrôle sur l'IA et que “cela se retourne contre l'humanité avec des conséquences catastrophiques”. Par ailleurs, le législateur invite la société à participer, que ce soit en personne ou via la transmission en direct sur ses réseaux sociaux.
Dans sa déclaration, il cite des avertissements d'experts internationaux sur les risques potentiels que représente l'intelligence artificielle et met en garde sur son impact dans la vie quotidienne, l'économie, la vie privée et la stabilité des institutions démocratiques. De plus, il souligne l'absence de règlements, le manque de traités internationaux et l'absence d'un débat sérieux au Congrès des États-Unis.
Sanders reprend les préoccupations exprimées par la communauté scientifique
Dans sa lettre, Sanders affirme que “presque tous les jours, un nouveau titre apparaît sur la façon dont l'IA modifie le monde”. Il mentionne également des exemples tels que le remplacement des travailleurs, les effets négatifs sur le bien-être émotionnel et cognitif des enfants, la destruction de la vie privée et les menaces à l'intégrité des institutions politiques.
Le sénateur soutient que, bien que ces problèmes soient significatifs, il existe un développement encore plus préoccupant dans le domaine de l'IA : la possibilité de perdre le contrôle sur ces technologies si elles viennent à surpasser l'intelligence humaine, avec des conséquences potentiellement catastrophiques pour la civilisation.
De plus, il cite le scientifique Yoshua Bengio, qui avertit que “nous jouons avec le feu” et reconnaît que “nous ne savons toujours pas comment nous assurer que les machines ne se retournent pas contre nous”. La publication recueille également l'opinion de Geoffrey Hinton, Prix Nobel et connu comme le “parrain de l'IA”, qui estime qu'il existe entre un 10 % et 20 % de chances que l'intelligence artificielle “puisse nous anéantir”.
Le sénateur souligne le vide réglementaire et le manque d'action politique
Le législateur se rappelle que ces préoccupations ne sont ni individuelles ni récentes. En 2023, plus de 1 000 experts en intelligence artificielle, y compris des personnalités comme Elon Musk, ont signé une lettre ouverte alertant sur les risques des systèmes d'IA contemporains, qui rivalisent déjà avec les humains dans des tâches générales.
Le texte de la lettre de 2023 pose des questions fondamentales : “Devrions-nous permettre aux machines d'inonder nos canaux d'information avec de la propagande et des mensonges ? Devrions-nous automatiser tous les emplois, même ceux gratifiants ? Devrions-nous développer des esprits non humains qui pourraient éventuellement nous surpasser en nombre, intelligence, obsolescence et remplacement ? Devrions-nous risquer de perdre le contrôle de notre civilisation ?”.
Dans son message, Sanders souligne que, depuis la publication de cette lettre ouverte, il n'y a pas eu de pause dans le développement de l'intelligence artificielle; il n'y a pas non plus eu de traité international pour réguler l'IA ni de débats sérieux au Congrès des États-Unis sur cette “menace existentielle”.
En conséquence, le sénateur définit le développement de l'intelligence artificielle comme “l'avancée technologique la plus transcendantale de l'histoire humaine” et soutient que “nous devons nous assurer que l'IA profite à l'humanité, et non qu'elle lui nuise”.