L'intelligence artificielle provoquera la fin de l'humanité : avertit un expert en IA.

Cette affirmation suscite beaucoup de répercussions, car Yampolskiy a dédié sa carrière à étudier les dangers et les vulnérabilités inhérents des systèmes d'IA.

Yampolskiy, lors de sa conversation avec Fridman, a été emphatique sur la nécessité de modérer le développement de l'IA. Il a souligné que les avancées, parfois incontrôlées, dans cette technologie approchent un point où la complexité de ces systèmes devient pratiquement impossible à gérer avec les méthodes de sécurité actuelles.

“La complexité inhérente des systèmes d'IA avancée représente un défi presque insurmontable pour les méthodes de sécurité contemporaines”, a affirmé l'expert. Selon lui, une fois que l'IA aura atteint de hauts niveaux de sophistication, le contrôle sur ces systèmes sera quasiment nul, ce qui pourrait avoir des conséquences dévastatrices pour l'humanité.

L'expert a expliqué que, pour éviter ce scénario catastrophique, il serait nécessaire de créer un logiciel de haute complexité sans erreurs au cours des 100 prochaines années, quelque chose qu'il considère comme inviable. En citant les pannes récurrentes dans les technologies actuelles, l'expert a mis en avant les limites rencontrées pour atteindre un tel degré de perfection.

Pour illustrer ce point, Yampolskiy a mentionné les nombreux défauts de logiciels dans des systèmes critiques comme indice clair de la difficulté à garantir la sécurité des systèmes d'IA. Dans l'histoire récente, les vulnérabilités dans diverses technologies se sont révélées potentiellement catastrophiques.

Dans ce contexte, l'expert manifeste un pessimisme fondé sur l'évidence étendue des pannes récurrentes dans des systèmes technologiques avancés. Il a souligné que la vitesse à laquelle les systèmes d'IA se développent dépasse la capacité actuelle à mettre en œuvre des mesures de sécurité efficaces.

Les déclarations de Yampolskiy fournissent une vision détaillée des menaces que, selon l'expert, l'IA représente pour l'espèce humaine. Cette discussion alerte la communauté scientifique et le public sur la nécessité d'une plus grande régulation et contrôle des avancées dans cette technologie.

Cette perspective n'est pas nouvelle dans la communauté scientifique, mais l'accent et les chiffres présentés par Yampolskiy ajoutent un sentiment d'urgence à la conversation, avec la nécessité d'établir des directives strictes et un cadre réglementaire robuste pour contrôler l'évolution de cette technologie.

Dans le domaine académique, la question du contrôle de l'IA a été largement débattue. D'autres experts du domaine ont également mis en garde contre les dangers potentiels que comporte le développement de systèmes d'IA avancés sans les mesures de sécurité appropriées.

De nombreuses études révèlent que le développement et l'utilisation de l'IA doivent être guidés par des principes moraux solides et une vision claire des implications à long terme. La capacité de l'IA à affecter tous les aspects de la vie humaine, de l'économie à la sécurité nationale, rend sa régulation d'une importance vitale.