Dans une époque marquée par l’impératif technologique, où la vitesse semble être le seul indicateur de succès, une phrase du philosophe suédois Nick Bostrom irruption comme un frein à main conceptuel : « Quand nous allons dans la mauvaise direction, ce dont nous avons le moins besoin est du progrès ». Loin d’être un manifeste luddite ou un lament technophobe, cette sentence, prononcée lors d’une interview avec The European Magazine en 2011, s’est transformée en la colonne vertébrale de son œuvre majeure : Superintelligence.
Pour comprendre la phrase, il faut d’abord comprendre son auteur. Nick Bostrom, fondateur de l’influent Institut pour le futur de l’humanité de la Université d’Oxford, n’est pas un philosophe traditionnel coincé dans la métaphysique du passé. C’est un penseur de demain. Considéré comme l’un des pères du transhumanisme académique, Bostrom s’est consacré à étudier ce qu’il appelle les « risques existentiels » : ces dangers qui pourraient non seulement causer une crise mondiale, mais exterminer complètement la race humaine.
Lorsque Bostrom parle de « mauvaise direction », il fait référence au fait que l’humanité s’engage dans une course aux armements et commerciale pour développer l’Intelligence Artificielle Générale (AGI) et les biotechnologies avancées. Cependant, cela se fait sans avoir résolu le « problème de l’alignement » ; c’est-à-dire comment assurer qu’une entité des milliers de fois plus intelligente que l’être humain partage nos mêmes valeurs éthiques et de préservation. Quelles certitudes avons-nous que l’avenir qui se profile derrière l’horizon ne nous écrasera pas ?
Bien que la phrase ait germé dans ses conférences et interviews du début des années 2010, elle a trouvé son écosystème parfait et sa justification théorique maximale dans les pages de son livre le plus important : Superintelligence : Chemins, dangers, stratégies (2014). Immédiat phénomène de ventes et lecture obligatoire pour l’élite technologique. Des figures comme le physicien Stephen Hawking ou les magnats Elon Musk et Bill Gates ont cité le livre comme la raison principale de leurs propres avertissements publics sur l’IA.
Bostrom recourt souvent à une puissante métaphore connue sous le nom de « l’urne de la créativité humaine ». Il la présente plus ou moins en ces termes : imaginez que l’humanité retire des billes d’une urne géante et que chaque bille est un invent. Nous avons sorti des billes blanches (la roue, la pénicilline) et des billes grises (l’énergie nucléaire, avec son double tranchant). La crainte de Bostrom est qu’il existe dans cette urne une bille noire : une technologie qui, par sa propre nature, détruira la civilisation qui la découvrira.
Superintelligence : Chemins, dangers, stratégies a sorti le débat sur la fin de l'humanité des scénarios hollywoodiens — comme les dystopies cinématographiques à la Terminator ou The Matrix — et l'a ancré avec rigueur mathématique et philosophique dans les agendas des gouvernements du monde. Sous cet angle, le « progrès » sans boussole éthique est un piège mortel. Si nous marchons vers le précipice, accélérer le pas n'est pas évoluer, c'est se suicider. Et si le progrès est la mauvaise direction ?
Pour le philosophe, la véritable maturité d'une civilisation ne se mesure pas à la puissance de ses machines, mais à sa capacité à s'arrêter, à calculer l'impact et à n'avancer que lorsque le terrain est sûr. Dans un présent où les algorithmes décident de ce que nous consommons, de la manière dont nous votons et de la direction de l'économie, l'avertissement de Nick Bostrom est un ordre d'évacuation existentiel. Le progrès, s'il doit l'être, doit d'abord nous garantir qu'il y aura un demain pour pouvoir en profiter.
Qui est Nick Bostrom ?
Né le 10 mars 1973 à Helsingborg, en Suède, Nick Bostrom (dont le nom de naissance est Niklas Boström) est un polymathe et philosophe de renommée mondiale âgé de 53 ans. Sa formation académique se distingue par une notable interdisciplinarité qui combine la physique théorique, la neurosciences computationnelle, la logique et l'intelligence artificielle. Après avoir obtenu son doctorat à la London School of Economics en 2000, il a consolidé sa carrière à l'Université d'Oxford, où il a exercé en tant que professeur titulaire.
Là-bas, à l'Université d'Oxford, il a dirigé le prestigieux Institut pour le futur de l'humanité depuis sa fondation en 2005 jusqu'à sa fermeture en avril 2024. Aujourd'hui, il continue de diriger la recherche de pointe en tant que chercheur principal au sein de la Macrostrategy Research Initiative. Tout au long de sa carrière, Bostrom a publié environ 200 travaux académiques, étant le cofondateur de Humanity+ (originellement l'Association transhumaniste mondiale).
Sa production littéraire a commencé à façonner la pensée contemporaine avec Anthropic Bias (2002) et s'est étendue avec Global Catastrophic Risks (2008), Human Enhancement (2009), The Fable of the Dragon-Tyrant (2005) et Superintelligence : Chemins, dangers, stratégies (2014). Son œuvre la plus récente est Deep Utopia: Life and Meaning in a Solved World (2024), où il explore le sens de l'existence dans un futur hypothétique où la technologie a résolu tous les problèmes de l'humanité.