Nick Bostrom

Dès son jeune âge, il manifeste une aversion pour l'école et passe sa dernière année de lycée à étudier chez lui. Il poursuit des études supérieures et obtient un doctorat à la London School of Economics en 2000. Sa carrière académique le mène ensuite à l'université d'Oxford, où il devient professeur de philosophie et où il va fonder l'institution qui le rendra mondialement célèbre. En 1998, avant même la fin de son doctorat, il cofonde avec David Pearce la World Transhumanist Association, une organisation qui deviendra plus tard Humanity+, et qui milite pour l'utilisation éthique des technologies afin d'améliorer les capacités humaines. En 2004, il participe également à la création de l'Institut d'éthique pour les technologies émergentes avec James Hughes. Ces engagements précoces montrent déjà l'orientation de sa pensée vers les questions relatives à l'avenir de l'humanité face aux avancées technologiques.

C'est en novembre 2005 qu'il fonde le Future of Humanity Institute (FHI) au sein de l'Oxford Martin School, un centre de recherche interdisciplinaire rattaché à la faculté de philosophie d'Oxford. Ce centre, qu'il dirigera pendant près de vingt ans, s'est consacré à l'étude des risques existentiels pour l'humanité, à l'avenir de l'intelligence artificielle, ainsi qu'aux perspectives à long terme de notre espèce. Sous sa direction, le FHI attire des chercheurs renommés comme le futurologue Anders Sandberg, l'ingénieur Kim Eric Drexler, l'économiste Robin Hanson ou encore le philosophe Toby Ord. L'institut a fourni des analyses et conseils à de nombreuses organisations internationales, dont le Forum économique mondial, la fondation MacArthur, l'Organisation mondiale de la santé, ainsi qu'à plusieurs gouvernements. 

Entre-temps, Bostrom a publié Anthropic Bias: Observation Selection Effects in Science and Philosophy (2002), où il développe une analyse formelle des biais anthropiques, c'est-à-dire des erreurs de raisonnement liées au fait que toute observation est conditionnée par l'existence de l'observateur. Il formalise notamment le principe d'auto-sélection et le principe d'auto-indication, deux cadres probabilistes pour traiter des paradoxes comme celui de l'argument de l'apocalypse (Doomsday argument). Cet ouvrage est particulièrement technique et s'inscrit à l'interface de la philosophie des probabilités et de la cosmologie.

En 2003, Bostrom publie un article académique qui va connaître une très large notoriété : Are You Living in a Computer Simulation? Il y développe ce qu'on appelle l'hypothèse de la simulation, selon laquelle si une civilisation atteint un niveau technologique suffisant pour créer des simulations réalistes de conscience, et si elle en crée un grand nombre, il devient probable que nous vivions nous-mêmes dans une telle simulation. Cet argument, qui mêle philosophie, probabilités et théorie informatique, a eu un retentissement considérable bien au-delà de la philosophie académique, influençant la culture populaire et les débats sur la nature de la réalité.

Il acquiert une renommée internationale encore plus large en 2014 avec la publication de son livre Superintelligence : Paths, Dangers, Strategies. Dans cet ouvrage devenu un best-seller, il examine les risques existentiels associés au développement d'une intelligence artificielle générale dépassant les capacités humaines, ce qu'il nomme la superintelligence. Bostrom distingue plusieurs trajectoires possibles vers la superintelligence (IA, émulation du cerveau, systèmes hybrides) et insiste sur le problème du contrôle : comment aligner une intelligence supérieure avec les valeurs humaines. Il introduit des concepts devenus fondamentaux comme le paperclip maximizer, une expérience de pensée illustrant les dérives potentielles d'objectifs mal définis. L'ouvrage a fortement influencé les débats contemporains sur la sécurité de l'IA.

Avec Human Enhancement (2009), coédité avec Julian Savulescu, Nick Bostrom étudie les implications éthiques et sociales des technologies visant à améliorer les capacités humaines (cognitives, physiques, émotionnelles). L'ouvrage discute des questions de justice, d'identité et de nature humaine, dans une perspective ordinairement associée au transhumanisme, courant auquel le philosophe est étroitement lié.

Grâce à ces travaux, Bostrom est régulièrement cité parmi les penseurs les plus influents dans le domaine des technologies futures. Le magazine Foreign Policy l'inscrit deux fois, en 2009 et 2015, dans sa liste des Global Thought Leaders. Son institut reçoit d'importants financements pour poursuivre ses recherches, notamment une subvention d'un million de livres sterling en 2015 de la part du Future of Life Institute, avec le soutien financier de l'homme d'affaires Elon Musk, ainsi qu'un don pouvant atteindre 13,3 millions de livres sterling en 2018 de la part d'Open Philanthropy et Good Ventures.

Cependant, le parcours de Nick Bostrom n'est pas sans susciter des controverses. Certaines de ses positions, en particulier sur les questions d'amélioration humaine et sur l'analyse des risques existentiels, sont critiquées par des voix issues de la gauche et des mouvements de justice sociale. Un article du Guardian publié en avril 2024 évoque même un héritage "toxique et contesté" pour décrire l'influence du FHI et de certaines idées qui y ont émergé, comme le longtermisme. Après près de deux décennies d'existence, le Future of Humanity Institute a fermé ses portes le 16 avril 2024, en raison, selon les informations disponibles, d'obstacles administratifs. Nick Bostrom continue toutefois d'enseigner et de mener ses recherches à l'université d'Oxford, où il reste une figure centrale de la réflexion philosophique sur les défis posés par les technologies émergentes à très long terme pour l'espèce humaine.

Parmi ses dernières contributions, on note Deep Utopia: Life and Meaning in a Solved World (2024) où Bostrom s'intéresse au scénario d'un monde où tous les problèmes matériels et techniques seraient résolus. Il y analyse les défis existentiels, psychologiques et philosophiques d'une telle utopie, notamment la question du sens de la vie dans un contexte d'abondance totale. Ce travail marque un déplacement de son intérêt, des risques vers les conditions d'une réussite extrême de la civilisation.