Nick Bostrom

Dans un article célèbre[1], Bostrom démontre que s'il est possible de simuler des planètes habitées entières ou des univers même entiers, il est très probable que nous vivions dans une simulation informatique. Son raisonnement est le suivant : il est probable que dans le futur, notre civilisation atteindra un niveau de technologie tel qu'elle pourra créer des simulations informatiques extrêmement sophistiquées des esprits humains et des mondes où habiter. Un simple ordinateur portable pourrait être l'habitation de milliers d'esprits simulés. Aussi, selon toute probabilité, les esprits simulés seront rapidement plus nombreux que les esprits biologiques. Les expériences des esprits biologiques et des esprits simulés seront impossibles à distinguer et tous ces esprits penseront évidemment qu'ils ne sont pas simulés, mais les derniers seront en fait trompés. Or qu'est-ce qui peut nous prouver que nous n'appartenons pas déjà à un de ces mondes simulés ? Rien et selon Bostrom il est donc très probable que nous soyons dans cette situation.

Le raisonnement de Bostrom présente néanmoins certaines failles. D'après Fabien Besnard[2], si nous sommes dans un univers infini, le nombre de civilisations simulées et de civilisations simulatrices n'est pas calculable et donc la probabilité d'appartenir à un monde simulé ne l'est pas non plus. De manière plus fondamentale, si des mondes simulés existent, il est impossible de connaître les propriétés d'un monde physique (i.e. non simulé) et donc de déterminer son caractère infini ou non.

Dans son livre Superintelligence : chemins, dangers, stratégies publié en 2014, Bostrom explore les conséquences de l’existence de systèmes aux « performances cognitives [dépassant] grandement celle des humains dans tous les domaines ». Selon lui, ces agents super-intelligents pourraient permettre des avantages sociétaux importants et poser en même temps un risque existentiel significatif pour l’humanité. Il souligne qu’il est crucial que nous fassions preuve de grande prudence, et que nous prenions des mesures pour atténuer les risques auxquels nous pourrions être confrontés dans le futur. En janvier 2015, Bostrom rejoint Stephen Hawking, Max Tegmark, Elon Musk, Lord Martin Rees, Jaan Tallinn, et d'autres, en signant la lettre ouverte du Future of Life Institute avertissant des dangers potentiels liés à l'intelligence artificielle. Les signataires estiment que « les recherches permettant de rendre les IA sûres sont à la fois cruciales et opportunes et qu'il existe des directions de recherche concrètes à explorer dès aujourd’hui »[3]^,[4].

• (en) Nick Bostrom, « Are you living in a computer simulation ? », Philosophical Quarterly, vol 53, N^o 211, 2003 (version en ligne)
• (en) Nick Bostrom, Superintelligence : Paths, Dangers, Strategies, 2014, 328 p. (ISBN 978-0-19-967811-2, lire en ligne)
• Nick Bostrom (trad. de l'anglais par Françoise Parot), Superintelligence, Malakoff, Dunod, coll. « Quai des Sciences », 11 octobre 2017, 496 p. (ISBN 978-2-10-076486-0)