Pour les articles homonymes, voirFHI.
| Future of Humanity Institute | |
 Logo du Future of Humanity Institute | |
| Situation | |
|---|---|
| Création | 2005 |
| Dissolution | 16 avril 2024 |
| Siège | Oxford,Angleterre |
| Organisation | |
| Directeur | Nick Bostrom |
| Organisations affiliées | Faculté de Philosophie (en),université d'Oxford |
| Site web | fhi.ox.ac.uk |
modifier  | |
LeFuture of Humanity Institute (FHI,Institut pour l'avenir de l'Humanité) était un centre de rechercheinterdisciplinaire de l'université d'Oxford, se consacrant aux questions concernant l'humanité et son avenir. Il fut fondé en 2005 comme une unité de la faculté de philosophie et de l'Oxford Martin School (en)[1]. Dirigé par le philosopheNick Bostrom, son équipe de recherche inclut lefuturologueAnders Sandberg, l'ingénieurKim Eric Drexler, l'économisteRobin Hanson, etToby Ord, le fondateur deGiving What We Can[2]. Il a été fermé le 16 avril 2024 du fait d'obstacles administratifs[3].
Partageant des locaux et travaillant en collaboration avec leCentre for Effective Altruism[4], l’objectif de l’Institut était d’orienter les recherches vers le plus grand bien pour l’humanité à long terme[5],[6]. Il était engagé dans des activités académiques, mais aussi dans la promotion de discussions et d’analyses informées au sein d’organisations gouvernementales, commerciales, et autres.
Nick Bostrom a créé l’Institut en novembre 2005, comme une unité de l'Oxford Martin School (en) (à l'époque, la James Martin 21st Century School)[1]. Entre 2008 et 2010, le FHI hébergea la conférence sur lesrisques de catastrophe planétaire, écrivit 22 articles pour des journaux académiques, et publia 34 chapitres dans des ouvrages collectifs ; les chercheurs du FHI ont été mentionnés plus de 5 000 fois dans les médias[7], et il a fourni des analyses et des conseils auforum économique mondial, à des organisations privées ou à but non lucratif, comme lafondation MacArthur, et l'Organisation mondiale de la santé), ainsi qu'à des organisations gouvernementales enSuède, à Singapour, en Belgique, au Royaume-uni, et auxÉtats-unis. Nick Bostrom et le bioéthisteJulian Savulescu (en) ont également publiéHuman Enhancement en mars 2009[8]. Plus récemment, le FHI s'est concentré sur les dangers de l'intelligence artificielle (forte). En 2014, ses chercheurs ont publié plusieurs livres sur les risques créés par l'IA, parmi lesquelsSmarter Than Us, de Stuart Armstrong, etSuperintelligence : Paths, Dangers, Strategies, de Nick Bostrom[9],[10].
Les sujets les plus vastes étudiés par le FHI sont lesrisques de catastrophe planétaire, et en particulier les « risques existentiels ». Dans un article de 2002, Nick Bostrom définit un risque existentiel comme« un évènement qui annihilerait la vie intelligente sur Terre ou réduirait son potentiel de façon drastique et permanente »[11]. Cela englobe des scénarios dans lesquels l'humanité, sans être détruite, échoue àcoloniser l'espace et à utiliser les ressources de l'univers observable, comme Bostrom l'expose en 2003 dans son article sur lecoût des opportunités manquées[12].
Dans leur livre de 2008,Global Catastrophic Risks, Bostrom etMilan Ćirković réunissent des essais sur de nombreux risques de catastrophes, naturelles ou créées par l'homme. Les risques naturels, comme lesuper-volcanisme, lesimpacts cosmiques, ou encore des évènements astronomiques très énergétiques comme lessursauts gamma ou lessupernovas, présentent un risque faible et assez bien compris[13],[6], c'est pourquoi le FHI s'intéresse surtout aux risques technologiques tels que leréchauffement climatique, laguerre nucléaire, ou les risques présentées par lesnanotechnologies et l'intelligence artificielle, ainsi qu'auxpandémies que pourraient provoquer desarmes biologiques. Les chercheurs du FHI ont également étudié l’impact du progrès technologique sur les sociétés et les institutions, allant dutotalitarisme à lamontée du chômage, et aux risques liés à l’information[14].
Le FHI accorde beaucoup d’attention à des menaces exotiques qui ont été peu explorées par d’autres organisations, et aux considérations méthodologiques permettant la prévision et la réduction des risques existentiels. L’Institut a particulièrement insisté sur l’importance dans ce contexte de« raisonnements anthropiques », un domaine encore mal exploré ayant des implications épistémologiques très générales.
Parmi les arguments anthropiques étudiés par le FHI, l'argument de l'apocalypse affirme que l'humanité devrait s'éteindre bientôt, parce que le plus probable est que les humains vivant actuellement sont près du milieu de la distribution des humains qui auront existé[13]. Nick Bostrom a également proposé l’« argument de la simulation », qui suggère que si nos chances d'éviter les risques existentiels sont élevées, il est probable que nous vivions dans uneréalité simulée[15].
Un autre thème récurrent chez les chercheurs du FHI est leparadoxe de Fermi, c’est-à-dire l’absence surprenante de civilisations extraterrestres observables.Robin Hanson en a déduit l’existence d’un« grand filtre » empêchant la colonisation de l’espace, filtre qui pourrait avoir agi dans le passé (si l’intelligence est beaucoup plus rare que nous le pensons) ou dans notre avenir (si les risques existentiels sont suffisamment importants).
En liaison étroite avec le travail du FHI sur l’évaluation des risques dus à de nouvelles technologies figurent des travaux sur les promesses et les dangers d’améliorations des êtres humains. Ces modifications peuvent être biologiques, sociologiques, ou utiliser des ressources informatiques ; les études portent surtout sur les hypothèses les plus radicales, plutôt que sur des progrès prévisibles à court terme. Ainsi,les recherches du FHI enbioéthique étudient les conséquences potentielles de lathérapie génique, mais aussi desimplants cérébraux et desinterfaces neuronales, ainsi que dutéléchargement de l'esprit[16].
FHI a également mis l’accent sur les méthodes permettant d’évaluer et d’améliorer l’intelligence et la rationalité, afin de diriger et d’accélérer les progrès sociaux et technologiques. Le travail du FHI sur les sources d’irrationalité, comme lesheuristiques de jugement et lesbiais cognitifs, inclut en particulier une collaboration permanente avecAmlin (en) pour l'étude desrisques systémiques découlant de biais dans les modèles utilisés[17],[18].
