DasFuture of Life Institute (FLI, Institut für die Zukunft des Lebens) ist eine unabhängige gemeinnützige Organisation mit Büros in Brüssel, Belgien und in Campbell, USA. Die Ziele vom FLI sind die Verringerung vonexistenziellen Risiken für die Menschheit, insbesondere von Risiken auskünstlicher Intelligenz (KI) sowie die Entwicklung positiver Zukunftsvisionen, welche durch transformative Technologie ermöglicht werden.^[1][2] Die Arbeit des Instituts umfasst unter anderem die Vergabe von Fördermitteln, Bildungsarbeit und Interessenvertretung bei denVereinten Nationen, der Regierung derVereinigten Staaten und den Institutionen derEuropäischen Union.

Das Institut wurde im März 2014 vonMax Tegmark, Kosmologe amMIT,Jaan Tallinn, Mitbegründer von Skype, Viktoriya Krakovna, Forscherin bei DeepMind, Meia Chita-Tegmark, Postdoctoral Research Fellow an der Tufts University, undAnthony Aguirre, Physiker an der UCSC, gegründet.

Zu den Beratern des Instituts gehören unter anderem der InformatikerStuart Russell, der BiologeGeorge Church, der KosmologeSaul Perlmutter, der PhysikerFrank Wilczek, der UnternehmerElon Musk sowieAlan Alda undMorgan Freeman.^[3][4][5]

Das Institut trägt aktiv zu globalen und regionalen Debatten über KI Politik bei.

In Europa hat sich das Institut beispielsweise erfolgreich dafür eingesetzt, dass Allzweck KI-Systeme wie GPT-4 in dieEU-Verordnung über künstliche Intelligenz aufgenommen werden.^[6]

Auch in den USA setzt sich das Institut für Gesetze zur Regulierung von künstlicher Intelligenz ein.^[7] Im Oktober 2023 lud der Mehrheitsführer im US-Senat,Chuck Schumer, das FLI dazu ein, seine Ansichten zur KI-Regulierung mit ausgewählten Senatoren zu teilen.^[8]

Das Institut setzt sich zusammen mit anderen Organisationen aktiv für die Verbote von nicht einvernehmlichenDeepfakes^[9][10] undtödlichen autonomen Waffen^[11] ein. Obwohl Elon Musks KI-Bot "Grok" Deepfakes erstellt hat^[12], ist er weiterhin Advisor^[13]. In 2017 veröffentlichte das FLI zusammen mitStuart RussellSlaughterbots, ein Video, welches vor den Gefahren bewaffneter Drohnenschwärme warnt.^{[14][15][16][17]}

2015 startete das Institut das erste peer-reviewte Zuschussprogramm, das sicherstellen sollte, dass künstliche Intelligenz (KI) sicher, ethisch vertretbar und nutzbringend bleibt. In der ersten Runde vergab FLI 6,5 Millionen US-Dollar an 37 Forscher.^[18]

Das zweite Förderprogramm des Instituts zur Sicherheit von KI fand 2018 statt.^[19] In den Jahren 2021, 2022 und 2023 richtete das FLI ein neues Stipendienprogramm für Doktoranden^[20] und Postdoktoranden^[21] ein, das von dem russisch-kanadischen ProgrammiererVitalik Buterin^[22] finanziert wurde.

Das Förderprogramm von 2022 fokussierte sich auf Forschungsprojekte, welche das wissenschaftliche Verständnis der Folgen eines Atomkriegs zu vertiefen.^[23]

Im Jahr 2024 veröffentlichte das Institut einen Aufruf zur Einreichung von Forschungsvorschlägen, welche analysieren, wie sich künstliche Intelligenz in naher Zukunft auf dieZiele für nachhaltige Entwicklung (SDGs) in Bezug auf Armut, Gesundheitsversorgung, Energie und Klimawandel auswirken wird.^[24]

Im selben Jahr veröffentlichte das Institut einen weiteren Aufruf zur Einreichung von Forschungsvorschlägen mit dem Ziel, vertrauenswürdige Mechanismen oder Institutionen für eine globale Governance zu entwerfen, die dazu beitragen können, eine Zukunft mit keinem, einem oder mehreren Projektenallgemeiner künstlicher Intelligenz zu stabilisieren.^[25]

Weiterhin stellte das Institut 2024 bis zu 4 Mio. USD zur Verfügung, um Projekte zur Verringerung der Gefahren der KI-gesteuerter Machtkonzentration zu unterstützen.^[26]

Am 24. Mai 2014 veranstaltete das Institut am MIT eine Diskussion über die Zukunft der Technologie (The Future of Technology: Benefits and Risks), die vonAlan Alda^[27][28] moderiert wurde. Die Teilnehmer warenGeorge Church (Biologe),Ting Wu (Genetiker),Andrew McAfee (Wirtschaftswissenschaftler),Frank Wilczek (Physiker) undJaan Tallinn.^[29] Die Diskussion umfasste eine Vielzahl von Themen, von der Zukunft derBiotechnologie bis hin zurEthik der künstlichen Intelligenz und derSingularität.^[30]

Vom 2. bis 5. Januar 2015 organisierte und veranstaltete das Institut die Konferenz „The Future of AI: Opportunities and Challenges“ (Die Zukunft der KI: Chancen und Herausforderungen), deren Ziel es war, die vielversprechendsten Forschungsrichtungen zu identifizieren, um die Vorteile der KI zu nutzen.^[31][32] Während der Konferenz ließ das Institut einen offenen Brief über künstliche Intelligenz zirkulieren, der später vonStephen Hawking,Elon Musk und vielen anderen Experten unterzeichnet wurde, darunter 100 führende Persönlichkeiten aus der Welt der KI.^[33]

2017 organisierte das Institut die Asilomar Conference on Beneficial AI in Kalifornien,^[34] eine private Zusammenkunft, die von der New York Times als „die großen Namen der KI“ bezeichnet wurde (darunterYann LeCun,Elon Musk undNick Bostrom). Das Institut veröffentlichte eine Reihe von Grundsätzen für die verantwortungsvolle Entwicklung von KI, die aus den Diskussionen auf der Konferenz hervorgegangen waren und vonYoshua Bengio, Yann LeCun und vielen anderen KI-Forschern unterzeichnet wurden.^[35]

2019 hat das Institut die Beneficial AGI Conference in Puerto Rico^[36] abgehalten, mit dem Ziel, langfristige Fragen zu beantworten, um sicherzustellen, dass fortgeschrittene künstliche Intelligenz der Menschheit helfen wird.^[37]

Der jährliche „Future of Life“-Preis ehrt Menschen, die zum Zeitpunkt ihrer Leistungen keine große Anerkennung genossen haben, aber signifikant dazu beigetragen haben, die Welt zu verbessern.^[38]

Preise wurden verliehen an:

• 2017: Familie des verstorbenenVasili Arkhipov, weil er 1962 auf dem Höhepunkt der Kuba-Raketenkrise wahrscheinlich im Alleingang die Welt vor einem Atomkrieg bewahrt hat;^[39]
• 2018: Familie des verstorbenenStanislas Petrov, dessen mutiges Urteil am 26. September 1983 wahrscheinlich einen Atomschlag während des Kalten Krieges verhindert hat, der einen offenen Atomkonflikt hätte auslösen können;^[40]
• 2019:Matthew Meselson für seine Arbeit zurBiowaffenkonvention von 1972, ein internationales Verbot der Entwicklung, Herstellung und Lagerung bakteriologischer (biologischer) Waffen und Toxinwaffen, sowie zur die Vernichtung solcher Waffen;^[41]
• 2020: Familie des verstorbenenWiktor Schdanow und anWilliam Foege für ihren Beitrag zur Ausrottung desPockenvirus;^[42]
• 2021:Stephen Andersen,Susan Solomon und den inzwischen verstorbenenJoseph Farman für ihre wesentlichen Beiträge zumMontrealer Protokoll von 1987 zum Schutz derOzonschicht;^[43]
• 2022:Jeannie Peterson,Paul Crutzen,John Birks,Richard Turco,Owen Toon,Carl Sagan,Georgiy Stenchikov undAlan Robock für die Verringerung des Risikos eines Atomkriegs durch die Entwicklung und Popularisierung der Wissenschaft desnuklearen Winters;^[44]
• 2023:Nicholas Meyer,Edward Hume,Brandon Stoddard,Walter F. Parkes undLawrence Lasker für die Verringerung des Risikos einesAtomkriegs durch öffentlichkeitswirksame Filme.^[45]
• 2024:Batya Friedman,James H. Moor undSteve Omohundro für ihre Forschung zu Computerethik und KI-Sicherheit und Anwendung dieser.^[46]

2018 veröffentlichte das Institut einen Brief, in dem die Verabschiedung von „Gesetzen gegen tödliche autonome Waffen“ gefordert wurde. Zu den Unterzeichnern gehörtenElon Musk,Demis Hassabis,Shane Legg undMustafa Suleyman.^[47]

Im März 2023 erschien ein offener Brief, in dem eine Pause bei der Entwicklung von KI-Systemen gefordert wurde, die leistungsfähiger als GPT-4 sind. Der Brief warnt vor ernsthaften Risiken für die Menschheit und wurde von über 33.000 Menschen unterzeichnet. Zu den Unterzeichnern zählen bekannte Namen aus Industrie und Forschung wieYoshua Bengio,Stuart Russell,Elon Musk,Steve Wozniak undYuval Noah Harari.^[48][49][50]

2024 veröffentlichte Max Tegmark, Präsident des FLI, zusammen mitMary Robinson, Präsidentin der NGOGlobal Elders, einen Brief in Le Monde, in dem er die führenden Politiker der Welt dazu aufforderte, angesichts der existenziellen Bedrohungen dringend Maßnahmen zu ergreifen.^[51][52][53]

• Zukunftsforschung
• Organisation (Brüssel)
• Eingetragen im Lobbyregister des Deutschen Bundestags
• Forschungseinrichtungsgründung 2014