Future of Life Institute
Ne doit pas être confondu avec Future of Humanity Institute.
Le Future of Life Institute (FLI, Institut pour l'avenir de la vie) est une association à but non lucratif dont les bureaux physiques sont à Bruxelles, Belgique et à Campbell, Etats-Unis. Sa mission est double :
- diminuer les risques existentiels menaçant l’humanité (ou dits extrêmes à grande échelle), en particulier ceux provenant de l’intelligence artificielle (IA); et
- développer des visions optimistes de l'avenir, en particulier des façons positives de développer et d'utiliser de nouvelles technologies[1],[2].
| Fondation |
mars 2014 |
|---|
| Sigle |
(en) FLI |
|---|---|
| Type | |
| Forme juridique | |
| Domaine d'activité |
Diminution des risques existentiels, notamment de l'intelligence artificielle |
| Bureau européen | |
| Pays | |
| Coordonnées |
| Fondateurs |
Jaan Tallinn, Meia Chita-Tegmark (d), Max Tegmark, Anthony Aguirre (en) |
|---|---|
| Président | |
| Personnes clés |
Meia Chita-Tegmark (d) |
| Site web |
Le travail de FLI comprend notamment l'octroi de subventions, la sensibilisation à l'éducation et le plaidoyer au sein des Nations Unies, du gouvernement des États-Unis et des institutions de l'Union européenne.
Histoire
modifierFLI a été fondée en mars 2014 par Max Tegmark, cosmologiste à l'institut MIT, Jaan Tallinn, cofondateur de Skype, Viktoriya Krakovna, chercheuse à DeepMind, Meia Chita-Tegmark, chercheuse postdoctorale à l'université de Tufts, et Anthony Aguirre, physicien à l'UCSC.
Parmi les consultants de l'institut, on retrouve notamment l'informaticien Stuart Russell, le biologiste George Church, les cosmologistes Stephen Hawking et Saul Perlmutter, le physicien Frank Wilczek, l'entrepreneur Elon Musk, ainsi que Alan Alda et Morgan Freeman[3],[4],[5].
Opérations
modifierPlaidoyer
modifierFLI contribue activement à l'élaboration des politiques en matière d'IA.
En Europe, FLI a plaidé avec succès pour l'inclusion de systèmes d'IA plus généraux, tels que GPT-4, dans le règlement sur l'intelligence artificielle de l'UE[6].
Aux Etats-Unis, en octobre 2023, le chef de la majorité au Sénat américain, Chuck Schumer, a invité le FLI à partager son point de vue sur la réglementation de l'IA avec certains sénateurs[7].
FLI plaide activement, aux côtés d'autres organisations, contre les deepfakes (hypertrucages) afin que ceux-ci soient interdits[8] ainsi que contre les robots d'abattage[9].
Subventions de recherches
modifierEn 2015, FLI a lancé le premier programme de subventions évalué par les pairs visant à garantir que l'intelligence artificielle (IA) reste sûre, éthique et bénéfique. Lors du premier cycle, FLI a accordé 6,5 millions de dollars à 37 chercheurs[10].
En 2018, le deuxième programme de subventions de la FLI était axé sur la sécurité de l'IA[11]. En 2021, 2022 et 2023, FLI créait un nouveau programme de bourses doctorales[12] et post-doctorales[13] financé par le programmeur russo-canadien Vitalik Buterin[14].
En 2022, FLI subventionnait des projets de recherches spécifiquement afin d'approfondir la compréhension des conséquences d'une guerre nucléaire en se fondant sur des données probantes[15].
En 2024, FLI lançait un appel à propositions pour des recherches évaluant en détail l'impact de l'intelligence artificielle sur les objectifs de développement durable (ODD) relatifs à la pauvreté, aux soins de santé, à l'énergie et au changement climatique, et la manière dont on peut s'attendre à ce qu'elle ait un impact sur ces objectifs dans un avenir proche[16].
La même année, FLI lançait un autre appel à propositions de recherche dans le but de concevoir des mécanismes ou des institutions de gouvernance mondiale dignes de confiance, susceptibles de contribuer à stabiliser un avenir comportant 0, 1 ou plusieurs projets d'intelligence artificielIe générale[17].
Conférences & évènements
modifierLe 24 mai 2014, le FLI organisa une discussion sur l'avenir de la technologie (The Future of Technology: Benefits and Risks) au MIT, modérée par Alan Alda[18],[19],[20]. Les participants étaient George Church (biologiste), Ting Wu (généticien), Andrew McAfee (en) (économiste), Frank Wilczek (physicien) et Jaan Tallinn[21],[22]. La discussion portait sur de nombreux sujets, allant de l'avenir du génie biologique à l'éthique de l'intelligence artificielle et à la singularité[18],[23],[24].
Du 2 au 5 janvier 2015, le FLI organisa et hébergea la conférence « The Future of AI: Opportunities and Challenges » (L’avenir de l’IA : opportunités et défis), avec pour objectif d'identifier les directions de recherche les plus prometteuses pour bénéficier des avantages de l'IA[25]. Durant la conférence, l'institut fit circuler une lettre ouverte sur l'intelligence artificielle qui fut par la suite signée par Stephen Hawking, Elon Musk, et de nombreux autres experts dont une centaine de sommités du monde de l'IA[26].
En 2017, la conférence d'Asilomar sur l'IA bénéfique, en Californie[27], un rassemblement privé que le New York Times a appelé "les gros noms de l'IA" (y compris Yann LeCun, Elon Musk et Nick Bostrom). L'institut a publié un ensemble de principes pour le développement responsable de l'IA, issus des discussions de la conférence et signés par Yoshua Bengio, Yann LeCun et de nombreux autres chercheurs en IA[28]. Ces principes ont pu influencer la réglementation de l'intelligence artificielle et des initiatives ultérieures, telles que les principes de l'OCDE sur l'intelligence artificielle.
En 2019, la conférence bénéfique de l'intelligence artificielle générale à Porto Rico (2019)[29], avait pour objectif de répondre à des questions de long terme afin de garantir que l'intelligence artificielle générale soit bénéfique pour l'humanité[30].
Récompenses
modifierLe prix "Future of Life" rend hommage à des personnes qui, sans avoir bénéficié d'une grande reconnaissance au moment de leurs réalisations, ont contribué à rendre le monde d'aujourd'hui bien meilleur qu'il n'aurait pu l'être autrement[31].
Le prix a été attribué :
- en 2017, à la famille du défunt Vasili Arkhipov pour avoir à lui seul, en 1962, probablement évité au monde une guerre nucléaire au plus fort de la crise des missiles de Cuba[32] ;
- en 2018, à la famille du défunt Stanilas Petrov dont le jugement courageux le 26 septembre 1983 a probablement permis d'éviter une frappe nucléaire pendant la guerre froide, qui aurait pu facilement dégénérer en un conflit nucléaire ouvert[33] ;
- en 2019, à Matthew Meselson pour son travail en faveur de la Convention sur l'interdiction des armes biologiques de 1972, une interdiction internationale de mise au point, de fabrication et stockage des armes bactériologiques (biologiques) ou à toxines et sur leur destruction[34] ;
- en 2020, à la famille du défunt Dr. Viktor Zhdanov et à Dr. William Foege pour leur contribution à l'éradication du virus de la variole[35] ;
- en 2021, à Stephen Andersen, Susan Solomon et Joseph Farman, aujourd'hui décédé pour leurs contributions essentielles au protocole de Montréal de 1987 permettant de protéger la couche d'ozone [36] ;
- en 2022, à Jeannie Peterson, Paul Crutzen, John Birks, Richard Turco, Brian Toon, Carl Sagan, Georgiy Stenchikov, et Alan Robock pour avoir réduit le risque de guerre nucléaire en développant et en vulgarisant la science de l'hiver nucléaire[37] ;
- en 2023, à Nicholas Meyer, Edward Hume, Brandon Stoddard, Walter F. Parkes, et Lawrence Lasker pour avoir réduit le risque de guerre nucléaire grâce au pouvoir de la narration[38].
Lettres ouvertes
modifierLettre ouverte sur les armes autonomes létales
modifierEn 2018, FLI a rédigé une lettre appelant à l'adoption de "lois contre les armes autonomes létales". Parmi les signataires figuraient Elon Musk, Demis Hassabis, Shane Legg et Mustafa Suleyman[39].
Lettre ouverte sur une pause dans l'IA
modifierEn mars 2023, FLI a publié une lettre ouverte appelant à une pause dans le développement de systèmes d'IA plus puissants que le GPT-4[10],[40].
Lettre ouverte pour les dirigeants mondiaux
modifierEn 2024, Max Tegmark, président de la FLI, a publié une lettre avec Mary Robinson, présidente de l'ONG Global Elders, dans Le Monde, exhortant les dirigeants mondiaux à prendre des mesures urgentes face aux menaces existentielles[41].
Références
modifier- (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Future of Life Institute » (voir la liste des auteurs).
- (en) « Transcending Complacency on Superintelligent Machines », Huffington Post, (consulté le ).
- (en) « CSER News: 'A new existential risk reduction organisation has launched in Cambridge, Massachusetts' », Centre for the Study of Existential Risk, (consulté le ).
- (en) « But What Would the End of Humanity Mean for Me? », The Atlantic, (consulté le ).
- (en) « Who we are », Future of Life Institute (consulté le ).
- (en) « Our science-fiction apocalypse: Meet the scientists trying to predict the end of the world », Salon (consulté le ).
- (en) « EU artificial intelligence act not ‘futureproof’, experts warn MEPs », sur Science|Business (consulté le )
- (en-US) Nihal Krishan, « Sen. Chuck Schumer’s second AI Insight Forum covers increased R&D funding, immigration challenges and safeguards », sur FedScoop, (consulté le )
- (en) « Ban Deepfakes », sur bandeepfakes.org (consulté le )
- (en-US) « Educating about Lethal Autonomous Weapons », sur Future of Life Institute (consulté le )
- (en-US) « Pause Giant AI Experiments: An Open Letter », sur Future of Life Institute (consulté le )
- FLI, « 2018 AGI Safety Grant Program »
- (en-US) « PhD Fellowships », sur Future of Life Institute (consulté le )
- (en-US) « Postdoctoral Fellowships », sur Future of Life Institute (consulté le )
- (en-US) « FLI June 2021 Newsletter », sur Future of Life Institute (consulté le )
- (en-US) « Nuclear War Research », sur Future of Life Institute (consulté le )
- (en-US) « Call for proposals evaluating the impact of AI on Poverty, Health, Energy and Climate SDGs », sur Future of Life Institute (consulté le )
- (en-US) « Call for proposed designs for global institutions governing AI », sur Future of Life Institute (consulté le )
- (en) « Is Artificial Intelligence a Threat? », Chronicle of Higher Education (consulté le ).
- (en) « Events », Future of Life Institute (consulté le ).
- (en) « FHI News: 'Future of Life Institute hosts opening event at MIT' », Future of Humanity Institute, (consulté le ).
- (en) « The Future of Technology: Benefits and Risks », Personal Genetics Education Project, (consulté le ).
- (en) « Top 23 One-liners From a Panel Discussion That Gave Me a Crazy Idea », Diana Crow Science, (consulté le ).
- (en) « The Future of Technology: Benefits and Risks », MIT Tech TV, (consulté le ).
- (en) « The Future of AI: Opportunities and Challenges », Future of Life Institute (consulté le )
- (en) « Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter », Future of Life Institute
- (en-US) « Beneficial AI 2017 », sur Future of Life Institute (consulté le )
- (en-US) « Asilomar AI Principles », sur Future of Life Institute (consulté le )
- (en-US) « Beneficial AGI 2019 », sur Future of Life Institute (consulté le )
- « CSER at the Beneficial AGI 2019 Conference », sur www.cser.ac.uk (consulté le )
- (en-US) « Future of Life Award », sur Future of Life Institute (consulté le )
- (en-US) « Future Of Life Award 2017 », sur Future of Life Institute (consulté le )
- (en-US) « Future Of Life Award 2018 », sur Future of Life Institute (consulté le )
- (en-US) « Future Of Life Award 2019 », sur Future of Life Institute (consulté le )
- (en-US) « Future Of Life Award 2020 », sur Future of Life Institute (consulté le )
- (en-US) « Future Of Life Award 2021 », sur Future of Life Institute (consulté le )
- (en-US) « Future Of Life Award 2022 », sur Future of Life Institute (consulté le )
- (en-US) « Future Of Life Award 2023 », sur Future of Life Institute (consulté le )
- NPR, « AI Innovators Take Pledge Against Autonomous Killer Weapons »
- Andrei Stiru, « Elon Musk, Steve Wozniak et des centaines d'autres appellent à ralentir la recherche sur l'IA », sur Business AM, (consulté le )
- « Crise climatique, pandémies, armes nucléaires ou risques liés à l’IA révèlent le manque de vision de trop de leaders contemporains », Le Monde.fr, (lire en ligne, consulté le )
Voir aussi
modifierArticles dans les médias
modifier- (en) Artificial Intelligence a Threat?, dans The Chronicle of Higher Education, avec des interviews de Max Tegmark, Jaan Tallinn et Viktoriya Krakovna.
- (en) An Open Letter to Everyone Tricked into Fearing Artificial Intelligence, dans Popular Science (14 janvier 2015).
- (en) Michael del Castillo, « Startup branding doesn’t hide apocalyptic undertones of letter signed by Elon Musk », Upstart Business Journal, .
- (en) Edd Gent, « Ex Machina movie asks: is AI research in safe hands? », Engineering & Technology, .
Articles connexes
modifier- Risque de catastrophe planétaire
- Future of Humanity Institute
- Centre pour l'étude des risques existentiels
- Machine Intelligence Research Institute
Liens externes
modifier
- (en) Site officiel
- Ressource relative aux organisations :
- (en) The Future of Technology: Benefits and Risks - MIT Tech TV
