Longtermisme : comment les bonnes intentions et les riches ont créé un credo dangereux

jeu cours des dernières semaines, une photo de Tony Blair et de son pote Bill Clinton partageant un panneau avec un gamin débraillé portant un T-shirt, un short ample et des baskets a fait le tour. L’événement d’avril s’est déroulé aux Bahamas et a été financé par une entreprise appelée FTX – un soi-disant « échange cryptographique convivial » – appartenant au gamin débraillé, Sam Bankman-Fried (SBF à partir de maintenant). Blair et Clinton ont l’air très heureux d’être là, confirmant l’effet aphrodisiaque d’une grande richesse, car le garçon qui accueillait était apparemment aussi riche que Crésus, ou en tout cas valait 32 milliards de dollars.

Et c’était une vraie richesse, semblait-il. Après tout, les capital-risqueurs de Sequoia – qui avaient soutenu les succès de la Silicon Valley tels que Google et PayPal – lui avaient donné le feu vert (ainsi qu’une partie de l’argent de leurs investisseurs). Quelques mois après que Blair et Clinton aient fait leur pèlerinage aux Bahamas baignées de soleil et réglementées, l’un des partenaires de Sequoia a offert une approbation à bout de souffle de SBF et de son échange cryptographique. « Parmi les échanges que nous avions rencontrés et examinés », a-t-elle écrit, « certains d’entre eux avaient des problèmes de réglementation, certains d’entre eux étaient déjà publics. Et puis il y a eu Sam. Et FTX, qui, selon Sequoia, était « Goldilocks-perfect ».

Et puis, soudain, ce n’était plus le cas. En fait, il était effectivement en faillite. Et il avait été géré, a déclaré l’administrateur amené pour régler le gâchis, en utilisant les principes comptables de la fraternité – qui correspondaient en quelque sorte au style vestimentaire de SBF. Cependant, les milliers de crétins qui s’enrichissent rapidement qui avaient investi leurs économies dans divers échanges FTX n’ont pas été impressionnés et doivent peut-être même maintenant mettre en gage leurs costumes faits à la main.

Tout cela est normal pour le parcours de la raquette crypto, à l’exception de deux choses. La première est que SBF est un altruiste efficace proclamé, c’est-à-dire qu’il croit que l’impératif moral le plus important est de gagner beaucoup d’argent afin de pouvoir le donner pour faire le bien. La seconde est qu’il est un adepte confirmé du « longtermisme » – l’idée que l’avenir lointain devrait avoir au moins autant de poids que le présent dans la prise de décision morale et politique. En 2022 seulement, il avait, selon le Économistea injecté plus de 130 millions de dollars dans le mouvement via le FTX Future Fund, une organisation à but non lucratif qui accorde des subventions à des projets visant à assurer l’avenir à long terme de l’humanité.

Cette étrange convergence d’une philosophie du don philanthropique avec une préoccupation concernant le risque existentiel pour l’avenir de l’humanité est intrigante. Les racines philosophiques remontent à Peter Singer, un philosophe moraliste australien qui enseigne à Princeton et se décrit désormais comme un « utilitaire hédoniste ». Il est célèbre pour (entre autres) un essai de 1972, « Famine, Affluence and Morality », dans lequel il soutenait que les personnes aisées sont moralement obligées de donner beaucoup plus de ressources à des causes humanitaires que ce qui est considéré comme normal dans les cultures occidentales.

L’article de Singer a changé la vie de William MacAskill, étudiant en philosophie à Cambridge et, en tant que New yorkais son profil le met, l’a poussé « sur la voie d’un moralisme rigoureux et sans compromis » – ce qui, traduit, signifie très difficile à vivre. En tant qu’étudiant de troisième cycle à Oxford, il a donné la majeure partie de son allocation, a vécu très frugalement et a lancé une croisade morale appelée «l’altruisme efficace» (EA), l’idée que les gens devraient faire le bien de la manière la plus clairvoyante, la plus ambitieuse et la moins sentimentale. façon possible. Ainsi, par exemple, si vous êtes un jeune diplômé bien intentionné qui se demande s’il doit accepter un emploi dans une association ou devenir stagiaire dans une banque d’investissement, alors ce dernier est le moyen altruiste efficace de faire le bien, car au final vous aurez beaucoup plus de butin à distribuer.

Il y a différentes façons de voir cela. À un certain niveau, il pourrait simplement s’agir d’un lavage d’éthique qui sauve la conscience : faire en sorte que l’on se sente bien tout en gagnant des sommes colossales en finançant l’incendie de la planète. Mais à un niveau plus profond, il y a un bord dur à cela. Au lieu d’avoir à être cruel pour être gentil, vous devez être rationnel pour maximiser les bénéfices de votre organisme de bienfaisance. C’est probablement ce qui a motivé certains jeunes gars des fonds spéculatifs de Bridgewater à créer GiveWell, un groupe à but non lucratif qui tente d’identifier les opportunités de don les plus efficaces en utilisant des données concrètes plutôt que des émotions ou des sentiments moraux. « Nous recherchons, dit leur site Web, les organismes de bienfaisance qui sauvent ou améliorent le plus des vies par dollar. »

Si vous vouliez un terme chic pour cet état d’esprit, vous diriez que c’est une ramification de l’utilitarisme appelé conséquentialisme – la charité fondée non pas sur des principes explicitement moraux, mais sur des évaluations pragmatiques des conséquences d’un don. Qu’est-ce qui fera le plus grand bien au plus grand nombre ? Et cela, il s’est avéré, était de l’herbe à chat pour la récolte actuelle de jeunes milliardaires de la technologie qui sont devenus incroyablement riches alors qu’ils étaient encore dans la trentaine ou la quarantaine et aiment afficher leurs références en tant que technocrates super rationnels. Ce sont des gens qui ne veulent pas nécessairement avoir leur nom sur de vieux bâtiments universitaires ennuyeux ou faire des dons à des fondations et des galeries d’art établies. Au lieu de cela, ils veulent être impliqué d’une certaine manière et de voir leur argent obtenir des résultats et avoir un impact mesurable. Des nerds avec des cœurs, pourrait-on dire.

Il n’est pas surprenant que la petite croisade de MacAskill ait commencé à attirer beaucoup d’argent de leur part – pouvant s’élever, selon certains, à plus de 30 milliards de dollars. Dustin Muskovitz était l’un des premiers partisans. Il a été co-fondateur de Facebook et l’un des premiers contributeurs d’EA, trouvant que la philosophie de MacAskill s’alignait bien avec Open Philanthropy, la fondation qu’il a créée avec sa femme pour se spécialiser dans la « sélection de causes stratégiques ». Au fur et à mesure que l’argent de la Silicon Valley affluait, l’état d’esprit d’ingénierie de l’industrie technologique augmentait également, obsédé par deux choses : l’efficacité et l’optimisation. Mais avec eux est également venue l’obsession de la vallée pour l’avenir à long terme de l’humanité, que ce soit sur Terre, sur Mars ou dans un autre endroit extraterrestre.

À cette époque, MacAskill avait un poste de professeur à Oxford, qui se trouve également être un point chaud d’intérêt pour cet avenir à long terme. Entre autres choses, l’université accueille Nick Bostrom et son Future of Humanity Institute (FHI), et Nick Beckstead, chercheur associé à l’institut qui était également responsable de programme à la fondation Open Philanthropy de Moskovitz et, avec MacAskill, membre du conseil d’administration de Future Fund de FTX (dont lui, avec Beckstead et d’autres, a rapidement démissionné lorsque la nouvelle de l’implosion de SBF s’est répandue). Cette dérive vers le long-termisme a ensuite été effectivement scellée par la publication du livre de MacAskill Ce que nous devons à l’avenirarguant qu’influencer positivement l’avenir à long terme est une priorité morale clé de notre époque.

« Aussi étrange que cela puisse paraître », écrit-il à un moment donné, « nous sommes les anciens. Nous vivons au tout début de l’histoire, dans le passé le plus lointain. Son argument est que même si la population mondiale devait chuter de 90 %, et si nous ne survivons pas plus longtemps que la moyenne des espèces de mammifères (un million d’années), alors 99,5 % de toute l’expérience humaine n’a pas encore été vécue. Donc, si nous pouvons esquiver la catastrophe susmentionnée – un grand « si », évidemment – alors une proportion stupéfiante du temps de l’humanité sur Terre est encore à venir.

La chose intéressante est que MacAskill n’est pas aussi dérangé par une catastrophe climatique imminente que le reste d’entre nous. Ce qui l’empêche, lui et ses co-évangélistes, de dormir la nuit, semble-t-il, ce sont des choses comme des agents pathogènes conçus de manière malveillante ou des machines « superintelligentes » en fuite qui n’ont pas nos intérêts à cœur, ou tout ce qu’ils ont pour cœur. L’implication est que même si nous devrions évidemment sauver la planète et éviter les autres menaces, la vraie raison de le faire est que la fin de l’humanité signifierait que des milliards de vies potentiellement heureuses pourraient ne pas être vécues.

A ce stade, deux questions me viennent à l’esprit. Tout d’abord, qu’est-ce que ce type a fumé exactement ? Et deuxièmement, qu’est-ce qui motive cette focalisation sur l’avenir à long terme au détriment de problèmes plus immédiats et solubles ? Quels intérêts sont servis ici? MacAskill est devenu l’affiche de quelque chose; mais qu’est-ce que c’est? Sans que nous nous en apercevions, le longtermisme est devenu un mouvement bien financé.

« Il est difficile d’exagérer à quel point le long terme est devenu influent », écrit l’un de ses détracteurs de longue date, Émile Torres. « Karl Marx en 1845 a déclaré que le but de la philosophie n’est pas simplement d’interpréter le monde mais de le changer, et c’est exactement ce que les longtermistes ont fait, avec un succès extraordinaire. Considérez qu’Elon Musk, qui a cité et approuvé le travail de Bostrom, a fait don d’un million de livres sterling à FHI par l’intermédiaire de son organisation sœur, le Future of Life Institute, encore plus grandiosement nommé. Elle a été cofondée par l’entrepreneur technologique multimillionnaire Jaan Tallinn, qui « ne croit pas que le changement climatique représente un risque existentiel pour l’humanité en raison de son adhésion à l’idéologie longtermiste ».

Si un mouvement cohérent est effectivement en train de se construire autour de cette philosophie longtermiste, alors une des raisons de la prendre au sérieux est que nous avons déjà été ici – dans ce que Philip Mirowski a baptisé le « collectif de pensée néolibéral ». Lorsque Hayek, Von Mises et co se sont lancés dans leur projet de réaligner le monde sur des lignes favorables au marché, ils étaient considérés comme des manivelles continentales. Et maintenant leurs idées dominent le monde démocratique. Keynes avait tort : à long terme, nous ne sommes pas tous morts.

Ce que je lis

Perdu dans la traduction
Pourquoi le dernier grand modèle de langue de Meta n’a survécu que trois jours en ligne. Belle pièce de Will Douglas Heaven dans le Examen de la technologie MIT sur l’orgueil incurable de l’industrie technologique.

Dessoûler
« Gone Bad, Come to Life », un post révélateur de Substack de Justin EH Smith sur la fermentation, la distillation, la sobriété – et les « bucket lists ».

Point haut
« Building Fast and Slow: The Empire State Building », le récit passionnant de Brian Potter sur Substack sur la façon dont le célèbre bâtiment a été construit – dans les délais et dans les limites du budget.