Ma confession cryptographique

Il s’agit de Work in Progress, une newsletter de Derek Thompson sur le travail, la technologie et la manière de résoudre certains des plus gros problèmes de l’Amérique. Inscrivez-vous ici pour l’obtenir chaque semaine.

Sam Bankman-Fried, le fondateur disgracié de la plateforme de trading FTX, était membre de deux sectes. Ou, plus précisément, il était une figure de proue de deux mouvements que les étrangers considéraient comme sectaires. Un de ces mouvements que j’ai critiqué sans relâche. L’autre auquel j’appartiens.

Le premier est le culte de la crypto. J’ai peu caché le fait que, même si je pense que la cryptographie est anthropologiquement fascinante, sa substance, jusqu’à présent, fait presque totalement défaut. La blockchain et ses innovations associées sont parfois décrites comme une technologie extraordinaire à la recherche d’un cas d’utilisation ordinaire. Ils sont aussi un glossaire à la recherche d’une colonne vertébrale – des pages pleines de jargon (GM, ngmi, maxi, DeFi) qui sont, pour l’instant, décollées de toute vision stable de l’avenir en dehors du pari que certaines valeurs d’actifs vont monter. Pour réinventer le casino et se dire qu’ensuite, vous réinventerez le monde, il faut soit l’esprit d’un génie du voyage dans le temps, soit la foi d’un simple fanatique.

Le second est le culte de l’altruisme effectif, une philosophie qui cherche à faire le plus de bien au plus grand nombre, maintenant et à l’avenir. Malgré ses controverses, je trouve qu’EA (comme on l’appelle souvent) est un correctif convaincant pour de nombreux militants et philanthropes modernes. Si vous souhaitez donner de l’argent, EA vous invite à trouver comment faire le plus de différence dans la plupart des vies. Si vous voulez trouver un emploi significatif, il propose des idées intelligentes (peut-être, parfois, trop intelligentes) sur la façon de tracer un cheminement de carrière qui créera plus de valeur pour le monde que votre remplaçant probable.

Avant que le ciel ne tombe sur lui, Bankman-Fried parlait couramment la langue des deux mouvements. Il était l’un des fondateurs de crypto les plus riches au monde et le rare milliardaire qui s’est publiquement engagé à liquider sa fortune personnelle au profit de causes conformes à un altruisme efficace. Cette étrange juxtaposition était trop délicieuse pour que les organes de presse traditionnels puissent y résister. Rétrospectivement, tout cela ressemble à une poupée gigogne de fraude : un produit cryptographique sommaire, construit sur une approche folle de la protection des actifs des clients, enveloppé dans un effort frauduleux pour « laver la philanthropie » sa richesse mal acquise.

Une question qui circule à la suite de la chute de FTX est la suivante : dans quelle mesure ce scandale devrait-il nous faire changer d’avis sur la crypto et EA ? Comme on pouvait s’y attendre, les critiques des deux mouvements disent que la perte de Bankman-Fried devrait sonner le glas pour les deux causes.

Dans les jours qui ont suivi la faillite de FTX, j’étais prêt à croire qu’il s’agissait de rideaux pour la crypto. De combien de manières différentes le tapis a-t-il été retiré sous les promesses des boosters Web3 ?

En revanche, j’étais sur la défensive sur la question de l’altruisme effectif. Alors que les critiques d’EA affluaient, j’étais certain que les critiques étaient monstrueusement injustes. Je pensais: Si chaque philosophie exigeait l’impeccabilité de tous les participants, il n’y aurait plus de philosophies. Et: Blâmer une cause philanthropique pour l’éthique commerciale de ses donateurs est tout simplement absurde ; par définition, l’argent a déjà été gagné au moment où il est donné. Et: Quelqu’un pense-t-il réellement que la fraude aux Bahamas rend la préparation à une pandémie (une cause centrale de l’EA) moins importante pour le monde ?

Mais je réfléchissais beaucoup avec mon cœur, ce qui n’est pas nécessairement le genre de chose que les altruistes efficaces ont tendance à promouvoir. Ma mère est décédée d’un cancer du pancréas en 2013, la même année que le philosophe EA Will MacAskill a emménagé dans mon appartement à New York, en tant que sous-lettre. Au moment même où je me sentais éviscéré émotionnellement et désamarré existentiellement, j’ai découvert que son éthique était un baume inattendu. J’ai décidé que je voulais honorer la mort de ma mère avec un don important à un organisme de bienfaisance qui sauverait des vies, afin que, dans une équation cosmique, je puisse avoir l’impression d’avoir retrouvé un sens à une tragédie insensée. L’altruisme efficace est souvent rejeté comme un ersatz de religion par ses détracteurs. Mais si la religion est un outil pour transformer le chaos de la vie en histoires de sens, alors EA était plus qu’une simple réorientation philosophique pour moi, ou un simple mécanisme d’adaptation. Cela a comblé un trou de la taille d’une religion dans ma vie.

L’implosion de la réputation d’EA a frappé de près d’une autre manière : j’ai interviewé Bankman-Fried en octobre sur son approche des dons d’argent. Il ne m’a rien dit d’important, mais il a démontré une maîtrise des idées d’altruisme efficace qui le faisait passer pour un croyant sincère. Il était profondément ringard et semblait très gentil.

Considérez donc tout cela comme une confession. Ma réponse immédiate à la chute de Bankman-Fried a été que cela avait tout à voir avec le non-sens de la crypto et rien à voir avec la sagesse d’EA. Avec le temps, j’ai compris à quel point ce point de vue initial était absurde.

La détonation FTX devrait laisser une brèche dans les deux mouvements, crypto et EA. Pour la crypto, la leçon est simple : ce quasi-culte, qui parle d’autonomisation des défavorisés, s’est révélé étrangement apte à centraliser la richesse et à décentraliser les pertes à une époque de taux d’intérêt élevés. L’histoire est longue et l’éventail des résultats est encore large. Mais pour l’instant, le rapport entre les « fonds de pension perdus » et les « cas d’utilisation non liés au jeu trouvés » continue de croître.

Je pense également que le scandale devrait obliger les institutions alignées sur l’EA à être beaucoup plus critiques à l’égard de leurs financiers. Ce mouvement, si lucide sur les produits et les résultats, devrait se préoccuper également des intrants et des revenus. D’où vient l’argent de ce mouvement ? Qui ça vient de? Comment la réputation des bailleurs de fonds d’EA pourrait-elle façonner la réputation d’EA ? Ce sont des questions qui ont besoin de réponses.

De nombreux altruistes efficaces sont obsédés par la menace de l’intelligence artificielle avancée, y compris le soi-disant problème d’alignement : et si les technologues construisaient un système grand et puissant qui ne fait pas ce que nous voulons, ou ne se soucie pas de ce que nous voulons ? Un exemple stupide mais utile est que nous concevons une IA avancée pour fabriquer des trombones, et l’IA vole 1 000 milliards de dollars d’actifs bancaires pour payer des terroristes afin qu’ils acquièrent une flotte d’armes, avec lesquelles ils rançonnent les gouvernements de tous les grands producteurs d’acier. pays à céder la totalité de l’approvisionnement mondial en acier. Tout ça, juste pour satisfaire les paramètres initiaux de l’IA : fabriquer des trombones.

Aujourd’hui, les institutions EA ont un problème d’alignement. Des altruistes efficaces aidant à distribuer la richesse de SBF ont construit un système vaste et puissant dont l’acteur central n’a pas fait ce qu’il voulait et ne semblait pas se soucier finalement de ce qu’il voulait. Les bonnes intentions ne valent rien face aux mauvais résultats : c’est le problème de l’alignement, de l’utilitarisme et de l’altruisme efficace, le tout résumé dans une phrase. Mais l’inverse est également vrai : être bon fait partie du bien faire.