Make this article seo compatible,Let there be subheadings for the article, be in french, create at least 700 wordsComment pouvons-nous accéder aux énormes avantages potentiels de l’intelligence artificielle – comme la conception de nouveaux médicaments qui sauvent des vies ou la découverte de nouvelles façons d’enseigner aux enfants – sans ouvrir une boîte aux horreurs ?Si nous n’y prêtons pas attention, l’IA pourrait être un monstre de Frankenstein. Cela pourrait supprimer presque tous les emplois. Cela pourrait conduire à une guerre autonome.Même un objectif aussi banal que de fabriquer autant de trombones que possible, affirment les critiques de l’IA, pourrait pousser une IA toute-puissante à mettre fin à toute vie sur Terre à la recherche de plus de clips.Alors, comment bâtiriez-vous une entreprise conçue pour bénéficier autant que possible des avantages de l’IA tout en évitant ces risques ?Vous pourriez commencer avec un conseil d’administration à but non lucratif composé d’éthiciens et de spécialistes des inconvénients potentiels de l’IA.Cette organisation à but non lucratif aurait besoin de grandes quantités de puissance de calcul coûteuse pour tester ses modèles, de sorte que le conseil d’administration de l’organisation à but non lucratif devrait superviser une branche commerciale à but lucratif qui attirerait les investisseurs.Comment empêcher les investisseurs de reprendre l’entreprise ? Il faudrait limiter le montant des bénéfices pouvant être reversés aux investisseurs (par le biais d’une structure dite de « profit plafonné »), et vous ne placeriez pas d’investisseurs au conseil d’administration.Mais comment empêcher la cupidité de corrompre l’entreprise, alors que les membres du conseil d’administration et les employés sont attirés par la perspective de gagner des milliards ?Eh bien, vous ne pouvez pas. C’est là le défaut de toute l’idée d’une entreprise privée développant l’IA.L’organisation à but non lucratif que j’ai décrite était la structure dirigeante avec laquelle OpenAI a débuté en 2015, lorsqu’elle a été créée en tant qu’organisation à but non lucratif axée sur la recherche pour développer une technologie d’IA sûre.Mais depuis que ChatGPT d’OpenAI semble être en passe d’atteindre le Saint Graal de la technologie – une plate-forme grand public qui générerait des milliards de dollars de bénéfices – sa mission de sécurité à but non lucratif a été mise en danger par les grosses sommes d’argent.Aujourd’hui, beaucoup d’argent est en train de dévorer la sécurité.En 2019, OpenAI est passée à une structure de bénéfices plafonnés afin d’attirer les investisseurs vers la puissance de calcul et les talents en IA.Le plus grand investisseur extérieur d’OpenAI est Microsoft, qui souhaite évidemment apporter le plus d’argent possible à ses dirigeants et à ses actionnaires. Depuis 2019, Microsoft a investi 13 milliards de dollars dans OpenAI, dans l’espoir de réaliser un énorme retour sur cet investissement.Mais la structure de profit plafonnée et le conseil d’administration à but non lucratif d’OpenAI limitaient les gains de Microsoft. Ce qu’il faut faire?Sam Altman, PDG d’OpenAI, a apparemment essayé de gagner sur deux tableaux : donner à Microsoft une partie de ce qu’il voulait sans abandonner les objectifs humanitaires et les garanties de l’organisation à but non lucratif.Cela n’a pas fonctionné. La semaine dernière, le conseil d’administration à but non lucratif d’OpenAI a expulsé Altman, probablement par crainte qu’il ne se penche trop vers l’objectif de Microsoft de gagner de l’argent, tout en accordant une attention insuffisante aux menaces posées par l’IA.Où est allé Altman après avoir été licencié ? À Microsoft, bien sûr.Et qu’en est-il des plus de 700 employés d’OpenAI, son précieux vivier de talents ?Même si nous supposons qu’ils se soucient de la sécurité, ils possèdent des actions dans l’entreprise et gagneront énormément d’argent si OpenAI donne la priorité à la croissance plutôt qu’à la sécurité. On estime qu’OpenAI pourrait valoir entre 80 et 90 milliards de dollars dans le cadre d’une offre publique d’achat, ce qui en ferait l’une des startups technologiques les plus valorisées au monde de tous les temps.ignorer la promotion de la newsletter précédenteInscrivez-vous pour Suivez Robert ReichRecevez les dernières chroniques de Robert Reich directement dans votre boîte de réception », »newsletterId »: »follow-robert-reich », »successDescription »: »Recevez les dernières chroniques de Robert Reich directement dans votre boîte de réception »} » config= » »renderingTarget »: »Web », »darkModeAvailable »:false « >Avis de confidentialité: Les newsletters peuvent contenir des informations sur des organismes de bienfaisance, des publicités en ligne et du contenu financé par des tiers. Pour plus d’informations, consultez notre Politique de confidentialité. Nous utilisons Google reCaptcha pour protéger notre site Web et la politique de confidentialité et les conditions d’utilisation de Google s’appliquent.après la promotion de la newsletterIl n’est donc pas surprenant que presque tous les employés d’OpenAI aient signé une lettre plus tôt cette semaine, disant au conseil d’administration qu’ils suivraient Altman chez Microsoft si le conseil d’administration ne réintégrait pas Altman au poste de PDG.Toutes les personnes impliquées – y compris Altman, les employés d’OpenAI et même Microsoft – gagneront beaucoup plus d’argent si OpenAI survit et peut vendre ses actions dans le cadre de l’offre publique d’achat.Presto.Mardi, le conseil d’administration d’OpenAI a réintégré Altman au poste de directeur général et a accepté de se restructurer – en abandonnant les membres du conseil d’administration qui s’étaient opposés à lui et en en ajoutant deux qui semblent heureux de répondre aux attentes de Microsoft – Bret Taylor, un des premiers dirigeants de Facebook et ancien co-directeur général de Salesforce, et Lawrence Summers, l’ancien secrétaire au Trésor.Satya Nadella, PDG de Microsoft, dit il a été « encouragé par les changements apportés au conseil d’administration d’OpenAI », les qualifiant de « première étape essentielle sur la voie d’une gouvernance plus stable, mieux informée et efficace ».Une gouvernance efficace… pour gagner énormément d’argent.Tout montre que le véritable monstre Frankenstein de l’IA est la cupidité humaineLa presse économique – pour qui le « succès » se définit automatiquement comme le fait de gagner le plus d’argent possible – s’en réjouit.Il avait décrit à plusieurs reprises le conseil d’administration à but non lucratif comme une structure de gouvernance « alambiquée » qui empêchait Altman d’avancer « encore plus vite », et avait prédit que si OpenAI s’effondrait dans la lutte entre croissance et sécurité, « les gens blâmeront le conseil d’administration pour… détruire ». des milliards de dollars de valeur actionnariale.Tout cela montre que le véritable monstre Frankenstein de l’IA est la cupidité humaine.On ne peut pas compter sur l’entreprise privée, motivée par l’attrait de profits toujours plus importants, pour se protéger contre les horreurs que créera une IA sans entrave.La bataille effrénée de la semaine dernière autour d’OpenAI montre que même un conseil d’administration à but non lucratif avec une structure de profit plafonnée pour les investisseurs ne peut rivaliser avec la puissance des grandes technologies et de Wall Street.L’argent finit par triompher.La question pour l’avenir est de savoir si le gouvernement – également sensible à la corruption de gros capitaux – peut mieux comparer les avantages potentiels de l’IA et ses horreurs potentielles, et réglementer ce monstre.
Source link -57