Nous sommes à un moment Frankenstein.
Un boom de l’intelligence artificielle s’empare de la Silicon Valley, avec des entreprises de haute technologie qui se battent pour tout développer, des voitures autonomes aux chatbots capables d’écrire de la poésie.
Pourtant, l’IA pourrait également propager des théories du complot et des mensonges encore plus rapidement qu’Internet ne le fait déjà – alimentant la polarisation politique, la haine, la violence et la maladie mentale chez les jeunes. Cela pourrait saper la sécurité nationale avec des deepfakes.
Ces dernières semaines, des membres du Congrès ont tiré la sonnette d’alarme sur les dangers de l’IA mais aucun projet de loi n’a été proposé pour protéger les individus ou stopper le développement des aspects les plus menaçants de l’IA.
La plupart des législateurs ne savent même pas ce qu’est l’IA, selon le représentant Jay Obernolte, le seul membre du Congrès titulaire d’une maîtrise en intelligence artificielle.
Ce qu’il faut faire?
De nombreux cadres technologiques affirment pouvoir simultanément veiller aux intérêts de leur entreprise et à ceux de la société. Déchets. Pourquoi devrions-nous supposer que leurs motivations de profit correspondent parfaitement aux besoins du public ?
Sam Altman – le PDG d’OpenAI, la société responsable de certaines des avancées récentes les plus époustouflantes de l’IA – estime qu’aucune entreprise, y compris la sienne, ne devrait être digne de confiance pour résoudre ces problèmes. Les limites de l’IA devraient être décidées, dit-il, non pas par « Microsoft ou OpenAI, mais la société, les gouvernements, quelque chose comme ça ».
Mais est-ce que quelqu’un fait confiance au gouvernement pour faire cela? Si non, comment la « société » peut-elle le gérer ? Où pouvons-nous chercher un modèle pour nous protéger des inconvénients d’une technologie émergente avec des avantages aussi extraordinaires, sans l’étouffer ?
Un endroit à regarder est Herbert Hoover. Sérieusement. Pas quand Hoover était président et qu’il n’a notoirement rien fait contre la Grande Dépression, mais quand il était secrétaire américain au commerce entre 1921 et 1929.
L’une des grandes réalisations de Hoover il y a un siècle, largement méconnue et oubliée aujourd’hui, a été de gérer le développement d’une nouvelle technologie cruciale dans l’intérêt public.
Cette nouvelle technologie était l’électricité. Thomas Edison et d’autres entrepreneurs et les sociétés qu’ils ont engendrées faisaient activement la promotion de toutes sortes de gadgets électriques.
Ces gadgets avaient le potentiel de faciliter la vie de millions de personnes. Mais ils pourraient également présenter de graves dangers. Ils pourraient détruire des bâtiments et blesser ou tuer des gens.
Hoover s’est efforcé de s’assurer que l’infrastructure électrique – fils, prises, connecteurs, fusibles, tension et tout le reste – était sûre et fiable. Et qu’il était conforme à des normes uniformes afin que les produits soient compatibles les uns avec les autres.
Il a créé ces normes de sécurité, de fiabilité et de compatibilité en convoquant des groupes d’ingénieurs, de scientifiques, d’universitaires, d’experts et parfois même de journalistes et de philosophes – et en leur demandant d’équilibrer les intérêts publics et privés. Il a ensuite travaillé avec les producteurs de gadgets électriques pour mettre en œuvre ces normes.
Fait important, les normes étaient non propriétaire. Personne ne pouvait les posséder. Personne ne pouvait facturer leur utilisation. Ils étaient, pour utiliser le langage d’aujourd’hui, « open source ».
Une grande partie de l’Internet d’aujourd’hui est basée sur des normes open source. Nous les tenons pour acquis. Les ordinateurs ne pourraient pas communiquer sans modèles partagés, tels que HTTP, FTP et TCP/IP.
Bien que les normes numériques n’aient pas protégé le public de la désinformation et des discours de haine, elles ont encouragé la création de services tels que Wikipédia, qui ne sont ni privés ni motivés par le profit.
En fait, vous pourriez considérer l’ensemble de notre système de propriété intellectuelle – droits d’auteur, brevets et noms commerciaux – comme fondé sur une éventuelle utilisation open source. Après un certain temps, toutes les créations perdent leurs protections de propriété intellectuelle et entrent dans le domaine public où chacun est libre de les utiliser. (Pas par hasard, lorsqu’il était secrétaire au commerce, Hoover a fait progresser et rationalisé le système de propriété intellectuelle.)
Alors, qu’aurait fait Hoover à propos de l’IA ?
Il n’attendrait pas que les producteurs d’IA fixent ses limites. Il ne ferait pas non plus confiance aux fonctionnaires pour le faire. Au lieu de cela, il convoquait des panels larges et variés pour identifier les problèmes et les dangers potentiels de l’IA, proposer des idées pour les contenir et présenter les idées au public.
Si les normes proposées résistaient à l’épreuve, il les rendrait volontaires pour l’industrie – étant entendu que les normes pourraient être modifiées si elles s’avéraient irréalisables ou entravées inutilement l’innovation. Mais une fois en place, si les entreprises choisissaient de ne pas adapter les normes, leurs produits d’IA perdraient les protections de la propriété intellectuelle ou seraient interdits.
Hoover créerait également des incitations à la création de produits d’IA open source qui seraient gratuits pour le public.
En d’autres termes, Hoover ne s’appuierait pas uniquement sur les entreprises ou sur le gouvernement, mais sur société mesurer le bien commun.
L’IA a le potentiel d’énormes avantages pour la société, mais elle pourrait aussi devenir un monstre. Pour nous guider, nous avons besoin du leadership et de la compréhension de quelqu’un comme Herbert Hoover lorsqu’il était secrétaire au commerce.