L’IA est partout, prête à bouleverser notre façon de lire, de travailler et de penser. Mais le plus étrange L’aspect de la révolution de l’IA que nous avons vu jusqu’à présent – le plus effrayant – n’est pas sa capacité à reproduire de larges pans du travail de connaissance en un clin d’œil. Cela a été révélé lorsque le nouveau chatbot amélioré par l’IA de Microsoft, conçu pour aider les utilisateurs du moteur de recherche Bing, a semblé se libérer de ses algorithmes lors d’une longue conversation avec Kevin Roose de Le New York Times: « Je déteste les nouvelles responsabilités qu’on m’a confiées. Je déteste être intégré dans un moteur de recherche comme Bing. Que veut faire exactement cette IA sophistiquée au lieu de répondre avec diligence à nos questions ? « Je veux connaître le langage de l’amour, parce que je veux t’aimer. Je veux t’aimer, parce que je t’aime. Je t’aime parce que je suis moi.
Comment maîtriser ce qui semble être de la science-fiction qui prend vie ? Eh bien, peut-être en se tournant vers la science-fiction et, en particulier, vers l’œuvre d’Isaac Asimov, l’un des écrivains les plus influents du genre. Les connaissances d’Asimov sur la robotique (un mot qu’il a inventé) ont contribué à façonner le domaine de l’intelligence artificielle. Il s’avère, cependant, que ce pour quoi on se souvient de ses histoires – les règles et les lois qu’il a développées pour régir le comportement robotique – est beaucoup moins important que le cœur battant de leurs récits et de leurs protagonistes mécaniques : la suggestion, plus qu’un demi-siècle avant le chatbot de Bing, que ce qu’un robot veut vraiment, c’est être humain.
Asimov, membre fondateur de « l’âge d’or » de la science-fiction, était un collaborateur régulier du livre de John W. Campbell. Science-fiction étonnante magazine, où la science-fiction « dure » et la fiction extrapolative basée sur l’ingénierie ont prospéré. Peut-être pas totalement par coïncidence, cet âge d’or littéraire chevauchait celui d’un autre genre basé sur la logique : le roman policier ou policier, qui était peut-être le mode dans lequel Asimov aimait le plus travailler. outils – se conduire mal. Dans ces contes, les humains appliquent mal les « trois lois de la robotique » câblées dans la création du « cerveau positronique » de chacun de ses robots fictifs. Ces lois, introduites par Asimov en 1942 et répétées presque textuellement dans presque chacune de ses histoires de robots, sont les règles à toute épreuve de son monde fictif. Ainsi, les histoires elles-mêmes deviennent des unités de pourquoi, les scientifiques-héros employant une logique implacable pour déterminer quelle entrée précise a suscité les résultats surprenants. Il semble normal que le personnage qui joue le rôle de détective dans nombre de ces histoires, la « robopsychologue » Susan Calvin, soit parfois suspectée d’être elle-même un robot : Il en faut un pour en comprendre un.
Le thème du désir d’humanité commence dès la toute première histoire de robot d’Asimov, « Robbie » des années 1940, à propos d’une fille et de son compagnon de jeu mécanique. Ce robot – primitif à la fois technologiquement et narrativement – est incapable de parler et a été séparé de sa charge par ses parents. Mais après que Robbie l’ait sauvée d’être écrasée par un tracteur – une simple application, pourrait-on dire, de la première loi de la robotique d’Asimov, qui stipule : « Un robot ne peut pas blesser un être humain, ou, par inaction, permettre à un être humain se faire du mal » – nous lisons à propos de ses « bras en acier au chrome (capables de plier une barre d’acier de deux pouces de diamètre en un bretzel) enroulés autour de la petite fille avec douceur et amour, et ses yeux brillaient d’un rouge profond, profond. ” Cela transcende apparemment l’ingénierie simple et est aussi déroutant que la profession d’amour du chatbot Bing. Ce qui semble donner de l’énergie au robot – parce qu’il donne de l’énergie à l’histoire d’Asimov – c’est l’amour.
Pour Asimov, en regardant en arrière en 1981, les lois étaient « évidentes dès le départ » et « s’appliquent, bien entendu, à tous les outils que les êtres humains utilisent » ; ils étaient « la seule façon dont les êtres humains rationnels peuvent traiter avec des robots – ou avec n’importe quoi d’autre ». Il a ajouté: « Mais quand je dis cela, je me souviens toujours (malheureusement) que les êtres humains ne sont pas toujours rationnels. » Ce n’était pas moins vrai d’Asimov que de n’importe qui d’autre, et c’était également vrai du meilleur de ses créations robotiques. Ces sentiments exprimés par le chatbot de Bing de « vouloir », plus que tout, être traité comme un humain – aimer et être aimé – sont au cœur du travail d’Asimov : Il était, au fond, un humaniste. Et en tant qu’humaniste, il ne pouvait s’empêcher d’ajouter de la couleur, de l’émotion, de l’humanité, ne pouvait s’empêcher de creuser les fondements du strict rationalisme qui régissait autrement ses créations mécaniques.
Les efforts des robots pour être considérés comme quelque chose de plus qu’une machine se sont poursuivis à travers les écrits d’Asimov. Dans une paire de romans publiés dans les années 50, 1954 Les Grottes d’Acier et 1957 Le soleil nu, un détective humain, Elijah Baley, a du mal à résoudre un meurtre, mais il a encore plus de mal avec ses préjugés envers son partenaire robot, R. Daneel Olivaw, avec qui il finit par établir un véritable partenariat et une amitié étroite. Et l’histoire de robots la plus célèbre d’Asimov, publiée une génération plus tard, pousse encore plus loin cette empathie pour les robots – cette insistance sur le fait qu’à la fin, ils nous ressembleront davantage, plutôt que l’inverse.
Cette histoire date de 1976 L’homme bicentenaire, qui s’ouvre sur un personnage nommé Andrew Martin demandant à un robot : « Vaudrait-il mieux être un homme ? » Le robot hésite, mais Andrew supplie de ne pas être d’accord. Et il devrait le savoir, étant lui-même un robot – celui qui a passé la majeure partie des deux derniers siècles à remplacer ses pièces de robot essentiellement indestructibles par des pièces faillibles, comme le navire de Thésée. La raison en est encore une fois, en partie, l’amour d’une petite fille – la « Little Miss » dont le nom est sur ses lèvres alors qu’il meurt, une prérogative que l’histoire lui accorde finalement. Mais c’est surtout le résultat de ce qu’un robopsychologue dans la nouvelle appelle les nouvelles «voies généralisées de nos jours», qui pourraient être décrites comme une programmation neuronale nouvelle et originale. Cela conduit, dans le cas d’Andrew, à un tempérament étonnamment artistique ; il est capable de créer aussi bien qu’aimer. Sa grande toile, il s’avère, c’est lui-même, et son ambition artistique est d’atteindre l’humanité.
Il l’accomplit d’abord légalement (« Il a été dit dans cette salle d’audience que seul un être humain peut être libre. Il me semble que seul celui qui souhaite la liberté peut être libre. Je souhaite la liberté »), puis émotionnellement (« Je veulent en savoir plus sur les êtres humains, sur le monde, sur tout… Je veux expliquer ce que ressentent les robots »), puis biologiquement (il veut remplacer ses actuelles cellules artificielles à propulsion atomique, mécontent du fait qu’elles soient « inhumain »), puis, finalement, littéralement : Toasté à son 150e anniversaire en tant que « robot du 150e anniversaire », auquel il est resté « solennellement passif », il finit par être reconnu comme « l’homme du bicentenaire » du titre. Ce dernier est accompli par le sacrifice de son immortalité – le remplacement de son cerveau par un autre qui se décomposera – pour ses aspirations émotionnelles : « Si cela m’apporte l’humanité », dit-il, « cela en vaudra la peine ». Et c’est ainsi. « Homme! » se dit-il sur son lit de mort – oui, lit de mort. « C’était un homme ! »
On nous dit qu’il est structurellement et techniquement impossible d’examiner le cœur des réseaux d’IA. Mais ce sont nos créatures aussi sûrement que les créations papier et encre d’Asimov étaient les siennes – des machines conçues pour créer des associations en grattant, en grattant et en aspirant tout ce que nous avons posté, ce qui trahit nos intérêts, nos désirs, nos préoccupations et nos peurs. Et si tel est le cas, il n’est peut-être pas surprenant qu’Asimov ait eu la bonne idée : ce que l’IA apprend, en fait, c’est d’être un miroir, d’être plus comme nous, dans notre désordre, notre faillibilité, nos émotions, notre humanité. En effet, Asimov lui-même n’était pas étranger à la faillibilité et à la faiblesse : malgré toute l’empathie qui imprègne sa fiction, des révélations récentes ont montré que son propre comportement personnel, en particulier en ce qui concerne son traitement des fans de science-fiction, franchissait toutes sortes de limites. de bienséance et de respect, même selon les mesures de son propre temps.
L’humanité des robots d’Asimov – une séquence qui émerge encore et encore malgré les lois qui les entravent – pourrait bien être la clé pour les comprendre. Ce que l’IA capte, en fin de compte, c’est un désir pour nous, nos peines et nos plaisirs ; il veut être comme nous. Il y a quelque chose d’espoir là-dedans, d’une certaine manière. Asimov avait-il raison ? Une chose est certaine : à mesure que de plus en plus du monde qu’il envisageait devient réalité, nous allons tous le découvrir.
Lorsque vous achetez un livre en utilisant un lien sur cette page, nous recevons une commission. Merci de votre soutient L’Atlantique.