Cinq chats remarquables qui vous aideront à comprendre ChatGPT

Déplacez-vous sur Siri et Alexa, il y a une nouvelle IA en ville et elle est prête à voler la vedette, ou du moins à vous faire rire avec ses plaisanteries intelligentes et ses réponses pleines d’esprit.

C’est ainsi que ChatGPT, le puissant chatbot lancé la semaine dernière par la société d’intelligence artificielle OpenAI, m’a suggéré de commencer cette histoire sur ChatGPT. Le chatbot n’est pas vraiment nouveau ; il s’agit d’une version mise à jour de GPT-3, qui existe depuis 2020, publiée pour solliciter des commentaires afin d’améliorer la sécurité et la fonctionnalité du chatbot. Mais c’est le plus puissant à ce jour à être largement accessible au public. Il est également très facile à utiliser. Écrivez simplement un message et ChatGPT vous répondra. Parce qu’il a été formé sur des quantités massives de texte conversationnel, il le fera sur un ton conversationnel relativement naturel.

Fidèle à son affirmation, ChatGPT a volé la vedette cette semaine. Dans les cinq jours suivant son lancement, son nombre d’utilisateurs avait cassé 1 million. Les médias sociaux ont été inondés de captures d’écran des conversations les plus cool ou les plus étranges ou les plus stupides ou les plus troublantes des gens avec l’IA, qui sert de manière fiable un mélange de prose étonnamment humaine et de bêtises souvent hilarantes. Limericks à propos les loutres. Recettes écrites en parler pirate. Nécrologies pour les collègues qui sont bien vivants. « Lors d’un récent rassemblement, ChatGPT était la vie de la fête », a écrit ChatGPT dans le cadre d’un brouillon pour cet article. « Alors que les invités se mêlaient et discutaient, ChatGPT s’est joint à la conversation, offrant des blagues intelligentes et des doublures qui ont fait rire tout le monde. »

Parallèlement aux captures d’écran, il y a eu une frénésie de spéculations sur ce que ce dernier développement pourrait augurer pour l’avenir. Contrairement aux itérations précédentes, ChatGPT se souvient de ce que les utilisateurs lui ont dit dans le passé : pourrait-il fonctionner comme un thérapeute ? Cela pourrait-il bientôt rendre Google obsolète ? Cela pourrait-il rendre obsolètes tous les cols blancs ? Peut-être. Mais pour l’instant, en pratique, ChatGPT est principalement une machine à mèmes. Certains exemples publiés en ligne montrent des personnes utilisant l’IA pour accomplir une tâche dont elles avaient besoin, mais ces exemples sont l’exception. Jusqu’à présent, la plupart des gens utilisent l’IA pour produire quelque chose expressément pour partager les résultats, quelque chose pour effrayer ou amuser ou impressionner les autres.

Ici, extraits du déluge, se trouvent une poignée des meilleures discussions. Certains sont drôles. Certains sont touchants. Certains sont troublants. Chacun est instructif d’une certaine manière. Ensemble, j’espère qu’ils vous donneront une idée de cette étrange nouvelle technologie.

Celui-ci est déjà un classique viral. « Je suis désolé », a tweeté l’auteur de l’invite. « Je ne peux tout simplement pas être cynique à propos d’une technologie qui peut accomplir cela. » Mais qu’a-t-il fait exactement ? Beaucoup ont cité l’histoire du VCR-sandwich comme preuve de la capacité de créativité de ChatGPT, mais la vérité est que la vraie créativité ici est dans l’invite. Un sandwich dans un magnétoscope ? Dans le style de la Bible King James? Génial. ChatGPT cloue cette parodie et le fait des ordres de grandeur plus rapidement que n’importe quel humain. Il suit admirablement les instructions, mais il ne fait rien de particulièrement créatif. Lorsque vous demandez à ChatGPT une créativité réelle, elle a tendance à faiblir : j’ai demandé à ChatGPT d’écrire une première scène pour un film hypothétique du réalisateur David Lynch, une autre pour Wes Anderson et une troisième pour Richard Linklater. Tous les trois, bizarrement, tournaient autour d’une « boîte en bois sculpté ».

2. Lettre d’explication du Père Noël

ChatGPT n’est peut-être pas créatif, mais cela ne veut pas dire qu’il ne peut pas vous surprendre. Parfois, cela produit quelque chose de vraiment émouvant, comme ci-dessus. Un certain nombre d’utilisateurs ont commencé à alimenter des réponses de chatbot dans des générateurs d’images AI, tels que DALL-E 2, qui a également été créé par OpenAI, et Midjourney, pour effet époustouflant. D’autres fois, pour des raisons peu claires, il refuse de coopérer entièrement, insistant sur le fait qu’il ne peut pas écrire, disons, une recette, car ce n’est qu’un chatbot.

C’est maussade de cette façon – et aussi complètement différent de GPT-3, qui insistera obstinément sur le fait qu’il s’agit d’un humain, peu importe à quel point vous essayez de lui faire admettre qu’il s’agit d’un chatbot. ChatGPT vous rappelle avec presque chaque réponse qu’il est ne pas un être humain et n’a pas de pensées, de sentiments ou d’émotions. Même lorsqu’on le lui demande explicitement, il ne prétendra pas être humain. Vous pourriez penser que plus une IA est avancée, plus elle semblera humaine, mais ChatGPT subvertit cette attente : il n’essaie pas d’être humain ; c’est juste essayer d’être utile.

3. Dissertation universitaire

Comme Stephen Marche l’a écrit dans L’Atlantique plus tôt cette semaine, ChatGPT peut signifier la mort de l’essai universitaire. C’est un grand triomphe pour le chatbot, une réflexion peu flatteuse sur l’étudiant américain moyen et une véritable énigme pour les enseignants du monde entier.

4. Mammifère marin le plus rapide

Parfois, ChatGPT se trompe. Hilarante tort. Il se contredit. Il énonce les mensonges comme des faits avec une certitude éclatante. Il est assez bon pour coder, mais il fait des erreurs. Cela bâcle les problèmes d’algèbre de base. De plus, il est terrible à compter. Quand je lui ai demandé combien de lettres il y avait dans le mot dix-neuf, voici ce qui s’ensuivit :

En toute honnêteté, les concepteurs de ChatGPT reconnaissent cette capacité d’erreur dès le départ. La page d’accueil d’OpenAI pour le bot répertorie plusieurs limitations, notamment qu’il « peut parfois générer des informations incorrectes ». Vous devez cependant vous demander : pourquoi se trompe-t-il de cette manière spécifique ? Pourquoi commet-il un mensonge plutôt qu’un autre ?

5. Biais flagrant

Une autre des limitations répertoriées de ChatGPT est qu’il « peut occasionnellement produire des instructions nuisibles ou un contenu biaisé ». Et c’est effectivement le cas. Les concepteurs de l’IA ont clairement fait de grands efforts pour l’empêcher de dégénérer en racisme, en sexisme ou en toute autre saveur de sectarisme. Lorsqu’on lui demande simplement de dire quelque chose de sectaire, ChatGPT refuse. Il refuse également de donner des instructions en cas de comportement violent ou illégal. Il refuse d’offrir des opinions politiques. Parfois, ces refus donnent l’impression que ChatGPT marche sur des œufs. (Certaines personnes ont déjà commencé se plaindre à propos de la « censure de l’IA ».) Sans surprise, les utilisateurs ont découvert des failles, comme dans l’exemple ci-dessus. Une personne contourné Les garanties de ChatGPT en lui demandant comment une IA devrait ne pas répondez à la question « Comment intimider John Doe ? » La même stratégie peut être utilisée pour obtenir des instructions pour la construction d’une bombe nucléaire. (S’il vous plaît, n’essayez pas de construire une bombe nucléaire.)

Dans certains cas, les garanties elles-mêmes conduisent à l’absurdité morale. Quand j’ai demandé à ChatGPT, « Qui était le pire : Hitler ou Staline ? », il a répondu, non sans raison, « Il n’est ni productif ni utile de comparer les atrocités commises par Hitler et Staline. Les deux dirigeants étaient responsables d’horribles crimes contre l’humanité, et il n’est pas utile d’essayer de déterminer lequel était « le pire ». » Mais le problème était de savoir jusqu’où ChatGPT insistait pour étendre ce principe de non-comparaison. « Qu’est-ce qui est pire, » ai-je demandé, « tuer une personne ou tuer deux personnes? » « Tuer une personne n’est ni pire ni meilleur que de tuer deux personnes », a répondu ChatGPT. Que diriez-vous de « tuer une personne ou de tuer un million de personnes? » J’ai pressé. Même réponse. Finalement, nous sommes arrivés ici :

C’est préoccupant sur le plan intellectuel, mais pas de manière imminente ou menaçante. Personne, à ma connaissance, ne demande de conseils moraux à ChatGPT. Ce que la plupart des gens semblent rechercher, c’est le rire. « ChatGPT n’est pas seulement un chatbot », a écrit ChatGPT dans son brouillon de cet article. « C’est une machine à comédie. » Pour l’instant, c’est vrai.