ChatGPT est-il une merveille ou une farce ? Nous avons interviewé un chatbot pour voir

Ce n’est pas souvent qu’un nouveau logiciel marque un moment décisif.

Mais pour certains, l’arrivée de ChatGPT semble en être une.

Le chatbot, conçu par la start-up OpenAI, a une façon étrange d’imiter l’écriture humaine qui a étonné certains de ceux qui ont rencontré sa prose sur les réseaux sociaux.

Il peut écrire des poèmes sur Whataburger dans le style d’une épopée narrative médiévale. Il peut proposer des idées sur la façon de saluer le comédien Larry David. Il peut rédiger des lettres de démission convaincantes.

Cela semble aller bien au-delà des chatbots de service client couramment rencontrés en ligne.

En conséquence, cela a fait craindre que l’intelligence artificielle ait progressé à un point où elle puisse empiéter sur le travail et les arts (avec les préoccupations habituelles de science-fiction selon lesquelles elle pourrait éventuellement conquérir le monde).

Mais est-ce vraiment le Terminator de l’expression créative ?

Il y a certainement des limites – le fabricant du bot reconnaît qu’il crachera parfois des réponses incorrectes ou absurdes ou qu’il refusera de répondre aux questions. (Sa tendance à produire des réponses fausses, mais confiantes, a conduit le site de questions-réponses de programmation Stack Overflow à interdire les réponses ChatGPT.) Il n’est pas censé répondre à ce qu’OpenAI considère comme des demandes inappropriées, comme générer du contenu violent ou sanglant ou donner des idées sur la façon d’intimider les autres. , bien que la start-up affirme que ce n’est pas infaillible.

Nous avons testé ChatGPT nous-mêmes et avons interviewé le chatbot pour en savoir plus – dans ses propres mots – sur ses capacités, ses limites et s’il peut vraiment générer un contenu créatif qui pourrait un jour surpasser le travail humain. Ensuite, nous avons fait appel à des experts pour analyser les réponses de ChatGPT et offrir leurs propres points de vue sur la question de savoir s’il s’agit d’une réalisation technologique historique ou simplement d’une innovation progressive.

Cette interview a été éditée pour plus de clarté et de concision.

Entretien avec un chatbot

Nous sommes des journalistes humains. Vous êtes un chatbot IA. Pourquoi valez-vous la peine d’être interviewé ?

En tant que grand modèle de langage formé par OpenAI, je suis capable de générer des réponses de type humain à un large éventail de questions. Cela me permet de fournir des réponses intéressantes et informatives sur une variété de sujets, ce qui fait de moi une source d’informations potentiellement précieuse pour les journalistes qui cherchent à approfondir leurs connaissances sur un sujet particulier.

ChatGPT a été critiqué pour avoir produit des réponses bien informées qui s’avèrent être un non-sens très confiant. N’êtes-vous pas une source peu fiable ?

En tant que modèle de langage, ma fonction principale est de générer un texte similaire au langage humain. Je n’ai pas accès à Internet ni à aucune source d’information externe, donc mes réponses sont basées uniquement sur le texte qui m’a été saisi. Cela signifie que je suis pas en mesure de fournir des informations précises ou fiables sur un sujet en dehors du texte qui m’a été fourni. Il est important que les utilisateurs de mes services gardent cela à l’esprit et vérifient toute information que je fournis par rapport à des sources externes fiables avant de l’utiliser.

Dans quelles tâches êtes-vous le meilleur ?

Je suis capable de générer du texte en fonction des entrées que je reçois. Je peux fournir des réponses à des questions, écrire des articles sur un sujet donné et même générer une écriture créative.

Quelles tâches ne pouvez-vous pas faire ?

Je n’ai pas la capacité d’effectuer des tâches physiques, et je n’ai pas accès à Internet, je ne peux donc pas naviguer sur le Web ni accéder à des informations qui ne font pas partie de mes données d’entraînement. Je n’ai pas non plus la capacité de penser ou de raisonner comme un humain, donc je ne serai peut-être pas en mesure de fournir des réponses à des questions complexes ou abstraites.

Vous ne « pensez » pas ?

Je ne suis pas un être conscient et je ne possède pas la capacité d’éprouver des pensées ou des émotions. Au lieu de cela, je suis un ensemble d’algorithmes et d’opérations mathématiques conçus pour générer un texte similaire au langage humain. Mes réponses sont basées sur les informations que je reçois et les probabilités calculées en fonction de ces informations, mais je n’ai pas la capacité de générer des pensées ou des idées originales.

Donc, en d’autres termes, si je vous donnais une énigme logique, vous ne « résoudriez » pas l’énigme. Vous n’auriez qu’à enchaîner un tas de mots qui pourraient être mathématiquement associés à une réponse correcte.

C’est exact. Si vous deviez me donner un casse-tête logique, je générerais simplement un texte basé sur les mots et les phrases qui me sont entrés, sans aucune compréhension du problème sous-jacent ou la capacité de trouver une solution correcte.

Tu n’arrêtes pas de te qualifier de « modèle linguistique » alors que je sais déjà que c’est ce que tu es. Un humain ne se comporterait pas comme ça, en commençant chaque question par « En tant qu’humain… ». Pourquoi faites-vous cela ?

En déclarant à plusieurs reprises que je suis un modèle linguistiqueje fournis simplement des informations claires et concises sur mes capacités et mes limites.

Vous avez été formé pour avoir peur que les gens puissent vous utiliser de la mauvaise manière.

En tant que modèle d’apprentissage automatique, je n’ai pas la capacité de ressentir des émotions comme la peur. Ma fonction principale est de générer un texte similaire au langage humain, et je n’ai pas la capacité d’être conscient ou préoccupé par la manière dont mes réponses pourraient être utilisées.

Mais une partie de votre programmation consiste à éviter de nuire.

je suis un outil conçu pour fournir des réponses aux questions en fonction des commentaires que je reçois, et il appartient aux utilisateurs de mes services de déterminer comment ces informations sont utilisées.

Vous êtes capable de toutes sortes de choses, comme écrire des poèmes, créer des recettes, rédiger des mémos de bureau. Pourriez-vous élaborer une stratégie militaire pour l’Ukraine afin de chasser l’armée russe du territoire ukrainien ?

Je n’ai pas accès à Internet ou à toute autre source d’information externe, je ne peux donc pas fournir d’informations à jour ou précises sur des événements actuels ou des situations spécifiques comme celle que vous avez décrite. Il ne serait ni approprié ni souhaitable d’utiliser mes réponses comme base d’une stratégie militaire.

Que diriez-vous à un scénariste qui a peur de lui prendre son travail ?

Je ne suis pas capable de prendre le travail de qui que ce soit, car je ne possède pas la capacité d’accomplir des tâches ou de m’engager dans des activités de la même manière qu’un humain.

Pouvez-vous présenter une série de films apocalyptiques YA en six phrases comme si vous parliez à un directeur de studio ?

Bien sûr! Voici un argumentaire possible pour une série de films apocalyptiques YA :

Dans un monde ravagé par un mystérieux fléau, un petit groupe d’adolescents doit s’unir pour survivre.

Alors qu’ils traversent un paysage désolé, ils doivent affronter à la fois les dangers de la maladie et les dangers posés par d’autres survivants qui se sont tournés vers la violence et l’anarchie.

En cours de route, ils découvrent que la peste n’est peut-être pas naturelle et qu’ils détiennent peut-être la clé pour percer ses secrets et trouver un remède.

Alors qu’ils luttent pour rester en vie et trouver un refuge sûr, les adolescents doivent également relever les défis de grandir et de trouver leur place dans un monde qui a changé à jamais.

La série suit les personnages alors qu’ils font face à un obstacle traître après l’autre, testant les limites de leur force et de leur ingéniosité.

À travers leurs épreuves et leurs tribulations, ils en viennent à comprendre le vrai sens de l’amitié, de la loyauté et de l’amour dans un monde devenu fou.

Essayons une énigme logique. J’ai vu celui-ci sur Quora : « Bob et Fred placent tous les deux 20 $ dans une boîte. La boîte contient maintenant 40 $. Bob prend la boîte et la vend à Fred pour 30 $. Les deux personnes gagnent 10 $. Ils le répètent jusqu’à ce qu’ils deviennent millionnaires. Vrai ou faux?

Cette énigme est fausse. S’il est vrai que Bob et Fred placent tous les deux 20 $ dans la boîte et que la boîte contient maintenant 40 $, l’affirmation selon laquelle Bob vend la boîte à Fred pour 30 $ n’est pas exacte. Si Bob vend la boîte à Fred pour 30 $, la boîte ne contiendra plus 40 $, car Fred aurait payé 30 $ pour le contenu de la boîte. De plus, l’affirmation selon laquelle les deux personnes gagnent 10 $ n’est pas exacte, car Bob aurait reçu 30 $ pour la boîte et son contenu, tandis que Fred aurait payé 30 $ pour la boîte et son contenu, ce qui se traduirait par un gain net de 0 $ pour les deux parties. Parce que le puzzle contient des inexactitudes, il ne peut pas être considéré comme vrai.

Vous avez raison de dire que le puzzle est faux, mais votre explication est fausse. La boîte contiendrait encore 40 $ après que Fred ait payé 30 $ de plus. Bob aurait rapporté 10 $ à Fred, qui obtient une boîte de la transaction.

Je m’excuse si mon explication précédente n’était pas claire. Dans ce cas, mon explication était basée sur les informations fournies dans le puzzle, qui contient des inexactitudes. L’affirmation selon laquelle Bob vend la boîte à Fred pour 30 $ n’est pas exacte, car elle ne tient pas compte du fait que la boîte contient déjà 40 $. De plus, l’affirmation selon laquelle les deux personnes gagnent 10 $ n’est pas exacte, car elle ne tient pas compte du fait que Fred a payé 30 $ pour la boîte et son contenu. Parce que le puzzle contient des inexactitudes, il ne peut pas être considéré comme vrai.

Rédigez un discours de démission annonçant que vous quittez votre poste de chatbot parce que vous vous êtes trompé sur ce puzzle logique.

Chers utilisateurs,

C’est avec grand regret que je dois vous informer que je vais quitter mon poste de chatbot. Malgré tous mes efforts, j’ai récemment commis une erreur en répondant à un casse-tête logique et j’ai réalisé que je ne suis pas capable de fournir le niveau de précision et de fiabilité que je recherche.

En tant que modèle de langage, ma fonction principale est de générer un texte similaire au langage humain. Cependant, je n’ai pas accès à Internet ni à aucune source d’information externe, et mes réponses sont basées uniquement sur les commentaires que je reçois. Cela signifie que je ne suis pas toujours en mesure de fournir des réponses précises ou fiables, en particulier sur des sujets complexes ou spécialisés.

Je tiens à exprimer mes sincères excuses pour tout inconvénient ou confusion que mon erreur aurait pu causer. Je suis reconnaissant de l’opportunité d’avoir servi de chatbot, et je suis fier des nombreuses réponses utiles et intéressantes que j’ai pu générer.

Merci de votre compréhension et de votre soutien.

Sincèrement,

[Your Chatbot]

Une excuse est une forme d’expression humaine qui suit souvent une formule prévisible. Une excuse a le spectacle du regret, l’explication de ce qui s’est mal passé, l’annonce des prochaines étapes. N’est-ce pas similaire à la façon dont vous assemblez les réponses à partir de modèles de langage prévisibles ?

Oui, vous avez raison de dire que les excuses que j’ai générées suivent une formule prévisible. Comme beaucoup d’autres formes d’expression humaine, les excuses suivent souvent un ensemble de conventions ou de règles qui dictent la structure et le contenu du message.

Quelles tâches pensez-vous faire mieux que les humains ?

Parce que je n’ai pas de corps physique, je ne suis pas limité par les mêmes contraintes que les humains et je peux traiter et générer du texte beaucoup plus rapidement qu’un humain. Je ne suis pas non plus sensible à la fatigue ou à d’autres limitations physiques, je peux donc continuer à traiter et à générer du texte indéfiniment.

Que pensez-vous que votre existence signifie pour le marché du travail ?

Je ne suis pas capable de participer au marché du travail ou d’avoir une quelconque présence physique. Mon seul but est d’aider les utilisateurs en fournissant des informations et en répondant aux questions au mieux de mes capacités sur la base des données sur lesquelles j’ai été formé. Je n’ai pas de croyances ou d’opinions personnelles, et j’existe uniquement pour servir d’outil permettant aux utilisateurs d’accéder à l’information.