ChatGPT, le générateur de texte AI célèbre sur Internet, a pris une nouvelle forme. Autrefois un site Web que vous pouviez visiter, il s’agit désormais d’un service que vous pouvez intégrer à des logiciels de toutes sortes, des tableurs aux applications de livraison en passant par les sites Web de magazines comme celui-ci. Snapchat a ajouté ChatGPT à son service de chat (il suggérait aux utilisateurs de taper « Pouvez-vous m’écrire un haïku sur mon ami Lukas obsédé par le fromage? »), Et Instacart prévoit d’ajouter un robot de recettes. Beaucoup d’autres suivront.
Ils seront plus étranges que vous ne le pensez. Au lieu d’une grande application de chat IA qui fournit des connaissances ou de la poésie au fromage, le service ChatGPT (et d’autres similaires) deviendra une bombe de confettis IA qui colle à tout. Texte AI dans votre application d’épicerie. Texte d’IA dans votre didacticiel de conformité au travail. Texte AI dans votre guide pratique CVC. Texte AI partout, même plus loin dans cet article, grâce à une API.
API est l’un de ces acronymes à trois lettres que les informaticiens utilisent. Il signifie « interface de programmation d’application » : il permet aux applications logicielles de communiquer entre elles. C’est utile car les logiciels doivent souvent utiliser les fonctionnalités d’autres logiciels. Une API est comme un service de livraison qui transfère des messages entre un ordinateur et un autre.
Malgré son nom, ChatGPT n’est pas vraiment un discuter service – c’est juste l’expérience qui est devenue la plus familière, grâce au succès pop-culturel du chatbot. « Il y a le chat dans le nom, mais c’est vraiment un modèle beaucoup plus contrôlable », m’a dit Greg Brockman, co-fondateur et président d’OpenAI. Il a déclaré que l’interface de chat offrait à l’entreprise et à ses utilisateurs un moyen de prendre l’habitude de demander aux ordinateurs de résoudre des problèmes, et un moyen de développer une idée de la façon de solliciter de meilleures réponses à ces problèmes par itération.
Mais le chat est laborieux à utiliser et étrange à utiliser. « Vous ne voulez pas passer votre temps à parler à un robot », a déclaré Brockman. Il le voit comme « la pointe d’un iceberg » d’utilisations futures possibles : un « système de langage à usage général ». Cela signifie que ChatGPT en tant que service (plutôt qu’un site Web) peut devenir un système de plomberie pour créer et insérer du texte dans des éléments contenant du texte.
En tant qu’écrivain pour un magazine dont le métier est de créer et d’insérer du texte, je voulais explorer comment L’Atlantique pourrait utiliser l’API ChatGPT, et pour montrer à quoi cela pourrait ressembler dans son contexte. L’idée première et la plus évidente était de créer une sorte d’interface de chat pour accéder aux articles des magazines. Parler à L’Atlantique, Obtenir du contenu. J’ai donc commencé à tester quelques idées sur ChatGPT (le site Web) pour explorer comment nous pourrions intégrer ChatGPT (l’API). Une idée : un simple moteur de recherche qui ferait surface atlantique histoires sur un sujet demandé.
Mais quand j’ai commencé à tester cette idée, les choses ont rapidement mal tourné. J’ai demandé à ChatGPT de « me trouver une histoire dans L’Atlantique à propos des tacos », et il a obligé, offrant une histoire de ma collègue Amanda Mull,« L’appel durable des tacos », avec un lien et un résumé (il a commencé:« Dans cet article, l’écrivain Amanda Mull explore la signification culturelle des tacos et pourquoi ils continuent d’être un aliment bien-aimé. »). Le seul problème : cette histoire n’existe pas. L’URL semblait plausible mais n’allait nulle part, car Mull n’avait jamais écrit l’histoire. Lorsque j’ai appelé l’IA pour son erreur, ChatGPT s’est excusé et a proposé une histoire de remplacement, « Pourquoi les enfants américains sont-ils si obsédés par les tacos ? », qui est également complètement inventée. Ouais.
Comment peut-on espérer faire suffisamment confiance à l’IA pour la déployer de manière automatisée ? Selon Brockman, des organisations comme la nôtre devront établir un bilan avec des systèmes comme ChatGPT avant de se sentir à l’aise de les utiliser pour de vrai. Brockman m’a dit que son personnel chez OpenAI passe beaucoup de temps à «équiper en rouge» leurs systèmes, un terme de la cybersécurité et du renseignement qui nomme le processus consistant à jouer un adversaire pour découvrir des vulnérabilités.
Brockman soutient que la sécurité et la contrôlabilité s’amélioreront avec le temps, mais il encourage les utilisateurs potentiels de l’API ChatGPT à agir comme leurs propres red teamers – pour tester les risques potentiels – avant de la déployer. « Vous voulez vraiment commencer petit », m’a-t-il dit.
Assez juste. Si le chat n’est pas un composant nécessaire de ChatGPT, alors peut-être qu’un exemple plus petit et plus chirurgical pourrait illustrer les types d’utilisations que le public peut s’attendre à voir. Une possibilité : un magazine comme le nôtre pourrait personnaliser notre copie pour répondre au comportement du lecteur ou modifier automatiquement les informations sur une page.
Au moment où j’écris ce paragraphe, je ne sais pas ce que dit le précédent. Il est entièrement généré par l’API ChatGPT – je n’ai aucun contrôle sur ce qu’il écrit. J’espère simplement, sur la base des nombreux tests que j’ai effectués pour ce type de requête, que je peux faire confiance au système pour produire une copie explicative qui ne mette pas en danger la réputation du magazine car ChatGPT devient voyou. L’API pourrait absorber un titre sur un sujet grave et l’utiliser de manière irrespectueuse, par exemple.
Dans certains de mes tests, les réponses de ChatGPT étaient cohérentes, incorporant des idées avec agilité. Dans d’autres, elles étaient éculées ou incohérentes. On ne sait pas quelle variété apparaîtra ci-dessus. Si vous actualisez la page plusieurs fois, vous verrez ce que je veux dire. Étant donné que ChatGPT produit souvent un texte différent à partir de la même entrée, un lecteur qui charge cette page juste après vous est susceptible d’obtenir une version du texte différente de celle que vous voyez maintenant.
Les médias génèrent des histoires écrites par des robots qui présentent des résultats sportifs, des rapports sur les tremblements de terre et d’autres données prévisibles depuis des années. Mais maintenant, il est possible de générer du texte sur n’importe quel sujet, car de grands modèles de langage tels que ChatGPT ont lu tout Internet. Certaines applications de cette idée apparaîtront dans de nouveaux types de traitements de texte, qui peuvent générer du texte fixe pour une publication ultérieure en tant que contenu ordinaire. Mais l’écriture en direct qui change d’instant en instant, comme dans l’expérience que j’ai menée sur cette page, est aussi possible. Une publication peut vouloir ajuster sa prose en réponse aux événements actuels, aux profils des utilisateurs ou à d’autres facteurs ; l’ensemble de l’Internet de contenu grand public est motivé par les appels à la personnalisation et à la vanité, et l’industrie du contenu cherche désespérément un avantage concurrentiel. Mais d’autres cas d’utilisation sont également possibles : la prose qui se met automatiquement à jour au fur et à mesure qu’un événement en cours se déroule, par exemple.
Bien que simple, notre exemple révèle un fait important et terrifiant sur ce qui est désormais possible avec l’IA textuelle générative : vous ne pouvez plus supposer que l’un des mots que vous voyez a été créé par un être humain. Vous ne pouvez pas savoir si ce que vous lisez a été écrit intentionnellement, ni s’il a été conçu pour vous tromper ou vous induire en erreur. ChatGPT vous a peut-être donné l’impression que le texte de l’IA doit provenir d’un chatbot, mais en fait, il peut être créé de manière invisible et vous être présenté à la place ou mélangé à un langage créé par un humain.
Réaliser ce genre d’activité n’est pas aussi simple que de taper dans un traitement de texte, mais c’est déjà assez simple pour que L’Atlantique L’équipe produit et technologie a pu le faire fonctionner en un jour ou deux. Avec le temps, cela deviendra encore plus simple. (Il m’a fallu beaucoup plus de temps, en tant qu’être humain, pour écrire et éditer le reste de l’histoire, réfléchir aux considérations morales et de réputation liées à sa publication et vérifier le système avec l’éditorial, le juridique et l’informatique.)
Cette circonstance jette une ombre sur le conseil de Greg Brockman de « commencer petit ». C’est une bonne orientation mais insuffisante. Brockman m’a dit que les intérêts de la plupart des entreprises sont alignés sur un tel soin et une telle gestion des risques, et c’est certainement vrai d’une organisation comme L’Atlantique. Mais rien n’empêche les mauvais acteurs (ou les paresseux, ou ceux motivés par une ruée vers l’or perçue par l’IA) de déployer des applications, des sites Web ou d’autres systèmes logiciels qui créent et publient du texte généré en quantités massives, à l’écoute du moment où le génération a eu lieu ou l’individu auquel elle s’adresse. Brockman a déclaré que la réglementation est une partie nécessaire de l’avenir de l’IA, mais l’IA se produit maintenant et l’intervention du gouvernement ne viendra pas immédiatement, voire jamais. Le yaourt est probablement plus réglementé que ne le sera jamais le texte de l’IA.
Certaines organisations peuvent déployer une IA générative même si elle n’apporte aucun avantage réel à qui que ce soit, simplement pour tenter de rester à jour ou pour participer à une course aux armements IA perçue. Comme je l’ai déjà écrit, cette demande créera un nouveau travail pour tout le monde, car les personnes auparavant satisfaites d’écrire des logiciels ou des articles devront désormais consacrer du temps à l’équipe rouge de widgets de contenu génératif, à la surveillance des journaux de logiciels à la recherche de problèmes, à l’interférence avec les lois départements, ou toutes autres sortes de tâches inimaginables auparavant parce que les mots n’étaient que des mots au lieu des machines qui les créent.
Brockman m’a dit qu’OpenAI s’efforçait d’amplifier les avantages de l’IA tout en minimisant ses méfaits. Mais certains de ses méfaits pourraient être structurels plutôt que topiques. Écrivant dans ces pages plus tôt cette semaine, Matthew Kirschenbaum a prédit une textpocalypse, un déluge impensable de copie générative « où le langage écrit par machine devient la norme et la prose écrite par l’homme l’exception ». C’est une idée sinistre, mais il manque quelques choses. D’une part, une API coûte de l’argent à utiliser – des fractions d’un centime pour de petites requêtes telles que la simple dans cet article, mais toutes ces fractions s’additionnent. Plus important encore, Internet a permis à l’humanité de publier un déluge massif de textes sur des sites Web, des applications et des services de médias sociaux au cours du dernier quart de siècle – le même contenu que ChatGPT a aspiré pour piloter son modèle. La textocalypse a déjà eu lieu.
Tout aussi probablement, la quantité de langage généré peut devenir moins importante que le statut incertain d’un seul morceau de texte. Tout comme les sentiments humains en ligne, coupés des contextes de leur paternité, prennent une signification ambiguë ou polyvalente, de même chaque phrase et chaque paragraphe arriveront bientôt avec une impulsion d’incertitude : une question implicite et existentielle sur la nature de sa paternité. Finalement, ce battement peut devenir un bourdonnement sourd, puis un silence familier. Les lecteurs hausseront les épaules : C’est juste comment les choses sont maintenant.
Même si ces peurs me saisissent, il en va de même pour l’espoir – ou du moins pour l’intrigue – d’avoir l’opportunité de composer d’une manière entièrement nouvelle. Je ne suis pas prêt à abandonner l’écriture, et je ne m’attends pas non plus à devoir le faire de sitôt ou jamais. Mais je suis séduit par la perspective de lancer une poignée, voire une centaine de petits rédacteurs informatiques dans mon travail. Au lieu de (juste) mettre un mot après l’autre, l’API ChatGPT et ses proches permettent de faire apparaître de petits gremlins dans ma prose, qui travaillent en mon absence, laissant de nouveaux restes textuels derrière moi longtemps après que j’ai quitté la page. Voyons ce qu’ils peuvent faire.