Qui écrit ici : homme ou machine ?

Les développeurs du chatbot ChatGPT ont sorti un nouveau logiciel censé reconnaître si le texte a été écrit par un bot ou un humain. Mais le programme ne fonctionne toujours que modérément.

Les créateurs du logiciel ChatGPT tentent maintenant de maîtriser les conséquences de leur invention. La société de développement OpenAI a publié un programme censé distinguer si un texte a été écrit par un humain ou un ordinateur. La société l’a annoncé dans un article de blog.

tromperie et désinformation

ChatGPT est un programme gratuit qui génère des textes en réponse à une invite : y compris des articles, des essais, des blagues et même de la poésie. Depuis ses débuts en novembre, il a acquis une grande popularité tout en soulevant des inquiétudes concernant le droit d’auteur et le plagiat.

Le chatbot est un logiciel basé sur l’intelligence artificielle (IA) formé sur d’énormes quantités de texte et de données pour imiter la parole humaine. ChatGPT est si bon dans ce domaine que l’on craint, entre autres, qu’il puisse être utilisé pour tromper l’école et le travail d’étude ou pour créer des campagnes de désinformation à grande échelle. Par exemple, le programme peut mélanger de manière convaincante des informations complètement incorrectes avec des informations correctes.

Le « classificateur » logiciel peut être trompé

Le nouveau logiciel d’OpenAI – le soi-disant « classificateur » – est un modèle de langage entraîné sur un ensemble de données avec des paires de textes écrits par l’homme et écrits par l’IA sur le même sujet et destiné à distinguer les textes écrits par l’IA. Il utilise une gamme de fournisseurs pour résoudre des problèmes tels que les campagnes de désinformation automatisées et la malhonnêteté académique.

Mais la détection fonctionne toujours plutôt médiocre, comme OpenAI l’a admis dans l’entrée de blog hier. L’outil de reconnaissance ne fonctionne pas de manière fiable pour les textes de moins de 1000 caractères. De plus, le texte peut être écrit par l’IA de manière à ce que le « classificateur » puisse être trompé.

Lors des tests, le logiciel a correctement identifié les textes écrits par un ordinateur dans seulement 26 % des cas. Dans le même temps, cependant, neuf pour cent des textes formulés par des humains ont été attribués à tort à une machine. Par conséquent, pour le moment, il est recommandé de ne pas se fier principalement à l’évaluation du « classificateur » lors de l’évaluation des textes.

Faites la course entre chatbot et logiciel de reconnaissance

En attendant, cependant, il existe également d’autres programmes tels que GPTZero, le logiciel DetectGPT développé par l’Université de Stanford ou GTP-2 Output Detector Demo, qui sont destinés à aider les enseignants ou les conférenciers à reconnaître les textes générés par ChatGPT. La plateforme de plagiat Turnitin travaille également actuellement sur un logiciel qui déterminera si des essais ou des travaux ont été écrits par un chatbot ou par un humain. Mais même avec ces programmes, il y a toujours des problèmes de reconnaissance.

Aux États-Unis, l’utilisation du chatbot a déjà été interdite dans certaines écoles, et en France, par exemple, l’université d’élite Sciences Po a interdit l’utilisation de ChatGPT. D’autres écoles, en revanche, ont annoncé qu’elles allaient désormais faire passer plus fréquemment des essais et des examens manuscrits.

Le chatbot de Google arrive-t-il bientôt ?

Google développe également depuis des années un logiciel capable d’écrire et de parler comme un humain, mais s’est jusqu’à présent abstenu de le publier. Maintenant, le groupe Internet permet aux employés de tester un chatbot qui fonctionne de manière similaire à ChatGPT, a rapporté le diffuseur CNBC dans la nuit. Un e-mail interne indique qu’une réponse à ChatGPT est prioritaire. Google expérimente également une version questions-réponses de son moteur de recherche Internet.