Demandez au nouvel outil d’intelligence artificielle ChatGPT d’écrire un essai sur la cause de la guerre civile américaine et vous pouvez le regarder produire un dissertation convaincant en quelques secondes.
C’est l’une des raisons pour lesquelles les responsables de l’école de New York ont commencé cette semaine à bloquer l’outil d’écriture impressionnant mais controversé qui peut générer des paragraphes de texte de type humain.
La décision du plus grand district scolaire américain de restreindre le site Web ChatGPT sur les appareils et les réseaux scolaires pourrait avoir des effets d’entraînement sur d’autres écoles, et les enseignants se démènent pour comprendre comment empêcher la triche. Les créateurs de ChatGPT disent qu’ils recherchent également des moyens de détecter les abus.
L’outil gratuit n’existe que depuis cinq semaines mais soulève déjà des questions difficiles sur l’avenir de l’IA dans l’éducation, l’industrie technologique et une foule de professions.
QU’EST-CE QUE CHATGPT ?
ChatGPT a été lancé le 30 novembre mais fait partie d’un ensemble plus large de technologies développées par la startup OpenAI basée à San Francisco, qui entretient des relations étroites avec Microsoft.
Cela fait partie d’une nouvelle génération de systèmes d’IA qui peuvent converser, générer du texte lisible à la demande et même produire de nouvelles images et vidéos basées sur ce qu’ils ont appris à partir d’une vaste base de données de livres numériques, d’écrits en ligne et d’autres médias.
Mais contrairement aux itérations précédentes de soi-disant «grands modèles de langage», tels que le GPT-3 d’OpenAI, lancé en 2020, l’outil ChatGPT est disponible gratuitement pour toute personne disposant d’une connexion Internet et conçu pour être plus convivial. Cela fonctionne comme un dialogue écrit entre le système d’IA et la personne qui lui pose des questions.
Des millions de personnes ont joué avec au cours du mois dernier, l’utilisant pour écrire des poèmes ou des chansons stupides, pour essayer de le tromper en faisant des erreurs, ou à des fins plus pratiques comme aider à composer un e-mail. Toutes ces requêtes l’aident également à devenir plus intelligent.
QUELS SONT LES PIEGES ?
Comme avec des systèmes similaires, ChatGPT peut générer une prose convaincante, mais cela ne signifie pas que ce qu’il dit est factuel ou logique.
Son lancement est venu avec peu de conseils sur la façon de l’utiliser, autre qu’une promesse que ChatGPT admettra quand c’est faux, défiera les « prémisses incorrectes » et rejettera les demandes destinées à générer des réponses offensantes. Depuis lors, cependant, sa popularité a conduit ses créateurs à essayer de réduire les attentes de certaines personnes.
« ChatGPT est incroyablement limité, mais assez bon pour certaines choses pour créer une impression trompeuse de grandeur », a déclaré le PDG d’OpenAI, Sam Altman, sur Twitter en décembre.
Altman a ajouté que « c’est une erreur de s’y fier pour quelque chose d’important en ce moment ».
« C’est un aperçu du progrès ; nous avons beaucoup de travail à faire sur la robustesse et la véracité.
PEUT-IL ÊTRE UTILISÉ POUR RÉDIGER DES DOCUMENTS SCOLAIRES ?
C’est ce que ChatGPT a dit lorsque l’Associated Press lui a demandé de répondre à cette question en majuscules du point de vue d’un directeur criant un bref message via le système de sonorisation d’une école :
« N’UTILISEZ PAS CHATGPT OU TOUT AUTRE OUTIL D’ÉCRITURE AUTOMATISÉ POUR LES DOCUMENTS SCOLAIRES. C’EST DE LA TRICHE ET NE SERA PAS TOLÉRÉ. SI VOUS ÊTES SURPRIS À UTILISER CHATGPT OU TOUT AUTRE OUTIL D’ÉCRITURE AUTOMATISÉ POUR LES DOCUMENTS SCOLAIRES, IL Y AURA DE GRAVES CONSÉQUENCES.
Mais lorsqu’on lui a demandé de répondre seul à la même question, ChatGPT a proposé cet avertissement plus mesuré : « En règle générale, il n’est pas approprié d’utiliser ChatGPT ou tout autre outil d’écriture automatisé pour les documents scolaires, car il est considéré comme de la triche et ne profiter à long terme à l’étudiant.
QUE DISENT LES ÉCOLES ?
De nombreux districts scolaires s’efforcent encore de déterminer comment définir des politiques sur si et comment il peut être utilisé.
Le département de l’éducation de la ville de New York a déclaré jeudi qu’il restreignait l’accès aux réseaux et appareils scolaires parce qu’il s’inquiétait des impacts négatifs sur l’apprentissage des élèves, ainsi que des « préoccupations concernant la sécurité et l’exactitude du contenu ».
Mais rien n’empêche un étudiant d’accéder à ChatGPT à partir d’un téléphone personnel ou d’un ordinateur à la maison.
« Bien que l’outil puisse fournir des réponses rapides et faciles aux questions, il ne développe pas les compétences de pensée critique et de résolution de problèmes, qui sont essentielles à la réussite scolaire et tout au long de la vie », a déclaré la porte-parole de l’école, Jenna Lyle.
HUMAIN OU IA ?
«Pour déterminer si quelque chose a été écrit par un humain ou une IA, vous pouvez rechercher l’absence d’expériences ou d’émotions personnelles, vérifier les incohérences dans le style d’écriture et surveiller l’utilisation de mots de remplissage ou de phrases répétitives. Ceux-ci peuvent être des signes que le texte a été généré par une IA.
C’est ce que ChatGPT a dit à un journaliste de l’AP lorsqu’on lui a demandé comment faire la différence.
OpenAI a déclaré cette semaine dans une déclaration écrite par un humain qu’il prévoyait de travailler avec des éducateurs en apprenant comment les gens expérimentent ChatGPT dans le monde réel.
« Nous ne voulons pas que ChatGPT soit utilisé à des fins trompeuses dans les écoles ou ailleurs, nous développons donc déjà des mesures d’atténuation pour aider quiconque à identifier le texte généré par ce système », a déclaré la société.
CELA MENACE-T-IL GOOGLE ?
Il y a eu des spéculations sur le fait que ChatGPT pourrait bouleverser le secteur de la recherche sur Internet désormais dominé par Google, mais le géant de la technologie travaille sur une technologie similaire depuis des années – il est juste plus prudent de le diffuser dans la nature.
C’est Google qui a aidé à lancer la tendance vers des modèles de langage d’IA toujours plus grands et plus intelligents qui pourraient être «pré-formés» sur un large éventail d’écrits. En 2018, la société a introduit un système connu sous le nom de BERT qui utilise une technique de « transformateur » qui compare les mots d’une phrase pour prédire le sens et le contexte. Certaines de ces avancées sont désormais intégrées dans les recherches Google.
Mais il ne fait aucun doute que les itérations successives de GPT – qui signifie Generative Pre-trained Transformer – ont un impact. Microsoft a investi au moins 1 milliard de dollars dans OpenAI et détient une licence exclusive pour utiliser GPT-3.
HEY CHATGPT, POUVEZ-VOUS METTRE TOUT CELA DANS UN RAP ?
« ChatGPT n’est qu’un outil,
Mais ça ne remplace pas l’école.
Vous ne pouvez pas tricher pour atteindre le sommet,
En utilisant une machine pour faire vos devoirs, vous échouerez.
Le plagiat est un non-non,
Et le texte de ChatGPT n’est pas le vôtre, yo.
Alors mettez-vous au travail, gagnez cette note,
N’essayez pas de tricher, ça ne vaut pas l’échange.