Avez-vous craint que ChatGPT, le générateur de langage de l’IA, puisse être utilisé de manière malveillante pour tromper les devoirs ou diffuser de la désinformation ? Vous avez de la chance, en quelque sorte : OpenAI, la société qui a créé ChatGPT, a introduit un nouvel outil qui tente de déterminer la probabilité qu’un morceau de texte que vous fournissez ait été généré par l’IA.
Je dis « en quelque sorte » parce que le nouveau logiciel est confronté aux mêmes limitations que ChatGPT lui-même : il pourrait diffuser de la désinformation sur le potentiel de désinformation. Comme l’explique OpenAI, l’outil produira probablement beaucoup de faux positifs et négatifs, parfois avec une grande confiance. Dans un exemple, étant donné les premières lignes du Livre de la Genèse, le logiciel a conclu qu’il était susceptible d’être généré par l’IA. Dieu, la première IA.
D’une part, OpenAI semble adopter un mode classique de solutionnisme technologique : créer un problème, puis vendre la solution au problème qu’il a créé. Mais d’un autre côté, cela n’a peut-être même pas d’importance si ChatGPT ou son antidote « fonctionne », quoi que cela signifie (en plus de sa précision limitée, le programme n’est efficace que sur le texte anglais et a besoin d’au moins 1 000 caractères pour fonctionner). La technologie d’apprentissage automatique et d’autres technologies similaires créent un nouveau fardeau pour tout le monde. Maintenant, en plus de tout ce que nous devons faire, nous devons également consacrer du temps au travail de distinction entre l’humain et l’IA, et la bureaucratie qui sera construite autour d’elle.
Si vous êtes un étudiant, un parent, un éducateur ou une personne ayant accès à Internet, vous avez peut-être eu vent de la panique absolue qui a éclaté autour de ChatGPT. Il y a des peurs—C’est le fin d’études comme nous le savons! Il passé un examen MBA Wharton !—et réplique à ces peurs : Nous devons défendre contre la tricherie rampante. Si votre classe peut être jouée par une IA, alors c’était mal conçu en premier lieu !
Une hypothèse sous-tend toutes ces harangues, que l’éducation doit « répondre » à ChatGPT, pour lui faire de la place et l’aborder. Au début de ce semestre à l’Université de Washington à St. Louis, où j’enseigne, notre prévôt a envoyé à tous les professeurs un e-mail nous encourageant à être conscients de la technologie et à réfléchir à la manière d’y réagir. Comme de nombreuses institutions, la nôtre a également organisé une table ronde pour discuter de ChatGPT. En quelques mois, l’IA générative a poussé les établissements secondaires et postsecondaires à se démener pour trouver une réponse – n’importe quelle réponse – à ses menaces ou opportunités.
Ce travail s’accumule au sommet d’une pile de tâches déjà débordante. Les budgets étant réduits, les enseignants ont souvent des fonds et du matériel de crowdsourcing pour leurs salles de classe. La pandémie de coronavirus a changé les hypothèses sur l’assiduité et l’engagement, obligeant tout le monde à renégocier, parfois chaque semaine, où et quand les cours auront lieu. La gestion de l’anxiété des élèves et le dépannage des technologies de classe défaillantes font désormais partie du travail quotidien de la plupart des enseignants. Sans parler de tous les e-mails, des modules de formation et des tâches de comptabilité en libre-service. Et maintenant vient ChatGPT, et le remède défectueux de ChatGPT.
La situation va bien au-delà de l’éducation. Il y a près d’une décennie, j’ai diagnostiqué une maladie que j’ai nommée hyperemploi. Grâce à l’informatique, la plupart des professionnels travaillent maintenant beaucoup plus qu’auparavant. Cela s’explique en partie par le fait que les e-mails, les logiciels de groupe, les ordinateurs portables et les smartphones ont rendu le travail à la maison beaucoup plus facile – vous pouvez travailler 24 heures sur 24 si personne ne vous arrête. Mais aussi, la technologie a permis, et même obligé, les travailleurs à assumer des tâches qui auraient autrement été effectuées par des spécialistes en tant qu’emplois à plein temps. Les logiciels de SAP, Oracle et Workday obligent les travailleurs à effectuer leurs propres achats et comptabilité. Les tableaux de bord et les services de données font des employés de bureau des analystes commerciaux à temps partiel. Sur les médias sociaux, de nombreuses personnes sont désormais de facto des spécialistes du marketing et des agents de relations publiques pour leur division et pour elles-mêmes.
Peu importe ce que ChatGPT et d’autres outils d’IA en fin de compte faire, ils imposeront de nouveaux régimes de travail et de gestion en plus de la main-d’œuvre nécessaire pour mener à bien l’effort supposé d’économie de main-d’œuvre. Le détecteur d’IA de ChatGPT introduit encore une autre chose à faire et à gérer.
Un étudiant essaie-t-il de tricher avec l’IA ? Mieux vaut exécuter le travail via la vérification AI-cheater. Même les éducateurs qui ne veulent pas utiliser une telle chose seront piégés dans son utilisation : soumis à des débats sur l’éthique du partage du travail des élèves avec OpenAI pour former le modèle ; obligés d’adopter des procédures pour traiter la question en tant que pratique institutionnelle et de reconfigurer les plans de cours pour faire face à la « nouvelle normalité » ; obligés de lire les courriels concernant ces procédures pour envisager de les mettre en œuvre.
Dans d’autres emplois, des situations différentes mais similaires se présenteront. Peut-être avez-vous sous-traité certains travaux à un entrepreneur. Vous devez maintenant vous assurer qu’il n’a pas été généré par l’IA, afin d’éviter le gaspillage fiscal, l’exposition juridique ou l’embarras en ligne. Lorsque des cas comme celui-ci apparaissent, préparez-vous à une réunion générale et à une série de suivis par e-mail, et peut-être éventuellement à un webinaire obligatoire et à une évaluation de votre conformité avec le nouveau système de gestion de l’apprentissage, et ainsi de suite.
Les nouvelles technologies destinées à libérer les gens du fardeau du travail ont ajouté de nouveaux types de travail à la place. Les appareils ménagers tels que la machine à laver ont libéré les femmes pour travailler à l’extérieur de la maison, ce qui a réduit le temps consacré aux tâches ménagères (qui incombaient encore en grande partie aux femmes) alors même que les normes de perfection à la maison augmentaient. Les photocopieurs et les imprimantes réduisent le fardeau de la dactylographe, mais créent le besoin de préparer, de rassembler et de distribuer les rapports eux-mêmes en plus de les rédiger. La caisse d’épicerie automatisée attribue le travail de caissier au client. L’e-mail permet de communiquer rapidement et directement avec les collaborateurs, mais ensuite toute la journée est consacrée au traitement des e-mails, ce qui renouvelle la charge le lendemain. Zoom permet de se rencontrer n’importe où, mais ce faisant, il engendre encore plus de réunions.
ChatGPT a retenu l’attention du monde entier, un signe avant-coureur de… eh bien, quelque chose, mais peut-être quelque chose de grand, d’étrange et de nouveau. Cette réponse a inspiré le plaisir, l’anxiété, la peur et la terreur, mais quelle que soit l’émotion, elle s’est concentrée sur les utilisations potentielles de la technologie, que ce soit pour le meilleur ou pour le pire.
Le détecteur ChatGPT offre la première bouffée d’une autre conséquence tout aussi importante de l’avenir de l’IA : son inévitable bureaucratisation. Microsoft, qui a investi des milliards de dollars dans OpenAI, a déclaré son espoir d’intégrer la technologie dans Office. Cela pourrait aider à automatiser le travail, mais il est tout aussi susceptible de créer de nouvelles demandes d’intégration de la suite Office, tout comme les modules complémentaires précédents tels que SharePoint et Teams. Bientôt, peut-être, les ressources humaines exigeront la réalisation de rapports de différenciation par l’IA avant d’approuver les offres d’emploi. L’approvisionnement peut adopter un nouveau plug-in Workday pour s’assurer que les approbations fournisseur-travail-produit respectent les meilleures pratiques d’IA, une exigence que vous devrez désormais remplir en plus de remplir vos notes de frais, sans parler de votre travail réel. Votre tableau de bord Salesforce peut offrir à votre organisation la possibilité d’ajouter une évaluation de probabilité d’IA requise avant qu’un prospect ne soit qualifié. L’école de vos enfants peut envoyer un guide « utile » pour contrôler le travail de vos enfants à la maison pour plus d’authenticité, car « si la tromperie de l’IA est un problème, nous devons tous faire partie de la solution ».
Peut-être que l’IA vous aidera à travailler. Mais plus probablement, vous travaillerez pour AI.