Les programmes basés sur l’IA comme ChatGPT apportent-ils des changements utiles ou un chaos inconnu ?

Depuis que ChatGPT a explosé sur la scène en novembre 2022, beaucoup ont réfléchi à la façon dont il pourrait transformer la vie, les emplois et l’éducation tels que nous les connaissons pour le meilleur ou pour le pire.

Beaucoup, dont nous, sont enthousiasmés par les avantages que la technologie numérique peut apporter aux consommateurs.

Cependant, notre expérience dans le test de produits et services numériques, l’élaboration de politiques numériques et la plongée dans les perspectives des consommateurs sur l’IdO, l’IA, les données et les plateformes signifie que les yeux de tous les experts sont également grands ouverts sur les défis de la numérisation perturbatrice.

Après tout, les consommateurs devraient pouvoir utiliser la meilleure technologie comme ils le souhaitent et ne pas avoir à faire de compromis sur la sécurité et la confiance.

Qu’y a-t-il pour les consommateurs ?

Il y a beaucoup de potentiel positif dans les nouvelles technologies génératives comme ChatGPT, y compris la production de contenu écrit, la création de matériel de formation pour les étudiants en médecine ou l’écriture et le débogage de code.

Nous avons déjà vu des gens innover dans les tâches des consommateurs avec ChatGPT – par exemple, l’utiliser pour rédiger un appel d’amende de stationnement réussi.

Et lorsqu’on lui a demandé, ChatGPT avait ses propres idées sur ce qu’il pouvait faire pour les consommateurs.

« Je peux aider à comparer les prix et les spécifications de différents produits, répondre aux questions sur l’entretien et les garanties des produits, et fournir des informations sur les politiques de retour et d’échange…. Je peux également aider les consommateurs à comprendre les termes techniques et les spécifications des produits, ce qui leur permet de prendre plus facilement des décisions éclairées », nous a-t-il dit lorsque nous avons posé la question.

En regardant cela, on peut se demander si ce niveau de service d’une machine pourrait rendre les experts de tous les domaines, y compris le nôtre, obsolètes.

Cependant, le déploiement de ChatGPT et de technologies similaires a montré qu’il a toujours un problème de précision qui est, à son tour, un problème pour ses utilisateurs.

La recherche de la vérité

Commençons par examiner le défi de l’exactitude et de la vérité dans un grand modèle de langage comme ChatGPT.

ChatGPT a commencé à perturber la recherche sur Internet grâce au déploiement de la technologie dans le moteur de recherche Bing de Microsoft.

Avec la recherche activée par ChatGPT, les résultats n’apparaissent pas sous la forme d’une liste de liens, mais sous la forme d’un résumé soigné des informations contenues dans les liens, présentés dans un style conversationnel.

Les réponses peuvent être affinées grâce à d’autres questions, comme si vous discutiez avec un ami ou un conseiller.

Cela pourrait être très utile pour une demande comme « pouvez-vous me montrer la tente la plus légère qui rentrerait dans une sacoche de vélo de 20 litres ».

De tels résultats seraient faciles à vérifier, et peut-être plus important encore, s’ils s’avèrent faux, ils ne poseraient pas de risque majeur pour une personne.

Cependant, c’est une autre histoire lorsque les informations « erronées » ou « inexactes » comportent un risque matériel de préjudice – par exemple, des conseils de santé ou financiers ou une désinformation délibérée qui pourrait causer des problèmes sociaux plus larges.

C’est convaincant, mais est-ce fiable ?

Le problème est que des technologies comme ChatGPT sont très douées pour écrire des réponses convaincantes.

Mais OpenAI a clairement indiqué que ChatGPT n’a pas été conçu pour écrire du texte vrai.

Il est formé pour prédire le mot suivant et créer des réponses qui semblent très plausibles – ce qui signifie qu’une réponse trompeuse ou fausse peut sembler tout aussi convaincante qu’une réponse fiable et vraie.

La livraison rapide de contrevérités convaincantes et plausibles grâce à des outils comme ChatGPT devient un problème critique entre les mains des utilisateurs dont le seul but est d’induire en erreur, de tromper et de frauder.

Les grands modèles de langage comme ChatGPT peuvent être formés pour apprendre différents tons et styles, ce qui les rend prêts à être exploités.

Des e-mails de phishing convaincants deviennent soudainement beaucoup plus faciles à composer, et des visuels persuasifs mais trompeurs sont plus rapides à créer.

Les escroqueries et les fraudes pourraient devenir de plus en plus sophistiquées et la désinformation de plus en plus difficile à distinguer. Les deux pourraient devenir immunisés contre les défenses que nous avons construites.

Nous devons apprendre à tirer le meilleur parti de ChatGPT

Même en se concentrant sur un seul aspect de ChatGPT, ceux d’entre nous qui sont impliqués dans la protection des consommateurs en Europe et dans le monde ont examiné plusieurs couches de conséquences différentes que cette technologie avancée pourrait créer une fois qu’elle atteint les mains des utilisateurs.

Les gens de notre domaine travaillent en effet déjà avec des entreprises, des groupes de défense des droits numériques et des centres de recherche pour commencer à démêler les complexités d’une technologie aussi perturbatrice.

OpenAI a mis en place des garanties autour de l’utilisation de la technologie, mais d’autres déploiements de produits similaires peuvent ne pas l’être.

Une gouvernance et des règles solides et tournées vers l’avenir sont nécessaires pour garantir que les consommateurs puissent tirer le meilleur parti de la technologie en toute confiance.

Au fur et à mesure que la loi sur l’IA se développe, les organisations d’Euroconsumers travaillent en étroite collaboration avec le BEUC pour garantir les droits des consommateurs à la vie privée, à la sécurité et à l’équité dans les cadres législatifs.

À l’avenir, nous serons prêts à défendre les consommateurs devant les tribunaux pour les actes répréhensibles causés par les systèmes d’IA.

La véritable innovation a toujours les intérêts humains au cœur

Cependant, il existe de nombreuses raisons d’envisager les outils du futur, comme ChatGPT, avec optimisme.

Nous croyons que l’innovation peut être un levier de développement social et économique en façonnant des marchés qui fonctionnent mieux pour les consommateurs.

Cependant, la véritable innovation nécessite la contribution de chacun et ne se produit que lorsque des avantages tangibles se font sentir dans la vie du plus grand nombre de personnes possible.

Mais nous ne sommes qu’au début de ce qui s’avère être une expérience intrigante avec ces technologies interactives et génératives.

Il est peut-être trop tôt pour un dernier mot définitif, mais une chose est absolument sûre : malgré — et peut-être même à cause de ChatGPT — il y aura encore beaucoup de besoin de protection des consommateurs par de vrais humains.

Marco Pierani est directeur des affaires publiques et des relations avec les médias, et Els Bruggeman est responsable du plaidoyer et de l’application chez Euroconsumers, un groupe de cinq organisations de consommateurs en Belgique, en Italie, au Brésil, en Espagne et au Portugal.

Chez Euronews, nous pensons que tous les points de vue comptent. Contactez-nous à [email protected] pour envoyer des présentations ou des soumissions et faire partie de la conversation.