Qu’est-ce qui se cache derrière le chatbot ChatGPT

Open AI a démarré en tant que fondation à San Francisco en 2015. Des entrepreneurs technologiques bien connus tels qu’Elon Musk, Peter Thiel, Reid Hoffman et Sam Altman ont donné un total d’un milliard de dollars pour atteindre un objectif : développer une intelligence artificielle qui « bénéficie à toute l’humanité », comme le dit la loi.

Musk est parti en 2018 parce que le constructeur automobile Tesla qu’il dirige a développé sa propre IA. Un an plus tard, un tournant s’est produit : la fondation a manqué d’argent car la capacité informatique et les spécialistes correspondants coûtent cher. Il n’a pas non plus été facile d’amener des experts à la fondation – après tout, Google ou Meta offrent des salaires élevés et des options d’achat d’actions.

Par conséquent, une filiale à but lucratif a été créée, dirigée par le fondateur Altman. Tous les employés de la fondation ont reçu des actions, Microsoft a investi un milliard de dollars et des capital-risqueurs tels que Khosla Venture ou la fondation du fondateur de LinkedIn, Hoffman, se sont joints à nous.

Aujourd’hui, Open AI est l’une des startups les plus précieuses aux États-Unis, évaluée à 29 milliards de dollars. Les participations sont réglementées de manière compliquée afin de rendre justice à la structure de la fondation. Selon divers médias technologiques américains, Microsoft détient 49% de la société et les autres investisseurs détiennent également 49%. La Fondation détient les deux pour cent restants.

Qu’est-ce que ChatGPT ?

Le nom signifie « Chat Generative Pre-trained Transformer », qu’Open AI a publié fin novembre. Le chatbot est basé sur un modèle d’apprentissage automatique qui comprend les entrées humaines et répond de manière naturelle. Le chatbot peut écrire des poèmes, résumer des textes ou encore programmer.

ChatGPT utilise des modèles de langage – actuellement le GPT 3.5 – qui ont été formés sur d’énormes quantités de données, appelés Large Language Models (LLM). 175 milliards de paramètres et 800 gigaoctets de capacité de stockage ont été utilisés pour cela.

Le modèle fonctionne sur le principe de l’apprentissage par renforcement. Le programme développe indépendamment une stratégie en plusieurs étapes, qui est contrôlée par des « récompenses ». Cela peut être une rétroaction positive ou négative, surveillée et donnée par les humains dans les premiers stades. Au plus haut niveau, le programme s’optimise avec la soi-disant « Optimisation de la politique proximale » (PPO).

Cependant, le modèle ne peut être aussi bon que les données. Par exemple, s’il y a des préjugés racistes, le programme les reproduira également. Pour éviter cela, les développeurs d’Open AI ont utilisé un « filtre de modération » qui n’a pas mal fonctionné jusqu’à présent.

Que pouvez-vous faire avec ChatGPT ?

Tout le monde peut utiliser ChatGPT gratuitement après l’inscription. En raison du grand intérêt, cependant, le site Web tombe souvent à genoux. Toute personne qui entre dans le programme peut créer des textes qui se lisent de manière éloquente et structurée et peuvent être rédigés par un journaliste ou un écrivain. Il peut comprendre des phrases jusqu’à 1500 mots.

Le chatbot est si bon qu’il réussirait l’examen MBA de l’université d’élite américaine Wharton – avec la note « deux moins », comme l’a récemment écrit le professeur Christian Terwiesch dans une étude. Les explications étaient « excellentes ».

>> Lire aussi : L’IA aidera-t-elle les employés – ou les remplacera-t-elle ?

ChatGPT peut également traduire et parle plusieurs langues. Cependant, l’allemand a des problèmes de ponctuation et de grammaire, et les phrases sont parfois longues et alambiquées.

Le potentiel est encore énorme. ChatGPT pourrait potentiellement changer le travail quotidien dans de nombreux secteurs. Microsoft souhaite intégrer l’outil d’IA dans son moteur de recherche Bing, qui fonctionnerait alors d’une toute nouvelle manière. Les utilisateurs peuvent alors faire des requêtes de recherche comme s’ils étaient un humain et recevoir des réponses complètes au lieu d’une liste de liens.

Quels sont les inconvénients de ChatGPT ?

Les développeurs attachent une grande importance à ne pas donner de réponses erronées, trompeuses ou nuisibles. Cependant, il existe de nombreux exemples où les utilisateurs ont réussi à le faire. Dans l’application « Historical Figures », qui utilise ChatGPT, les utilisateurs peuvent converser avec Jésus ou les Beatles – mais récemment aussi avec Adolf Hitler et d’autres dictateurs.

Cependant, comparé à d’autres chatbots, ChatGPT est bien meilleur pour éviter les stéréotypes. Ce qui manque toujours, ce sont les sources, et le programme ne fournit aucune probabilité pour ses déclarations.

Fondamentalement, la prudence est toujours de mise : ChatGPT donne souvent de mauvaises réponses avec beaucoup d’éloquence et d’autorité. On tombe dans les questions pièges, les sujets obscurs posent particulièrement problème. Les questions actuelles sont également taboues car le programme n’a été formé qu’avec des données jusqu’à fin 2021. Le programme répond à des questions comme la Coupe du monde 2022, mais ce ne sont que des spéculations.

Quels autres logiciels d’IA sont encore disponibles ?

Il existe toute une gamme d’offres, chacune avec ses forces et ses faiblesses. Par exemple, Open AI propose Dall-E, qui crée des images à partir de descriptions textuelles sur commande. Le programme est basé sur ChatGPT et a récemment cessé d’être gratuit – il coûterait environ 40 euros par mois.

Une alternative est Bloom, qui est le seul programme avec 176 milliards de paramètres formés sur plus de données que ChatGPT. Il maîtrise 46 langages et 13 langages de programmation. Le logiciel open-source est disponible gratuitement et particulièrement précieux dans des langues rares comme le swahili. Il peut résumer ou traduire du texte et a été formé sur les données jusqu’en juillet 2022. Cependant, vous devez payer pour le service cloud à 40 $ de l’heure.

Compte tenu du battage médiatique autour de ChatGPT, les rumeurs se multiplient selon lesquelles Google suivra bientôt. Le groupe Internet travaille depuis un certain temps sur le soi-disant « Modèle de langage pour les applications de dialogue » (Lamda). Ceci est déjà utilisé dans l’application « AI Test Kitchen », qui ne fonctionne que sur les smartphones Android et n’est disponible que dans une faible mesure.

Suite: Microsoft investit « plusieurs milliards » dans les fabricants de ChatGPT Open AI