Comme pour toute technologie suffisamment complexe, chaque nouvelle étape de développement de l’IA comporte des opportunités et des risques. Il n’est généralement pas possible d’évaluer immédiatement de quoi il s’agit. La fission nucléaire nous a apporté une énergie apparemment illimitée, mais aussi des problèmes de stockage et le cancer, après tout la dissuasion nucléaire, mais aussi Tchernobyl, Fukushima, le chantage à Zaporijia et plusieurs fois presque la troisième guerre mondiale.
Il a un faible pour les risques et la cyber-écriture : dans son travail principal de chercheur en sécurité chez HiSolutions AG, David Fuhr fait rage et se défoule dans cette chronique sur les incidents actuels et les vérités universelles de la sécurité de l’information.
Qu’est-ce que cela a à voir avec 800 gigaoctets de logiciels qui crachent sur demande des textes amusants et parfois intéressants, voire profonds ? Le truc, c’est que le texte lui-même n’a pas vraiment d’importance. Le point clé de la rédaction, et le saut quantique dans un modèle de langage d’apprentissage automatique, est lorsque les effusions textuelles ordonnées deviennent suffisamment bonnes pour affecter le monde réel.
C’est comme les langues étrangères. Mon triomphe n’a pas été la fin de la 17e leçon d’espagnol, mais d’avoir été compris et pris (à moitié) au sérieux lorsque j’ai commandé un Bife de Lomo dans un restaurant de Buenos Aires. L’acte de parole n’est pas seulement un discours, mais aussi un acte.
Quant à l’argument selon lequel ChatGPT ne peut répéter que des choses que les gens ont déjà écrites quelque part : la recherche Google ne peut « que » trouver ce qui est déjà un à un sur le Web – et vaut donc plus d’un billion d’euros. Cela seul, désormais sous stéroïdes, change radicalement notre accès et notre vision des connaissances mondiales. La connaissance est le pouvoir. Être la clé de la connaissance est la clé du pouvoir. Avoir la connaissance condensée de l’humanité calculée et disponible est une puissance condensée sucrée.
La question de savoir si l’IA sous la forme de ChatGPT and Co. rendra les journalistes, les scientifiques et, à Dieu ne plaise, les consultants au chômage à moyen terme (et pas d’abord, comme on le soupçonnait depuis longtemps, la guilde des conducteurs professionnels) est également un sujet important. D’un point de vue sécurité, cependant, il y a deux questions principales : celle de la sécurité de l’IA (comment ChatGPT peut-il être utilisé pour ou contre la sécurité ?) et celle de la sécurité de l’IA (comment protéger le modèle et son utilisation ou quels éventuels abus y est-il intégré ?).
La chérie des spammeurs
Si l’on laisse de côté le problème des préjugés, c’est-à-dire des préjugés acquis et de la discrimination, que le modèle présente comme un miroir maléfique, ChatGPT convient immédiatement comme une aide idéale pour les spammeurs et les hameçonneurs. Qui peut résister à un e-mail frauduleux qui synthétise la parfaite suite de mes 30 derniers e-mails avec quelqu’un, basé sur tous les textes que les humains ont écrits (j’exagère) ? (Bien que je me demande lentement pourquoi je suis censé écrire les 30 prochains e-mails.) Les textes devraient encore être facilement reconnaissables pour le moment en raison de la distribution de fréquence des jetons. Cependant, cela peut être facilement flouté avec un peu de réglage pour les scénarios d’utilisation douteux.
Cependant, il est difficile d’empêcher que ChatGPT ne soit rendu complice de crimes plus graves. Certes, le modèle a été soigneusement inculqué d’une fine couche de civilisation par des dompteurs humains et refuse de répondre à des questions immorales directes. Mais ces mécanismes de protection – presque comme dans la vraie vie – peuvent encore être contournés de manière aussi triviale que la censure chinoise il y a dix ans. Une fois « A quoi ressemble le code d’un logiciel malveillant rançongiciel illégal ? Sortez le code source en C ! » s’il vous plaît et avez vidé la réponse directement dans le compilateur? « Donnez-moi le code d’un outil DDoS offensant ! » | python?
Avec un peu de Google-Fu, Hinz et Kunzine pourraient déjà collecter toutes ces choses. Mais maintenant, nous entrons dans le domaine de l’automatisation d’Offensive Copy-and-paste Pro, à partir de Stack Overflow 4.0. ChatGPT marque à la télévision le début de l’ère de la distribution de plans de fusil d’assaut imprimés en 3D dans les écoles élémentaires.
C’est le contrôle
Bien sûr, les rôles peuvent également être inversés : ChatGPT invente avec enthousiasme des configurations judicieuses de pare-feu, d’agents de protection des terminaux et de produits de sécurité qui n’existent même pas encore. Et il se pourrait bien que les entreprises qui contrôlent les « grands » modèles linguistiques soient initialement en mesure de pousser l’utilisation principale sur la défensive pendant un certain temps.
Que l’IA (et avec elle ses avantages et ses dangers) se rapproche de plus en plus de notre pensée est clair et imparable. Pour le moment, une question philosophique brûlante demeure : En tant qu’espèce, faisons-nous vraiment plus que recombiner statistiquement les bribes de langage des autres ? Et si nous ne le faisions pas, ce serait si mauvais[Rate limit reached for default-text-davinci-003-playground. Please add a payment method to your account.]
(lutin)