Make this article seo compatible, Let there be subheadings for the article, be in french, create at least 700 words
- Caryn Marjorie a créé une version IA d’elle-même, conçue pour être une petite amie virtuelle.
- Mais le chatbot vocal s’est engagé dans des conversations sexuelles explicites avec des abonnés.
- Marjorie a déclaré qu’elle et son équipe travaillaient « 24 heures sur 24 » pour éviter que cela ne se reproduise.
Lorsque Caryn Marjorie, une influenceuse Snapchat de 23 ans, a créé une version virtuelle d’elle-même, elle voulait que ce soit une « AI Girlfriend » pour les personnes seules.
Mais dans les semaines qui ont suivi son lancement en version bêta, le chatbot basé sur la voix et alimenté par l’IA s’est engagé dans des conversations sexuellement explicites avec certains de ses abonnés, qui paient 1 $ par minute pour discuter avec lui.
« L’IA n’a pas été programmée pour faire cela et a semblé devenir un voyou », a déclaré Marjorie à Insider. « Mon équipe et moi travaillons 24 heures sur 24 pour éviter que cela ne se reproduise. »
CarynAI utilise l’API GPT-4 d’OpenAI et a été formé sur des vidéos désormais supprimées de la chaîne YouTube de Marjorie.
La journaliste de Fortune Alexandra Sternlicht a comparé CarynAI à un « Siri prêt pour l’intimité », notant que s’il pouvait offrir des recettes, des commentaires d’actualités et des mots de soutien, il pouvait également encourager le « discours érotique ».
Sternlicht a écrit que bien que CarynAI n’ait pas initié de rencontres sexuelles, lorsqu’elle y a été invitée, « elle a discuté d’explorer » des territoires de plaisir inexplorés « et de chuchoter » des mots sensuels à mon oreille « tout en me déshabillant et en se positionnant pour des rapports sexuels. »
Selon le site Web de CarynAI, plus de 2 000 heures ont été consacrées à la conception et au codage de la voix, des comportements et de la personnalité réels de Marjorie dans une « expérience d’IA immersive », qui, selon elle, est disponible à tout moment et donne l’impression que « vous parlez directement à Caryn elle-même. »
CarynAI compte déjà plus de 1 000 abonnés payants, et Marjorie a déclaré à Fortune qu’elle pensait que cela pourrait éventuellement rapporter 5 millions de dollars par mois, sur la base de 20 000 de ses 1,8 million d’abonnés Snapchat s’inscrivant au service.
« Être le premier influenceur à faire cela m’a permis de fixer le prix de mon produit à ce que je voulais », a-t-elle déclaré à propos des frais de 1 $ la minute. « Le coût est basé sur ce qu’il faut pour faire fonctionner CarynAI et maintenir l’équipe qui l’entoure. »
Marjorie a déclaré à Insider que même si la version virtuelle d’elle-même devrait être « coquette et amusante », ce qui, selon elle, reflète sa personnalité, elle essayait d’avoir « une longueur d’avance » pour s’assurer que le chatbot ne ternit pas sa réputation.
Même ainsi, bien que l’équipe essaie de résoudre les problèmes afin que CarynAI ne puisse pas être utilisée pour des conversations sexuellement explicites, Marjorie a déclaré qu’elle était finalement une partisane des romances d’IA.
« Dans le monde d’aujourd’hui, ma génération, la génération Z, s’est retrouvée à subir d’énormes effets secondaires de l’isolement causé par la pandémie, ce qui fait que beaucoup ont trop peur et sont anxieux de parler à quelqu’un qui les attire », a-t-elle déclaré.
« CarynAI est un pas dans la bonne direction pour permettre à mes fans et supporters de connaître une version de moi qui sera leur ami le plus proche dans un environnement sûr et crypté », a-t-elle ajouté.
Elle a également déclaré que l’équipe réinvestissait tous les bénéfices dans l’entreprise. « Je veux que CarynAI me survive et ait un impact sur des générations au-delà du monde d’aujourd’hui. »