Make this article seo compatible, Let there be subheadings for the article, be in french, create at least 700 words
- Amazon Web Services a dévoilé la semaine dernière Q, son chatbot d’IA génératif axé sur les entreprises.
- Les employés d’Amazon ont déclaré que le chatbot divulguait des informations confidentielles, selon Platformer.
- Amazon a déclaré dans un communiqué n’avoir trouvé aucun problème de sécurité et a nié toute fuite de données privées.
Le Q d’Amazonle chatbot IA destiné aux travailleurs de sa division cloud dévoilé mardi, semble avoir quelques problèmes.
Les employés utilisant le chatbot ont déclaré Q pourrait potentiellement révéler des informations confidentielles, notamment l’emplacement des centres de données AWS ou des fonctionnalités inédites, selon des communications internes divulguées obtenues par Platformer, une newsletter technique.
Le robot « éprouve également de graves hallucinations », phénomène dans lequel L’IA crache des inexactitudes avec confiance comme s’il s’agissait de faits, ont déclaré les employés.
Dans le cas de Q, il pourrait fournir de si mauvais conseils juridiques qu’ils « pourraient potentiellement provoquer des incidents cardiaques dans le domaine juridique », comme l’a dit un employé sur le canal Slack de l’entreprise, selon Platformer.
Amazon a déclaré à Business Insider qu’il n’avait identifié aucun problème de sécurité lié à Q et a nié que Q ait divulgué des informations confidentielles.
« Nous apprécions tous les commentaires que nous avons déjà reçus et continuerons à peaufiner Q à mesure qu’il passe du statut de produit en avant-première à celui de disponibilité générale », a déclaré la société dans le communiqué.
Il n’est pas rare que les chatbots d’IA générative échouent.
Peu de temps après que Microsoft a lancé Sydney, son assistant d’IA générative axé sur le consommateur, il a été lancé. viral avec ses propres hallucinations. Mais les transgressions de Q sont d’autant plus ironiques que le bot a été conçu pour être une option plus sûre et plus sécurisée sur laquelle les entreprises pourraient compter.
Q a été conçu pour aider les employés à générer des e-mails, à résumer des rapports, à dépanner, à rechercher et à coder. Il a également été conçu pour leur fournir des réponses utiles, mais uniquement liées au contenu auquel « chaque utilisateur est autorisé à accéder », a déclaré Amazon dans un article de blog sur Q.
Correction : 3 décembre 2023 — Cette histoire a été mise à jour pour inclure une déclaration d’Amazon et pour noter que certains des problèmes mentionnés par les employés étaient des scénarios hypothétiques.