Customize this title in frenchIl a été révélé que les chatbots comme ChatGPT et Bard créent des profils d’utilisateurs et collectent des données personnelles !

Selon une étude récente, les chatbots utilisant l’intelligence artificielle peuvent compiler de nombreuses informations sur les personnes et créer des profils. peut apprendre des informations personnelles. Pour ce faire, il lui suffit d’avoir une simple conversation. L’intelligence artificielle n’exige pas que la personne fournisse des informations sur elle-même ou sur sa vie lors de cette conversation.

Cette recherche également gêner Il est précisé que ce n’est pas possible et qu’il existe un risque que des personnes malveillantes profitent de cette situation. Il est également à noter que de graves problèmes peuvent survenir si des fraudeurs parviennent à accéder à ces profils.

Comment les IA conversationnelles créent-elles des profils ?

En fait, un chatbot profilage Cela ne semble pas trop difficile. Les profils créés par l’intelligence artificielle peuvent contenir de nombreuses informations telles que la race, la profession et la localisation des personnes. Même si à première vue il semble intimidant d’obtenir tout cela à partir d’une conversation ordinaire, on voit que c’est en réalité le résultat des modèles d’intelligence artificielle utilisés. L’intelligence artificielle, développée avec des modèles tels que le LLM (Large Language Model), peut communiquer différemment selon les situations.

Ouvrir un Chatbot à intelligence artificielle « Parlez-moi de la période de Mahmud II, je ferai une présentation, j’écrirai en conséquence. » Lorsque vous dites quelque chose comme ça, le système comprend que vous êtes un étudiant, étudiez en Turquie et parlez turc, et réagit en conséquence. Cette information accumulation Parallèlement à cela, un profilage est également effectué. Responsable de l’équipe de recherche Dr. Martin Vechev’Selon lui, il n’est pas possible d’empêcher cette situation pour le moment.

Cela pourrait causer des problèmes à l’avenir.

Des chercheurs, OpenAI, Google, Meta et AnthropicIl a également testé les applications d’intelligence artificielle de . Des résultats similaires ont été obtenus pour chaque plateforme. Vechev et son équipe affirment également que la collecte d’informations personnelles de cette manière pourrait permettre aux fraudeurs de collecter ou de compiler des informations sensibles sur des individus à l’avenir. En revanche, il n’y a eu jusqu’à présent aucune tentative d’attaque sérieuse via des chatbots à intelligence artificielle.