Twitch aborde la diffusion en direct de contenu deepfake explicite

Twitch a abordé la diffusion en direct de contenu deepfake explicite sur sa plate-forme dans un nouveau billet de blog sur la sécurité.

Cela fait suite à un incident en janvier au cours duquel un faux contenu explicite de streameuses féminines a été diffusé en direct sur Twitch.

« Ce moment a causé une immense détresse à ceux dont les images ont été utilisées sans leur consentement et a déclenché une vague de conversations sur les dangers que peuvent représenter les images explicites générées par l’IA », lit-on sur le blog de Twitch.

« L’existence de ce contenu, ainsi que sa présence et sa distribution sur divers sites, est une violation personnelle et au-delà de la gêne. Deepfake porn n’est pas un problème sur Twitch, mais c’est un problème terrible auquel certains streamers (presque exclusivement des femmes) peuvent être confrontés sur le Internet au sens large. Bien que nous ayons le plus de contrôle sur ce qui se passe sur notre propre service, nous voulons aider les streamers à se protéger ou à réagir rapidement à ce genre de situation, où qu’elle se produise.

Le billet de blog aborde d’abord l’utilisation incorrecte du terme « deepfake porn », en optant plutôt pour des « images synthétiques d’exploitation non consensuelles » ou des « NCEI synthétiques ». La pornographie devrait être consensuelle, alors qu’il existe plusieurs méthodes utilisées pour créer du contenu non consensuel et Twitch admet que son approche devrait refléter cette gamme de technologies.

En tant que telle, la plate-forme apporte une poignée de changements.

Premièrement, il met à jour ses politiques pour refléter le changement de langage en « NCEI synthétique ». Cela comprend la mise à jour à la fois de la politique sur la violence et l’exploitation sexuelles des adultes et de la politique sur la nudité des adultes pour préciser que le partage de ce contenu entraînera une suspension indéfinie à la première infraction.

Deuxièmement, Twitch travaille avec l’experte en sécurité Danielle Keats Citron, professeur de droit et vice-présidente de la Cyber ​​Civil Rights Initiative, et des experts de la UK Revenge Porn Helpline pour soutenir les efforts dans cet espace.

Enfin, un Creator Camp sera organisé le 14 mars par Zara Ward, experte NCEI et responsable de la ligne d’assistance Revenge Porn, avec des conseils sur la protection en ligne.

« La tendance émergente du contenu » deepfake « (et des technologies connexes) en ligne entraînera de nombreuses questions et nécessitera un examen attentif et réfléchi dans notre planification, notre réponse et nos actions. Tous les contenus créés synthétiquement ne sont pas de nature sexuelle. , et tout cela n’est pas non plus non consensuel. Ce sujet est très présent sur notre radar, et nous surveillons toujours les comportements émergents pour nous assurer que nos politiques restent pertinentes par rapport à ce qui se passe sur notre service », lit-on dans le billet de blog.

« Mais une chose est claire : lorsqu’il est utilisé pour créer des NCEI synthétiques, cette nuance disparaît. La création, la promotion ou la visualisation de ce contenu n’est pas la bienvenue sur Twitch. »