jeDans la publicité, une femme vêtue d’une robe en dentelle blanche fait des grimaces suggestives à la caméra, puis s’agenouille. Il y a quelque chose d’un peu étrange chez elle; un tremblement sur le côté de sa tempe, une immobilité particulière de sa lèvre. Mais si vous avez vu la vidéo dans la nature, vous ne savez peut-être pas qu’il s’agit d’une fabrication deepfake. Cela ressemblerait à une vidéo, comme les plans d’ouverture d’un porno Internet ringard et à petit budget.
Dans le coin supérieur droit, pendant que la vidéo tourne en boucle, il y a une image fixe de l’actrice Emma Watson, prise lorsqu’elle était adolescente, d’un tournage promotionnel pour les films Harry Potter. C’est son visage qui a été collé sur celui de l’acteur porno. Du coup, une femme qui n’a jamais joué dans la pornographie y figure.
Les publicités, qui dirigeaient les utilisateurs vers une application qui crée des vidéos deepfake, ont été découvertes dans plus de 230 itérations sur Facebook, Instagram et Meta’s Messenger, selon une enquête de NBC menée par Kat Tenbarge. La plupart des publicités présentaient l’image de Watson; d’autres ont utilisé le visage de Scarlett Johansson. Les mêmes publicités sont apparues dans les applications de retouche photo et de jeu disponibles sur l’App Store d’Apple. De peur que le message ne soit perdu pour les téléspectateurs, les publicités précisent qu’elles sont destinées à aider les utilisateurs à créer de la pornographie non consensuelle de toutes les femmes qu’ils aiment. « Échangez N’IMPORTE QUEL VISAGE dans la vidéo ! » les annonces lues. «Remplacez le visage par n’importe qui. Amusez-vous avec la technologie d’échange de visage AI.
Des publicités similaires pour les services deepfake apparaissent directement à côté de vidéos explicites sur PornHub. Bien que la technologie deepfake puisse théoriquement être utilisée pour tout type de contenu – de la satire plaisante aux campagnes de désinformation politique malveillantes – la très grande majorité est utilisée pour créer de la pornographie non consensuelle. Selon un rapport de 2019, 96% du matériel deepfake en ligne est pornographique.
Ce chiffre pourrait bien augmenter. Les publicités sur les plateformes Meta et Apple sont apparues alors que la demande des consommateurs pour la pornographie deepfake explose. La vague fait suite à une controverse qui a secoué les communautés de jeux vidéo en ligne en janvier, lorsqu’un streamer populaire, Brandon Ewing – qui se fait appeler « Atrioc » – a affiché de la pornographie deepfake de plusieurs streameuses populaires dans l’une de ses émissions en ligne. Il a admis plus tard avoir payé pour le porno artificiel des femmes, qui étaient ses collègues et amis, après avoir vu une publicité similaire à celles apparues sur les plateformes Meta et Apple. Les femmes dont les images ont été réquisitionnées pour la pornographie d’Ewing ont émis des réponses en colère et blessées; Ewing lui-même s’est excusé. Mais la controverse semble n’avoir fait que rendre la base d’abonnés extrêmement jeune et masculine du streamer plus consciente de la disponibilité du contenu deepfake – et désireuse de l’utiliser elle-même.
Genevieve Oh, une chercheuse qui étudie la diffusion en direct, a déclaré à NBC qu’après les excuses d’Ewing, le trafic Web vers les meilleurs sites pornographiques deepfake avait explosé. Cette augmentation rapide au cours des dernières semaines a fait suite à une croissance plus lente, mais toujours alarmante, du secteur du deepfake revenge porn au cours des dernières années. En 2018, moins de 2 000 vidéos avaient été mises en ligne sur le site de streaming deepfake le plus connu ; en 2022, ce nombre était passé à 13 000, avec un nombre de vues mensuel de 16 millions. Alors que le deepfake revenge porn devient plus populaire, la barrière à l’accès est assez faible : l’application qui a abusé du visage de Watson dans ses publicités ne facture que 8 $ par semaine.
L’augmentation rapide du nombre et de la disponibilité de vidéos pornographiques deepfake non consensuelles soulève des questions alarmantes sur la confidentialité et le consentement dans l’avenir numérique. Comment le grand nombre de femmes – et le nombre plus petit mais significatif d’hommes – qui sont touchés par ce nouveau porno de vengeance activé par l’IA vont-ils gérer leur réputation et leur vie ? À mesure que la technologie s’améliore, comment les téléspectateurs sauront-ils faire la différence entre la réalité et la fiction générée par l’IA ? Comment supprimer le contenu non consensuel alors qu’Internet évolue tellement plus vite que la réglementation ?
Mais l’exemple de ces applications – et des hommes, comme Ewing et ses fans, qui les utilisent – éclaire également quelque chose de plus ancien et de plus inconfortable sur la nature du porno : que les hommes l’utilisent souvent comme une expression de leur mépris pour les femmes. , et estiment que la représentation sexuelle des femmes les dégrade et les viole. C’est, en fait, une grande partie de l’attrait du porno grand public, du moins selon les sentiments de nombreux hommes qui le consomment : qu’il permet aux hommes de s’imaginer en contrôle des femmes et de leur infliger douleur et dégradation. Le deepfake revenge porn ne fait donc que remplir avec la technologie ce que le porno grand public a offert aux hommes dans le fantasme : l’assurance que toute femme peut être amoindrie, dégradée et humiliée, par la force sexuelle. Le non-consentement est le point; l’humiliation est le point; la cruauté est le point.
Il n’y a pas d’autre moyen, vraiment, de comprendre l’attrait de la pornographie deepfake : ce n’est pas comme si Internet manquait de contenu sexuel représentant des adultes réels et consentants. Ce que ces applications offrent à leurs utilisateurs, c’est spécifiquement et explicitement la possibilité de blesser les femmes en les forçant à la pornographie contre leur gré. Après qu’Ewing ait exposé sa pornographie deepfake à son public en streaming en janvier, l’une des femmes représentées a publié sa propre vidéo en larmes, décrivant comment la malveillance et la violation du deepfake l’avaient blessée. En réponse, un homme lui a envoyé une photo de son propre visage en pleurs apparaissant sur sa tablette. L’écran était couvert de sperme.
Pour l’instant, les femmes et les autres personnes ciblées par le deepfake revenge porn ont peu de recours juridiques. La plupart des États ont des lois punissant le revenge porn, mais seuls quatre – la Californie, New York, la Géorgie et la Virginie – interdisent les deepfakes non consensuels. Les entreprises hébergeant les applications sont souvent basées à l’étranger, la plupart du temps hors de portée des forces de l’ordre – la société dont l’application a été annoncée sur Meta semble appartenir à une société mère basée en Chine. Pendant ce temps, de plus en plus d’hommes commenceront à utiliser la technologie contre de plus en plus de femmes. « J’étais sur Pornhub putain… et il y avait une pub [for the deepfake site] », A déclaré Ewing dans sa vidéo d’excuses, en expliquant comment il a découvert le site porno AI Revenge. « Il y a une publicité sur chaque putain de vidéo pour ça donc je sais que d’autres personnes doivent cliquer dessus. »