« Une fois que vous avez envoyé cette photo, vous ne pouvez pas la reprendre », lance l’avertissement aux adolescents, ignorant souvent le fait que de nombreux adolescents envoient des images explicites d’eux-mêmes sous la contrainte ou sans en comprendre les conséquences.
Un nouvel outil en ligne vise à redonner un certain contrôle aux adolescents, ou aux personnes qui étaient autrefois des adolescents, et à supprimer des images et des vidéos explicites d’eux-mêmes sur Internet.
Appelé Take It Downl’outil est exploité par le National Center for Missing and Exploited Children, et financé en partie par Meta Platforms, le propriétaire de Facebook et Instagram.
Le site permet à quiconque de manière anonyme – et sans télécharger d’images réelles – de créer ce qui est essentiellement une empreinte numérique de l’image. Cette empreinte digitale (un ensemble unique de nombres appelé « hachage ») entre ensuite dans une base de données et les entreprises technologiques qui ont accepté de participer au projet suppriment les images de leurs services.
Maintenant, les mises en garde. Les plateformes participantes sont, depuis lundi, Facebook et Instagram de Meta, Yubo, OnlyFans et Pornhub, propriété de Mindgeek. Si l’image se trouve sur un autre site ou si elle est envoyée sur une plateforme cryptée telle que WhatsApp, elle ne sera pas supprimée.
De plus, si quelqu’un modifie l’image d’origine – par exemple, en la recadrant, en ajoutant un emoji ou en la transformant en mème – elle devient une nouvelle image et nécessite donc un nouveau hachage. Les images visuellement similaires, telles que la même photo avec et sans filtre Instagram, auront des hachages similaires, différant par un seul caractère.
« Take It Down est spécialement conçu pour les personnes qui ont une image dont ils ont des raisons de croire qu’elle est déjà diffusée quelque part sur le Web, ou qu’elle pourrait l’être », a déclaré Gavin Portnoy, porte-parole du NCMEC. « Vous êtes un adolescent et vous sortez avec quelqu’un et vous partagez l’image. Ou quelqu’un vous a extorqué et ils ont dit, ‘si vous ne me donnez pas une image, ou une autre image de vous, je vais faire X, Y, Z.' »
Portnoy a déclaré que les adolescents peuvent se sentir plus à l’aise d’aller sur un site que d’impliquer les forces de l’ordre, qui ne seraient pas anonymes, pour commencer.
« Pour un adolescent qui ne veut pas ce niveau d’implication, il veut juste savoir qu’il est supprimé, c’est un gros problème pour lui », a-t-il déclaré. Le NCMEC constate une augmentation des signalements d’exploitation d’enfants en ligne. CyberTipline de l’association reçu 29,3 millions de signalements en 2021, en hausse de 35 % par rapport à 2020.
Meta, à l’époque où c’était encore Facebook, a tenté de créer un outil similaire, bien que pour les adultes, en 2017. Cela ne s’est pas bien passé parce que le site demandait aux gens d’envoyer leurs nus (cryptés) à Facebook – pas l’entreprise la plus fiable même en 2017. L’entreprise a testé le service en Australie pendant une brève période, mais ne l’a pas étendu à d’autres pays.
Mais pendant cette période, l’extorsion et l’exploitation sexuelles en ligne n’ont fait qu’empirer, tant pour les enfants et les adolescents que pour les adultes. De nombreuses entreprises technologiques utilisent déjà ce système de hachage pour partager, supprimer et signaler aux forces de l’ordre des images d’abus sexuels sur des enfants. Portnoy a déclaré que l’objectif était de faire en sorte que davantage d’entreprises s’inscrivent.
« Nous n’avons jamais eu personne pour dire non », a-t-il déclaré.
Twitter et TikTok ne se sont pas encore engagés dans le projet. Aucune des deux sociétés ne répond immédiatement à un message pour commentaire dimanche.
Antigone Davis, responsable mondiale de la sécurité chez Meta, a déclaré que Take It Down est l’un des nombreux outils que l’entreprise utilise pour lutter contre la maltraitance et l’exploitation des enfants sur ses plateformes.
« En plus de soutenir le développement de cet outil et d’avoir des systèmes de signalement et de blocage sur notre plate-forme, nous faisons également un certain nombre de choses différentes pour essayer d’empêcher ce genre de situations de se produire en premier lieu. Ainsi, par exemple, nous n’autorisons pas les adultes non connectés à envoyer des messages aux mineurs », a-t-elle déclaré.
Le site fonctionne avec des images et des « deepfakes » réels et artificiels, a déclaré Davis. Faux faux sont créés pour ressembler à de vraies personnes qui disent ou font des choses qu’elles n’ont pas réellement faites.