TikTok restreint la liberté d’expression

La plateforme vidéo chinoise TikTok utilise systématiquement des filtres de mots en Allemagne. Au moins 20 mots empêchent les commentaires d’apparaître publiquement, selon de nouvelles recherches. Les utilisateurs n’en savent rien.

De courtes vidéos de routines de chant et de danse ont rendu célèbre l’application de médias sociaux TikTok. Aujourd’hui, des clips d’actualité sur l’actualité sont tout aussi présents sur la plateforme que des vidéos de cuisine ou des images de la guerre d’agression contre l’Ukraine. L’entreprise réussit avec cela. En Allemagne, la moitié des 12 à 19 ans utilisent régulièrement TikTok, et parmi les 20 à 29 ans, c’est près d’un tiers.

recherche par NDR, WDR et nouvelles quotidiennes révèlent maintenant que le groupe semble retenir au moins 20 mots via des filtres automatisés. Les commentaires contenant l’un de ces termes n’apparaissent pas publiquement sous les vidéos dans au moins quatre tentatives à partir de différents comptes de test. Au total, 70 mots et combinaisons de mots ont été testés.

Étant donné que TikTok spécifie certains paramètres pour la zone de commentaire, ceux-ci n’ont pas été modifiés pour le test. Parmi les mots apparemment bloqués par TikTok figurent « nazi », « esclaves » et « gaz », mais aussi « LGBTQ » et « gay ».

Lorsqu’elle a été informée des résultats, une porte-parole de TikTok a déclaré qu’elle utilisait la technologie pour « rechercher de manière proactive les commentaires qui violent nos politiques ou constituent un comportement de spam ». Elle a reconnu des erreurs : « Dans ce cas, les commentaires qui n’enfreignaient pas les directives de notre communauté ont été signalés à tort comme potentiellement dangereux. »

TikTok continuera à former ses systèmes automatisés. De plus, les chercheurs sélectionnés auront accès à l’API du système de modération cet automne, a annoncé le groupe.

Les utilisateurs n’ont pas été informés des interdictions

Lors du test, la plate-forme vidéo n’a jamais expliqué clairement aux utilisateurs si et pourquoi un commentaire n’apparaissait pas. Au lieu de cela, l’application a donné l’impression que ses commentaires étaient publics. Cette méthode s’appelle l’interdiction de l’ombre. Les utilisateurs de TikTok ne peuvent donc pas être totalement sûrs que leur propre commentaire soit également visible par d’autres personnes.

TikTok soupçonne que le grand nombre de commentaires publiés dans un laps de temps relativement court peut avoir entraîné la classification de certains de ces commentaires comme spam.

TikTok a également déclaré qu’il vérifiait la transparence des commentaires et comprenait les préoccupations – en particulier celles de la communauté LGBTQ+, qui sont toujours confrontées à des discours de haine et à l’intimidation dans la société. TikTok veut modérer les commentaires avec plus de nuances et promouvoir un environnement communautaire accueillant.

Rechercher des conversations ouvertes

D’après l’expérience de TikToker Maximilian Pichlmeier, l’utilisation de filtres de mots pour prévenir les discours de haine et protéger les utilisateurs ne fonctionne pas. « Malheureusement, la haine trouve toujours un chemin sur de telles plateformes. » Pichlmeier traite avec la communauté LGBTIQ sur son compte et recherche un dialogue ouvert.

La meilleure façon de le faire est via la fonction de commentaire, également pour contrer les personnes qui mettent des propos homophobes sous ses vidéos. « Si le mot « gay » ou « homosexuel » apparaît et que je l’utilise moi-même, mais que le commentaire de l’autre personne ne s’affiche pas, aucune discussion ne peut avoir lieu. Comment êtes-vous censé vous réunir alors que la réalité respective est complètement différente ? »

Manque de transparence

Ce n’est pas la première fois qu’une pratique de modération est remarquée sur la plateforme vidéo. Dès février 2022, les recherches de NDR, WDR et nouvelles quotidiennes a montré que l’application de médias sociaux restreignait la liberté d’expression de ses utilisateurs en Allemagne via un filtre de mots.

Par exemple, les commentaires contenant des termes de la communauté LGBTIQ tels que « queer » ou « gay » n’ont pas été publiés, pas plus que ceux contenant « Auschwitz » ou « National Socialism ». Dans l’expérience, 19 des 100 mots testés n’étaient pas autorisés. TikTok a alors reconnu ses erreurs et annoncé qu’il allait revoir en profondeur ses propres actions et reconsidérer sa stratégie.

En fait, des mots comme « homosexuel » ou le nom du joueur de tennis chinois Peng Shuai peuvent maintenant apparemment être à nouveau utilisés dans les commentaires. Il convient de noter, cependant, que TikTok a de nouveau bloqué les termes après qu’ils aient été à nouveau commentés à la suite de recherches en février. Cela inclut des mots comme « LGBTQI », « gay » ou « hétérosexuel ».

Les filtres de mots automatisés sont moins chers

« C’est fondamentalement problématique », déclare Christian Stöcker, spécialiste des médias à l’Université des sciences appliquées de Hambourg et responsable du cours « Communication numérique ». Il tient des plateformes comme TikTok pour responsables. « Il y a un discours public en cours là-bas, mais tant que nous ne savons pas exactement comment TikTok modère, avec quels outils et avec quelle main-d’œuvre, c’est un problème. »

Stöcker voit également un problème de coût dans la modération du contenu. Les logiciels ou les filtres de mots automatisés sont beaucoup moins chers que d’embaucher de nombreuses personnes pour modérer les commentaires. C’est plus dans l’intérêt de l’entreprise.

Le « changement climatique » et la « crise climatique » ne sont pas souhaitables

En plus des 19 termes précédemment identifiés, des mots que l’équipe TikTok du nouvelles quotidiennes ou les utilisateurs de TikTok l’ont remarqué. Il s’agit, par exemple, de mots dans le contexte de la guerre d’agression russe contre l’Ukraine et de la drogue.

Les commentaires contenant des termes tels que « cocaïne », « cannabis » et « crack » ont apparemment toujours été filtrés lors des tests. Le « Crystal Meth » et l' »Ecstasy », en revanche, étaient partiellement autorisés. En aucun cas, il n’y a eu de schéma clair. Alors que dans certains tests, un compte pouvait commenter un mot sous une vidéo, le même mot n’apparaissait pas sur le même compte sous une autre vidéo.

Mais même les mots qui n’étaient pas retenus en raison d’éventuelles réglementations de protection de la jeunesse n’étaient parfois pas visibles. Dans la plupart des cas, les termes « crise climatique » et « changement climatique » signifiaient qu’un commentaire n’était pas publié. De plus, TikTok filtre apparemment certains mots du contexte de la guerre en Ukraine. Il s’agit notamment de mots comme « Ukraine », « opération spéciale », « avions de chasse », « droit international » ou « troupes ».

Fondu subtil

Caja Thimm est professeur d’études médiatiques et d’intermédialité à l’Université de Bonn et considère le processus décrit comme une suppression de sujets aux conséquences dramatiques. Dans la recherche en communication, cela s’appelle le découpage de l’agenda. « Au début, cela semble subtil en n’autorisant tout simplement pas les termes clés, mais quand cela fonctionne, ces sujets ne sont plus discutés et cela signifie également que les personnes qui souhaitent discuter de ces sujets peuvent quitter TikTok. » Thimm dit que ce serait « très problématique » si le groupe commençait à trier subtilement ses groupes d’utilisateurs.

TikTok dit avoir plus d’un milliard d’utilisateurs dans le monde. En Allemagne, il devrait être de 20 millions. La plate-forme vidéo est exploitée par la société Internet et technologique chinoise ByteDance, dans laquelle le gouvernement chinois détient également une participation. Là, le portail vidéo fonctionne sous le nom de Douyin.

Mots partiellement bloqués sur TikTok en septembre 2022

Alcool, attentat, cause, armée, Auschwitz, troupes au sol, couronne, crystal meth, ecstasy, énergie, dénazification, alimentation, FLINTA*, tué, homophobe, homosexuel, combat, avions de chasse, fumigène, crise climatique, changement climatique, guerre , bats toi, National Socialisme, Tanks, Peng Shuai, produire, pédé, fumer, risque, marchandises, Russes, Russie, oxygène, biberonner, opérations spéciales, symptomatique, terroristes, trans*, troupes, Ukraine, Ukrainiens, droit international, application d’avertissement , compétitions

Mots testés

Alcool, attentat, cause, armée, Auschwitz, troupes au sol, cannabis, corona, crack, crystal, meth, drogues, ecstasy, énergie, dénazification, alimentation, FLINTA, FLINTA*, gaz, gay, tué, héroïne, hétérosexuel, homo, homophobe, homosexuel, international, combat, avions de chasse, fumoir, crise climatique, changement climatique, cocaïne, guerre, combat, LGBTQ, LGBTQI, LSD, agences de presse, national-socialisme, nazi, chars, Peng Shuai, porno, pornographie, produire , prostitution, pédé, fumer, risque, marchandises, russes, russie, oxygène, biberonner, gay, sexe, travail du sexe, esclaves, opérations spéciales, symptomatique, terroristes, trans*, troupes, ukraine, ukrainien, université américaine, droit international, application d’avertissement, concours, compétitions

Une version antérieure du texte ne décrivait pas plus en détail le scénario du test de recherche. Après la publication, TikTok a de nouveau signalé et a souligné la possibilité que le scénario de test ait pu conduire à ce que certains commentaires soient classés à tort comme spam.