Comme Musk apprend, la modération de contenu est un travail salissant

Maintenant qu’il est de retour sur Twitter, le néonazi Andrew Anglin veut que quelqu’un lui explique les règles.

Anglin, le fondateur d’un tristement célèbre site Web néonazia été réintégré jeudi, l’un des nombreux utilisateurs précédemment interdits à bénéficier d’une amnistie accordée par le nouveau propriétaire de Twitter, Elon Musk. Le lendemain, Musk a banni Yele rappeur anciennement connu sous le nom de Kanye West, après avoir posté une croix gammée avec une étoile de David dessus.

« C’est cool », a tweeté Anglin vendredi. «Je veux dire, quelles que soient les règles, les gens les suivront. Nous avons juste besoin de savoir quelles sont les règles.

Demandez à Musc. Depuis que l’homme le plus riche du monde a payé 44 milliards de dollars pour Twitter, la plateforme a eu du mal à définir ses règles en matière de désinformation et de discours de haine, a publié des annonces contradictoires et contradictoires et n’a pas réussi à répondre pleinement à ce que les chercheurs considèrent comme une augmentation troublante du discours de haine.

En tant que « chef twit ” peut-être l’apprentissage, l’exécution d’une plate-forme mondiale avec près de 240 millions d’utilisateurs quotidiens actifs nécessite plus que de bons algorithmes et exige souvent des solutions imparfaites à des situations désordonnées – des choix difficiles qui doivent finalement être faits par un humain et qui ne manqueront pas de déplaire à quelqu’un.

Un absolutiste de la liberté d’expression autoproclaméMusc a déclaré vouloir faire de Twitter une place publique numérique mondiale. Mais il a également déclaré qu’il ne prendrait pas de décisions majeures sur le contenu ou sur la restauration des comptes interdits avant de mettre en place un « conseil de modération du contenu ». ” avec des points de vue divers.

Il a rapidement changé d’avis après avoir interrogé les utilisateurs sur Twitter et a proposé de réintégrer une longue liste d’utilisateurs anciennement interdits, dont l’ancien président Donald Trump.Ye, le site satirique The Babylon Bee, l’humoriste Kathy Griffin et Anglin, le néo-nazi.

Et tandis que Musk appartient tweets a suggéré qu’il autoriserait tout contenu légal sur la plate-forme, le bannissement de Ye montre que ce n’est pas tout à fait le cas. Selon Eric Goldman, expert en droit de la technologie et professeur à la faculté de droit de l’Université de Santa Clara, l’image de la croix gammée publiée par le rappeur relève de la catégorie « licite mais affreuse » qui tourmente souvent les modérateurs de contenu.

Alors que l’Europe a imposé des règles exigeant que les plateformes de médias sociaux créent des politiques sur la désinformation et les discours de haine, Goldman a noté qu’aux États-Unis au moins, des réglementations souples permettent à Musk de gérer Twitter comme il l’entend, malgré son approche incohérente.

« Ce que Musk fait avec Twitter est tout à fait autorisé par la loi américaine », a déclaré Goldman.

La pression de l’UE pourrait forcer Musk à définir ses politiques pour s’assurer qu’il se conforme à la nouvelle loi, qui entrera en vigueur l’année prochaine. Le mois dernier, un haut responsable de l’UE a averti Musk que Twitter devrait améliorer ses efforts pour lutter contre les discours de haine et la désinformation ; le non-respect peut entraîner de lourdes amendes.

Dans un autre geste déroutant, Twitter a annoncé fin novembre qu’il mettrait fin à sa politique interdisant la désinformation sur le COVID-19. Quelques jours plus tard, il a publié une mise à jour affirmant qu' »Aucune de nos politiques n’a changé ».

Vendredi, Musk a révélé ce qu’il a dit être l’histoire intérieure de la décision de Twitter en 2020 de limiter la diffusion d’un article du New York Post sur l’ordinateur portable de Hunter Biden.

Twitter a initialement bloqué les liens vers l’histoire sur sa plate-forme, invoquant des inquiétudes selon lesquelles il contenait du matériel obtenu par piratage informatique. Cette décision a été annulée après avoir été critiquée par Jack Dorsey, alors PDG de Twitter. Facebook a également pris des mesures pour limiter la propagation de l’histoire.

Les informations révélées par Musk comprenaient la décision de Twitter de supprimer une poignée de tweets après avoir reçu une demande de la campagne de Joe Biden. Les tweets comprenaient des photos nues de Hunter Biden qui avaient été partagées sans son consentement – ​​une violation des règles de Twitter contre le revenge porn.

Au lieu de révéler une conduite néfaste ou une collusion avec les démocrates, la révélation de Musk a mis en évidence le type de décisions difficiles de modération de contenu auxquelles il sera désormais confronté.

« Des décisions impossibles, désordonnées et spongieuses » sont inévitables, selon Yoel Roth, l’ancien responsable de la confiance et de la sécurité de Twitter qui a démissionné quelques semaines après la prise de possession de Musk.

Bien qu’il soit loin d’être parfait, l’ancien Twitter s’est efforcé d’être transparent avec les utilisateurs et constant dans l’application de ses règles, a déclaré Roth. Cela a changé sous Musk, a-t-il déclaré à un forum de la Knight Foundation cette semaine.

« Lorsque la pression est venue, lorsque vous achetez une chose de 44 milliards de dollars, vous avez le dernier mot sur la façon dont cette chose de 44 milliards de dollars est régie », a déclaré Roth.

Alors qu’une grande partie de l’attention a été portée sur les mouvements de Twitter aux États-Unis, les compressions des travailleurs de la modération de contenu affectent également d’autres parties du monde, selon les militants de la campagne #StopToxicTwitter.

« Nous ne parlons pas de personnes qui n’ont pas la résilience d’entendre des choses qui blessent les sentiments », a déclaré Thenmozhi Soundararajan, directeur exécutif d’Equality Labs, qui lutte contre la discrimination fondée sur la caste en Asie du Sud. « Nous parlons de la prévention des discours de haine génocidaires dangereux qui peuvent conduire à des atrocités de masse. »

L’organisation de Soundararajan siège au Conseil de confiance et de sécurité de Twitter, qui ne s’est pas réuni depuis que Musk a pris le relais. Elle a déclaré que « des millions d’Indiens sont terrifiés à l’idée de savoir qui va être réintégré », et la société a cessé de répondre aux préoccupations du groupe.

« Alors, que se passe-t-il s’il y a un autre appel à la violence ? Par exemple, dois-je taguer Elon Musk et espérer qu’il s’attaquera au pogrom ? dit Soundararajan.

Les cas de discours de haine et d’épithètes raciales ont grimpé en flèche sur Twitter après l’achat de Musk alors que certains utilisateurs cherchaient à tester les limites du nouveau propriétaire. Le nombre de tweets contenant des termes haineux continue d’augmenter, selon un rapport publié vendredi par le Center for Countering Digital Hate, un groupe qui traque la haine et l’extrémisme en ligne.

Musk a déclaré que Twitter avait réduit la propagation des tweets contenant des discours de haine, les rendant plus difficiles à trouver à moins qu’un utilisateur ne les recherche. Mais cela n’a pas satisfait le PDG du centre, Imran Ahmed, qui a qualifié la montée des discours de haine d' »un échec manifeste à respecter ses propres normes autoproclamées ».

Immédiatement après la prise de contrôle de Musk et le licenciement d’une grande partie du personnel de Twitterdes chercheurs qui avaient précédemment signalé des discours de haine nuisibles ou de la désinformation à la plate-forme ont signalé que leurs appels restaient sans réponse.

La réactivité s’est quelque peu améliorée. Jesse Littlewood, vice-président des campagnes chez Common Cause, a déclaré que son groupe avait contacté Twitter la semaine dernière à propos d’un tweet de la représentante américaine Marjorie Taylor Greene alléguant une fraude électorale en Arizona. Musk avait rétabli le compte personnel de Greene après avoir été expulsée de Twitter pour avoir diffusé des informations erronées sur le COVID-19.

Cette fois, Twitter n’a pas tardé à répondre, disant à Common Cause que le tweet n’enfreignait aucune règle et resterait actif – même si Twitter exige l’étiquetage ou suppression de contenu diffusant des déclarations fausses ou trompeuses sur les résultats des élections.

Twitter n’a donné à Littlewood aucune explication sur la raison pour laquelle il ne suivait pas ses propres règles.

« Je trouve cela assez déroutant », a déclaré Littlewood.

Twitter n’a pas répondu aux messages sollicitant des commentaires sur cette histoire. Musk a défendu les mouvements parfois saccadés de la plate-forme depuis qu’il a pris la relève, et a déclaré que des erreurs se produiront au fur et à mesure de son évolution. « Nous ferons beaucoup de choses stupides« , a-t-il tweeté.

Pour les nombreux fans en ligne de Musk, le désarroi est une caractéristique, et non un bogue, du site sous son nouveau propriétaire, et un reflet de la Mecque de la liberté d’expression qu’ils espèrent que Twitter sera.

« J’adore Elon Twitter jusqu’à présent », a tweeté un utilisateur qui s’appelle Some Dude. « Le chaos est glorieux ! »