Le personnel réduit de Twitter lutte contre la désinformation

Twitter a du mal à répondre à la désinformation politique et à d’autres publications nuisibles sur la plate-forme de médias sociaux après qu’Elon Musk a licencié environ la moitié de ses effectifs quelques jours avant les élections de mi-mandat aux États-Unis, selon des employés qui ont survécu aux coupes et un groupe de droit de vote extérieur.

Les récents licenciements massifs ont épargné de nombreuses personnes dont le travail consiste à éloigner la haine et la désinformation de la plate-forme de médias sociaux. Musk n’a supprimé que 15% de ces travailleurs de première ligne chargés de la modération de contenu, contre environ 50% de suppressions d’emplois dans toute l’entreprise, a déclaré un dirigeant la semaine dernière.

Mais en préparation des licenciements, les employés ont déclaré que l’entreprise avait également considérablement réduit le nombre d’employés pouvant consulter l’historique et le comportement numériques d’un compte spécifique – une pratique nécessaire pour enquêter sur son utilisation malveillante et prendre des mesures pour le suspendre. La société a déclaré avoir gelé l’accès à ces outils pour réduire le « risque d’initié » à un moment de transition.

Les développements sont préoccupants alors que les élections américaines de mi-mandat culminent mardi. Bien que des millions d’Américains aient déjà voté par anticipation et par correspondance, des millions d’autres devraient se rendre aux urnes pour voter en personne. Les observateurs des élections craignent que la plate-forme ne soit pas équipée pour gérer les discours de haine, la désinformation qui pourrait avoir un impact sur la sécurité des électeurs et les acteurs cherchant à jeter le doute sur les vainqueurs légitimes des élections dans tout le pays.

Vendredi, des chercheurs surveillant la désinformation avant les mi-mandat ont informé Twitter de trois publications de personnalités d’extrême droite bien connues qui ont avancé des allégations démenties sur la fraude électorale. Les messages restent en place trois jours plus tard. Lorsque Common Cause a demandé à Twitter une mise à jour lundi, la plateforme a déclaré que les publications étaient « en cours de révision ».

Avant que Musk ne prenne le relais, Twitter a répondu beaucoup plus rapidement, a déclaré Jesse Littlewood, vice-président des campagnes chez Common Cause. Le groupe a déclaré avoir été en contact régulier avec le personnel de Twitter avant que Musk ne prenne le relais. Maintenant, ils reçoivent une réponse d’une adresse e-mail générique.

« Nous avions obtenu des décisions beaucoup plus rapides de leur part, parfois en quelques heures », a déclaré Littlewood. Maintenant, dit-il, « C’est comme appuyer sur le bouton du panneau de marche au feu stop, et rien ne se passe. »

Musk a vidé les équipes travaillant sur le marketing, les communications et la conservation éditoriale de ce que les gens voient sur Twitter. Mais sa décision de conserver la majeure partie de l’équipe de modération de contenu de Twitter a été une surprise bienvenue pour certains à l’intérieur et à l’extérieur de l’entreprise. Musk, après tout, a promis de laisser s’épanouir la liberté d’expression en assouplissant les restrictions de contenu de Twitter et en restaurant les comptes interdits pour violation de ces règles. Il s’est également engagé à mettre fin au système actuel de vérification des utilisateurs en faveur de frais d’abonnement de 7,99 $..

Mais le fait que l’équipe de modération du contenu ait survécu pourrait signifier que les fonctions critiques de désinformation telles que le blocage des incitations à la violence politique se poursuivront, et certains des pires scénarios autour de la désinformation électorale ne se réaliseront pas. Certains des propres tweets de Musk ont ​​​​été annotés avec un contexte vérifié ces derniers jours.

Deux employés qui ont survécu aux suppressions d’emplois attribuent à Yoel Roth, responsable mondial de la sécurité et de l’intégrité de Twitter, un cadre auparavant peu connu, pour avoir tiré parti de l’importance de son équipe pour les objectifs de Musk pour Twitter tout en évitant les mouvements qui pourraient irriter le PDG mercuriel de Tesla.

« Yoel Roth a sauvé l’entreprise à lui seul », a déclaré un employé de Twitter qui s’est exprimé sous couvert d’anonymat en raison de préoccupations concernant la sécurité de l’emploi. « Du côté public, il s’est engagé de manière appropriée et réfléchie avec Elon Musk d’une manière qui n’était pas servile, mais différée, car Elon est le roi. »

Roth est devenu le visage public de la modération de contenu de Twitter depuis que Musk a pris le relais et a régulièrement défendu les efforts continus de Twitter pour lutter contre la désinformation nuisible. Musk, un tweeter prolifique avec plus de 110 millions d’abonnés, a souvent désigné le fil Twitter de Roth comme le compte le plus fiable du respect des normes d’intégrité par l’entreprise. Et le milliardaire, qui adhère à l’idée que les anciens dirigeants de Twitter ont supprimé les opinions de droite, a défendu Roth lorsque d’ardents partisans de Musk ont ​​​​exigé son licenciement pour des commentaires passés qui, selon eux, montraient le parti pris libéral de Roth.

Roth, qui travaillait autrefois dans un magasin Apple pour réparer des ordinateurs Mac, a rejoint Twitter en 2015 après avoir passé un an à étudier le discours de haine en ligne au Berkman Klein Center for Internet and Society de l’Université de Harvard, selon son profil LinkedIn. En mai, il a assumé un rôle senior « responsable de toutes les politiques d’utilisation, de contenu et de sécurité, comprenant plus de 120 décideurs, enquêteurs sur les menaces, analystes de données et spécialistes des opérations ».

Roth n’a pas répondu aux demandes de commentaires.

Une juriste qui siège au Trust and Safety Council de Twitter, un conseil consultatif créé en 2016, a déclaré qu’elle était depuis longtemps impressionnée par la franchise de Roth sur les défis de la modération du contenu et les nuances de la liberté d’expression, comme l’importance de lutter contre le contenu abusif. pour permettre la liberté d’expression des femmes et des autres personnes les plus susceptibles d’être harcelées en ligne.

« Si Musk avait été capable de couper tout le monde dans la modération de contenu et de le remplacer simplement par ses » oui « , il l’aurait probablement fait », a déclaré Mary Anne Franks, professeur de droit à l’Université de Miami et présidente de la Cyber ​​Civil Rights Initiative. . « La seule raison pour laquelle il ne l’a pas fait, c’est parce qu’il reconnaît peut-être que cela rendrait Twitter inutilisable. »

Un employé de Twitter a déclaré lundi que les survivants du licenciement recherchaient activement de nouveaux emplois, en partie à cause du manque d’engagement de Musk à maintenir la plate-forme exempte de discours de haine et de désinformation. Parlant anonymement en raison de préoccupations concernant la sécurité de l’emploi, l’employé a déclaré que les suppressions d’emplois rendraient le personnel de Twitter moins efficace pour suivre et agir sur les plaintes concernant la désinformation liée aux élections, car ils comprenaient des personnes dirigeant des équipes d’intégrité civique.

Franks a déclaré qu’il y avait toujours eu une tension au sein de Twitter et d’autres sociétés de médias sociaux entre gagner de l’argent et protéger la démocratie et la liberté d’expression. Elle a dit que cela devenait de plus en plus difficile sous Musk, qui a montré que Twitter pouvait agir rapidement en interdisant un comédien qui s’est moqué de lui en se faisant passer pour son compte, mais qui a par ailleurs exprimé son hostilité envers les normes anti-abus de Twitter.

« J’imagine que quelqu’un dans une position comme celle de Roth sur Twitter devrait jouer à un jeu assez délicat en essayant de ne déclencher aucun des fils, de ne pas déclencher de réaction de Musk parce qu’il est incroyablement fin », a déclaré Franks.

__

AP Technology Writer Frank Bajak a contribué à ce rapport.