Tout le monde a vu venir la violence au Brésil. Sauf les géants des réseaux sociaux

Pendant des mois, il y avait des signes avant-coureurs en ligne indiquant que les partisans de Jair Bolsonaro, l’ancien président brésilien, descendraient dans la rue pour protester contre son successeur de gauche, Luiz Inácio Lula da Silva.

Mais lorsque des émeutiers d’extrême droite ont pris d’assaut les principaux bâtiments gouvernementaux du Brésil le 8 janvier, les entreprises de médias sociaux ont de nouveau été prises au dépourvu.

Dans les groupes WhatsApp – dont beaucoup comptent des milliers d’abonnés – les vidéos virales des attaques se sont rapidement propagées comme une traînée de poudre. De nombreux fidèles de Bolsonaro ont exhorté les émeutiers à continuer, appelant à un retour à la dictature militaire, selon des messages cryptés examinés par POLITICO.

Sur Twitter, les utilisateurs des médias sociaux ont publié des milliers d’images et de vidéos à l’appui des attaques sous le hashtag #manifestacao, ou protester. Sur Facebook, le même hashtag a recueilli des dizaines de milliers d’engagements via des likes, des partages et des commentaires, principalement en faveur des émeutes, selon CrowdTangle, l’outil d’analyse des médias sociaux appartenant à Meta. Tout cela s’est produit malgré l’engagement de Meta de supprimer tout message faisant l’éloge de la violence.

« Ils n’en font pas assez », a déclaré João Brant, un chercheur brésilien en désinformation, lorsqu’on lui a demandé en octobre comment les géants des médias sociaux combattaient les vagues de mensonges. La désinformation a été promue par des politiciens de haut niveau et des influenceurs ciblant la bataille électorale présidentielle du pays entre Bolsonaro et Lula. Brant est maintenant secrétaire pour les politiques numériques au Secrétariat de la communication sociale du Brésil, une agence gouvernementale.

« L’idée même de responsabilité ou d’engagement – un véritable engagement – pour défendre la démocratie devrait faire partie de leurs responsabilités », a-t-il ajouté. « L’idée d’aucune responsabilité pour les plateformes leur donne une sphère de sécurité pour pousser le fardeau sur celui qui prendra l’initiative de lutter contre les fausses nouvelles. »

En réponse, les plateformes ont souligné les efforts déployés pour réprimer la désinformation en ligne, notamment : travailler avec des vérificateurs de faits extérieurs pour démystifier les mensonges ; avis de non-responsabilité placés sur les hashtags populaires lié à la violence brésilienne ; et des engagements à supprimer le contenu et les comptes qui glorifiaient les émeutes nationales.

Pourtant, en échouant à réprimer ces contenus, la violence au Brésil souligne à nouveau le rôle central que jouent les entreprises de médias sociaux dans le mécanisme fondamental de la démocratie du XXIe siècle. Ces entreprises fournissent désormais des outils numériques tels que des services de messagerie cryptés utilisés par les militants pour coordonner la violence hors ligne et s’appuient sur des algorithmes automatisés conçus pour promouvoir des contenus partisans susceptibles de saper la confiance des citoyens dans les élections.

Il met également en évidence les difficultés à combattre les divisions partisanes de longue date qui ont commencé bien avant les médias sociaux, mais qui sont devenues des armes par un réseau de plus en plus sophistiqué d’utilisateurs en ligne principalement d’extrême droite – de Brasilia à Berlin en passant par Boston.

Dans les heures qui ont suivi le début des émeutes au Brésil, par exemple, des groupes partageant les mêmes idées en Amérique du Nord et en Europe sont rapidement passés à l’action pour promouvoir leur solidarité avec les partisans de Bolsonaro et diffuser ces messages dans le monde entier, principalement via Telegram, l’application de messagerie cryptée privilégiée par extrémistes. Cela comprenait l’affirmation que l’élection du pays d’Amérique latine était « truquée », semblable aux allégations promues par l’ancien président américain Donald Trump, ainsi que des affirmations de complot selon lesquelles le soi-disant État profond mondial était à l’origine de la victoire de Lula en octobre, selon de nombreux médias sociaux. messages examinés par POLITICO.

Extrême droite mondiale

« Il ne devrait y avoir aucune confusion quant à la volonté de l’extrême droite mondiale d’apprendre les unes des autres, de partager des tactiques et d’exploiter les médias sociaux pour parvenir à ses fins », a déclaré Wendy Via, présidente du Global Project Against Hate and Extremism, une organisation à but non lucratif. qui a suivi l’utilisation par Bolsonaro de tactiques partisanes en ligne pendant sa présidence.

Les géants des médias sociaux n’ont pas créé les divisions politiques qui engloutissent actuellement le Brésil. Mais, malgré des années de promesses de ralentir la propagation de cette partisanerie en ligne, les entreprises n’ont pas encore accepté leur rôle surdimensionné dans le fonctionnement des démocraties.

Cela dépend en partie des ressources.

Depuis qu’Elon Musk a repris Twitter fin octobre, l’homme le plus riche du monde a réduit les équipes internes chargées de lutter contre la désinformation, y compris les personnes chargées de la surveillance de l’entreprise au Brésil, selon deux personnes au courant de ces licenciements, qui se sont exprimées sur le condition d’anonymat.

Chez Meta, la société a interdit les publicités politiques trompeuses au Brésil, y compris celles mettant en doute la légitimité des élections de l’année dernière. Mais des politiciens de haut niveau comme Bolsonaro avec de nombreux adeptes en ligne ont répété ces affirmations non fondées avec peu ou pas de censure, tandis que la part du lion des ressources de protection des élections de Meta était réservée aux élections américaines de mi-mandat en novembre.

Pour Damon McCoy, professeur à l’Université de New York qui a surveillé la réponse de Meta à des « événements d’urgence » similaires, les entreprises n’ont pas agi assez rapidement pour supprimer les vidéos virales, les images et les nouvelles partisanes sur les attaques hors ligne, permettant à ces mensonges de circuler largement en ligne.

Au lieu de se concentrer sur la suppression des messages incitant à la violence, les géants des médias sociaux devraient imposer un soi-disant coupe-circuit sur la façon dont leurs algorithmes promeuvent ce matériel, a-t-il déclaré. Cela limiterait la viralité des publications jusqu’à ce que les équipes de modération de contenu des entreprises puissent répondre aux menaces du monde réel.

Les entreprises devraient « pousser ce disjoncteur » pour empêcher la violence hors ligne de se propager en ligne en quelques secondes, a-t-il déclaré. « Vous devez avoir un disjoncteur dans le système pour gérer de manière réaliste ce type d’événement de crise. »