Au cours des 11 derniers mois, des milliers de faux comptes Twitter automatisés – peut-être des centaines de milliers d’entre eux – ont été créés pour offrir un flux d’éloges à Donald Trump.
En plus de publier des mots d’adoration sur l’ancien président des États-Unis, les faux comptes ont ridiculisé les critiques de Trump des deux partis et attaqué Nikki Haley, l’ancienne gouverneure de Caroline du Sud et ambassadrice de l’ONU qui défie son ancien patron pour la nomination présidentielle républicaine de 2024.
En ce qui concerne Ron DeSantis, les bots ont suggéré de manière agressive que le gouverneur de Floride ne pourrait pas battre Trump mais serait un excellent colistier.
Alors que les électeurs républicains évaluent leurs candidats pour 2024, celui qui a créé le réseau de robots cherche à mettre un pouce sur la balance, en utilisant des techniques de manipulation en ligne mises au point par le Kremlin pour influencer la conversation Twitter sur les candidats tout en exploitant les algorithmes de la plateforme numérique pour maximiser leur portée .
Le vaste réseau de robots a été découvert par des chercheurs de Cyabra, une entreprise technologique israélienne qui a partagé ses découvertes avec l’Associated Press. Bien que l’identité des personnes à l’origine du réseau de faux comptes soit inconnue, les analystes de Cyabra ont déterminé qu’il avait probablement été créé aux États-Unis.
Pour identifier un bot, les chercheurs recherchent des modèles dans le profil d’un compte, sa liste d’abonnés et le contenu qu’il publie. Les utilisateurs humains publient généralement sur une variété de sujets avec un mélange de matériel original et republié, mais les bots publient souvent du contenu répétitif sur les mêmes sujets.
C’était le cas de nombreux robots identifiés par Cyabra.
«Un compte dira:« Biden essaie de prendre nos armes; Trump était le meilleur », et un autre dira :« Jan. 6 était un mensonge et Trump était innocent », a déclaré Jules Gross, l’ingénieur de Cyabra qui a découvert le réseau pour la première fois, faisant référence à l’attaque du 6 janvier 2021 contre le Capitole américain par des partisans de Trump.
« Ces voix ne sont pas des gens », a déclaré Gross. « Pour le bien de la démocratie, je veux que les gens sachent que ce qui se passe. »
Les robots sont devenus notoirement connus après que la Russie les a employés dans le but de se mêler des élections de 2016, que Trump a remportées. Alors que les grandes entreprises technologiques ont amélioré leur détection des faux comptes, le réseau identifié par Cyabra montre qu’elles restent une force puissante pour façonner le débat politique en ligne.
Le réseau pro-Trump
Le nouveau réseau pro-Trump est en fait trois réseaux différents de comptes Twitter, tous créés en masse en avril, octobre et novembre. Au total, les chercheurs pensent que des centaines de milliers de comptes pourraient être impliqués.
Les comptes comportent tous des photos personnelles du titulaire présumé du compte ainsi qu’un nom. Certains comptes publient leur propre contenu, souvent en réponse à de vrais utilisateurs, tandis que d’autres republient du contenu de vrais utilisateurs, contribuant à l’amplifier.
« McConnell… Traître ! » a publié l’un des comptes en réponse à un article dans une publication conservatrice sur le chef du Sénat du GOP, Mitch McConnell, l’un des nombreux critiques républicains de Trump ciblés par le réseau.
Une façon d’évaluer l’impact des bots est de mesurer le pourcentage de messages sur un sujet donné générés par des comptes qui semblent être faux. Le pourcentage des débats en ligne typiques est souvent inférieur à 10 chiffres. Twitter lui-même a déclaré que moins de 5% de ses utilisateurs quotidiens actifs sont des faux comptes ou des spams.
Cependant, lorsque les chercheurs de Cyabra ont examiné des publications négatives sur des critiques spécifiques de Trump, ils ont trouvé des niveaux d’inauthenticité bien plus élevés. Près des trois quarts des publications négatives sur Haley, par exemple, ont été attribuées à de faux comptes.
Le réseau a également contribué à populariser un appel à DeSantis pour qu’il rejoigne Trump en tant que vice-président à la vice-présidence, un résultat qui servirait bien Trump et lui permettrait d’éviter une confrontation potentiellement amère si DeSantis entre dans la course.
Le même réseau de comptes a partagé un contenu extrêmement positif sur Trump et a contribué à une fausse image globale de son soutien en ligne, ont découvert les chercheurs.
« Notre compréhension de ce qu’est le sentiment républicain dominant pour 2024 est manipulée par la prévalence des bots en ligne », ont conclu les chercheurs de Cyabra.
Le triple réseau a été découvert après que Gross a analysé des Tweets sur différentes personnalités politiques nationales et a remarqué que de nombreux comptes affichant le contenu avaient été créés le même jour. La plupart des comptes restent actifs bien qu’ils aient un nombre relativement modeste d’abonnés.
Un message laissé à un porte-parole de la campagne de Trump n’a pas été immédiatement renvoyé.
Les robots ont un impact « absolu » sur le flux d’informations
La plupart des bots ne sont pas conçus pour persuader les gens mais pour amplifier certains contenus afin que davantage de personnes les voient, selon Samuel Woolley, professeur et chercheur sur la désinformation à l’Université du Texas dont le dernier livre se concentre sur la propagande automatisée.
Lorsque les utilisateurs humains voient un hashtag ou un élément de contenu d’un bot et le republient, ils font le travail du réseau pour cela et envoient également un signal aux algorithmes de Twitter pour stimuler davantage la diffusion du contenu.
Les robots peuvent également réussir à persuader les gens qu’un candidat ou une idée est plus ou moins populaire qu’il ne l’est en réalité, a-t-il déclaré. Plus de bots pro-Trump peuvent amener les gens à exagérer sa popularité globale, par exemple.
« Les bots ont absolument un impact sur le flux d’informations », a déclaré Woolley. « Ils sont construits pour fabriquer l’illusion de la popularité. La répétition est l’arme principale de la propagande, et les bots sont vraiment doués pour la répétition. Ils sont vraiment doués pour obtenir des informations devant les yeux des gens.
Jusqu’à récemment, la plupart des bots étaient facilement identifiables grâce à leur écriture maladroite ou à leurs noms de compte qui incluaient des mots absurdes ou de longues chaînes de nombres aléatoires. Au fur et à mesure que les plateformes de médias sociaux s’amélioraient pour détecter ces comptes, les bots sont devenus plus sophistiqués.
Les comptes dits cyborg en sont un exemple. Ce sont des bots qui sont périodiquement pris en charge par un utilisateur humain qui peut publier du contenu original et répondre aux utilisateurs de manière humaine, ce qui les rend beaucoup plus difficiles à détecter.
Les robots pourraient bientôt devenir beaucoup plus sournois grâce aux progrès de l’intelligence artificielle. De nouveaux programmes d’IA peuvent créer des photos de profil et des messages réalistes qui semblent beaucoup plus authentiques. Selon Katie Harbath, membre du Bipartisan Policy Center et ancienne directrice des politiques publiques de Facebook, les robots qui ressemblent à une personne réelle et déploient une technologie vidéo deepfake peuvent défier les plates-formes et les utilisateurs de nouvelles manières.
« Les plates-formes se sont tellement améliorées dans la lutte contre les bots depuis 2016 », a déclaré Harbath. « Mais les types que nous commençons à voir maintenant, avec l’IA, ils peuvent créer de fausses personnes. Fausses vidéos.
Ces avancées technologiques garantissent probablement que les bots ont un long avenir dans la politique américaine – en tant que fantassins numériques dans les campagnes en ligne et en tant que problèmes potentiels pour les électeurs et les candidats qui tentent de se défendre contre des attaques en ligne anonymes.
« Il n’y a jamais eu plus de bruit en ligne », a déclaré Tyler Brown, consultant politique et ancien directeur numérique du Comité national républicain. « Dans quelle mesure est-il malveillant ou même involontairement non factuel ? Il est facile d’imaginer que les gens puissent manipuler cela.