JLe bon fonctionnement des démocraties dépend de la qualité de l’information qui encadre le débat en leur sein. Mais la numérisation, l’essor des médias sociaux et des formes de plus en plus sophistiquées d’intelligence artificielle offrent de nouvelles opportunités d’empoisonner le discours public. Malheureusement, comme l’illustre une enquête du Guardian cette semaine, leur exploitation est une industrie en croissance du 21e siècle.
Aux côtés d’acteurs parrainés par l’État, un nombre croissant d’entreprises privées profitent de la diffusion de désinformation au nom de clients politiques et d’entreprises. Des recherches secrètes, en collaboration avec 30 autres organisations médiatiques, ont révélé le fonctionnement interne de l’un de ces groupes – une unité d’opérations secrètes israélienne qui combine l’utilisation de la désinformation automatisée sur les réseaux sociaux avec le piratage et l’ensemencement d’histoires fabriquées dans les principaux organes d’information. Les révélations qui en résultent offrent les informations les plus profondes et les plus détaillées à ce jour sur les formes évolutives de faute professionnelle numérique.
Baptisée Team Jorge, l’unité est dirigée par un ancien membre des forces spéciales israéliennes, qui nie tout acte répréhensible. Pour manipuler le débat en ligne, il a développé un logiciel de pointe pour créer des dizaines de milliers de faux avatars. Ceux-ci ont reçu une trame de fond numérique convaincante – y compris même des comptes Airbnb – et ont opéré dans plusieurs pays, intervenant souvent dans des litiges commerciaux. Au Royaume-Uni, le bureau du commissaire à l’information a été la cible de critiques en ligne alors qu’il cherchait à clarifier l’attribution des contrats gouvernementaux d’EPI pendant Covid. Par ailleurs, l’équipe Jorge a organisé une fausse manifestation du « monde réel » à Londres, dont l’impact a ensuite été amplifié par les faux avatars.
Des agents ont infiltré une campagne électorale au Nigeria et ont obtenu des documents. Et les principaux acteurs des élections kenyanes de l’année dernière ont eu accès à leur compte Gmail et Telegram à l’aide de méthodes de piratage. L’unité de désinformation semble également avoir ciblé les médias grand public, semant des histoires qui ont été rapidement reprises par les bots. Un membre de l’équipe Jorge a déclaré aux enquêteurs infiltrés qu’il était responsable d’une fausse histoire favorable aux oligarques russes frappés de sanctions qui a été diffusée sur la chaîne d’information la plus regardée de France. L’un de ses présentateurs a maintenant été suspendu. Contacté par nos journalistes avec des preuves de faux comptes, Meta, le propriétaire de Facebook, a supprimé des bots liés au logiciel de Team Jorge. Mais des acteurs tout aussi mauvais opèrent librement, sans être détectés, dans le monde entier.
La professionnalisation d’une industrie commerciale de la désinformation, cherchant à tirer profit du mensonge et de la distorsion, est l’une des menaces claires et actuelles de notre époque. Les progrès rapides dans les domaines de l’intelligence artificielle et de la réalité virtuelle promettent d’énormes gains sociaux ; mais ils offrent également de nouvelles possibilités pour brouiller les frontières entre le vrai et le faux, et le vrai et le faux. Les théories du complot propagées en ligne pendant la pandémie de Covid, et l’émeute sur Capitol Hill à la suite de fausses allégations selon lesquelles l’élection présidentielle américaine de 2020 a été volée, ont montré où cela peut mener.
À mesure que la technologie progresse, les systèmes de réglementation et de surveillance publique doivent tenter de suivre le rythme et veiller à ce que les plateformes technologiques deviennent plus responsables des environnements en ligne qu’elles créent. À une époque de polarisation, la désinformation sape la présomption de bonne foi nécessaire au débat démocratique et au consensus. Plus d’attention doit être accordée aux activités d’organisations telles que Team Jorge, et plus de ressources doivent être consacrées à leur mise hors service.