Le Web est un cauchemar pour Blade Runner, mais il existe un moyen d’endiguer la vague de mensonges

jen 1996, John Perry Barlow, ancien parolier des Grateful Dead et gourou des idéalistes hippy-tech de la Silicon Valley, a écrit un manifeste utopique émouvant sur l’avenir d’Internet. S’adressant aux dirigeants de l’ordre mondial réunis à Davos, il déclara :

« Gouvernements du monde industriel, géants fatigués de chair et d’acier, je viens du cyberespace, le nouveau foyer de l’esprit… Nous allons créer une civilisation de l’esprit dans le cyberespace. Puisse-t-il être plus humain et plus juste que le monde que vos gouvernements ont créé auparavant.

Vingt-trois ans plus tard, ce fantasme utopique a été remplacé par un Internet qui s’apparente davantage au film Blade Runner : une mégapole trouble polluée par le smog de la désinformation ; où les rêves de liberté se sont transformés en niveaux de surveillance sans précédent ; gouverné par un petit groupe de méga-sociétés irresponsables qui dominent la ville Internet en exploitant ses sujets désorientés, impuissants et rancuniers, qui sont à la fois leurs utilisateurs dépendants et les produits dont ils aspirent les données afin de rendre les puissants encore plus intouchables.

Le grand thème de Blade Runner est la lutte pour faire la différence entre les vrais humains et les «réplicants», des robots se faisant passer pour des humains. Dans l’Internet Blade Runner d’aujourd’hui, nous avons également du mal à analyser le vrai et le faux, alors que les bots et les faux comptes pullulent sur les réseaux sociaux prétendant être de vraies personnes, déformant notre sens de la réalité. Ces répliques en ligne peuvent être utilisées pour attaquer un ennemi ou, plus insidieusement, faire en sorte qu’un thème marginal se sente courant.

Comme l’ont montré des décennies de recherche universitaire en communication, les gens ont tendance à adopter des opinions qu’ils pensent être communes, ce que le chercheur sur Internet Samuel Woolley appelle «la fabrication d’un consensus». La contrefaçon de comptes sur les réseaux sociaux conduit non seulement à tromper les utilisateurs individuels, mais à une société qui perd le contact avec ce qu’elle pense vraiment, où ce qu’elle « pense vraiment » peut être reprogrammé.

Dans un discours qui peut être si facilement déformé, il est tentant de renoncer à tout espoir d’une sphère publique démocratique, où les idées et les preuves sont pesées et débattues, et décidées par de vrais citoyens, et où une personne a une seule voix. C’est un défi à la primauté de la démocratie comme modèle de gouvernance. Le message des dictatures numériques d’aujourd’hui, de la Chine à l’Arabie saoudite, est que la démocratie ne peut pas faire face à la dimension en ligne, et dans la confusion, il vaut mieux céder la liberté de choix aux pouvoirs centralisés qui utilisent nos données pour prendre des décisions à notre place.

Dans les bidonvilles des médias sociaux et les ruelles sombres de notre Internet Blade Runner, vous rencontrez les revendeurs louches de services semi-légaux et carrément illicites pour vous aider à gérer ce jeu de réalité à votre avantage. Ils vendent des bot-nets et des services de piratage, des technologies de surveillance et des vidages de données. Comme tout vendeur douteux, ils vous promettent des rêves alléchants de victoires incontrôlables. Au juste prix, ils prétendent avoir la « sauce magique » pour vous faire gagner des élections, manipuler le comportement de vos ennemis, ruiner les affaires de vos rivaux.

« Team Jorge », une unité israélienne d’opérations secrètes en ligne découverte par le Guardian et ses partenaires dans une opération d’infiltration stupéfiante, fait partie de toute une industrie scuzzy (« Team Jorge » nie toute responsabilité).

Dans mon dernier livre, Ceci n’est pas de la propagande, j’ai rencontré des dizaines de ces marchands de désinformation, de Manille à Mexico. J’ai toujours été fasciné par la façon dont ils se justifiaient. Tous étaient amoraux – vous deviez l’être pour ce jeu. Beaucoup étaient des étrangers qui étaient venus dans la grande ville pour réussir et voyaient leurs histoires uniquement en termes d’un petit gars de province jouant au jeu mis en place par d’autres. D’une manière ou d’une autre, ils ont rendu leur sale boulot héroïque. Tout le monde était d’accord pour dire qu’ils n’avaient pas établi les règles. C’était la faute des politiciens et des grandes entreprises qui contrôlaient la ville Internet, et des clients qui les payaient. S’ils n’offraient pas ces services, quelqu’un d’autre le ferait.

Et le plus triste, c’est qu’ils ont un petit point ici. Car que va-t-il se passer maintenant que Jorge est arrêté ? Les entreprises technologiques supprimeront ses comptes réplicants, leur solution de plâtre collant contre les «comportements inauthentiques coordonnés». Mais le fait brutal est que toute la façon dont les plates-formes ont été construites est à la fois a priori exploiteur des citoyens, et simultanément facile à exploiter par de mauvais acteurs. C’est un système construit sur la surveillance et qui aspire les données des gens pour les manipuler ; où les citoyens n’ont aucun contrôle sur, ou même ne comprennent pas, les algorithmes qui dictent ce que nous voyons et ensuite ressentons et finalement faisons en ligne. Les Jorges ne sont pas un bug, ils sont une caractéristique de notre Internet actuel.

Pouvons-nous imaginer un Internet différent, celui qui a été en fait conçu pour renforcer la démocratie ? C’est un exercice que nous avons mené dans le cadre du Good Web Project, dirigé par mon unité à l’Université Johns Hopkins et le groupe de réflexion Demos. Un tel Internet permettrait aux gens d’être anonymes lorsque cela est important pour leur sécurité (l’anonymat est un droit), mais aurait des systèmes qui signifiaient que les comptes en ligne étaient liés à de vraies personnes : la différence entre les humains et les réplicants serait claire. Ce serait un Internet dont les espaces seraient gérés pour le bien de la communauté, et non pour des intérêts privés.

Nous aurions nos débats politiques dans des espaces spécialement conçus pour nous entendre, évaluer les preuves, prendre des décisions. Facebook et Twitter sont peut-être de bons endroits pour faire rage ou se moquer, mais ils ne sont pas conçus pour décider de la politique ou élaborer des visions d’un avenir commun.

Une telle nouvelle ville Internet est possible. Au lieu de la ville malveillante de Blade Runner, où tout appartient à des entreprises exploiteuses avec un ventre de bandits en ligne, elle aurait l’équivalent numérique des parcs publics, des bibliothèques, des mairies. Mais nous n’en sommes pas loin maintenant.

Pouvons-nous survivre aujourd’hui ? Que pouvez-vous faire si vous êtes, pour les besoins de la discussion, un militant qui veut saper la mobilisation pour les guerres génocidaires de la Russie ? Ou vous menez une campagne pour perturber l’extrême droite en Europe ? Ou les narcos en Amérique latine ? Attendrez-vous un nouvel Internet ? Nous n’avons pas le temps. Non, vous irez dans les ruelles sombres de notre Internet Blade Runner et chercherez un Jorge.