Le nouvel ordre : les dangers des technologies futures

C’est pourquoi l’auteur anglais Jamie Susskind a écrit un manifeste dans son livre « Digital Republic » dans lequel il prône un nouvel ordre numérique fondé sur les valeurs et axé sur les personnes.

« Le défi central peut se résumer en deux mots : pouvoir incontrôlé », écrit Susskind dans son introduction. Ce pouvoir incontrôlé de la technologie et de ses créateurs peut « façonner le caractère moral d’une société, pour le meilleur ou pour le pire ».

Susskind conçoit donc l’utopie d’une « république numérique » qui comprend ce pouvoir, le limite et l’oriente dans le bon sens. Il devient évident que quelques nouvelles règles ne suffiront pas.

« République numérique » indique clairement que nous devons complètement renégocier la démocratie et la société si nous voulons maîtriser ce pouvoir. Afin d’illustrer l’ampleur que doit avoir ce réajustement de la coexistence sociale, Susskind utilise des modèles de la théorie de l’État depuis l’Antiquité jusqu’au XXe siècle en passant par les Lumières.

Par exemple, alors que la République romaine était un «système très imparfait», l’une de ses forces était que ses citoyens «participaient à la vie collective et développaient la conscience, l’empathie et la vigilance du public».

Trop peu de connaissances sur notre espace numérique

Susskind revendique également ces principes de « l’idée républicaine » pour un « nouvel ordre » dans le monde numérique. Malgré ces traités théoriques et l’accent mis sur la technologie et les algorithmes, « Digital Republic » est facile à comprendre – même pour les lecteurs qui abordent le sujet pour la première fois.

Parallèlement, Susskind crée un véritable malaise en traçant un décalage entre nos comportements quotidiens dans l’espace numérique et notre peu de connaissance du fonctionnement de cet espace. « Le code informatique a une incroyable capacité à contrôler l’activité humaine – silencieusement, automatiquement, avec précision – et ne tolère aucune objection », écrit Susskind.

Un phénomène dont on n’a guère conscience tant qu’il fonctionne correctement. On n’y prête attention que lorsqu’elle donne des résultats apparemment paradoxaux ou manifestement discriminatoires.

Par exemple, en 2021, les utilisateurs de Facebook qui ont vu une vidéo d’hommes noirs ont reçu une invite automatique leur demandant de voir « plus de vidéos sur les primates ». Une question sans valeur pour l’algorithme, qui résultait probablement de mauvaises données d’entraînement.

Pour la société, un faux pas raciste avec le potentiel d’explosifs sociaux. Un autre exemple réside dans les connexions apparemment absurdes que le logiciel reconnaît et dont il tire ses propres conclusions.

Plus sur le sujet :

Selon Susskind, il existe une corrélation statistique entre la consommation de fromage et les accidents mortels avec des draps emmêlés, ainsi qu’entre les personnes qui utilisent Hotmail pour leurs e-mails et celles qui ont des accidents de voiture mortels. De telles informations deviennent pertinentes lorsqu’elles conduisent à des décisions concrètes : les clients qui écrivent leur nom en minuscules sur les formulaires ont tendance à ne pas rembourser les prêts.

Cela soulève la question suivante : devrions-nous laisser l’algorithme décider que les personnes ayant une préférence pour les minuscules ne sont évidemment pas solvables ? Et cela, bien que nous-mêmes ne puissions pas comprendre le lien ?

Le numérique est politique

Susskind dit « non » car, à son avis, les développeurs de la Silicon Valley se basent sur une fausse prémisse, qu’il appelle le « sophisme de la neutralité ». Selon de nombreux « techniciens », le code informatique est sans valeur et donc juste car il traite tout le monde de manière égale en soi. Une erreur, comme l’écrit Susskind – le code est moral, le numérique est donc politique.

Sur la base de suggestions concrètes, l’avocat formé crée une image détaillée d’une république moderne qui applique des principes créés par l’homme à l’espace numérique. Il s’agit notamment des «tribunaux techniques», qui doivent être dotés d’experts indépendants et sont utilisés pour régler les différends mineurs entre les particuliers et les entreprises technologiques.

Jusqu’à présent, les procédures judiciaires classiques ont souvent été coûteuses et chronophages, et les procédures de plainte des entreprises sont « très compliquées, bureaucratiques et presque kafkaïennes dans leur mise en œuvre », écrit Susskind. En outre, la loi doit également être exécutoire. Dans le numérique comme dans l’analogique, le postulat doit donc s’appliquer que « les manquements extrêmes, dangereux, moralement ignobles et systématiques doivent être punis pénalement ».

Peut-être, suppose Susskind, verrons-nous un jour un procès en destitution contre le chef d’une entreprise de technologie. L’auteur est certain qu’un ensemble de règles n’inhibe pas les innovations technologiques, mais peut en fait les stimuler.

Pourquoi les normes américaines devraient-elles s’appliquer aux Allemands sur les réseaux sociaux et vice versa ? Jamie Susskind, auteur et avocat

Les éléments constitutifs de cet ensemble de règles pour une « république numérique » comprenaient également la transparence et un meilleur contrôle antitrust. Il est intéressant de noter que Susskind n’est pas attaché à un ordre international global, même si Internet ne s’arrête pas aux frontières nationales.

Au lieu de cela, il préconise des réglementations au niveau national ou régional afin de ne pas ignorer les particularités historiquement développées du monde analogique. Exemple de liberté d’expression : En Allemagne et en France, il est interdit de crier « Heil Hitler » devant une synagogue – aux États-Unis, en revanche, cela compte également dans la catégorie de la liberté d’expression.

« Pourquoi les normes américaines devraient-elles s’appliquer aux Allemands sur les réseaux sociaux et vice versa ? », s’interroge Susskind, plaidant ainsi pour des règles différentes pour les plateformes en ligne selon l’endroit où elles sont utilisées. Une exigence qui serait probablement difficile à mettre en œuvre et facile à contourner.

À la fin de « Digital Republic », la principale question qui demeure est de savoir dans quelle mesure la mise en œuvre des suggestions de Susskind est vraiment réaliste. Après tout, il existe déjà des approches pour réglementer la technologie, comme le loue également l’auteur.

Mais la route vers la « république numérique » semble encore bien longue. Ainsi, selon Hannah Arendt, qui cite à plusieurs reprises Susskind, il n’est pas encore clair si « la cause de la liberté » peut résister à « toute sorte de tyrannie ». Peut-être que davantage de décideurs du monde entier devraient lire ce livre.

Plus: Pourquoi l’IA révolutionne et déçoit à la fois