Bilan : Les progrès de la technologie numérique et l’IA stimulent le piratage de la société

« A Hacker’s Mind: How the Powerful Bend Society’s Rules, and How to Bend Them Back » par Bruce Schneier (WW Norton & Company)

Le piratage est universellement compris comme l’exploitation d’une vulnérabilité logicielle par un acteur malveillant.

Mais le piratage englobe oh, tellement plus. Par les systèmes de jeux, on obtient des résultats pour lesquels ils n’ont pas été conçus. Les gens le font à l’économie, au code des impôts, à la loi. Découvrir une faille, profiter d’un oubli.

Le dernier livre du gourou de la sécurité Bruce Schneier, « The Mind of a Hacker », examine les applications les plus efficaces du piratage – les bonnes et les mauvaises – avec à la fois espoir et crainte, cette dernière parce que la technologie numérique et l’intelligence artificielle la mettent sous stéroïdes. Son focus : le hacking comme levier de pouvoir.

Si les données sont la nouvelle huile, le piratage est le nouveau lubrifiant. Les bots seront le système de livraison.

Un simple hack que je viens d’exécuter : au début d’une course de six milles, je suis allé au bureau de poste pour poster une enveloppe volumineuse de la taille d’une lettre. Mais c’était fermé. Je manquais de frais de port. J’ai donc glissé l’enveloppe dans la boîte aux lettres. L’adresse de retour assurerait une livraison gratuite à mon domicile.

Certaines choses que les humains ont piratées avec grand effet : l’IRS, les bourses (trading à haute fréquence ; voir « Flash Boys » de Michael Lewis), les programmes de fidélisation des compagnies aériennes, les règles religieuses (les juifs orthodoxes et le sabbat, par exemple).

À la suite d’un Hacking 101 dont de nombreux lecteurs n’auront pas besoin, Schneier propose un traité facile à digérer et ouvrant l’esprit sur la façon dont le piratage exacerbe les inégalités. L’élite a longtemps embauché des gens intelligents pour se faufiler dans et autour des règles de la haute finance, du droit et de la politique à leur profit.

Membre du Berkman-Klein Center for Internet & Society de Harvard et membre du conseil d’administration de l’Electronic Frontier Foundation, Schneier est un technologue d’intérêt public. Il n’est pas fan de la richesse et de la concentration monopolistique du marché.

« Le piratage est parasitaire, principalement effectué par les riches et les puissants, et il se fait au détriment de tous les autres », écrit-il. Vous voulez subvertir les ploutocrates ? Hack back, conseille Schneier. Le jeu est empilé contre nous, après tout.

Beaucoup de piratage déchire le tissu social. Schneier est particulièrement préoccupé par la manière de contrer l’ingérence mentale destructrice – des hacks cognitifs qui affectent la capacité des gens à prendre des décisions délibérées et efficaces. Ce sont les hacks les plus dangereux.

L’IA les rendra encore plus insupportables, en piratant « notre société d’une manière que rien n’a fait jusqu’à présent ». Après un demi-siècle d’avancées numériques et d’appareils informatiques omniprésents, le piratage des esprits est devenu plus facile. Les algorithmes et l’automatisation rendent la désinformation – un type de piratage cognitif – plus efficacement corrosive. « Alors que les ordinateurs évoluent d’outils de pirates humains vers des pirates de plus en plus rapides, plus puissants et plus autonomes, comprendre comment nos produits numériques peuvent nous pirater deviendra de plus en plus essentiel pour nous protéger de la manipulation », écrit Schneier.

Nous ferions mieux de nous y mettre rapidement, dit-il, arguant que si des garde-corps stricts ne sont pas mis en place sur l’IA, les robots avec agence pourraient défaire la confiance dans les institutions vitales, la cohésion sociale, l’engagement civil. Schneier s’inquiète d’une répétition de l’inattention réglementaire qui a permis l’assaut de Big Tech sur la vie privée.

Il pense que l’IA défensive doit être développée pour mieux contrer le piratage de l’IA avec une intention antisociale, proposant un « système de gouvernance du piratage » pour se défendre contre ses utilisations intentionnelles et involontaires.

Si nous n’obligeons pas les gouvernements à mettre en place une telle réglementation, affirme Schneier, nous céderons notre sort collectif aux programmeurs – et aux personnes qui signent leurs chèques de paie.