L’affaire de la Cour suprême américaine qui pourrait mettre les géants de la technologie à genoux

JIl y a deux semaines, la Cour suprême des États-Unis a décidé qu’elle entendrait Gonzalez contre Google, une affaire historique qui donne des nuits blanches à certains magnats des médias sociaux pour la très bonne raison qu’elle pourrait faire un grand trou dans leurs modèles commerciaux fabuleusement lucratifs. Puisque cela pourrait être une bonne nouvelle pour la démocratie, c’est aussi une raison pour nous tous de nous asseoir et d’être attentifs.

Tout d’abord, un peu de contexte. En 1996, deux législateurs américains, le représentant Chris Cox de Californie et le sénateur Ron Wyden de l’Oregon, ont inséré une clause dans le vaste projet de loi sur les télécommunications qui était alors en cours d’examen au Congrès. La clause est finalement devenue l’article 230 de la loi sur la décence des communications et se lisait comme suit : « Aucun fournisseur ou utilisateur d’un service informatique interactif ne doit être traité comme l’éditeur ou l’orateur d’informations fournies par un autre fournisseur de contenu d’informations. »

Les motivations des deux hommes politiques étaient honorables : ils avaient vu comment les fournisseurs des premiers services d’hébergement Web avaient été tenus pour responsables des dommages causés par des contenus postés par des utilisateurs sur lesquels ils n’avaient aucun contrôle. Il convient de rappeler que c’était les premiers jours d’Internet et que Cox et Wyden craignaient que si les avocats devaient désormais ramper sur tout ce qui était hébergé sur le support, la croissance d’une nouvelle technologie puissante serait paralysée plus ou moins dès sa naissance. Et en ce sens, ils avaient raison.

Ce qu’ils n’auraient pas pu prévoir, cependant, c’est que l’article 230 se transformerait en une carte de sortie de prison pour certaines des entreprises les plus rentables de la planète – telles que Google, Facebook et Twitter, qui ont construit des plateformes permettant leur aux utilisateurs de publier tout et n’importe quoi sans que les propriétaires n’encourent de responsabilité légale. La clause Cox-Wyden avait une telle portée qu’un professeur de droit a finalement écrit un livre entier à ce sujet, Les vingt-six mots qui ont créé Internet. Un peu hyperbolique, peut-être, mais vous voyez l’idée.

Avancez maintenant jusqu’en novembre 2015 lorsque Nohemi Gonzalez, une jeune américaine étudiante à Paris, a été abattue dans un restaurant par les terroristes de l’État islamique qui ont assassiné 129 autres personnes cette nuit-là. Sa famille a poursuivi Google, arguant que sa filiale YouTube avait utilisé des algorithmes pour pousser les vidéos IS aux téléspectateurs impressionnables, en utilisant les informations que l’entreprise avait recueillies à leur sujet. Leur requête demandant un examen par la Cour suprême fait valoir que « les vidéos que les utilisateurs ont visionnées sur YouTube étaient la manière centrale dont l’EI a obtenu du soutien et des recrues dans des zones situées en dehors des parties de la Syrie et de l’Irak qu’il contrôlait ».

L’élément clé de la poursuite Gonzalez, cependant, n’est pas que YouTube ne devrait pas héberger de vidéos IS (l’article 230 le permet), mais que ses algorithmes de « recommandation » d’apprentissage automatique, qui peuvent pousser d’autres vidéos, peut-être plus radicales, la rendent responsable des dommages qui en résultent. Ou, pour le dire grossièrement, alors que YouTube peut avoir une protection légale pour héberger tout ce que ses utilisateurs publient dessus, il n’a pas – et ne devrait pas – avoir de protection pour un algorithme qui détermine ce qu’ils doivent voir ensuite.

C’est de la dynamite pour les plateformes de médias sociaux car les moteurs de recommandation sont la clé de leur prospérité. Ce sont les outils puissants qui augmentent « l’engagement » des utilisateurs – en gardant les gens sur la plateforme pour qu’ils quittent les traces numériques (visionnement, partage, j’aime, retweet, achat, etc.) – qui permettent aux entreprises d’affiner continuellement les profils des utilisateurs pour la publicité ciblée. Et faire des profits déraisonnables de le faire. Si la Cour suprême décidait que ces moteurs ne bénéficiaient pas de la protection de l’article 230, les entreprises de médias sociaux trouveraient soudainement le monde beaucoup plus froid. Et les analystes boursiers pourraient changer leurs conseils aux clients de « conserver » à « vendre ».

Les juristes soutiennent depuis des décennies que l’article 230 doit être révisé. Les fanatiques de la liberté d’expression y voient la clé de voûte de la liberté, le « kill switch » du web. Donald Trump a fait des bruits menaçants à ce sujet. Les critiques de la technologie (comme ce chroniqueur) la considèrent comme un catalyseur de l’hypocrisie et de l’irresponsabilité des entreprises. Quoi qu’il en soit, cela fait plus d’un demi-siècle qu’elle est devenue loi, soit environ 350 ans à l’heure d’Internet. Avoir un tel statut pour réglementer le monde en réseau contemporain ressemble un peu à avoir un homme avec un drapeau rouge marchant devant une voiture sans conducteur. (Cependant, à bien y penser, ce n’est peut-être pas une si mauvaise idée.)

Des versions de la question posée par la poursuite Gonzalez – si l’article 230 immunise les plateformes Internet lorsqu’elles font des recommandations ciblées de contenus publiés par d’autres utilisateurs – ont été soumises aux tribunaux américains au cours des dernières années. À ce jour, cinq juges de cours d’appel ont conclu que l’article prévoyait une telle immunité. Trois juges d’appel ont statué que non, tandis qu’un autre a seulement conclu que le précédent juridique excluait la responsabilité des moteurs de recommandation. Il n’y a pas de consensus juridique ici, en d’autres termes. Il est grand temps que la Cour suprême se prononce. Après tout, n’est-ce pas là pour ça ?

Ce que j’ai lu

Voix du raisonnement
A Locus of Care est l’hommage de Justin EH Smith sur son blog à son regretté collègue, le philosophe français Bruno Latour, décédé ce mois-ci.

Façons de voir
Comment les photographes des années 1970 ont redéfini le médium un bel essai d’anniversaire dans Ouverture par Geoff Dyer.

Une dette écrasante
Si vous pensez que Bitcoin crache du carbone, attendez d’en entendre parler… La banque est une révélation intéressante de Bill McKibben sur son blog sur l’empreinte carbone de la finance.

Avez-vous une opinion sur les questions soulevées dans cet article? Si vous souhaitez soumettre une lettre de 250 mots maximum pour être considérée pour publication, envoyez-la nous par e-mail à [email protected]