Les systèmes d’apprentissage automatique posent problème. C’est pourquoi les patrons de la technologie les appellent « IA »

OL’un des textes les plus utiles pour quiconque couvre l’industrie technologique est le célèbre essai de George Orwell, Politics and the English Language. L’accent d’Orwell dans l’essai était sur l’utilisation politique de la langue pour, comme il l’a dit, «faire paraître les mensonges véridiques et le meurtre respectable et donner une apparence de solidité au vent pur». Mais l’analyse peut également être appliquée à la manière dont les entreprises contemporaines détournent le langage pour détourner l’attention des sordides réalités de ce qu’elles font.

L’industrie de la technologie a été particulièrement douée pour ce type d’ingénierie linguistique. Le « partage », par exemple, consiste à cliquer sur un lien pour laisser une trace de données qui peut être utilisée pour affiner le profil que l’entreprise maintient à votre sujet. Vous donnez votre « consentement » à une proposition unilatérale : acceptez ces conditions ou perdez-vous. Le contenu est « modéré », pas censuré. Les annonceurs vous « contactent » avec des messages non sollicités. Les employés licenciés sont « licenciés ». Les produits défectueux sont « rappelés ». Etc.

À l’heure actuelle, l’euphémisme le plus pernicieux du dictionnaire du double langage est l’IA, devenue depuis deux ou trois ans omniprésente. À l’origine, c’est une abréviation pour l’intelligence artificielle, définie par l’OED comme « la capacité des ordinateurs ou d’autres machines à présenter ou à simuler un comportement intelligent ; le domaine d’études concerné par cela ». Un outil Ngram (qui montre les modèles d’utilisation des mots) révèle que jusque dans les années 1960, l’IA et l’intelligence artificielle étaient plus ou moins synonymes, mais qu’elles ont ensuite divergé et que l’IA sévit désormais dans l’industrie technologique, les médias de masse et le milieu universitaire.

Maintenant, pourquoi cela pourrait-il être? Sans doute la paresse y est-elle pour quelque chose ; après tout, deux lettres sont typographiquement plus faciles que 22. Mais c’est une rationalisation, pas une explication. Si vous la regardez à travers une lentille orwellienne, vous devez vous demander : quel genre de travail fait cette compression linguistique ? Et pour qui ? Et c’est là que les choses deviennent intéressantes.

En tant que sujet et concept, l’intelligence nous fascine sans cesse, nous les humains. Nous nous disputons à ce sujet depuis des siècles – qu’est-ce que c’est, comment le mesurer, qui l’a (et qui n’en a pas) et ainsi de suite. Et depuis qu’Alan Turing a suggéré que les machines pourraient être capables de penser, l’intérêt pour artificiel l’intelligence s’est développée et est maintenant à son paroxysme avec des spéculations sur la perspective de machines super-intelligentes – parfois appelées AGI (pour intelligence générale artificielle).

Tout cela est intéressant mais n’a pas grand-chose à voir avec ce que l’industrie technologique appelle l’IA, qui est son nom pour l’apprentissage automatique, une technologie obscure et à forte intensité de carbone qui est parfois efficace pour résoudre des problèmes complexes mais très bien définis. Par exemple, les systèmes d’apprentissage automatique peuvent jouer à Go de classe mondiale, prédire la façon dont les molécules de protéines se replieront et effectuer une analyse à grande vitesse des scans rétiniens pour identifier les cas qui nécessitent un examen plus approfondi par un spécialiste humain.

Que de bonnes choses, mais la raison pour laquelle l’industrie tech est obsédée par la technologie est qu’elle lui permet de construire des machines qui apprennent du comportement des internautes pour prédire ce qu’ils pourraient faire ensuite et, en particulier, ce qu’ils sont disposés à aimer, valeur et pourrait vouloir acheter. C’est pourquoi les patrons de la technologie se vantent d’avoir « l’IA partout » dans leurs produits et services. Et c’est pourquoi chaque fois que Mark Zuckerberg et co sont attaqués pour leur incapacité à garder le contenu toxique hors de leurs plateformes, ils répondent invariablement que l’IA résoudra le problème très bientôt maintenant.

Mais voilà : l’industrie est désormais accro à une technologie qui présente des inconvénients techniques et sociétaux majeurs. CO₂ les émissions provenant de la formation de grands systèmes d’apprentissage automatique sont énormes, par exemple. Ils sont trop fragiles et sujets aux erreurs pour être utilisés dans des applications critiques pour la sécurité, telles que les véhicules autonomes. Ils intègrent des préjugés raciaux, sexistes et ethniques (en partie parce qu’ils ont absorbé les préjugés implicites dans les données sur lesquelles ils ont été formés). Et ils sont irrémédiablement opaques – dans le sens où même leurs créateurs sont souvent incapables d’expliquer comment leurs machines parviennent à des classifications ou à des prédictions – et ne répondent donc pas aux exigences démocratiques de responsabilité. Et ce n’est que pour commencer.

Alors, comment l’industrie fait-elle face à la sordide réalité qu’elle a parié le ranch sur une technologie puissante mais problématique ? Réponse : en évitant de l’appeler par son vrai nom et en l’enveloppant plutôt d’un nom qui implique que, d’une manière ou d’une autre, tout cela fait partie d’un projet romantique plus grand et plus grandiose : la quête de l’intelligence artificielle. Comme Orwell pourrait le dire, c’est la manière de l’industrie de donner « une apparence de solidité au vent pur » tout en continuant à faire fortune.

Ce que j’ai lu

Jetez-leur un Bono
Un extrait fascinant de l’autobiographie du chanteur de U2, publié dans le New yorkais.

Twitter n’est-ce pas ?
Bienvenue en enfer, Elon est un joli tutoriel rapide pour le dernier magnat des médias du monde sur le site Web de Verge.

Un esprit franc-tireur
Le joli profil de Roger Highfield sur le site Aeon du regretté grand climatologue James Lovelock.