Imaginez un instant le futur proche dont rêve Amazon.
Chaque matin, vous êtes doucement réveillé par Amazon Halo Rise. De son perchoir sur votre table de chevet, l’appareil rond a passé la nuit à surveiller les mouvements de votre corps, la lumière dans votre chambre, ainsi que la température et l’humidité de l’espace. Au moment optimal de votre cycle de sommeil, tel que calculé par un algorithme propriétaire, la lumière de l’appareil s’éclaircit progressivement pour imiter la teinte chaude naturelle du lever du soleil. Votre Amazon Echo, branché quelque part à proximité, lance automatiquement la lecture de votre musique préférée dans le cadre de votre routine de réveil. Vous interrogez l’appareil sur la météo du jour ; il vous dit de vous attendre à de la pluie. Ensuite, il vous informe que votre prochain envoi « S’abonner et économiser » de gélules Amazon Elements Super Omega-3 est en cours de livraison. Sur le chemin de la salle de bain, une notification apparaît sur votre téléphone à partir de l’application Neighbors d’Amazon, qui contient des séquences vidéo des caméras Amazon Ring de la région : Quelqu’un a renversé des poubelles, laissant les cours de la communauté en ruine. (Peut-être que ce ne sont que des ratons laveurs.)
Debout devant l’évier, vous jetez un coup d’œil à l’application Amazon Halo, qui est connectée à votre tracker de fitness Amazon Halo. Vous vous sentez mal, ce qui explique probablement pourquoi le portable analyse votre ton de voix comme « faible énergie » et « faible positivité ». Votre score de sommeil est lamentable. Après votre rinçage matinal, vous entendez le robot Amazon Astro poursuivre votre chien, Fred, dans le couloir ; vous voyez sur le flux vidéo d’Astro que Fred ronge votre basket de sport Amazon Essentials. Votre sonnette Ring retentit. Les pilules sont arrivées.
Ce serait un peu désinvolte – et plus qu’un peu cliché – d’appeler cela une sorte de dystopie technologique. Réellement, dystopie ne serait pas exact, exactement : la fiction dystopique est généralement spéculative, alors que tous ces éléments et services sont réels. Fin septembre, Amazon a annoncé une suite de produits technologiques dans son évolution vers «l’intelligence ambiante», que le chef du matériel d’Amazon, Dave Limp, a décrit comme une technologie et des appareils qui se glissent en arrière-plan mais sont «toujours là», recueillant des informations et prendre des mesures à son encontre.
Cette dévotion intense au suivi et à la quantification de tous les aspects de nos heures d’éveil et de non-éveil n’a rien de nouveau – voyez l’Apple Watch, le Fitbit, les médias sociaux en gros et le smartphone dans votre poche – mais Amazon a été exceptionnellement explicite sur ses plans . The Everything Store devient un Everything Tracker, collectant et exploitant de grandes quantités de données personnelles liées au divertissement, à la forme physique, à la santé et, selon lui, à la sécurité. C’est une surveillance à laquelle des millions de clients optent.
Je ne serai pas l’un d’entre eux. Grandir à Detroit sous le spectre de l’unité de police STRESS – un acronyme pour « Stop the Robberies, Enjoy Safe Streets » – m’a armé d’une perspective très spécifique sur la surveillance et la façon dont elle est déployée contre les communautés noires. L’une des principales tactiques de l’unité était le déploiement de la surveillance dans les zones à « haute criminalité » de la ville. En deux ans et demi de fonctionnement dans les années 1970, l’unité a tué 22 personnes, dont 21 Noirs. Des décennies plus tard, Detroit – avec son réseau de caméras Project Greenlight et un engagement renouvelé envers les microphones ShotSpotter, qui prétendent détecter les coups de feu et aider la police à répondre sans appel au 911 – continue d’être l’une des villes les plus noires et les plus surveillées d’Amérique. Mon travail se concentre sur la façon dont les mécanismes de surveillance sont déployés de manière disproportionnée contre les Noirs ; pensez à la reconnaissance faciale incriminant à tort des hommes noirs, ou au département de police de Los Angeles demandant des images Ring-doorbell des manifestations de Black Lives Matter.
Les commodités promises par la suite de produits d’Amazon peuvent sembler séparées de ce contexte ; Je suis ici pour vous dire qu’ils ne le sont pas. Ces appareils « intelligents » relèvent tous de ce que le spécialiste des études numériques David Golumbia et moi-même appelons la « surveillance de luxe », c’est-à-dire une surveillance pour laquelle les gens paient et dont les fonctionnalités de suivi, de surveillance et de quantification sont comprises par l’utilisateur comme avantages. Ces gadgets sont analogues aux technologies de surveillance déployées à Détroit et dans de nombreuses autres villes du pays en ce sens qu’ils sont mieux compris comme des mécanismes de contrôle : ils collectent des données, qui sont ensuite utilisées pour influer sur le comportement. Dépouillés de leur lustre, ces appareils ressemblent aux moniteurs de cheville et aux applications de surveillance telles que SmartLINK qui sont imposées aux personnes en liberté conditionnelle ou aux immigrants en attente d’audience. Comme l’écrit l’auteur et activiste James Kilgore, « Le moniteur de cheville – qui pendant près de deux décennies était simplement un appareil analogique qui informait les autorités si le porteur était à la maison – est maintenant devenu un outil de surveillance sophistiqué via l’utilisation de la capacité GPS, biométrique mesures, caméras et enregistrement audio.
Les fonctions décrites par Kilgore reflètent celles offertes par les appareils portables et autres trackers pour lesquels de nombreuses personnes sont heureuses de dépenser des centaines de dollars. Des gadgets tels que Fitbits, Apple Watches et Amazon Halo sont de plus en plus présentés pour leur capacité à collecter des données qui vous aident à contrôler et à moduler votre comportement, qu’il s’agisse de suivre vos pas, de regarder votre respiration ou d’analyser le ton de votre voix. . Le contrôle imposé de l’extérieur de l’ancien incarcéré devient le contrôle auto-imposé de l’individu.
Amazon et sa filiale Ring démentent les allégations selon lesquelles leurs appareils permettent une surveillance nuisible et aggravent les inégalités raciales. « La mission de Ring est de rendre les quartiers plus sûrs, et cela signifie pour tout le monde, pas seulement pour certaines communautés », a déclaré Emma Daniels, porte-parole d’Amazon Ring, en réponse à une demande de commentaire. « Nous prenons ces sujets au sérieux, c’est pourquoi Ring a mené des audits indépendants avec des organisations tierces crédibles telles que la NYU School of Law pour garantir que les produits et services que nous construisons favorisent l’équité, la transparence et la responsabilité. En ce qui concerne Halo, personne ne voit vos données de santé Halo personnellement identifiables sans votre permission, et Halo Band et Halo View n’ont pas de GPS et ne peuvent pas être utilisés pour suivre des individus.
Ici, il est utile de se rappeler que les contextes changent très rapidement lorsque la technologie est impliquée. Ring a approché la NYU School of Law en 2020 pour auditer ses produits, en particulier leurs impacts sur la vie privée et la police. Ce rapport est sorti en décembre 2021 et promettait de produire une plus grande « transparence » en ce qui concerne les partenariats de l’entreprise avec les forces de l’ordre. En juillet dernier, à peine sept mois plus tard, le sénateur Edward Markey a publié une lettre indiquant que la société avait donné des images de sonnette à la police sans le consentement des propriétaires 11 fois cette année seulement. (Amazon n’a pas nié cela dans une déclaration à Politiquemais il a souligné qu’il ne donne pas « à quiconque un accès illimité aux données ou à la vidéo des clients ».)
Et rappelez-vous, le suivi GPS n’est pas la seule forme de surveillance. Les appareils de surveillance de la santé et de maison intelligente jouent tous un rôle. Les consommateurs peuvent croire qu’ils n’ont rien à craindre (ou à cacher) de ces appareils de surveillance de luxe, ou que l’adoption de cette technologie ne pourrait que leur être bénéfique. Mais ces dispositifs mêmes sont maintenant exploités contre les gens par leurs employeurs, le gouvernement, leurs voisins, les harceleurs et les agresseurs domestiques. Acheter dans ces écosystèmes, c’est supporter tacitement les dommages qui y sont associés.
Derrière tout cela se cache la normalisation de la surveillance qui cible systématiquement les communautés marginalisées. La différence entre une montre connectée et un moniteur de cheville est, à bien des égards, une question de contexte : qui en porte une pour une prétendue amélioration, et qui en porte une parce que le pouvoir de l’État est exercé contre lui ? En ce qui concerne Detroit, des caméras de surveillance, la reconnaissance faciale et des microphones sont censés être en place pour aider les résidents, bien qu’il existe peu de preuves que ces technologies réduisent la criminalité. Pendant ce temps, l’adoption généralisée des technologies de surveillance, même celles qui offrent des avantages supposés, crée un environnement où encore plus la surveillance est jugée acceptable. Après tout, il y a déjà des caméras et des microphones partout.
Le marché de la surveillance de luxe est énorme et diversifié – ce n’est pas juste Amazone, bien sûr. Mais Amazon est le leader du marché dans des catégories clés, et ses annonces de langage et de produits brossent un tableau clair. (Notez également qu’Apple et Google n’ont pas encore annoncé de drone de sécurité aéroporté qui patrouille dans vos couloirs, comme Amazon l’a fait.)
Au bas de ses communiqués de presse, Amazon nous rappelle qu’il est guidé par quatre principes, dont le premier est « l’obsession du client plutôt que la concentration sur les concurrents ». Il serait sage de rappeler que cette obsession prend la forme d’une collecte de données effrénée. Qu’est-ce que cela signifie lorsque sa vie devient complètement lisible pour les entreprises technologiques ? Prise dans son ensemble, la suite de produits de consommation d’Amazon menace de transformer chaque maison en une version miroir amusante d’un centre de distribution. En fin de compte, nous pouvons être gérés en tant que consommateurs de la même manière que l’entreprise gère actuellement ses employés, la seule différence étant que les clients paieront pour ce privilège.