Deux ans après que les chefs de la police de Los Angeles aient fixé des limites plus strictes à l’utilisation de la technologie de reconnaissance faciale, un rapport de suivi a révélé que le département ne disposait pas d’un moyen de suivre ses résultats ou son efficacité.
Le rapport, rédigé par le bureau de l’inspecteur général du LAPD, a révélé que le personnel du LAPD avait utilisé un logiciel de reconnaissance faciale dans le but d’identifier des suspects criminels près de 2 000 fois l’année dernière. Parmi ces recherches, environ 55% ont abouti à une correspondance positive – ce qui signifie qu’une image d’un suspect non identifié a été associée par intelligence artificielle à une photo d’identité ou à une autre photo d’une personne connue, selon le rapport.
Mardi, l’inspecteur général Mark Smith a déclaré aux commissaires de surveillance civile du département que le LAPD était en grande partie conforme à une politique de 2021 qui énonce des règles sur le moment et la manière dont les agents spécialement formés peuvent utiliser un programme de reconnaissance faciale maintenu par le département du shérif du comté. Le programme du comté exécute des images sur une base de données d’environ 9 millions de photos de personnes qui ont été réservées dans les centres de détention du comté – un bassin beaucoup moins vaste que certaines plateformes de recherche tierces.
Mais l’absence de processus clair pour documenter les résultats d’une enquête ou de preuves corroborantes confirmant la correspondance des photos signifiait qu’il n’y avait « aucun moyen de vérifier ou d’analyser les résultats de la recherche », indique le rapport. Cela, a-t-il déclaré, a également rendu impossible le suivi du nombre de fois où la technologie a pu identifier quelqu’un à tort – une critique courante de la reconnaissance faciale.
« Le risque d’un » faux positif « – un cas où … une correspondance aboutit finalement à l’identification et à l’arrestation de la mauvaise personne en raison du fait que des preuves corroborantes insuffisantes ont été obtenues avant que des mesures d’application de la loi ne soient prises – est toujours de préoccupation primordiale », indique le rapport.
Le rapport a également révélé que le département n’avait aucun moyen de déterminer si les agents suivaient une loi de l’État et une politique interne interdisant l’utilisation de photos prises à partir du téléphone d’un agent ou d’appareils photo portés par un agent ou montés dans un véhicule de police dans les programmes de reconnaissance faciale.
Pour chaque requête de reconnaissance faciale, les agents doivent remplir un formulaire, qui comprend le nom et le numéro d’identification de l’enquêteur, le motif de la recherche, si le sujet de la recherche est un suspect, une victime ou un témoin ; les résultats de la recherche ; et la date de recherche.
Ce que le formulaire ne parvient pas à capturer, cependant, ce sont des détails sur les résultats de ces enquêtes et des cas dans lesquels, par exemple, un coup de reconnaissance faciale conduit à une identification erronée d’un suspect, a déclaré Smith. Bien que les agents ne soient pas censés arrêter quelqu’un sur la seule base d’une correspondance de reconnaissance faciale sans fournir de preuves supplémentaires, il n’y a aucun moyen de savoir si cela se produit, a déclaré Smith.
« Nous pensons qu’il doit y avoir une comptabilité du moment où cela se produit car cela a un impact sur la personne détenue », a-t-il déclaré mardi aux commissaires.
Plus tard dans la présentation, le président de la Commission, William Briggs, a demandé à Smith s’il pouvait proposer une ventilation des données démographiques des personnes faussement identifiées grâce au programme de reconnaissance faciale.
« Pour le moment, je ne suis pas au courant d’un moyen d’énumérer ces cas », a répondu Smith.
En janvier 2021, la Commission a approuvé sa politique actuelle de reconnaissance faciale après que le Times a rapporté que des agents du LAPD avaient utilisé la technologie plus de 30 000 fois depuis 2009 malgré les affirmations contraires du département.
Entre autres choses, la politique a établi de nouvelles mesures pour suivre l’utilisation du système de comté par le service de police. Il a limité l’utilisation du système du shérif aux cas où il y a une menace imminente pour la vie, ou dans lesquels les enquêteurs tentent de résoudre un crime ou d’identifier une personne incapable ou à risque. La politique stipule également explicitement que toute correspondance déterminée par le logiciel ne peut être utilisée que comme piste par les agents, mais ne constitue pas une cause probable d’arrestation et ne peut pas servir de base unique à des accusations criminelles.
Cette décision est intervenue suite aux protestations des organismes de surveillance de la vie privée et des défenseurs des droits civiques, qui avaient demandé une interdiction pure et simple. Ils ont souligné des recherches qui suggèrent que la technologie de reconnaissance faciale n’est pas fiable, en particulier lorsqu’il s’agit de faire correspondre les visages des Noirs, exacerbant les disparités raciales historiques dans le système de justice pénale.
Le rapport de mardi n’a pas précisé combien de fois le département a utilisé la reconnaissance faciale avant l’adoption des nouvelles règles, seulement que le logiciel de comparaison de photos avait été utilisé « largement » depuis 2009.
Le rapport n’a pas non plus abordé l’utilisation par les agents du LAPD du logiciel de reconnaissance faciale de Clearview AI, une société de technologie. L’utilisation par le département du programme controversé a été révélée pour la première fois dans un article de 2020 par Buzzfeed, qui a rapporté que 25 employés du LAPD avaient effectué près de 475 recherches dans la base de données de Clearview de plus de 3 milliards de photos compilées à partir de Facebook, Google et d’autres sites.
Après l’article de Buzzfeed, le LAPD a mené sa propre enquête interne, qui a révélé que seuls huit employés avaient utilisé une version d’essai du programme Clearview pour effectuer 18 recherches de « recherches liées au département », selon le rapport de l’inspecteur général.
L’écrivain du Times, Kevin Rector, a contribué à ce rapport.