Customize this title in frenchLa surveillance de la reconnaissance faciale à São Paulo pourrait aggraver le racisme

Make this article seo compatible,Let there be subheadings for the article, be in french, create at least 700 wordsSão Paulo, Brésil – Alors que la ville de São Paulo se prépare à déployer des milliers de caméras de surveillance avec reconnaissance faciale, les experts s’inquiètent de l’utilisation aveugle de cette technologie dans la mégalopole brésilienne qui pourrait exacerber des problèmes tels que le racisme structurel et les inégalités, tout en posant des risques pour la confidentialité des données. et la cybersécurité. Le projet Smart Sampa est le dernier d’une série d’initiatives impliquant des techniques de surveillance modernes dans divers États brésiliens. Il est important en raison de la taille même de la population qu’il aura un impact : São Paulo, la ville la plus peuplée de l’hémisphère sud, abrite 12 millions d’habitants. Le projet vise à déployer une plate-forme de vidéosurveillance unique qui intègre et soutient les opérations des services d’urgence et de circulation, du réseau de transports publics de la ville et des forces de police. D’ici 2024, jusqu’à 20 000 caméras seront installées et un nombre égal de caméras tierces et privées seront intégrées au réseau. Les nouvelles caméras permettront à la ville de surveiller les écoles, les cabinets médicaux, les espaces publics tels que les places et les parcs, ainsi que le contenu des médias sociaux concernant l’administration publique. La combinaison de l’analyse en temps réel et de la technologie de reconnaissance faciale – qui détecte et compare les visages dans un espace donné à l’aide d’algorithmes d’intelligence artificielle (IA) – vise à accélérer le processus d’identification des criminels recherchés, des voitures volées, des personnes disparues, des objets perdus et gérer les transports en commun de la ville. « Nous espérons conclure le processus de contractualisation [for Smart Sampa] dès que possible, car cela améliorera considérablement la sécurité et la mobilité dans la ville », a déclaré le maire de São Paulo, Ricardo Nunes, lors de la relance du processus d’appel d’offres en mai. Des améliorations sont nécessaires de toute urgence dans les deux domaines et les plaintes concernant les temps d’attente excessifs des usagers des bus à l’autorité des transports de la ville ont augmenté de 42 % au premier trimestre 2023 et les données du département de la sécurité urbaine indiquent une augmentation de 35,7 % des agressions dans la ville en 2023 par rapport à 2021. Grâce aux données en temps réel des caméras et des algorithmes, la ville s’attend à prévoir et à réagir plus rapidement aux événements. Il espère également anticiper les modèles de trafic et les points de congestion potentiels et utiliser les informations pour ajuster les horaires des bus, par exemple. Malgré l’attrait des technologies de surveillance à distance pour résoudre les problèmes de la ville, les détracteurs de Smart Sampa craignent que le projet ne porte atteinte aux droits humains fondamentaux des citoyens, notamment la vie privée, la liberté d’expression, de réunion et d’association. Ces préoccupations ont conduit à la suspension du processus d’appel d’offres à deux reprises et ont incité les procureurs à enquêter sur les écueils potentiels du projet dans des domaines tels que la vie privée des citoyens. Le processus de passation de marchés a été autorisé à se poursuivre après que les tribunaux de São Paulo ont conclu qu’il n’y avait pas suffisamment de preuves pour prouver que le système était biaisé contre les Noirs. PK9, une entreprise technologique basée à São Paulo, a lancé une offre mensuelle de 9,2 millions de reals brésiliens (1,8 million de dollars) pour exploiter le système sur une période de 60 mois. Les risques pour les Brésiliens noirs L’un des principaux problèmes mis en évidence par les experts concernant Smart Sampa concerne les conséquences négatives que le système pourrait générer, en particulier pour des groupes tels que la communauté noire, qui constitue 56% de la population brésilienne, selon l’Institut brésilien de géographie et de statistique (IBGE) . Les experts affirment que le projet pourrait porter atteinte au droit à la non-discrimination et remettre en cause le principe de la présomption d’innocence. Les nouvelles caméras permettront à la ville de surveiller les écoles, les cabinets médicaux, les espaces publics tels que les places et les parcs, ainsi que le contenu des médias sociaux [File: Victor Moriyama/Getty Images] Selon Fernanda Rodrigues, avocate spécialisée dans les droits numériques et coordinatrice de recherche à l’Institut de recherche sur Internet et la société (IRIS), la technologie de reconnaissance faciale a le potentiel de conduire à des faux positifs – faire correspondre à tort le visage d’une personne avec une image dans la base de données – et entraîner l’incarcération massive d’individus noirs en conséquence. « Outre les risques que les informations transmises à ces plateformes ne soient pas exactes et que le système lui-même échoue, il existe un problème qui précède les implications technologiques, à savoir le racisme », a déclaré Rodrigues. « Nous savons que le système pénal au Brésil est sélectif, nous pouvons donc conclure que [use of surveillance with facial recognition] Il s’agit d’augmenter les risques et les préjudices pour cette population », a ajouté Rodrigues, faisant référence à la forte représentation des Noirs dans les prisons brésiliennes, qui représentent plus de 67 % de la population carcérale, selon les données de 2022 du Forum brésilien sur la sécurité publique. Une étude menée par le Centre d’études sur la sécurité publique et la citoyenneté (CESeC), qui surveille l’impact de l’utilisation de la reconnaissance faciale par la police à l’échelle nationale, a révélé que plus de 90 % des personnes arrêtées par des décisions fondées sur la reconnaissance faciale au Brésil sont noires. Dans l’État de Rio de Janeiro, le pourcentage d’arrestations injustes basées sur la reconnaissance photographique et impliquant des Noirs a atteint 81 % en 2021, selon les données de la Chambre des défenseurs publics de Rio de Janeiro. Un autre problème concerne le manque d’ouverture concernant le projet. L’une des organisations à l’origine de la campagne nationale « Take My Face Out of Your Aim » et d’autres initiatives appelant à l’interdiction de la reconnaissance faciale, le CESeC et d’autres organismes à but non lucratif sont impliqués dans un certain nombre d’actions en justice contre les gouvernements qui choisissent de déployer la technologie. pour la sécurité urbaine et à d’autres fins. L’année dernière, la mairie de São Paulo a organisé une consultation publique virtuelle au cours des deux dernières semaines d’août, invitant des experts à donner leur avis, avec une seule journée réservée aux personnes pour obtenir des réponses à leurs questions. « La participation a été limitée et les suggestions faites ont été largement ignorées », a déclaré Celina Bottino, directrice de projet à l’Institut pour la technologie et la société de Rio de Janeiro. En réponse au refus du public, l’appel d’offres Smart Sampa a été mis à jour avec une étude sur l’impact de la technologie, qui a reconnu des lacunes telles qu’une forte probabilité de biais dans les fonctions de reconnaissance faciale, ainsi que le risque d’utilisation non autorisée et d’exposition de données personnelles, ainsi que la probabilité de violations de la vie privée. Pour faire face à ces risques, le rapport a noté que la plate-forme ne prendrait en compte que les détections avec une parité de 90 %, et toutes les alertes émises seraient analysées par du personnel formé pour atténuer les injustices, ainsi qu’un système avancé de protection des données et de contrôle d’accès. Appels à la suspension À Rio de Janeiro, le pourcentage d’arrestations injustes basées sur la reconnaissance photographique et impliquant des Noirs a atteint 81 % en 2021 [File: Vanderlei Almeida/AFP] Le Bureau du défenseur public de São Paulo a engagé une action en justice en mai, aux côtés du Laboratoire de politiques publiques et d’Internet (LAPIN) et d’Uneafro Brasil, soutenus par Rede Liberdade, un réseau de professionnels du droit travaillant avec des organisations de défense des droits humains. L’affaire en cours appelle à la suspension du projet et à l’arrêt de l’utilisation des systèmes de reconnaissance faciale pour la sécurité urbaine. « La reconnaissance faciale est une technologie complexe avec des aspects qui ne sont pas encore entièrement cartographiés, ce qui la rend incompatible avec un processus d’appel d’offres, car [this format] ne permet pas la transparence et la participation requises. Cela entraîne une série de risques pour les droits fondamentaux des populations vulnérables, telles que les personnes noires et transgenres, ainsi que les enfants », ont déclaré les organisations dans un communiqué. L’action civile fait également valoir que…

Source link -57