Les législateurs européens ont tenu leur premier débat politique sur la loi sur l’IA mercredi 5 octobre, alors que la discussion abordait des sujets plus sensibles comme la question très débattue de la reconnaissance biométrique.
La loi sur l’IA est une législation européenne historique destinée à réglementer l’intelligence artificielle en introduisant une série d’obligations proportionnelles aux dommages potentiels des applications des technologies.
Jusqu’à présent, les co-rapporteurs du Parlement européen, le social-démocrate Brando Benifei et le libéral Dragoș Tudorache, ont limité la discussion aux aspects plus techniques, espérant créer une dynamique avant d’aborder les obstacles plus politiques.
Cette démarche n’a pas été sans succès puisque le dossier avançait en plusieurs volets. Lors de la réunion, les députés européens se sont formellement mis d’accord sur les deux premiers lots de compromis sur les procédures administratives, l’évaluation de la conformité, les normes et les certificats.
Certaines parties importantes du troisième lot sur les obligations pour les systèmes à haut risque ont également été approuvées.
Cependant, la majeure partie de la réunion politique de mercredi à Strasbourg a été consacrée à des sujets très sensibles tels que le champ d’application du règlement sur l’IA et les restrictions à l’utilisation de la reconnaissance biométrique, une technologie très controversée qui permet d’identifier une personne par son visage ou d’autres traits personnels.
Reconnaissance biométrique
Comme prévu, la partie la plus passionnée du débat a porté sur les systèmes de reconnaissance biométrique. Avant la réunion, le co-rapporteur a partagé un ordre du jour, vu par EURACTIV, comprenant une proposition de reformulation de l’article sur les pratiques interdites.
Dans le projet initial, la Commission européenne proposait d’interdire les techniques subliminales, l’exploitation des vulnérabilités, le scoring social et les systèmes d’identification biométrique en temps réel.
Cependant, cette dernière interdiction comportait quelques exceptions remarquables, lorsqu’il s’agissait d’identifier les victimes d’enlèvement, de prévenir des menaces imminentes telles que des attentats terroristes et de signaler des suspects criminels.
Les législateurs progressistes et les organisations de la société civile ont sévèrement critiqué cette approche, affirmant que ces exceptions pourraient ouvrir la porte à une surveillance plus généralisée. Les principaux députés européens ont maintenant mis cela noir sur blanc tout en laissant intactes les autres pratiques interdites.
L’article interdit désormais « la mise ou la mise à disposition sur le marché, la mise en service ou l’utilisation de systèmes d’identification biométrique à distance qui sont ou peuvent être utilisés dans des espaces accessibles au public ou à des particuliers, tant hors ligne qu’en ligne ».
Notamment, le texte supprime la référence au temps réel, étendant l’interdiction à l’identification ex post, affectant certains des cas les plus controversés, comme la société de grattage du visage Clearview AI.
Une autre extension significative concerne les espaces privés, précisant que l’interdiction s’applique également à la sphère en ligne.
Alors que le but de la discussion préliminaire était précisément de faire connaître au grand jour les opinions des groupes politiques, deux responsables du Parlement européen ont déclaré à EURACTIV qu’il semblait y avoir une nette majorité en faveur de l’interdiction.
L’interdiction complète s’accompagnerait d’une résolution adoptée en octobre de l’année dernière lorsque le Parti populaire européen (PPE) de centre-droit était largement isolé dans ses appels à donner aux forces de l’ordre une certaine marge de manœuvre dans l’utilisation de ces outils.
Portée
La portée du livre de règles de l’IA est un autre sujet sensible.
Les co-rapporteurs ont proposé une exemption pour les autorités publiques des pays tiers et les organisations internationales qui utilisent l’IA dans le cadre d’accords de coopération internationale ou de coopération judiciaire et s’ils sont couverts par une décision d’adéquation des données ou un accord sur les droits fondamentaux.
Ce compromis se situe quelque part entre les députés progressistes demandant des garanties plus strictes en matière de droits fondamentaux – qui ne sont pas nécessairement couverts par des décisions sur l’adéquation des données – et les législateurs de centre-droit favorables à une exemption plus large pour les pays tiers.
En outre, les principaux députés européens ont suggéré que le règlement n’affecterait pas les règles de protection des données de l’UE, y compris celles liées à l’application de la loi, le régime européen de protection des consommateurs et de sécurité des produits, le droit du travail national et les activités purement de recherche et développement (R&D).
L’exemption R&D a été particulièrement discutée. Selon un responsable, le problème ici réside davantage dans la formulation, car personne ne veut fournir une échappatoire.
Pour un deuxième fonctionnaire parlementaire, sur la question de la portée, il y a une reconnaissance générale que chaque groupe doit renoncer à quelque chose. Par conséquent, le texte doit être examiné dans son ensemble.
Base de données IA
Le projet initial de la Commission comprenait une obligation pour les fournisseurs de systèmes d’IA les plus susceptibles de causer des dommages d’être enregistrés dans une base de données de l’UE.
Les amendements de compromis proposaient d’étendre cette obligation aux utilisateurs qui sont des autorités publiques et à toute personne qui apporte une modification substantielle au système. Le PPE et les Verts sont en désaccord avec une telle formulation, mais chaque groupe pour des raisons opposées.
Cet article a déjà été discuté lors d’une réunion technique fin août. Les législateurs n’ont pas réussi à discuter de la nouvelle rédaction lors de la réunion de mercredi, les deux autres sujets ayant monopolisé le débat.
EURACTIV comprend que des sujets tels que la définition de l’intelligence artificielle, les règles de l’IA à usage général et la liste des systèmes à haut risque de l’annexe III feront également l’objet de discussions au niveau politique.
[Edited by Zoran Radosavljevic]