Une fois mordus, les Pays-Bas veulent passer tôt à la supervision des algorithmes

Le gouvernement néerlandais devrait être l’un des premiers à mettre en œuvre plusieurs dispositions cruciales d’une prochaine législation européenne visant à réglementer l’intelligence artificielle (IA) dans le cadre d’un programme de travail ambitieux pour la numérisation.

Au cours des dernières années, les Pays-Bas ont été le théâtre d’un scandale à grande échelle en raison d’un algorithme défectueux qui a conduit les autorités fiscales à accuser à tort des milliers de fraudes liées à un régime d’allocations de garde d’enfants.

La Haye tente maintenant de diriger la vérification des droits de l’homme des algorithmes et la création d’une base de données nationale pour suivre les systèmes d’IA utilisés par les organismes publics, anticipant deux aspects de la loi sur l’IA, législation phare pour réglementer les applications d’IA en fonction de leur potentiel pour le mal.

« La loi sur l’IA devrait conduire à des systèmes d’IA explicables qui respectent les droits de l’homme et conduisent à une transparence significative qui génère la confiance, ce qui est, bien sûr, un élément essentiel d’un marché de l’IA florissant et également important dans une démocratie », Alexandra van Huffelen, le ministre néerlandais de la numérisation, a déclaré à EURACTIV.

Le programme de travail adopté par le gouvernement comprend également de nouvelles initiatives pour favoriser les compétences numériques et un portefeuille numérique.

Registre public et surveillance

Un nouvel organe de surveillance, à compter du 1er janvier 2023, appliquera un ensemble de nouvelles règles qui anticipent essentiellement les prochaines règles de l’UE concernant les obligations de transparence, le marquage de conformité et le droit de porter plainte.

De même, le mois prochain, le gouvernement néerlandais introduira un registre d’algorithmes obligatoire pour l’IA utilisé par les organismes publics, de l’administration centrale aux autorités locales. L’idée est que les citoyens ne peuvent pas bénéficier du droit à réparation s’ils ne savent pas qu’une IA est utilisée.

Dans la version originale de la loi sur l’IA, seuls les fournisseurs de systèmes d’IA à haut risque étaient tenus de s’inscrire dans une base de données à l’échelle de l’UE. Cependant, suite à la pression de pays comme les Pays-Bas, l’obligation a également été étendue aux autorités publiques qui utilisent un système d’IA.

L’un des plans du registre de transparence des algorithmes est celui de la ville d’Amsterdam, qui a été mis en place volontairement par trois groupes différents : la population générale, les fonctionnaires et les experts techniques.

« Nous devons travailler avec les entreprises. Sinon, nous ne pouvons pas rendre nos algorithmes transparents. Les services informatiques sont définitivement intéressés à s’ouvrir et à dialoguer », a déclaré un représentant de la municipalité d’Amsterdam lors d’un événement au Parlement européen la semaine dernière.

Évaluation de l’impact

De plus, les pouvoirs publics devront évaluer l’impact des algorithmes sur les droits de l’homme avant de les utiliser.

À cette fin, le gouvernement néerlandais a élaboré une évaluation d’impact de l’IA pour évaluer les risques du système pour les droits de l’homme, au terme de laquelle le système recevra une note d’évaluation de la conformité.

«Évaluer l’IA ne consiste pas seulement à examiner la technologie, il s’agit d’examiner le contexte dans lequel cette technologie est mise en œuvre. Nous ne voulons pas regarder aveuglément une boîte noire. La manière dont la boîte noire est utilisée est importante à prendre en compte », a déclaré Mirko Schafer, professeur associé à l’Université d’Utrecht et co-développeur de l’évaluation d’impact, lors du même événement.

Schafer a expliqué que l’évaluation est basée sur le contexte et la valeur ajoutée de l’utilisation des algorithmes, la façon dont les modèles ont été formés, les mesures d’atténuation des risques en place, la fréquence à laquelle l’IA doit être révisée et les implications potentielles sur les droits de l’homme.

Le registre est rendu public pour que les organes de contrôle jugent le processus de délibération, que les organisations de la société civile et les journalistes pourraient également contrôler. Le registre deviendra obligatoire pour les entreprises privées une fois la loi sur l’IA adoptée.

Pour van Huffelen, l’analyse d’impact néerlandaise ne va pas au-delà de la position du Conseil de l’UE sur la loi sur l’IA, qui, selon son examen, est suffisamment solide. « Les Pays-Bas s’engagent à garantir que cela ne sera pas édulcoré lors des futures négociations », a-t-elle ajouté.

Compétences numériques

Les autorités néerlandaises estiment que 20 % de la population des Pays-Bas ne possède pas les compétences de base. Ce phénomène ne se limite pas aux personnes non éduquées mais également à celles qui ont besoin de se recycler pour atteindre la maîtrise numérique nécessaire aux métiers d’aujourd’hui.

À l’ordre du jour figurent également de nouveaux cursus de compétences numériques pour enseigner le codage dès le primaire et le secondaire, que de nouvelles offres de formation accompagneront au niveau régional avec des seuils bas destinés à recycler ou requalifier les décrocheurs scolaires avec des compétences numériques avancées.

La Haye introduira également des points d’information numériques dans les bibliothèques publiques où les citoyens pourront obtenir de l’aide pour accéder aux services publics essentiels en ligne. À cet égard également, le gouvernement néerlandais travaille sur un portefeuille numérique qui anticipe les règles à venir au niveau de l’UE.

Le portefeuille comprendra non seulement la carte d’identité nationale, mais tous les documents publics tels que les permis de conduire, l’assurance maladie et les diplômes d’études. Il suivra le principe de minimisation des données, ainsi, par exemple, si un magasin de nuit l’utilise pour vérifier l’âge de quelqu’un, il ne pourra pas accéder à d’autres informations telles qu’une adresse personnelle.

Une version bêta du portefeuille est attendue dans les prochaines semaines, avec un lancement officiel prévu pour 2023.

[Edited by Zoran Radosavljevic]