Commentaire de contrôle du chat : bonne destination, mauvais sens

Du point de vue des poursuites pénales, la proposition de règlement de la Commission européenne « portant réglementation pour la prévention et la lutte contre les abus sexuels à l’encontre des enfants » se concentre également à juste titre sur la lutte contre les abus d’enfants liés à Internet dans toute l’Europe. Car l’expérience pratique dans ce domaine de la délinquance montre qu’il s’agit d’un phénomène délictueux socio-démographique répandu qui peut difficilement se limiter à un domaine spécifique d’Internet. La maltraitance des enfants et les représentations correspondantes ne se trouvent pas seulement sur le soi-disant dark web. En fait, la grande majorité de ces crimes se produisent sur Internet normal, via des messageries, des plateformes de chat et des services d’hébergement de fichiers.

Le renforcement de la coopération européenne par le biais d’un centre de l’UE, qui peut certainement être discuté en détail, et surtout l’introduction d’une obligation de déclaration sont à saluer. Les rapports d’organisations non européennes telles que le Centre national américain pour les enfants disparus et exploités sont essentiels pour l’application de la loi. Il est donc logique de mettre en place un équivalent européen.

Cela laisse la question de savoir à partir de quelles sources les prestataires de services doivent obtenir leurs bases de déclaration. Les informations des utilisateurs des services respectifs aux fournisseurs ne devraient pas poser de problème. Cependant, il est juridiquement discutable si et dans quelle mesure des mécanismes de détection propriétaires peuvent et doivent être utilisés. Parce qu’il n’y a pas de poursuites à tout prix. Même si la surveillance par caméra est autorisée dans les lieux publics et les points chauds du crime afin de lutter contre la criminalité, les caméras ne sont pas accrochées dans chaque appartement par la loi. Car l’atteinte à la vie privée et à la vie privée associée serait trop élevée. En d’autres termes : l’intérêt de la société dans son ensemble pour une administration de la justice pénale qui fonctionne doit être mis en équilibre avec les positions des droits fondamentaux des personnes concernées. Le droit pénal est appliqué proportionnellement.

Deux déficits de base

En conséquence, la proposition de la Commission souffre en particulier de deux lacunes : L’espoir de la Commission européenne d’utiliser l’intelligence artificielle pour identifier automatiquement les contenus incriminés ne sera pas soutenu. L’IA est parfaitement adaptée pour vérifier rapidement une suspicion initiale existante. Cependant, l’IA est inapte à justifier un premier soupçon. Parce que les taux d’erreurs de faux positifs sont si élevés qu’un nombre inadmissible de personnes concernées ont fait l’objet d’un examen minutieux par les autorités. Par conséquent, les scans – du moins au niveau technologique actuel – devraient se limiter à reconnaître le matériel qui a déjà été classifié à l’aide de processus basés sur le hachage.

Dans la mesure où la Commission souhaite également obliger les services de chiffrement de bout en bout à analyser le contenu d’utilisation, cela ne peut être réalisé techniquement que par une intervention après ou avant le chiffrement, c’est-à-dire dans les applications et sur les terminaux de l’utilisateur. Ce faisant, la Commission porte effectivement atteinte à l’autoprotection numérique la plus importante : un cryptage compromis n’est pas un cryptage.

De plus, une intervention aussi importante n’est pas nécessaire. Car il existe une voie plus douce : les autorités de poursuite doivent être renforcées de manière opérationnelle et ciblée au niveau national et dans le contexte européen. Ensuite, sur la base des informations de l’analyse côté serveur basée sur le hachage et des résultats du processus d’enquête lui-même, des approches d’enquête suffisantes sont générées pour lutter efficacement et durablement contre les actes et représentations d’abus liés à Internet.

(fo)