La peinture faciale conçue par l’IA inspirée de Juggalos pourrait potentiellement tromper les 15 000 caméras de reconnaissance faciale de la Coupe du monde du Qatar

• Une équipe de Camoflags voulait voir si les conceptions de peinture faciale pouvaient surpasser les caméras de reconnaissance faciale.
• Le design, qui utilise des concepts de maquillage Juggalo, a été conçu par un programme d’IA.
• L’équipe a découvert que de nombreuses conceptions pouvaient contourner divers logiciels de reconnaissance faciale.

Et si une simple peinture faciale pouvait tromper certains des meilleurs outils de reconnaissance faciale disponibles à la Coupe du monde du Qatar ?

Une équipe connue sous le nom de Camoflags a cherché à répondre à cette question avec des conceptions de peinture faciale générées par l’IA et inspirées de Juggalo qui pourraient être utilisées pour échapper aux caméras de reconnaissance faciale.

L’expérience est particulièrement adaptée à la Coupe du monde, car la peinture faciale est une caractéristique courante lors des matchs de football pour les fans qui soutiennent leurs équipes.

La Coupe du monde du Qatar, qui se termine le 18 décembre, a été critiquée pour son approche de la sécurité, craignant que l’événement ne devienne un foyer d’espionnage et que les visiteurs puissent être surveillés sur leur téléphone grâce à la surveillance des applications.

L’événement a également été critiqué pour ses violations des droits de l’homme : la mort du journaliste sportif américain Grant Wahl, décédé sur le chemin de l’hôpital après s’être effondré au stade de la Coupe du monde, a suscité un regain d’attention sur les droits des personnes LGBTQ au Qatar. Wahl avait déjà été arrêté par les autorités à l’extérieur du stade de la Coupe du monde pour avoir porté une chemise arc-en-ciel.

Environ 15 000 caméras de reconnaissance faciale ont été installées dans et autour du stade afin d’identifier les menaces terroristes et le « hooliganisme », a déclaré à l’AFP le directeur de la technologie de la Coupe du monde en août.

« Ce que vous voyez ici est une nouvelle norme, une nouvelle tendance dans l’exploitation des sites, c’est notre contribution du Qatar au monde du sport. Ce que vous voyez ici, c’est l’avenir de l’exploitation des stades », a déclaré à l’AFP Niyas Abdulrahiman.

Tao Thomsen, l’un des membres de l’équipe de Camoflags, un projet de l’agence créative Virtue, a déclaré à Insider que l’équipe avait eu l’idée de tester la reconnaissance faciale avec d’étranges combinaisons de maquillage qui déformaient les traits du visage il y a des années en réponse à la popularité croissante. de deepfakes de femmes créés sans leur consentement. L’intention initiale du projet était de créer des looks de maquillage pour les femmes que la technologie de l’IA profonde ne pouvait pas reconnaître, protégeant ainsi leur visage contre l’utilisation dans des vidéos sexuellement suggestives ou non consensuelles.

L’idée d’utiliser le maquillage du visage pour essayer de tromper les algorithmes de reconnaissance faciale n’est pas nouvelle. CV Dazzle, un projet de 2010 de l’artiste Adam Harvey, a été l’une des premières tentatives d’utilisation de formes géométriques et d’autres gadgets pour déjouer l’IA. Il existe également des preuves que le maquillage Juggalo – qui consiste en un maquillage de type clown inspiré du groupe hip-hop Insane Clown Posse – en particulier, est efficace pour tromper les systèmes de reconnaissance faciale.

Le défi avec des projets comme ceux-ci était leur application pratique, a déclaré Thomsen. L’équipe s’est rendu compte qu’il serait difficile de demander aux femmes de porter des combinaisons de maquillage « folles » à tout moment. Mais avec le football, c’était différent.

« Parce que s’il y a un endroit où il est normal de porter des motifs bizarres sur le visage, c’est un [soccer] match », a déclaré Thomsen. « Les gens s’attendent à ce que vous peigniez les couleurs et les drapeaux de votre équipe et tout cela sur votre visage. »

Afin de créer la forme idéale, Camoflags a alimenté un outil logiciel d’art AI, Midjourney AI, une série de descriptions qui produisaient des conceptions avec le mélange parfait de maquillage Juggalo et de divers drapeaux.

« Nous lui avons donné ce genre de descriptions, puis avons exécuté ce processus, de nombreuses fois jusqu’à ce que nous obtenions un résultat qui ne pouvait pas être reconnu comme un visage lorsque nous le passions comme un logiciel de reconnaissance faciale », a déclaré Thomsen. « Et puis nous savions que nous avions un peu d’amour humain après pour ranger les choses et nous assurer que [the patterns] sont également esthétiquement fonctionnels car l’IA générative commence à halluciner à un moment donné et à créer des trucs vraiment bizarres. »

L’équipe a testé les différents maquillages Juggalo et à motifs de drapeaux sur différentes technologies de reconnaissance faciale de qualité grand public – le système de caméra faciale utilisé au Qatar est inconnu du public – et a découvert que de nombreux modèles pouvaient échapper aux caméras.

Sur les 10 systèmes testés, l’équipe estime qu’environ 80 % des tests ont réussi.

Bien que Camoflags ne soit pas encore au courant de l’adoption de leurs conceptions de peinture faciale à la Coupe du monde – et recommande aux gens de ne pas risquer d’avoir des ennuis au Qatar en testant ses limites – ils pensent que cela aidera à lancer une conversation sur la surveillance lors d’événements sportifs .

Morten Grubak, un autre membre de l’équipe de Camoflags, a déclaré à Insider que l’équipe avait créé des filtres faciaux qui permettraient aux utilisateurs de placer des conceptions virtuelles de Juggalo et de « les colorier un peu comme un livre de dessin » en utilisant de la peinture faciale.

Thomsen a spécifiquement souligné le Royaume-Uni, où les fans de football ont déjà dû faire face à une reconnaissance faciale défectueuse. Les sites sportifs du monde entier ont également commencé à utiliser la technologie de reconnaissance faciale pour identifier les personnes se livrant à des activités illégales, collecter des données pour les publicités et vérifier les détenteurs de billets pour entrée lors d’événements.

Il existe également des preuves que la technologie de reconnaissance faciale est moins susceptible d’identifier correctement les femmes et les personnes de couleur, ce qui pourrait conduire à une identification erronée des personnes pour des crimes par les forces de l’ordre.

« Nous savons qu’il y a une grande partie de [soccer] fans, en particulier au Royaume-Uni, qui expriment très clairement leur méfiance et leur aversion pour la reconnaissance faciale, et nous espérons que cela deviendra un outil pour [soccer] fans là-bas et partout dans le monde, pour prendre position contre la reconnaissance faciale », a déclaré Thomsen.