Le côté obscur de l’intelligence artificielle, créer les avatars viraux prenant les médias sociaux : objectivation et racisme

Les technologies d’intelligence artificielle, qui ont fait des progrès significatifs, sont récemment devenues très populaires. Les œuvres créées avec des systèmes tels que DALL-E et Midjourney ont capturé les médias Internet. De plus, il y a une explosion des applications qui créent des avatars de personnes, et nous voyons ces images apparaître avec le soutien de l’intelligence artificielle, quelle que soit la plateforme que nous visitons.

Créé par Prisma Labs Lensa IA et l’un d’eux. Cette application, qui peut être utilisée moyennant certains frais, s’appelle ‘Magic Avatars’. ‘Il a une fonctionnalité appelée « Magic Avatars ». Cela permet aux utilisateurs de créer des avatars qui peuvent vraiment être décrits comme magiques. Cependant, cette situation nous montre également un problème d’intelligence artificielle en faisant surgir certains problèmes. Jetons un coup d’œil à ce problème.

Tout d’abord, qu’est-ce que cette Lensa AI ? Comment ça marche ?

Lensa AI est une application créée par Prisma Labs comme nous l’avons mentionné. Lensa, qui a récemment été au sommet des magasins d’applications, existe en fait depuis 2018. Cependant, plus tôt ce mois-ci, le ‘« Avatars magiques » fonctionnalité l’a rendu populaire. Avec cette fonctionnalité prise en charge par l’intelligence artificielle, qui peut être utilisée en Turquie avec des prix à partir de 88 TL, les photos que vous ajoutez peuvent être transformées en avatars uniques de différents thèmes (tels que des personnages futuristes ou animés).

Lensa est un modèle d’apprentissage en profondeur d’intelligence artificielle open source qui exploite une base de données d’artefacts sur Internet. Diffusion stable les usages. Cette base de données s’appelle LAION-5B et utilise 5,85 milliards de paires texte-image filtrées par un réseau de neurones appelé CLIP. Une nouvelle version de Stable Diffusion, un modèle d’apprentissage en profondeur qui crée des images à partir de texte, qui a été publié en 2022, a également été publiée le mois dernier.

Si vous souhaitez en savoir plus sur Lensa AI et sur son utilisation, vous pouvez parcourir notre contenu ci-dessous ;

On dit que Lensa AI crée des avatars qui objectivent les femmes

Bien que les systèmes d’intelligence artificielle soient avancés, ils ont encore quelques problèmes. Le meilleur exemple en est que les intelligences artificielles qui convertissent du texte en images ont des problèmes pour créer des mains et des doigts. Cependant, selon Polygon, la situation est légèrement différente à Lensa.

Informations récentes, femmes de Lensa AI tu as sexualisé et a révélé certaines conclusions racistes. De nombreux utilisateurs sur les réseaux sociaux font référence aux femmes dans l’application. gros seins et décolleté Bien qu’il n’y ait pas une telle demande en disant qu’il a été ajouté même des images nues ont été créées signalé.

Olivia Snow de l’Université de Californie a également écrit dans Wired que même lorsqu’elle ajoutait des photos de sa propre enfance, l’application la maintenait. objet sexuel Il a déclaré avoir créé des images qui ont été lancées en tant que Lorsque les propriétaires de l’application ont été interrogés sur ce problème, l’équipe a déclaré que Snow avait délibérément violé les conditions d’utilisation. Les politiques de Lensa interdisent l’utilisation d’images d’enfants tout en interdisant les photos nues. Les utilisateurs doivent également déclarer qu’ils ont plus de 18 ans.

Il y a même des résultats racistes et des avatars de nudité selon les utilisateurs

De plus, l’application inclurait des stéréotypes racistes dans les avatars. Par exemple, dans les images créées par un utilisateur à partir de ses propres photos ci-dessus, on peut voir que l’intelligence artificielle a des difficultés avec les Asiatiques.

Sauf ça Femmes asiatiques être fétichisé est également signalé. Une journaliste asiatique nommée Melissa Heikkilä, qui a écrit dans MIT Technology Review, a partagé ses expériences avec l’application Lensa. En conséquence, une grande quantité de nudité a été incluse dans les avatars créés à partir de leurs propres photos. Le journaliste a déclaré que ses autres collègues étaient moins susceptibles de rencontrer une telle situation.

Il a également été récemment révélé que cette intelligence artificielle pouvait être amenée à créer des photos de nudité. Un rapport partagé par TechCrunch montre que les utilisateurs peuvent facilement utiliser l’application. que vous pouvez créer des photos de nudité, ont même montré que cela pouvait être fait avec des images de célébrités. Apportant de nouvelles fonctionnalités le 13 décembre, Prisma Labs a déclaré qu’il rendrait moins fréquents les avatars qui causent des problèmes de sécurité.

« L’intelligence artificielle est le reflet de notre société »

Les événements de Lensa révèlent que l’intelligence artificielle a encore un long chemin à parcourir. Comme on le sait, certaines situations négatives se sont produites dans ces systèmes à plusieurs reprises auparavant. Microsoft a fermé son intelligence artificielle appelée Tay ces dernières années en raison de commentaires racistes et misogynes. Récemment, Meta a également fermé un modèle de langage pour des raisons similaires.

Une étude menée en juin a révélé que les systèmes entraînés par le réseau CLIP, que nous avons vu à Lensa, sexe et race certains sur les stéréotypes révélé pourquoi. De plus, il a souligné qu’ils sont moins susceptibles de connaître des femmes et des personnes de couleur.

Nous verrons comment les systèmes d’intelligence artificielle, dont Lensa, traiteront ce problème à l’avenir. Prisma Labs, le propriétaire de l’application, souligne également que Stable Diffusion fonctionne sur des données non filtrées sur Internet, affirmant que ni eux ni Stable AI (le créateur de Stable Diffusion) ne peuvent rien y faire. Il a également déclaré que les données introduisaient les biais existants de l’humanité dans le modèle. que l’intelligence artificielle tend un miroir à notre société il ajoute.

NOUVELLES CONNEXES

Suggestions d’applications de type Lensa que vous pouvez créer à partir de ces avatars qui envahissent Internet