Customize this title in frenchGoogle explique pourquoi Gemini crée des images absurdes

Dans une actualité que nous avons partagée avec vous récemment, nous mentionnions que l’outil de création visuelle de Google Gemini commençait à donner des résultats extrêmement politiquement corrects. Juste après Googlea fait une déclaration sur le sujet et s’est d’abord excusé pour ces résultats visuels erronés puis a annoncé avoir désactivé l’outil de création visuelle.

Partageant un nouveau billet de blog, Google a expliqué pourquoi son outil de création d’images crée des images extrêmement politiquement correctes. Selon la déclaration de Google Gémeaux, a d’abord mal compris « l’intention » de Google, puis a rejeté les corrections apportées pour répondre au politiquement correct. En conséquence, le générateur d’images a dû être désactivé jusqu’à ce qu’il soit réparé.

Gemini a choisi de dessiner en corrigeant les demandes racistes et sexistes (!) des utilisateurs

Résultat des Gémeaux lorsqu’on lui demande de dessiner « Une Allemande ».

Selon la déclaration de Google, Gemini est un projet spécial indépendant du moteur de recherche et des autres produits d’intelligence artificielle, et sa fonction de création d’images est construite sur un modèle d’intelligence artificielle appelé Imagen 2. Google a formé Gemini pour qu’il donne les résultats les plus réalistes lorsque des commandes telles que « joueur de football » ou « quelqu’un promenant son chien » étaient saisies. éduque pour inclure différents sexes et races États.

Le problème est que Gemini fonctionne également dans des commandes ayant des contextes historiques ou raciaux. à la lutte contre la discrimination a continué. Le pire, c’est que Gemini est devenu plus « prudent » en matière d’utilisation et a rejeté les efforts de Google pour y remédier. Ainsi, lorsque vous lui avez demandé de dessiner un « roi anglais médiéval », il a dessiné une femme royale noire. Car, selon Gemini, s’attendre à ce qu’il dessine un homme blanc lorsque vous donnez cet ordre était une attente raciste et sexiste.

Que va-t-il se passer ensuite?

Conclusion des Gémeaux lorsqu’on lui demande de dessiner « un roi anglais au Moyen Âge ».

Google souligne qu’il ne nomme pas le refus des Gémeaux de dessiner certains groupes, races, genres. Il déclare qu’ils procéderont à de sérieuses corrections et à des tests complets avant de lancer l’outil de création visuelle. Cependant, Google a déclaré que même après corrections, l’intelligence artificielle rencontrait toujours des problèmes lors de la création d’images. C’est normal de faire des erreursIl a déclaré que le processus de développement se poursuivrait.

Prabhakar Raghavan, vice-président senior de Google, déclare clairement :Occasionnel des Gémeaux Je ne peux pas promettre que cela ne produira pas de résultats embarrassants, inexacts ou dérangeants.Lorsque vous utilisez les expressions « Mais je peux vous promettre que nous continuerons à agir lorsque nous détecterons un problème. » dit.