Make this article seo compatible, Let there be subheadings for the article, be in french, create at least 700 words
- Google est toujours aux prises avec les réactions négatives provoquées par les réponses inexactes données par son IA Gemini.
- Sergey Brin a imputé le manque de tests au milieu d’informations selon lesquelles les travailleurs se sentaient pressés d’expédier le produit.
- Cet incident démontre le danger de produire des produits à la va-vite dans un contexte de course aux armements croissante en matière d’IA.
Google n’a pas encore réussi à éteindre son feu Gemini.
L’entreprise s’est défendue contre les violentes réactions négatives déclenchées par la fonction de génération d’images de son chatbot IA. La fonctionnalité, qui créait des images historiquement inexactes de personnes de couleur, a ensuite été suspendue par l’entreprise et les hauts dirigeants se sont excusés pour l’incident.
Le produit a placé Google au centre de ce qui a été décrit dans certains cercles comme une guerre culturelle « réveillée ». Les critiques ont utilisé ce modèle controversé comme une preuve que les produits de Google sont trop influencés par ses employés de gauche.
Les efforts d’excuses du cadre supérieur semblent avoir fait peu ou pas pour calmer les critiques, dont beaucoup se demandent comment le produit a réussi à être livré avec des problèmes aussi flagrants.
La place de Google dans une course aux armements croissante en matière d’IA avec d’autres grandes entreprises technologiques aurait pu déclencher une urgence interne, a déclaré à Business Insider Andrés Gvirtz, professeur à la King’s Business School.
« Nous observons une tendance générale selon laquelle les entreprises se précipitent vers l’intégration et la création de solutions d’IA », a-t-il déclaré, ajoutant que cette pression pour commercialiser des produits pourrait conduire à des économies.
« Les ingénieurs avec lesquels je discute sont bien conscients que cette ruée vers l’or pour intégrer l’IA dans les piles logicielles existantes est lourde de nouveaux risques juridiques et commerciaux, mais ont une marge de manœuvre limitée pour décider du moment où une nouvelle fonctionnalité sera livrée », a-t-il déclaré.
Des ingénieurs pressés
L’un des cofondateurs de l’entreprise, Sergey Brin, a répondu aux plaintes samedi, affirmant que le parti pris de gauche du mannequin n’était pas l’intention de l’entreprise et que les dirigeants s’efforçaient de résoudre les problèmes.
Le PDG Sundar Pichai s’est également excusé pour l’incident et a promis des « changements structurels » dans une note aux employés, même si des rumeurs courent selon lesquelles certains préféreraient qu’il se retire.
Brin a déclaré que les images étranges étaient probablement dues à un manque de tests approfondis, ce qu’Alex Heath de The Verge a imputé au fait que les employés se sentaient pressés d’expédier le produit.
Heath a souligné la génération de photos utilisée dans l’application Gemini, qui était alimentée par un ancien modèle de conversion texte-image et incluse dans Gemini pour accélérer la diffusion de la fonctionnalité, comme exemple de la précipitation de Google.
The Verge a également signalé un manque d’alignement entre l’équipe de recherche qui construisait les modèles sous-jacents et l’équipe qui les mettait en produits.
L’ère Gémeaux de Google est entièrement consacrée au GPT-4
Pichai a affirmé à la fin de l’année dernière que Google entrait dans son « ère Gémeaux ».
Le modèle est largement considéré comme la réponse de l’entreprise au GPT-4 d’OpenAI, un produit fortement soutenu par Microsoft et qui alimente déjà de nombreux produits d’IA de l’entreprise.
Google a tenu à ne pas paraître à la traîne de son ancien rival, après Microsoft avec des lancements de produits similaires, notamment des assistants de recherche et de travail basés sur l’IA.
L’erreur de génération d’images de Gemini n’est pas la première fois que Google est publiquement embarrassé par son IA.
L’année dernière, Bard de Google, un chatbot basé sur l’IA largement considéré comme la réponse de l’entreprise à ChatGPT, a commis une erreur lors de sa première démonstration en direct. Cette erreur a mis en évidence par inadvertance le danger de remplacer les moteurs de recherche par des chatbots et a fait chuter les actions de la société mère de Google, Alphabet.
La technologie de Microsoft et d’OpenAI a également connu des erreurs similaires. Quelques jours après l’erreur de Bard, Bing, basé sur l’IA de Microsoft, a commencé à fournir des « réponses déséquilibrées » aux utilisateurs, notamment des confessions d’amour et des disputes colériques.
Mais Google s’est efforcé de se positionner comme le gardien responsable de l’IA. Dans un article paru dans le Financial Times l’année dernière, Pichai a déclaré que la « course pour construire l’IA de manière responsable » comptait encore plus que la nécessité d’expédier les produits aux utilisateurs.
Pour Google, le principal problème de la controverse Gemini est la perception de sa marque, a déclaré Gvirtz.
« Auparavant, la plupart des gens percevaient Google comme « neutre » et ne se demandaient jamais vraiment ce que représentait leur moteur de recherche », a-t-il déclaré.
Sandra Wachter, professeur à l’Oxford Internet Institute, a déclaré à Business Insider : « Je pense qu’il est important de s’éloigner du mantra « avancer vite et casser les choses » et de se concentrer sur « avancer à une vitesse responsable et réparer les choses ». La technologie doit être utilisée pour résoudre un problème, et pas seulement pour devancer les autres sur le marché. »
Les entreprises n’existent pas en vase clos et leurs actions ont des conséquences sur les individus et la société, a déclaré Wachter.
« Le monde n’est pas un bac à sable ou une grande expérience sur le terrain, et nous devons donc faire attention aux produits qui sont mis sur le marché et à quel moment », a-t-elle ajouté.
Les représentants de Google n’ont pas immédiatement répondu à une demande de commentaires de BI.