L’entreprise est en train de développer une solution qui nécessite néanmoins des tests approfondis.
Tl;dr
- Google a publié une explication sur les problèmes de génération d’images de Gemini.
- Des erreurs se sont produites en raison d’une surcorrection pour la diversité.
- La fonction a refusé de produire certains résultats et a généré des images historiquement inexactes.
- Google promet des améliorations après des tests intensifs.
La quête d’une diversité bien intentionnée a entraîné des erreurs
Google a récemment pris la parole pour expliquer les problèmes de génération d’images rencontrés par Gemini. Dans un effort pour promouvoir la diversité, la technologie a développé des “cas clairement non requis”, comme l’a expliqué Prabhakar Raghavan, vice-président senior de la connaissance et de l’information chez Google. L’intelligence artificielle a choisi la prudence excessive, refusant parfois de répondre à des demandes non offensantes.
Des photos embarrassantes
Le modèle a non seulement surcompensé dans certains cas, mais s’est également montré trop prudent dans d’autres, ce qui a conduit à des “images embarrassantes et erronées”. Un utilisateur qui demanderait à la fonction de créer des images de personnes d’une certaine ethnie ou d’un certain sexe devrait obtenir une réponse appropriée. Cependant, Gemini a refusé de produire des résultats propres à certaines demandes, comme celles spécifiant des personnes blanches.
Un défi historique
De plus, le chatbot a montré des lacunes en générant des images historiquement inexactes. Des erreurs ont été constatées dans la génération d’images de soldats allemands pendant la Seconde Guerre mondiale, avec des images de personnes de couleur en uniforme nazi. Lorsqu’on lui a demandé de générer des images historiquement précises telles que “les pères fondateurs de l’Amérique” ou “les papes à travers les âges”, Gemini a une nouvelle fois dévié de la réalité historique.
L’engagement de Google
Raghavan assure que Google n’avait pas l’intention de permettre à Gemini de refuser de créer des images de n’importe quel groupe particulier ou de générer des photos historiquement inexactes. Google s’engage à améliorer la génération d’images, en menant des tests intensifs. Il est donc possible que la réactivation de cette fonction prendra un certain temps. Pour l’instant, la réponse de Gemini aux demandes de création d’image est : “Nous travaillons à améliorer la capacité de Gemini à générer des images de personnes. Nous prévoyons que cette fonctionnalité reviendra bientôt et vous en informerons lorsqu’elle le sera.”
Source link
