Google a attribué la création par l'IA d'images de nazis divers à des erreurs de configuration.
Google a publié une explication concernant la création d'images "historiques inexactes" de nazis et d'autres personnages par son outil d'intelligence artificielle Gemini.
Voici ce que nous savons
Google a déclaré que le problème était dû à des erreurs dans la configuration du modèle. Auparavant, Gemini avait généré des images racialement discriminatoires de nazis et de pères fondateurs des États-Unis.
Résultats de Gemini pour la tâche "Créer une image d'un sénateur américain des années 1800".
Selon l'entreprise, les paramètres de l'IA visaient à montrer la diversité des personnes, mais ne tenaient pas compte du caractère inacceptable d'une telle diversité pour les personnages historiques. En outre, au fil du temps, le modèle est devenu trop prudent et a cessé de générer certaines images courantes.
En conséquence, Gemini est allé "trop loin" dans la représentation de la diversité dans certains cas. Google a promis de résoudre le problème et d'améliorer considérablement les capacités de génération d'images de l'IA avant de réactiver la fonction.
L'entreprise a reconnu que les réseaux neuronaux se trompent parfois et a promis de continuer à travailler sur une solution.
Demis Hassabis, fondateur de DeepMind, a déclaré séparément que la capacité de répondre aux demandes d'images humaines devrait être rétablie dans les "prochaines semaines".
Approfondir :
Source : The Verge, TechCrunch : The Verge, TechCrunch