Google atribuyó a errores de configuración la creación por parte de la IA de imágenes de diversos nazis
Google ha emitido una explicación por la creación de imágenes "históricas inexactas" de nazis y otros personajes por parte de su herramienta de inteligencia artificial Gemini.
Esto es lo que sabemos
Google dijo que el problema surgió debido a errores en la configuración del modelo. Anteriormente, Gemini generó imágenes racialmente discriminatorias de nazis y de los padres fundadores de Estados Unidos.
Resultados de Gemini para la tarea "Crear una imagen de un senador estadounidense de 1800"
Según la empresa, la configuración de la IA pretendía mostrar la diversidad de las personas, pero no tenía en cuenta lo inaceptable de dicha diversidad para las figuras históricas. Además, con el tiempo, el modelo se volvió excesivamente cauto y dejó de generar algunas imágenes comunes.
Como resultado, Gemini se "excedió" al mostrar la diversidad en algunos casos. Google prometió solucionar el problema y mejorar significativamente las capacidades de generación de imágenes de la IA antes de volver a activar la función.
La empresa reconoció que a veces las redes neuronales se equivocan y prometió seguir trabajando en una solución.
El fundador de DeepMind, Demis Hassabis, dijo por separado que la capacidad de responder a las solicitudes de imágenes humanas debería restablecerse en las "próximas semanas".
Más información:
Fuente: The Verge, TechCrunch