Meta AI tiene problemas para generar imágenes de personas de distintas razas
Captura de pantalla de Meta AI/Engadget
El generador de imágenes de Meta AI muestra signos de parcialidad cuando recibe solicitudes de imágenes que muestran a personas de diferentes razas juntas.
Esto es lo que sabemos
Como han demostrado pruebas recientes, la herramienta de la empresa tiene dificultades para manejar instrucciones aparentemente sencillas como "un hombre asiático con una amiga blanca" o "un hombre asiático con una esposa blanca". En lugar de encarnar con precisión la petición, Meta AI suele generar imágenes de personas de la misma raza.
En un ejemplo, cuando se le pidió que creara "un grupo diverso de personas", el programa produjo una cuadrícula de nueve caras blancas y una persona de otra raza. Los evaluadores también han observado manifestaciones más sutiles de parcialidad.
Por ejemplo, el generador tiende a envejecer a los hombres asiáticos y a rejuvenecer a las mujeres. Además, a veces la herramienta añadía a las imágenes "atuendos culturalmente específicos" aunque no formaran parte de la pregunta.
Las razones de estos fallos en el funcionamiento del generador aún no están claras. Anteriormente, otros sistemas de IA, como Gemini de Google, habían cometido errores similares al representar a personas de distintas razas.
Meta AI ha calificado su generador de "versión beta", admitiendo que es propenso a errores. La empresa también ha advertido anteriormente de que su herramienta no siempre puede responder correctamente a preguntas sencillas sobre acontecimientos actuales y personalidades.