Inteligencia artificial para generar pegatinas WhatsApp a veces añade armas a las imágenes de niños en consultas relacionadas con Palestina

En el mensajero WhatsApp, un generador de pegatinas de inteligencia artificial genera en algunos casos imágenes de niños con armas cuando se introducen indicaciones relacionadas con Palestina.

Esto es lo que sabemos

En el pasado, el modelo comenzó a producir pegatinas con tendencia a crear imágenes inapropiadamente violentas o groseras, incluidos niños soldados. Según los medios de comunicación, algunos empleados de la empresa han señalado y agravado el problema con prompts relacionados con la guerra de Israel.

El portavoz de Meta, Kevin McAlister, declaró que la empresa está abordando el problema. Añadió que la empresa seguirá mejorando las funciones de IA a medida que se desarrollen y basándose en los comentarios de los usuarios.

Meta ya ha experimentado anteriormente otros casos de sesgo de la IA. Por ejemplo, el traductor automático de Instagram insertó la palabra "terrorista" en textos árabes de perfiles. El error llevó a la detención de un palestino en Israel en 2017.

Fuente: The Guardian