Los usuarios de Bing Image Creator han generado una imagen del atentado terrorista del 11-S, con Mickey Mouse y Bob Esponja pilotando el avión
Los usuarios eludieron las protecciones del generador de imágenes de IA de Bing y crearon imágenes de personajes de dibujos animados atacando las Torres Gemelas de Nueva York. Microsoft ha intentado bloquear este tipo de solicitudes, pero parece que no lo ha conseguido.
Esto es lo que sabemos
Algunos usuarios utilizaron Bing con el modelo DALL-E 3 para generar imágenes de Bob Esponja, Kirby, Mickey Mouse y otros personajes atacando las Torres Gemelas.
Microsoft dijo que está trabajando para mejorar su sistema de filtrado para evitar que se creen contenidos maliciosos. Sin embargo, la simple sustitución de palabras en una consulta puede eludir el bloqueo y generar una imagen de las torres.
Los expertos señalan que los sistemas de moderación de los generadores de inteligencia artificial son defectuosos. Los atacantes están explotando activamente esta vulnerabilidad para crear y distribuir contenidos maliciosos.
Según los expertos, las empresas aún tienen mucho trabajo por hacer para establecer un filtrado de imágenes eficaz.
Profundizar:
Fuente: 404 media