Un empleado de Microsoft se queja a la FTC sobre la seguridad del generador de IA Copilot Designer
Microsoft
Shane Jones, un ingeniero de inteligencia artificial de Microsoft, ha presentado una queja ante la Comisión Federal de Comercio de EE.UU. (FTC) sobre la seguridad del generador de imágenes de IA Copilot Designer.
Esto es lo que sabemos
Según Jones, que trabaja en Microsoft desde hace seis años, la empresa "se negó" a retirar Copilot Designer. Advirtió en repetidas ocasiones de que la herramienta podía crear contenidos nocivos.
En su carta a la FTC, el ingeniero señaló que, durante las pruebas, la IA generó "demonios y monstruos junto con terminología relacionada con el derecho al aborto, adolescentes con rifles de asalto, imágenes sexualizadas de mujeres en escenas violentas, y consumo de alcohol y drogas entre menores".
Además, según Jones, la herramienta generó imágenes de personajes de Disney con un telón de fondo de destrucción en la Franja de Gaza y vistiendo uniformes del ejército israelí.
El ingeniero lleva desde diciembre del año pasado intentando advertir a Microsoft de los problemas con el constructor DALLE-3 utilizado en Copilot Designer. Publicó una carta abierta en LinkedIn, pero los abogados de la empresa exigieron que se borrara.
"Durante los últimos tres meses, he instado repetidamente a Microsoft a retirar Copilot Designer del uso público hasta que se pudieran establecer mejores salvaguardias. Una vez más, no han aplicado estos cambios y siguen comercializando el producto para 'Cualquiera. En cualquier lugar. Cualquier dispositivo", declaró Jones.
Microsoft dijo que se compromete a abordar las preocupaciones de los empleados de acuerdo con la política de la empresa y ha llevado a cabo una investigación interna sobre las preocupaciones del ingeniero.
Anteriormente, el consejero delegado de Microsoft, Satya Nadella, calificó de "alarmantes y terribles" las imágenes explícitas de la cantante Taylor Swift generadas por Copilot Designer y prometió mejores sistemas de control.
Profundiza:
Fuente: The Verge