Microsoft intentó silenciar la vulnerabilidad de DALL-E, según un responsable de la empresa

Shane Jones, ingeniero de inteligencia artificial de Microsoft, afirma haber descubierto a principios de diciembre una vulnerabilidad en el modelo de generación de imágenes DALL-E 3 de OpenAI. Los usuarios pueden utilizarla para saltarse las protecciones y crear contenido malicioso, afirma el desarrollador.

Esto es lo que sabemos

Tras descubrir la vulnerabilidad, Jones informó inmediatamente a la dirección. Sin embargo, le aconsejaron que se pusiera en contacto directamente con OpenAI.

Jones publicó entonces un post criticando a OpenAI en LinkedIn, pero el departamento legal de Microsoft exigió que se retirara inmediatamente. El desarrollador accedió a la petición de su empleador.

Según Jones, debido a los fallos que descubrió, DALL-E 3 supone una amenaza para la seguridad pública y debería retirarse del acceso público. Instó a OpenAI a solucionar los problemas del modelo, pero nunca recibió respuesta de las empresas.

Microsoft y OpenAI dijeron que investigaron el mensaje de Jones y no encontraron pruebas de que la vulnerabilidad permita eludir la defensa. Al mismo tiempo, Microsoft no pudo explicar al ingeniero por qué le exigieron que borrara el mensaje.

Jones envió información sobre la vulnerabilidad al fiscal general del estado de Washington y a congresistas estadounidenses. Instó a las autoridades a crear un sistema de seguimiento de los riesgos de la IA.

También expresó su voluntad de convertirse en denunciante y pedir protección legal contra el acoso empresarial si fuera necesario.

Fuente: GeekWire