Microsoft a tenté de faire taire la vulnérabilité dans DALL-E, a déclaré un responsable de l'entreprise.

Shane Jones, ingénieur en intelligence artificielle chez Microsoft, affirme avoir découvert début décembre une vulnérabilité dans le modèle de génération d'images DALL-E 3 d'OpenAI. Les utilisateurs peuvent l'utiliser pour contourner les protections et créer des contenus malveillants, affirme le développeur.

Ce que nous savons

Après avoir découvert la vulnérabilité, M. Jones l'a immédiatement signalée à sa direction. Il lui a toutefois été conseillé de contacter directement OpenAI.

M. Jones a ensuite publié un message critiquant OpenAI sur LinkedIn, mais le service juridique de Microsoft a exigé que le message soit immédiatement supprimé. Le développeur s'est plié à la demande de son employeur.

Selon M. Jones, en raison des failles qu'il a découvertes, DALL-E 3 constitue une menace pour la sécurité publique et devrait être retiré de l'accès public. Il a demandé à OpenAI de résoudre les problèmes du modèle, mais n'a jamais reçu de réponse de la part des entreprises.

Microsoft et OpenAI ont déclaré avoir examiné le message de M. Jones et n'avoir trouvé aucune preuve que la vulnérabilité permettait de contourner la défense. Dans le même temps, Microsoft n'a pas pu expliquer à l'ingénieur pourquoi elle avait exigé la suppression du message.

M. Jones a envoyé des informations sur la vulnérabilité au procureur général de l'État de Washington et à des membres du Congrès américain. Il a exhorté les autorités à créer un système de suivi des risques liés à l'IA.

Il a également exprimé sa volonté de devenir un lanceur d'alerte et de demander une protection juridique contre le harcèlement des entreprises si nécessaire.

Source : GeekWire GeekWire