Microsoft попыталась замолчать уязвимость в DALL-E, заявил сотрудник компании

Инженер по искусственному интеллекту из Microsoft Шейн Джонс (Shane Jones) утверждает, что в начале декабря обнаружил уязвимость в модели генерации изображений DALL-E 3 от компании OpenAI. С ее помощью пользователи могут обходить защиту и создавать вредоносный контент, утверждает разработчик.

Что известно

После обнаружения уязвимости Джонс сразу сообщил о ней руководству. Однако ему порекомендовали обратиться напрямую в OpenAI.

После этого Джонс опубликовал пост с критикой в адрес OpenAI в LinkedIn, однако юридический отдел Microsoft потребовал немедленно удалить сообщение. Разработчик выполнил требование работодателя.

По мнению Джонса, из-за обнаруженных им недостатков DALL-E 3 представляет угрозу для общественной безопасности и должна быть изъята из публичного доступа. Он призвал OpenAI решить проблемы модели, однако так и не получил от компаний ответа.

Microsoft и OpenAI заявили, что расследовали сообщение Джонса и не нашли подтверждений того, что уязвимость позволяет обойти защиту. При этом в Microsoft не смогли объяснить инженеру, почему потребовали удалить пост.

Джонс направил информацию об уязвимости генпрокурору штата Вашингтон и конгрессменам США. Он призвал власти создать систему отслеживания рисков ИИ.

Также он выразил готовность стать информатором и попросить юридической защиты от преследований со стороны компаний, если таково потребуется.

Источник: GeekWire