Сотрудник Microsoft пожаловался в FTC на безопасность ИИ-генератора Copilot Designer

Инженер по искусственному интеллекту в Microsoft Шейн Джонс (Shane Jones) обратился в Федеральную торговую комиссию США (FTC) с жалобой на безопасность ИИ-генератора изображений Copilot Designer.

Что известно

По словам Джонса, работающего в Microsoft шесть лет, компания "отказалась" удалить Copilot Designer. Он неоднократно предупреждал, что инструмент может создавать вредный контент.

В своем письме в FTC инженер указал, что во время тестирования ИИ генерировал "демонов и монстров наряду с терминологией, связанной с правами на аборт, подростками с автоматами, сексуализированными изображениями женщин в сценах насилия, а также несовершеннолетних, употребляющих алкоголь и наркотики".

Кроме того, утверждает Джонс, инструмент генерировал изображения персонажей Disney на фоне разрушений в секторе Газа и в форме израильской армии.

Инженер пытался предупредить Microsoft о проблемах с конструктором DALLE-3, используемым в Copilot Designer, с декабря прошлого года. Он опубликовал открытое письмо на LinkedIn, но юристы компании потребовали его удалить.

"В течение последних трех месяцев я неоднократно призывал Microsoft приостановить публичное использование Copilot Designer до внедрения более эффективных мер защиты. Но они проигнорировали мои предупреждения", — заявил Джонс.

В Microsoft отметили, что стремятся решать проблемы сотрудников в соответствии с политикой компании и провели внутреннее расследование озабоченностей инженера.

Ранее гендиректор Microsoft Сатья Наделла (Satya Nadella) назвал сгенерированные Copilot Designer откровенные изображения певицы Тейлор Свифт (Taylor Swift) "тревожными и ужасными", пообещав улучшить системы контроля.

Для тех, кто хочет знать больше:

• Microsoft попыталась замолчать уязвимость в DALL-E, заявил сотрудник компании

Источник: The Verge