Пользователи Bing Image Creator сгенерировали изображение теракта 9/11, где самолетом управляют Микки Маус и Губка Боб
Пользователи обошли защиту в ИИ-генераторе изображений Bing и создали картинки с мультипликационными персонажами, атакующими башнями-близнецы в Нью-Йорке. Microsoft попыталась заблокировать такие запросы, однако, похоже, безуспешно.
Что известно
Некоторые пользователи использовали Bing с моделью DALL-E 3 для генерации картинок Губки Боба (SpongeBob), Кирби (Kirby), Микки Мауса (Mickey Mouse) и других персонажей, атакующих башни-близнецы.
Microsoft заявила, что работает над улучшением системы фильтрации, чтобы не допустить создания вредоносного контента. Однако простая замена слов в запросе по-прежнему позволяет обойти блокировку и сгенерировать изображение башен.
Эксперты отмечают, что системы модерации в ИИ-генераторах несовершенны. Злоумышленники активно используют эту уязвимость для создания и распространения вредоносного контента.
Компаниям предстоит еще много работы, чтобы наладить эффективную фильтрацию изображений, заявили эксперты.
Для тех, кто хочет знать больше:
Источник: 404 media
Подписывайтесь на наш нескучный канал в Telegram, чтобы ничего не пропустить.
Поделиться
