Користувачі Bing Image Creator згенерували зображення теракту 9/11, де літаком керують Міккі Маус і Губка Боб
Користувачі обійшли захист у ШІ-генераторі зображень Bing і створили картинки з мультиплікаційними персонажами, які атакують вежі-близнюки в Нью-Йорку. Microsoft спробувала заблокувати такі запити, однак, схоже, безуспішно.
Що відомо
Деякі користувачі використовували Bing з моделлю DALL-E 3 для генерації картинок Губки Боба (SpongeBob), Кірбі (Kirby), Міккі Мауса (Mickey Mouse) та інших персонажів, які атакують вежі-близнюки.
Microsoft заявила, що працює над поліпшенням системи фільтрації, щоб не допустити створення шкідливого контенту. Однак проста заміна слів у запиті, як і раніше, дає змогу обійти блокування і згенерувати зображення веж.
Експерти зазначають, що системи модерації в АІ-генераторах недосконалі. Зловмисники активно використовують цю вразливість для створення і поширення шкідливого контенту.
Компаніям належить ще багато роботи, щоб налагодити ефективну фільтрацію зображень, заявили експерти.
Для тих, хто хоче знати більше:
Джерело: 404 media
