Midjourney хочет запретить генерировать изображения политиков перед выборами в США

Компания Midjourney, разработчик популярного генератора изображений на основе искусственного интеллекта, рассматривает возможность полного запрета на создание политических картинок, чтобы пресечь распространение фейков в преддверии президентских выборов в США.

Что известно

По словам гендиректора Midjourney Дэвида Хольца (David Holz), речь идет о блокировке изображений таких политиков, как Джо Байден (Joe Biden) и Дональд Трамп (Donald Trump), на ближайшие 12 месяцев. Ранее пользователи уже создавали при помощи ИИ компрометирующие картинки и мемы с участием этих и других высокопоставленных персон.

"Я знаю, что делать картинки с Трампом весело — я делаю картинки с Трампом [...]. Однако, возможно, лучше просто не делать этого — лучше немного отстраниться во время выборов", — сказал Хольц. 

В Midjourney уже действуют правила, запрещающие генерацию "вводящих в заблуждение публичных фигур" и "событий". Однако политические фейки до сих пор просачиваются сквозь защиту модераторов. При этом запрет на конкретных персон не решит проблему использования ИИ для дезинформации в целом.

Другие IT-компании также предпринимают меры для борьбы с поддельным политическим контентом. В частности, ChatGPT скоро начнет маркировать изображения, сгенерированные при помощи ИИ.

Источник: Bloomberg