Adobe продает сгенерированные искусственным интеллектом изображения войны Израиля и ХАМАСа, которые в новостях выдают за настоящие

Компания Adobe продает через свою библиотеку стоковых изображений фотографии конфликта между Израилем и ХАМАСом, которые сгенерировал искусственный интеллект. Однако некоторые СМИ иллюстрируют ими реальные новости о конфликте.

Что известно

Некоторые новостные издания используют такие снимки в своих статьях, не помечая их как поддельные. Изображения в библиотеке Adobe обозначены как сгенерированные ИИ, однако при публикации в других источниках эта информация теряется.

В библиотеке Adobe Stock есть целая категория под названием "Конфликт между Израилем и Палестиной, сгенерированное искусственным интеллектом". Как выяснилось, многочисленные интернет-статьи используют такие фотографии и выдают их за реальные.

Эксперты уже не раз предупреждали, что искусственный интеллект будет активно применяться для создания дезинформации. Бороться с этой проблемой становится все труднее, поскольку в сети появляется все больше реалистично выглядящего синтетического контента. 

Ряд компаний пытаются внедрить маркировку материалов, созданных ИИ, однако на практике такие системы пока не получили широкого применения. Они требуют координации многих игроков: соцсетей, СМИ, разработчиков приложений и самих создателей генеративного ИИ.

Представитель Adobe заявил, что компания стремится бороться с дезинформацией и развивать инструменты для отслеживания подлинности контента, в том числе созданного с помощью ИИ.

Источник:PetaPixel