Соцсети Meta начнут помечать контент, сгенерированный искусственным интеллектом

Компания Meta анонсировала расширение функционала по выявлению изображений, созданных технологиями искусственного интеллекта (ИИ). Соответствующее обновление появится в социальных сетях Facebook, Instagram и Threads.

Что известно

На сегодня сервисы Meta маркируют только контент, сгенерированный собственными инструментами ИИ. Теперь пометки будут присваиваться также изображениям от сторонних компаний, таких как Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock.

По словам руководства Meta, процесс займет несколько месяцев. Для его реализации необходимо выработать отраслевые стандарты по маркировке контента от ИИ совместно с другими технологическими компаниями.

Отдельно Meta работает над классификаторами для обнаружения синтетических изображений, на которых отсутствуют специальные метки. Кроме того, компания планирует усложнить процедуру удаления таких меток из графических файлов.

В Meta признали, что определить поддельные аудио- и видеоматериалы сложнее, чем изображения. Пока что в индустрии отсутствуют стандарты по их маркировке.

Кроме этого, Meta добавит возможность пользователям добровольно помечать ИИ-контент при загрузке в соцсети. Однако если они поделятся дипфейком и не сообщат об этом, компания может "применить штрафные санкции", говорится в сообщении.

Источник: Meta