Google потребует от приложений в Play Store лучше модерировать ИИ-контент и добавить кнопку для жалоб пользователей

Компания Google начнет требовать от приложений в Play Store наличия кнопки для жалоб на оскорбительный контент, сгенерированный искусственным интеллектом, а также соблюдения правил модерации такого контента.

Что известно

С января 2024 года приложения с ИИ-контентом должны будут добавить возможность пользователям жаловаться на оскорбительные материалы, чтобы остаться в магазине приложений. Это коснется чат-ботов, генераторов изображений, приложений с видео, созданными с участием ИИ.

При этом приложения, использующие ИИ для краткой аннотации текста и повышения производительности в качестве функции, не попадают под новые правила.

По мнению Google, примерами проблемного контента, создаваемого искусственным интеллектом, могут быть подделки сексуального характера, мошеннические видео реальных людей, ложный или обманчивый предвыборный контент.

Компания признала, что генеративный ИИ — быстро растущая категория приложений. Поєтому политика в отношении таких программ будет регулярно пересматриваться, отмечает Google.

Источник: Google