Надзорный совет Meta рассмотрит случаи использования ИИ для создания откровенных изображений

Надзорный совет компании Meta взял на рассмотрение два дела, связанных с использованием искусственного интеллекта для создания откровенных изображений общественных деятелей. Совет хочет оценить эффективность политики и практики модерации Meta в отношении такого контента.

Что известно

Один случай касается поста в Instagram с изображением обнаженной индийской женщины, сгенерированным с помощью ИИ. Его разместил аккаунт, публикующий только подобный контент. Хотя пост и удалили после жалобы пользователя, его апелляцию также не рассмотрели.

Второй случай относится к публикации в Facebook-группе, где была показана "сгенерированная ИИ обнаженная женщина" с подписью, указывающей на "американского общественного деятеля". Пост удалил инструмент автоматической модерации, но автор обжаловал это решение.

Надзорный совет решил рассмотреть оба дела, чтобы оценить, справедливо ли Meta защищает женщин во всем мире от такого генерируемого ИИ контента. Совет просит общественность предоставить комментарии в течение двух недель и планирует опубликовать свое решение и рекомендации для политики Meta в ближайшее время.

Ранее Надзорный совет уже влиял на политику компании в отношении контента, созданного с помощью искусственного интеллекта, например, после инцидента с видео Джо Байдена (Joe Biden). В результате Meta согласилась маркировать больше такого ИИ-контента на своих платформах.

Источник: Engadget