ИИ для генерации стикеров WhatsApp иногда добавляет оружие в изображения детей по запросам, связанным с Палестиной

В мессенджере WhatsApp ИИ-генератор стикеров в некоторых случаях создает изображения детей с оружием, если вводить связанные с Палестиной подсказки.

Что известно

В прошлом модель начала выпускать стикеры с тенденцией к созданию неуместно жестоких или грубых изображений, включая детей-солдат. По данным СМИ, некоторые сотрудники компании отметили и обострили проблему с помощью подсказок, связанных с войной в Израиле.

Представитель Meta Кевин МакАлистер (Kevin McAlister) сообщил, что компания решает эту проблему. Он добавил, что компания продолжит совершенствовать ИИ-функции по мере их развития и на основе отзывов пользователей.

Ранее у Meta возникали другие случаи предвзятости ИИ. Например, автопереводчик Instagram вставлял слово "террорист" в арабские тексты в профилях. Эта ошибка привела к аресту палестинца в Израиле в 2017 году.

Источник: The Guardian