ШІ для генерації стікерів WhatsApp іноді додає зброю в зображення дітей за запитами, пов'язаними з Палестиною

У месенджері WhatsApp АІ-генератор стікерів у деяких випадках створює зображення дітей зі зброєю, якщо вводити пов'язані з Палестиною підказки.

Що відомо

Минулого року модель почала випускати стікери з тенденцією до створення недоречно жорстоких або грубих зображень, включно з дітьми-солдатами. За даними ЗМІ, деякі співробітники компанії відзначили та загострили проблему за допомогою підказок, пов'язаних з війною в Ізраїлі.

Представник Meta Кевін МакАлістер (Kevin McAlister) повідомив, що компанія вирішує цю проблему. Він додав, що компанія продовжить удосконалювати ШІ-функції в міру їхнього розвитку і на основі відгуків користувачів.

Раніше у Meta виникали інші випадки упередженості АІ. Наприклад, автоперекладач Instagram вставляв слово "терорист" в арабські тексти в профілях. Ця помилка призвела до арешту палестинця в Ізраїлі 2017 року.

Джерело: The Guardian