Discord заборонив поширення зображень насильства над дітьми, згенеровані штучним інтелектом

Платформа Discord заборонила поширювати матеріали про сексуальне насильство над дітьми (CSAM), згенеровані штучним інтелектом.

Що відомо

Віцепрезидент Discord з питань довіри та безпеки Джон Редгрейв (John Redgrave) заявив, що платформа розширює правила щодо генеративного ШІ, який може створювати фальшивий контент. Зокрема оновлена політика забороняє створювати та поширювати CSAM-зображення, а також сексуалізувати дітей у текстових чатах.

Минулого місяця Washington Post повідомила про те, що останніми місяцями в інтернеті поширилися згенеровані штучним інтелектом CSAM-зображення. Одним із таких майданчиків виявився Discord.

На платформі було розміщено кілька інтеграцій, що дають змогу користувачам створювати картинки просто в чатах. Виявилося, що користувачі часто генерували зображення сексуальної тематики.

Однак представник Discord повідомив, що робота над оновленням політики велася з останнього кварталу 2021 року. За його словами, нові правила не є реакцією на будь-які нещодавні повідомлення.

Джерело: NBC.