Discord запретил распространение изображений насилия над детьми, сгенерированные искусственным интеллектом

Платформа Discord запретила распространять материалы о сексуальном насилии над детьми (CSAM), сгенерированные искусственным интеллектом.

Что известно

Вице-президент Discord по вопросам доверия и безопасности Джон Редгрейв (John Redgrave) заявил, что платформа расширяет правила в отношении генеративного ИИ, который может создавать фальшивый контент. В частности обновленная политика запрещает создавать и распространять CSAM-изображения, а также сексуализировать детей в текстовых чатах. 

В прошлом месяце Washington Post сообщила о том, что в последние месяцы в интернете распространились сгенерированные искусственным интеллектом CSAM-изображения. Одной из таких площадок оказался Discord.

На платформе было размещено несколько интеграций, позволяющих пользователям создавать картинки прямо в чатах. Оказалось, что пользователи часто генерировали изображения сексуальной тематики.

Однако представитель Discord сообщил, что работа над обновлением политики велась с последнего квартала 2021 года. По его словам, новые правила не являются реакцией на какие-либо недавние сообщения.

Источник: NBC.