Reddit начинает использовать ИИ для борьбы со спамом и фейковой активностью

Платформа Reddit сообщила о внедрении собственных инструментов на основе больших языковых моделей (LLM) для обнаружения спама, искусственно созданного контента и неаутентичной активности. Новые системы анализируют поведение пользователей и помогают автоматически выявлять подозрительные действия.

Что известно

По данным компании, ежедневно алгоритмы блокируют около 23 млн просмотров спама, выявляют приблизительно 25 000 подозрительных постов и комментариев, а также аннулируют почти 2 млн неаутентичных голосов. В Reddit отмечают, что с января по март 2026 года пользователи видели на 20% меньше спама, чем в предыдущем квартале.

LLM начинают анализировать аккаунты уже во время их создания, находя признаки скоординированной фальшивой активности и искусственного продвижения контента. Кроме того, платформа применяет дополнительную проверку для автоматизированных аккаунтов, чтобы подтвердить, что ими управляют люди. Также инструменты используются для обнаружения контента, связанного с языком ненависти и насилием. По информации Reddit, время от обнаружения нарушения до применения мер сократилось до менее чем пяти секунд, а количество просмотров вредоносного контента уменьшилось более чем на 40%.

Ранее Reddit также ввел лицензирование для компаний, которые используют данные платформы для обучения моделей искусственного интеллекта, а также представил поисковую функцию Reddit Answers.

Источник: Reddit