Google запускает технологию SynthID Text для маркировки сгенерированного ИИ текста

Google представила SynthID Text, технологию, позволяющую разработчикам добавлять водяные знаки и обнаруживать текст, созданный генеративными ИИ-моделями. SynthID Text доступен для скачивания на платформе Hugging Face и в обновленном наборе инструментов Responsible GenAI Toolkit от Google.

Что ещё известно

Технология работает путем изменения вероятности генерации токенов, что создает уникальный паттерн, служащий водяным знаком. Этот паттерн помогает определить, был ли текст создан ИИ или другими источниками.

Google утверждает, что качество, точность и скорость генерации текста не страдают, даже если текст был изменен или переведен. Однако технология имеет ограничения, особенно при работе с короткими текстами или ответами на фактические вопросы. В будущем возможно введение обязательных водяных знаков для контента, созданного ИИ, как это уже сделано в Китае.

Это нововведение имеет важность, так как согласно докладу Правоохранительного агентства Европейского союза, к 2026 году до 90% онлайн-контента может быть создано с помощью ИИ, что спровоцирует новые вызовы для правоохранительных органов в связи с дезинформацией, пропагандой, мошенничеством и обманом. Исследование показывает, что уже сегодня около 60% всех текстов в интернете могут быть произведены искусственным интеллектом, что обусловлено широким применением ИИ-переводчиков.

Источник: @GoogleDeepMind, Tech Crunch