Google запускає технологію SynthID Text для маркування згенерованого ШІ тексту

Google представила SynthID Text, технологію, що дає змогу розробникам додавати водяні знаки та виявляти текст, створений генеративними ШІ-моделями. SynthID Text доступний для завантаження на платформі Hugging Face і в оновленому наборі інструментів Responsible GenAI Toolkit від Google.

Що ще відомо

Технологія працює шляхом зміни ймовірності генерації токенів, що створює унікальний патерн, який слугує водяним знаком. Цей патерн допомагає визначити, чи був текст створений ШІ або іншими джерелами.

Google стверджує, що якість, точність і швидкість генерації тексту не страждають, навіть якщо текст було змінено або перекладено. Однак технологія має обмеження, особливо під час роботи з короткими текстами або відповідями на фактичні запитання. У майбутньому можливе введення обов'язкових водяних знаків для контенту, створеного ШІ, як це вже зроблено в Китаї.

Це нововведення має важливість, оскільки згідно з доповіддю Правоохоронного агентства Європейського Союзу, до 2026 року до 90% онлайн-контенту може бути створено за допомогою АІ, що спровокує нові виклики для правоохоронних органів у зв'язку з дезінформацією, пропагандою, шахрайством і обманом. Дослідження показує, що вже сьогодні близько 60% усіх текстів в інтернеті можуть бути створені штучним інтелектом, що зумовлено широким застосуванням АІ-перекладачів.

Джерело: @GoogleDeepMind, Tech Crunch