Meta розробила спосіб впровадження водяних знаків у мову, створену штучним інтелектом.

Компанія Meta розробила нову систему AudioSeal, яка дає змогу вбудовувати приховані сигнали, відомі як водяні знаки, в аудіокліпи, створені штучним інтелектом.

Що відомо

Нова технологія може допомогти в боротьбі з поширенням дезінформації та шахрайства з використанням інструментів клонування голосу. Наприклад, вона може вказати, які частини аудіо в годинному подкасті були згенеровані AI. Незважаючи на те, що водяні знаки ще не набули широкого розповсюдження і немає єдиного стандарту в індустрії, команда Meta досягла точності виявлення водяних знаків між 90% і 100%, що є значним поліпшенням порівняно з попередніми спробами. Водночас Meta поки що не планує застосовувати водяні знаки до аудіо, створеного за допомогою її інструментів. Крім того, водяні знаки для контенту, створеного ШІ, часто можна легко підробити або видалити.

AudioSeal доступний на GitHub і може бути використаний для додавання водяних знаків до AI-згенерованих аудіокліпів. У майбутньому його можна буде інтегрувати в моделі генерації AI-аудіо, щоб автоматично застосовувати його до всієї згенерованої мови. Роботу над цією системою буде представлено на Міжнародній конференції з машинного навчання у Відні, Австрія, в липні.

Джерело: TechnologyReview