RealorRender: Нова зброя проти дипфейків від німецьких вчених
Поки одні нейромережі вчаться малювати котів із вісьмома лапами та переконливі портрети неіснуючих політиків, інші готуються виводити їх на чисту воду. Німецький Інститут оптроніки, системних технологій та обробки зображень Фраунгофера (Fraunhofer-Institut für Optronik, Systemtechnologien und Bildauswertung) представив систему RealorRender. Це інструмент для виявлення дипфейків, який використовує доволі іронічний підхід: щоб зрозуміти, чи перед нами підробка, він намагається її відтворити.
Математичне дзеркало для нейромереж
Принцип роботи RealorRender базується на ідеї, що генеративні моделі залишають після себе специфічні цифрові «відбитки пальців». На офіційному сайті розробники пояснюють, що система поєднує два методи аналізу. Перший — це класичне глибоке навчання, де алгоритм класифікує зображення на основі вже відомих ознак ШІ-генерації. Другий метод цікавіший: він оцінює «помилку реконструкції».
Система бере підозрілий кадр та пробує заново згенерувати його за допомогою власної моделі. Якщо результат виявляється занадто точним збігом, це вагомий аргумент на користь того, що оригінал також був створений математичним алгоритмом, а не об'єктивом камери. Наразі точність такого детектора коливається від 85% до 91%. Це не абсолютний результат, але цілком достатній, щоб почати ставити правильні питання до контенту в мережі.
Пояснення XAI для зображення, на якому людину було виявлено як фейк. Ілюстрація: Fraunhofer IOSB
Чому ШІ не вміє брехати безслідно
Головна проблема більшості сучасних детекторів — вони працюють за принципом «я так бачу», не пояснюючи причин свого рішення. RealorRender йде іншим шляхом, використовуючи концепцію Explainable AI (XAI). Замість сухого вердикту користувач отримує теплову карту зображення. Система підсвічує конкретні ділянки, текстури та артефакти, які видалися їй підозрілими. Це дозволяє фахівцям побачити те, що зазвичай приховано від людського ока: мікроскопічні невідповідності в освітленні або занадто правильні геометричні патерни, притаманні генеративним моделям.
Цифрове насильство та необхідність контролю
Розробка німецьких вчених з'явилася не у вакуумі, а як відповідь на реальну загрозу. Згідно з даними британського уряду, лише у 2023 році на одному зі спеціалізованих ресурсів було виявлено понад 276 000 порнографічних дипфейків. Найгірше те, що 96% таких матеріалів спрямовані проти жінок, чиї образи використовують без жодної згоди. Тільки сервіси, що пропонують «роздягання» людей за допомогою ШІ, у вересні того ж року зібрали 24 мільйони візитів.
У світі, де дипфейки стають інструментом шантажу, шахрайства та політичних маніпуляцій, RealorRender виглядає як спроба повернути контроль над реальністю. Можливо, ШІ й навчився малювати переконливу брехню, але тепер він принаймні почав на цьому ловитися.
Поки одні технології допомагають боротися з цифровими підробками, інші працюють над тим, щоб зробити обробку даних ще швидшою. Читайте про те, як Samsung хоче перевернути ринок пам’яті за допомогою нових методів бондингу.
