RealorRender: Новое оружие против дипфейков от немецких учёных
Пока одни нейросети учатся рисовать котов с восемью лапами и убедительные портреты несуществующих политиков, другие готовятся вывести их на чистую воду. Немецкий Институт оптроники, системных технологий и обработки изображений Фраунгофера (Fraunhofer-Institut für Optronik, Systemtechnologien und Bildauswertung) представил систему RealorRender. Это инструмент для обнаружения дипфейков, который использует довольно ироничный подход: чтобы понять, перед нами подделка или нет, он пытается её воспроизвести.
Математическое зеркало для нейросетей
Принцип работы RealorRender основан на идее, что генеративные модели оставляют после себя специфические цифровые «отпечатки пальцев». На официальном сайте разработчики объясняют, что система сочетает два метода анализа. Первый — это классическое глубокое обучение, где алгоритм классифицирует изображения на основе уже известных признаков ИИ-генерации. Второй метод интереснее: он оценивает «ошибку реконструкции».
Система берет подозрительный кадр и пробует заново сгенерировать его с помощью собственной модели. Если результат оказывается слишком точным совпадением, это весомый аргумент в пользу того, что оригинал также был создан математическим алгоритмом, а не объективом камеры. Наравне точность такого детектора колеблется от 85% до 91%. Это не абсолютный результат, но вполне достаточный, чтобы начать задавать правильные вопросы к контенту в сети.
Объяснение XAI для изображения, на котором человека было выявлено как фейк. Иллюстрация: Fraunhofer IOSB
Почему ИИ не умеет лгать без следа
Главная проблема большинства современных детекторов — они работают по принципу «я так вижу», не объясняя причин своего решения. RealorRender идет другим путём, используя концепцию Explainable AI (XAI). Вместо сухого вердикта пользователь получает тепловую карту изображения. Система подсвечивает конкретные участки, текстуры и артефакты, которые показались ей подозрительными. Это позволяет специалистам увидеть то, что обычно скрыто от человеческого глаза: микроскопические несоответствия в освещении или слишком правильные геометрические паттерны, свойственные генеративным моделям.
Цифровое насилие и необходимость контроля
Разработка немецких ученых появилась не в вакууме, а как ответ на реальную угрозу. Согласно данным британского правительства, только в 2023 году на одном из специализированных ресурсов было выявлено более 276 000 порнографических дипфейков. Худшее то, что 96% таких материалов направлены против женщин, чьи образы используются без какого-либо согласия. Только сервисы, предлагающие «раздевание» людей с помощью ИИ, в сентябре того же года собрали 24 миллиона визитов.
В мире, где дипфейки становятся инструментом шантажа, мошенничества и политических манипуляций, RealorRender выглядит как попытка вернуть контроль над реальностью. Возможно, ИИ и научился рисовать убедительную ложь, но теперь он по меньшей мере начал на этом попадаться.
Пока одни технологии помогают бороться с цифровыми подделками, другие работают над тем, чтобы сделать обработку данных ещё быстрее. Читайте про то, как Samsung хочет перевернуть рынок памяти с помощью новых методов бондинга.
Подписывайтесь на наш нескучный канал в Telegram, чтобы ничего не пропустить.
