Искусственный интеллект научился подделывать голоса для обмана систем аутентификации

Ученые из Университета Ватерлоо в Канаде с помощью искусственного интеллекта разработали метод фальсификации голоса, позволяющий обходить голосовую аутентификацию.

Что известно

Голосовая аутентификация основывается на уникальности голоса каждого человека. На это влияют физические характеристики, такие как размер и форма голосовых путей и гортани, а также социальные факторы.

Системы аутентификации фиксируют нюансы в голосовых отпечатках. Искусственный интеллект уже может достаточно реалистично имитировать речь людей, однако алгоритмы имеют отличительные артефакты, по которым аналитики могут определить подделку.

Разработанная исследователями техника направлена на устранение этих особенностей. Идея заключается в том, чтобы "выгравировать" отпечаток голоса пользователя в поддельной записи.

"Наш состязательный механизм пытается удалить машинные артефакты, которые преобладают в этих образцах", — говорится в работе.

Исследователи обучили систему на образцах речи 107 дикторов для лучшего понимания, что заставляет речь звучать по-человечески. Для проверки алгоритма они создали несколько образцов, чтобы обмануть системы аутентификации. Против некоторых слабых систем они добились 99% после шести попыток.

Однако более сильные аутентификаторы оказались надежнее. В тесте против Amazon Connect ученые достигли 10% успеха при четырехсекундной атаке и 40% — менее чем за 30 секунд.

Также исследователи отметили, что для осуществления атаки злоумышленникам необходим образец голоса жертвы, а также соответствующие технические навыки. Это достаточно высокий барьер, однако они призвали разработчиков систем аутентификации работать над совершенствованием защиты своих технологий.

Источник: The Register.