Руководитель по ИИ Белого дома назвал "клонирование голоса" одной из главных проблем регулирования

Заместитель руководителя аппарата Белого дома Брюс Рид (Bruce Reed) заявил, что технология "клонирования голоса" с помощью ИИ является одной из главных проблем для регуляторов.

Что известно

По его словам, общество еще не осознало, насколько сильно идеальная подделка человеческого голоса может повлиять на нашу жизнь. Люди перестанут доверять звонкам, если не будут уверены, что голос настоящий, считает Рид.

Уже сейчас мошенники используют технологии для более правдоподобных афер. По данным FTC, в США участились случаи, когда аферисты звонят жертвам от имени родственников, попавших в беду. 

Аналитики из фирмы McAfee, занимающаяся вопросами кибербезопасности, утверждают, что для создания убедительной подделки голоса достаточно 3-4 секунд образца.

В то же время мэр Нью-Йорка Эрик Адамс (Eric Adams) с помощью ИИ звонит жителям на языках, которыми не владеет. По его словам, это позволяет охватить больше людей. 

Однако эксперты полагают, что это скорее вводит в заблуждение и требует четких правил использования подобных технологий.

Также сейчас уже существуют платформы для клонирования голоса, которые позволяют в несколько кликов создать подделку. Среди них ElevenLabs, которая вскоре после выхода из бета-версии столкнулась с разными случаями мошенничества.

Для тех, кто хочет знать больше:

• Мэр Нью-Йорка использует ИИ для робозвонков на незнакомых ему языках
• Сервис для генерации голоса ElevenLabs вышел из беты и получил поддержку 30 языков

Источник: Business Insider