ElevenLabs заблокировала аккаунт, который подделал голос Байдена для дезинформации избирателей

Gage Skidmore/Flickr

ИИ-компания ElevenLabs, специализирующаяся на клонировании голоса, заблокировала аккаунт, с которого были созданы поддельные аудиозаписи голоса президента США Джо Байдена.

Что известно

Эти записи использовались в предвыборных телефонных звонках избирателям для дезинформации и подавления явки. Экспертиза Pindrop подтвердила, что для имитации голоса Байдена применялись именно технологии ElevenLabs.

Компания заявила, что расследует инцидент и не потерпит использования своих инструментов ИИ в противозаконных целях. Однако эксперты отмечают, что стартапам, работающим в сфере генерации контента, необходимо активнее бороться со злоупотреблениями.

По мнению специалистов, данный инцидент лишь верхушка айсберга. Глубокие фейки на основе ИИ могут стать серьезной угрозой для демократических процессов, включая предстоящие президентские выборы в США.

Для тех, кто хочет знать больше:

• Поддельный робозвонок от имени Байдена с призывом не голосовать за демократов на выборах в США оказался дипфейком

Источник: Engadget