ElevenLabs заблокувала акаунт, який підробив голос Байдена для дезінформації виборців
Gage Skidmore/Flickr
ШІ-компанія ElevenLabs, що спеціалізується на клонуванні голосу, заблокувала акаунт, з якого було створено підроблені аудіозаписи голосу президента США Джо Байдена.
Що відомо
Ці записи використовувалися в передвиборчих телефонних дзвінках виборцям для дезінформації та придушення явки. Експертиза Pindrop підтвердила, що для імітації голосу Байдена застосовувалися саме технології ElevenLabs.
Компанія заявила, що розслідує інцидент і не потерпить використання своїх інструментів ШІ в протизаконних цілях. Однак експерти зазначають, що стартапам, які працюють у сфері генерації контенту, необхідно активніше боротися зі зловживаннями.
На думку фахівців, цей інцидент лише верхівка айсберга. Глибокі фейки на основі ШІ можуть стати серйозною загрозою для демократичних процесів, включно з майбутніми президентськими виборами у США.
Для тих, хто хоче знати більше:
Джерело: Engadget
