ElevenLabs заблокувала акаунт, який підробив голос Байдена для дезінформації виборців

ШІ-компанія ElevenLabs, що спеціалізується на клонуванні голосу, заблокувала акаунт, з якого було створено підроблені аудіозаписи голосу президента США Джо Байдена.

Що відомо

Ці записи використовувалися в передвиборчих телефонних дзвінках виборцям для дезінформації та придушення явки. Експертиза Pindrop підтвердила, що для імітації голосу Байдена застосовувалися саме технології ElevenLabs.

Компанія заявила, що розслідує інцидент і не потерпить використання своїх інструментів ШІ в протизаконних цілях. Однак експерти зазначають, що стартапам, які працюють у сфері генерації контенту, необхідно активніше боротися зі зловживаннями.

На думку фахівців, цей інцидент лише верхівка айсберга. Глибокі фейки на основі ШІ можуть стати серйозною загрозою для демократичних процесів, включно з майбутніми президентськими виборами у США.

Для тих, хто хоче знати більше:

• Підроблений рободзвінок від імені Байдена із закликом не голосувати за демократів на виборах у США виявився діпфейком

Джерело: Engadget