ElevenLabs заблокировала аккаунт, который подделал голос Байдена для дезинформации избирателей

ElevenLabs, ein auf das Klonen von Stimmen spezialisiertes KI-Unternehmen, hat das Konto gesperrt, von dem aus gefälschte Audioaufnahmen der Stimme von US-Präsident Joe Biden erstellt wurden.

Was bekannt ist

Die Aufnahmen wurden in Telefonanrufen vor den Wahlen an die Wähler verwendet, um diese falsch zu informieren und die Wahlbeteiligung zu unterdrücken. Die Expertise von Pindrop bestätigte, dass es sich um die Technologie von ElevenLabs handelte, die zur Imitation von Bidens Stimme verwendet wurde.

Das Unternehmen erklärte, es untersuche den Vorfall und werde die Verwendung seiner KI-Tools für illegale Zwecke nicht tolerieren. Experten weisen jedoch darauf hin, dass Startups, die im Bereich der Inhaltserstellung tätig sind, aktiver gegen Missbrauch vorgehen müssen.

Nach Ansicht von Experten ist dieser Vorfall nur die Spitze des Eisbergs. Deep AI-basierte Fälschungen könnten zu einer ernsthaften Bedrohung für demokratische Prozesse werden, auch für die bevorstehenden US-Präsidentschaftswahlen.

Für diejenigen, die mehr wissen wollen

• Ein gefälschter Anruf im Namen von Biden, der ihn aufforderte, bei der US-Wahl nicht für die Demokraten zu stimmen, stellte sich als Fälschung heraus

Quelle: Engadget