ElevenLabs заблокировала аккаунт, который поделал голос Байдена для дезинформации избирателей

ElevenLabs, una società di intelligenza artificiale specializzata nella clonazione vocale, ha bloccato l'account da cui sono state create false registrazioni audio della voce del presidente degli Stati Uniti Joe Biden.

Ecco cosa sappiamo

Le registrazioni sono state utilizzate nelle telefonate pre-elettorali agli elettori per disinformare e sopprimere l'affluenza alle urne. L'esperienza di Pindrop ha confermato che la tecnologia ElevenLabs è stata utilizzata per imitare la voce di Biden.

L'azienda ha dichiarato che sta indagando sull'incidente e che non tollererà l'uso dei suoi strumenti di intelligenza artificiale per scopi illegali. Tuttavia, gli esperti osservano che le startup che lavorano nel campo della generazione di contenuti devono essere più attive nel combattere gli abusi.

Secondo gli esperti, questo incidente è solo la punta dell'iceberg. I falsi basati sull'intelligenza artificiale profonda potrebbero diventare una seria minaccia per i processi democratici, comprese le prossime elezioni presidenziali statunitensi.

Approfondisci:

• Una falsa telefonata a nome di Biden che lo esortava a non votare per i democratici alle elezioni americane si è rivelata un dipfake

Fonte: Engadget