ElevenLabs заблокировала аккаунт, который подделал голос Байдена для дезинформации избирателей
Gage Skidmore/Flickr
ElevenLabs, una empresa de inteligencia artificial especializada en la clonación de voces, ha bloqueado la cuenta desde la que se crearon grabaciones de audio falsas de la voz del presidente de EE.UU. Joe Biden.
Esto es lo que sabemos
Las grabaciones se utilizaron en llamadas telefónicas preelectorales a los votantes para desinformar y suprimir la participación. El peritaje de Pindrop confirmó que fue la tecnología de ElevenLabs la que se utilizó para imitar la voz de Biden.
La empresa dijo que está investigando el incidente y que no tolerará el uso de sus herramientas de IA con fines ilegales. Sin embargo, los expertos señalan que las startups que trabajan en el campo de la generación de contenidos deben ser más activas en la lucha contra los abusos.
Según los expertos, este incidente es solo la punta del iceberg. Las falsificaciones basadas en IA profunda podrían convertirse en una grave amenaza para los procesos democráticos, incluidas las próximas elecciones presidenciales en Estados Unidos.
Profundice:
Fuente: Engadget