ElevenLabs заблокировала аккаунт, который подделал голос Байдена для дезинформации избирателей
Gage Skidmore/Flickr
ElevenLabs, et AI-selskap som spesialiserer seg på stemmekloning, har blokkert kontoen som ble brukt til å lage falske lydopptak av den amerikanske presidenten Joe Bidens stemme.
Dette er hva vi vet
Opptakene ble brukt i telefonsamtaler med velgere før valget for å feilinformere og undertrykke valgdeltakelsen. Pindrops ekspertise bekreftet at det var ElevenLabs' teknologi som ble brukt til å imitere Bidens stemme.
Selskapet opplyser at det undersøker hendelsen og ikke vil tolerere at AI-verktøyene deres brukes til ulovlige formål. Eksperter påpeker imidlertid at oppstartsbedrifter som jobber med innholdsgenerering, må være mer aktive i kampen mot misbruk.
Ifølge ekspertene er denne hendelsen bare toppen av isfjellet. Dype AI-baserte forfalskninger kan bli en alvorlig trussel mot demokratiske prosesser, inkludert det kommende presidentvalget i USA.
Gå dypere:
Kilde: Engadget Engadget
