ElevenLabs заблокировала аккаунт, который подделал голос Байдена для дезинформации избирателей

ElevenLabs, et AI-selskap som spesialiserer seg på stemmekloning, har blokkert kontoen som ble brukt til å lage falske lydopptak av den amerikanske presidenten Joe Bidens stemme.

Dette er hva vi vet

Opptakene ble brukt i telefonsamtaler med velgere før valget for å feilinformere og undertrykke valgdeltakelsen. Pindrops ekspertise bekreftet at det var ElevenLabs' teknologi som ble brukt til å imitere Bidens stemme.

Selskapet opplyser at det undersøker hendelsen og ikke vil tolerere at AI-verktøyene deres brukes til ulovlige formål. Eksperter påpeker imidlertid at oppstartsbedrifter som jobber med innholdsgenerering, må være mer aktive i kampen mot misbruk.

Ifølge ekspertene er denne hendelsen bare toppen av isfjellet. Dype AI-baserte forfalskninger kan bli en alvorlig trussel mot demokratiske prosesser, inkludert det kommende presidentvalget i USA.

Gå dypere:

• En falsk telefonsamtale på vegne av Biden som oppfordret ham til ikke å stemme på Demokratene i det amerikanske valget, viste seg å være en dipfake.

Kilde: Engadget Engadget