ElevenLabs заблокировала аккаунт, который подделал голос Байдена для дезинформации избирателей
Gage Skidmore/Flickr
ElevenLabs, een AI-bedrijf dat gespecialiseerd is in het klonen van stemmen, heeft het account geblokkeerd van waaruit valse audio-opnames van de stem van de Amerikaanse president Joe Biden zijn gemaakt.
Dit is wat we weten
De opnames werden gebruikt in telefoongesprekken voor de verkiezingen om kiezers verkeerd te informeren en de opkomst te onderdrukken. De expertise van Pindrop bevestigde dat het de technologie van ElevenLabs was die werd gebruikt om de stem van Biden na te bootsen.
Het bedrijf zei dat het het incident onderzoekt en het gebruik van zijn AI-tools voor illegale doeleinden niet zal tolereren. Deskundigen merken echter op dat startups die actief zijn op het gebied van het genereren van content actiever moeten zijn in het bestrijden van misbruik.
Volgens experts is dit incident slechts het topje van de ijsberg. Op diepe AI gebaseerde vervalsingen zouden een ernstige bedreiging kunnen vormen voor democratische processen, waaronder de komende Amerikaanse presidentsverkiezingen.
Ga dieper:
Bron: Engadget
