Kunstig intelligens har lært seg å forfalske stemmer for å lure autentiseringssystemer.

Forskere fra University of Waterloo i Canada har utviklet en metode for stemmeforfalskning ved hjelp av kunstig intelligens som gjør det mulig å omgå stemmeautentisering.

Hva vi vet

Stemmeautentisering er basert på det unike ved hver enkelt persons stemme. Denne påvirkes av fysiske egenskaper, som størrelse og form på stemmebånd og strupehode, samt sosiale faktorer.

Autentiseringssystemer fanger opp nyansene i stemmeavtrykkene. Kunstig intelligens kan allerede imitere menneskelig tale ganske realistisk, men algoritmene har særegne artefakter som analytikere kan bruke til å identifisere en forfalskning.

Teknikken som forskerne har utviklet, tar sikte på å eliminere disse trekkene. Ideen er å "inngravere" brukerens stemmeavtrykk i det falske opptaket.

"Vår kontradiktoriske mekanisme forsøker å fjerne de maskinelle artefaktene som er utbredt i disse prøvene", heter det i artikkelen.

Forskerne trente systemet på taleprøver fra 107 høyttalere for å få en bedre forståelse av hva som får tale til å høres menneskelig ut. For å teste algoritmen skapte de flere eksempler for å lure autentiseringssystemer. Mot noen svake systemer oppnådde de 99 % etter seks forsøk.

Sterkere autentiseringssystemer viste seg imidlertid å være mer pålitelige. I en test mot Amazon Connect oppnådde forskerne en suksessrate på 10 % på fire sekunder og 40 % på mindre enn 30 sekunder.

Forskerne bemerket også at angriperne trenger en prøve av offerets stemme og de nødvendige tekniske ferdighetene for å utføre angrepet. Dette er en ganske høy barriere, men de oppfordret utviklere av autentiseringssystemer til å jobbe med å forbedre sikkerheten i teknologiene sine.

Kilde: The Register: The Register.