Kunstmatige intelligentie heeft geleerd stemmen te vervalsen om verificatiesystemen te misleiden

Wetenschappers van de Universiteit van Waterloo in Canada hebben met behulp van kunstmatige intelligentie een methode ontwikkeld om stemverificatie te omzeilen.

Wat we weten

Stemverificatie is gebaseerd op de uniekheid van de stem van elke persoon. Deze wordt beïnvloed door fysieke kenmerken, zoals de grootte en vorm van de stembanden en het strottenhoofd, maar ook door sociale factoren.

Authenticatiesystemen leggen de nuances in stemafdrukken vast. Kunstmatige intelligentie kan menselijke spraak al vrij realistisch nabootsen, maar algoritmen hebben kenmerkende artefacten die analisten kunnen gebruiken om een vervalsing te identificeren.

De techniek die de onderzoekers hebben ontwikkeld is erop gericht om deze kenmerken te elimineren. Het idee is om de stemafdruk van de gebruiker in de valse opname te "graveren ".

"Ons tegenwerkende mechanisme probeert de machinale artefacten te verwijderen die veel voorkomen in deze samples", aldus het artikel.

De onderzoekers trainden het systeem op spraakvoorbeelden van 107 sprekers om beter te begrijpen wat spraak menselijk laat klinken. Om het algoritme te testen, creëerden ze verschillende samples om verificatiesystemen voor de gek te houden. Tegen sommige zwakke systemen bereikten ze 99% na zes pogingen.

Sterkere authenticatiesystemen bleken echter betrouwbaarder. In een test tegen Amazon Connect bereikten de onderzoekers een succespercentage van 10% in een aanval van vier seconden en 40% in minder dan 30 seconden.

De onderzoekers merkten ook op dat aanvallers een voorbeeld van de stem van het slachtoffer en de juiste technische vaardigheden nodig hebben om de aanval uit te voeren. Dit is een vrij hoge barrière, maar ze drongen er bij de ontwikkelaars van authenticatiesystemen op aan om te werken aan het verbeteren van de beveiliging van hun technologieën.

Bron: The Register.