En falsk telefonsamtale på vegne av Biden som oppfordret ham til ikke å stemme på Demokratene i det amerikanske valget, viste seg å være falsk.

Patrick Semansky/AP

Desinformasjonseksperter mener at en nylig automatisert telefonsamtale på vegne av USAs president Joe Biden, som oppfordret velgerne i New Hampshire til ikke å stemme i demokratenes primærvalg, sannsynligvis er en fake generert av kunstig intelligens.

Dette er hva vi vet

Ifølge eksperter tyder den unaturlige taletempoet i lydopptaket på dette. I tillegg er moderne nevrale nettverk for talegenerering i stand til å imitere stemmene til ekte mennesker, inkludert politikere, fra små lydprøver med høy nøyaktighet.

Eksperter bemerker at dipfake-teknologier ikke er regulert og kan brukes til skade for dem. For eksempel er denne forfalskningen et forsøk på å undertrykke velgernes stemmer, noe som er forbudt i henhold til amerikansk føderal lov.

Senator Richard Blumenthal, som har fremmet et lovforslag i Senatet om å regulere kunstig intelligens, håper at hendelsen vil sette søkelyset på truslene fra desinformasjon basert på dipfakes.

"Jeg håper at Biden deepfake, eller imitasjonen, faktisk vil være et sjokk for systemet og kanskje varsle alle om at alle faktisk er i faresonen", sier han.

Påtalemyndigheten i New Hampshire kalte telefonsamtalen et tilsynelatende "ulovlig forsøk" på å hindre velgerne i å stemme på Biden i demokratenes primærvalg. De kunne imidlertid ikke oppgi hvor lydopptaket stammer fra.

Dipfakes har ikke tidligere blitt brukt til å forstyrre amerikanske valgprosesser, noe som ikke er tilfellet med robotsamtaler. Ifølge Mekela Panditharatne ved New York University har de historisk sett blitt brukt av juksemakere til å spre falsk informasjon om hvordan, når og hvor man skal stemme.

"Stemmegenererende AI kan potensielt gjøre denne metoden for å undertrykke stemmegivningen mer attraktiv for svindlere", legger hun til.

Kilde: NBC