Een nep-robotoproep namens Biden om hem aan te sporen niet op de Democraten te stemmen tijdens de Amerikaanse verkiezingen bleek een dipfake te zijn

Desinformatie-experts geloven dat een recent geautomatiseerd telefoontje namens de Amerikaanse president Joe Biden, waarin kiezers in New Hampshire werden opgeroepen om niet te stemmen in de Democratische voorverkiezing, waarschijnlijk een door kunstmatige intelligentie gegenereerde dipfake is.

Dit is wat we weten

Volgens experts blijkt dit uit de onnatuurlijke cadans van de spraak in de geluidsopname. Bovendien zijn moderne neurale netwerken voor het genereren van spraak in staat om de stemmen van echte mensen, waaronder politici, met grote nauwkeurigheid na te bootsen op basis van kleine geluidsfragmenten.

Experts merken op dat dipfake technologieën niet gereguleerd zijn en in hun nadeel gebruikt kunnen worden. Deze spoofing is bijvoorbeeld een poging om de stemmen van kiezers te onderdrukken, wat verboden is volgens de Amerikaanse federale wetgeving.

Senator Richard Blumenthal, die in de Senaat een wetsvoorstel heeft ingediend om AI te reguleren, hoopt dat het incident de aandacht van het publiek zal vestigen op de dreigingen van desinformatie op basis van dipfakes.

"Ik hoop dat de Biden deepfake, of imitatie, een schok voor het systeem zal zijn en misschien iedereen zal waarschuwen dat in feite iedereen gevaar loopt", zei hij.

Openbare aanklagers in New Hampshire noemden de oproep een duidelijke "illegale poging" om kiezers ervan te weerhouden hun stem uit te brengen op Biden in de Democratische voorverkiezing. Ze konden echter niet zeggen waar de geluidsopname vandaan kwam.

Dipfakes zijn nog niet eerder gebruikt om het verkiezingsproces in de VS te verstoren, wat niet het geval is met robotoproepen. Volgens Mekela Panditharatne van de New York University werden ze in het verleden gebruikt door bedriegers om valse informatie te verspreiden over hoe, wanneer en waar te stemmen.

"Voice-generation AI maakt die methode van stemonderdrukking mogelijk aantrekkelijker voor fraudeurs", voegde ze eraan toe.

Bron: NBC