De AI-chef van het Witte Huis noemt 'stem klonen' als een grote uitdaging op het gebied van regelgeving
Growtika/Unsplash
Bruce Reed, plaatsvervangend stafchef van het Witte Huis, heeft gezegd dat AI-technologie voor het "klonen van stemmen" een grote zorg is voor regelgevers.
Dit is wat we weten
Hij zei dat de maatschappij zich nog niet heeft gerealiseerd hoezeer een perfecte menselijke nepstem ons leven kan beïnvloeden. Mensen zullen oproepen niet meer vertrouwen tenzij ze zeker weten dat de stem echt is, denkt Reid.
Nu al gebruiken oplichters technologie om hun oplichting geloofwaardiger te maken. Volgens de FTC is er in de VS een toename van het aantal gevallen van oplichters die slachtoffers bellen uit naam van familieleden in nood.
Analisten van cyberbeveiligingsbedrijf McAfee zeggen dat een voorbeeld van 3-4 seconden genoeg is om een overtuigende stemvervalsing te creëren.
Tegelijkertijd gebruikt de burgemeester van New York, Eric Adams, AI om inwoners te bellen in talen die hij niet spreekt. Volgens hem kan hij zo meer mensen bereiken.
Volgens experts is dit echter nogal misleidend en zijn er duidelijke regels nodig voor het gebruik van dergelijke technologieën.
Er bestaan nu ook al platforms voor het klonen van stemmen waarmee je in een paar klikken een nepstem kunt creëren. Een van hen is ElevenLabs, dat kort nadat het uit bèta kwam te maken kreeg met verschillende fraudegevallen.
Ga dieper:
- De burgemeester van New York gebruikt AI om op te roepen in talen die hij niet kent
- ElevenLabs spraakgeneratieservice is uit bèta en ondersteunt nu 30 talen
Bron: Business Insider
