AI-sjefen i Det hvite hus nevner "stemmekloning" som en stor regulatorisk utfordring
Growtika/Unsplash
Bruce Reed, assisterende stabssjef i Det hvite hus, har sagt at AI-teknologi for "stemmekloning" er et stort problem for tilsynsmyndighetene.
Dette er hva vi vet
Han sa at samfunnet ennå ikke har innsett hvor mye en perfekt falsk menneskestemme kan påvirke livene våre. Folk vil slutte å stole på samtaler med mindre de er sikre på at stemmen er ekte, mener Reid.
Svindlere bruker allerede teknologi for å gjøre svindelforsøkene mer troverdige. Ifølge FTC har det vært en økning i antall tilfeller i USA der svindlere ringer ofre på vegne av pårørende i nød.
Analytikere i cybersikkerhetsfirmaet McAfee sier at 3-4 sekunder er nok til å skape en overbevisende falsk stemme.
Samtidig bruker New Yorks borgermester Eric Adams kunstig intelligens til å ringe innbyggere på språk han ikke snakker. Ifølge ham selv gjør dette at han kan nå ut til flere mennesker.
Eksperter mener imidlertid at dette er ganske misvisende og krever klare regler for bruk av slik teknologi.
Det finnes også allerede nå stemmekloningsplattformer som lar deg lage en falsk stemme med noen få klikk. Blant dem er ElevenLabs, som ble utsatt for flere tilfeller av svindel kort tid etter at de kom ut av betaversjonen.
Gå dypere:
- New Yorks borgermester bruker kunstig intelligens til å ringe opp på språk han ikke kan
- ElevenLabs stemmegenereringstjeneste har kommet ut av betaversjonen og har fått støtte for 30 språk.
Kilde: Business Insider Business Insider