Der KI-Chef des Weißen Hauses nannte das "Klonen von Stimmen" als große regulatorische Herausforderung

Der stellvertretende Stabschef des Weißen Hauses, Bruce Reed, hat erklärt, dass die KI-Technologie des "Stimmenklonens" ein großes Problem für die Regulierungsbehörden darstellt.

Was bekannt ist

Er sagte, die Gesellschaft habe noch nicht erkannt, wie sehr eine perfekte, gefälschte menschliche Stimme unser Leben beeinflussen könne. Die Menschen werden Anrufen nicht mehr trauen, wenn sie nicht sicher sind, dass die Stimme echt ist, glaubt Reid.

Schon jetzt nutzen Betrüger die Technologie für glaubhaftere Betrügereien. Nach Angaben der FTC gibt es in den USA immer mehr Fälle, in denen Betrüger im Namen von in Not geratenen Angehörigen anrufen.

Analysten des Cybersecurity-Unternehmens McAfee sagen, dass eine Probe von 3 bis 4 Sekunden ausreicht, um eine überzeugende Stimmenfälschung zu erzeugen.

Gleichzeitig setzt der Bürgermeister von New York City, Eric Adams, KI ein, um Einwohner in Sprachen anzurufen, die er nicht spricht. Seiner Meinung nach kann er so mehr Menschen erreichen.

Experten sind jedoch der Meinung, dass dies eher irreführend ist und klare Regeln für den Einsatz solcher Technologien erforderlich sind.

Es gibt auch bereits Plattformen zum Klonen von Stimmen, die es ermöglichen, mit wenigen Klicks eine falsche Stimme zu erzeugen. Dazu gehört ElevenLabs, das kurz nach dem Start der Beta-Version mit verschiedenen Betrugsfällen konfrontiert wurde.

Für diejenigen, die mehr wissen wollen

• Der Bürgermeister von New York City nutzt KI, um Roboteranrufe in Sprachen zu tätigen, die er nicht beherrscht
• Der Stimmerzeugungsdienst von ElevenLabs ist aus der Beta-Phase herausgekommen und unterstützt nun 30 Sprachen

Quelle: Business Insider