Meta hat eine Methode entwickelt, um Wasserzeichen in Sprache einzubetten, die von künstlicher Intelligenz erzeugt wird.

Meta hat ein neues System namens AudioSeal entwickelt, mit dem versteckte Signale, so genannte Wasserzeichen, in Audioclips eingebettet werden können, die von künstlicher Intelligenz erstellt wurden.

Was bekannt ist

Die neue Technologie könnte dazu beitragen, die Verbreitung von Fehlinformationen und Betrug mit Hilfe von Stimmenklonen zu bekämpfen. Sie kann zum Beispiel anzeigen, welche Teile des Audiomaterials eines einstündigen Podcasts von künstlicher Intelligenz erzeugt wurden. Obwohl Wasserzeichen noch nicht weit verbreitet sind und es keinen gemeinsamen Industriestandard gibt, hat das Meta-Team eine Erkennungsgenauigkeit für Wasserzeichen von 90 bis 100 Prozent erreicht, was eine erhebliche Verbesserung gegenüber früheren Versuchen darstellt. Gleichzeitig plant Meta noch nicht, mit seinen Tools erstellte Audiodateien mit Wasserzeichen zu versehen. Darüber hinaus können Wasserzeichen für KI-generierte Inhalte oft leicht manipuliert oder entfernt werden.

AudioSeal ist auf GitHub verfügbar und kann verwendet werden, um Wasserzeichen zu KI-generierten Audioclips hinzuzufügen. In Zukunft kann es in KI-Audio-Generierungsmodelle integriert werden, um es automatisch auf die gesamte generierte Sprache anzuwenden. Die Arbeit an diesem System wird im Juli auf der International Machine Learning Conference in Wien, Österreich, vorgestellt werden.

Quelle: TechnologyReview