Google führt SynthID Text-Technologie zur Kennzeichnung von KI-generiertem Text ein

Google hat SynthID Text vorgestellt, eine Technologie, die es Entwicklern ermöglicht, Wasserzeichen hinzuzufügen und Text zu entdecken, der von generativen KI-Modellen erstellt wurde. SynthID Text steht auf der Hugging Face-Plattform und in Googles aktualisiertem Responsible GenAI Toolkit zum Download bereit.

Was bekannt ist

Die Technologie funktioniert, indem sie die Wahrscheinlichkeit der Tokengenerierung ändert, wodurch ein einzigartiges Muster entsteht, das als Wasserzeichen dient. Anhand dieses Musters lässt sich feststellen, ob der Text von KI oder anderen Quellen erstellt wurde.

Google behauptet, dass die Qualität, Genauigkeit und Geschwindigkeit der Texterstellung nicht leidet, selbst wenn der Text verändert oder übersetzt wurde. Allerdings hat die Technologie ihre Grenzen, vor allem bei kurzen Texten oder Antworten auf Sachfragen. In Zukunft ist es möglich, obligatorische Wasserzeichen für KI-generierte Inhalte einzuführen, wie es in China bereits geschehen ist.

Diese Innovation ist wichtig, da laut einem Bericht der Strafverfolgungsbehörde der Europäischen Union bis zum Jahr 2026 bis zu 90 Prozent der Online-Inhalte von KI erstellt werden könnten, was die Strafverfolgungsbehörden vor neue Herausforderungen in Bezug auf Fehlinformationen, Propaganda, Betrug und Täuschung stellt. Die Studie zeigt, dass bereits heute rund 60 Prozent aller Texte im Internet durch künstliche Intelligenz erstellt werden können, was auf den weit verbreiteten Einsatz von KI-Übersetzern zurückzuführen ist.

Quelle: @GoogleDeepMind, Tech Crunch