Google lanserer SynthID Text-teknologi for merking av AI-generert tekst

Google har avduket SynthID Text, en teknologi som gjør det mulig for utviklere å legge til vannmerker og oppdage tekst som er skapt av generative AI-modeller. SynthID Text er tilgjengelig for nedlasting på Hugging Face-plattformen og i Googles oppdaterte Responsible GenAI Toolkit.

Dette er hva vi vet

Teknologien fungerer ved å endre sannsynligheten for tokengenerering, noe som skaper et unikt mønster som fungerer som et vannmerke. Dette mønsteret bidrar til å avgjøre om teksten er skapt av AI eller andre kilder.

Google hevder at kvaliteten, nøyaktigheten og hastigheten på tekstgenereringen ikke blir dårligere selv om teksten har blitt endret eller oversatt. Teknologien har imidlertid begrensninger, spesielt når det gjelder korte tekster eller svar på faktaspørsmål. I fremtiden er det mulig å innføre obligatoriske vannmerker for AI-generert innhold, slik man allerede har gjort i Kina.

Denne innovasjonen er viktig, for ifølge en rapport fra EUs byrå for rettshåndhevelse kan opptil 90 prosent av innholdet på nettet være skapt av kunstig intelligens innen 2026, noe som vil skape nye utfordringer for politimyndighetene når det gjelder feilinformasjon, propaganda, svindel og bedrag. Studien viser at allerede i dag kan rundt 60 prosent av alle tekster på internett være produsert av kunstig intelligens, drevet av den utstrakte bruken av AI-oversettere.

Kilde: @GoogleDeepMind @GoogleDeepMind, Tech Crunch