Google lancia la tecnologia SynthID Text per l'etichettatura del testo generato dall'IA

Google ha presentato SynthID Text, una tecnologia che consente agli sviluppatori di aggiungere filigrane e scoprire testi creati da modelli di intelligenza artificiale generativa. SynthID Text è disponibile per il download sulla piattaforma Hugging Face e nel toolkit Responsible GenAI aggiornato di Google.

Ecco cosa sappiamo

La tecnologia funziona modificando la probabilità di generazione dei token, creando un modello unico che funge da filigrana. Questo modello aiuta a determinare se il testo è stato creato dall'IA o da altre fonti.

Google sostiene che la qualità, l'accuratezza e la velocità di generazione del testo non ne risentono anche se il testo è stato alterato o tradotto. Tuttavia, la tecnologia presenta dei limiti, soprattutto quando si tratta di testi brevi o di risposte a domande concrete. In futuro, è possibile introdurre filigrane obbligatorie per i contenuti generati dall'intelligenza artificiale, come è già stato fatto in Cina.

Questa innovazione è importante perché, secondo un rapporto dell'Agenzia dell'Unione Europea per l'applicazione della legge, entro il 2026 fino al 90% dei contenuti online potrebbe essere creato dall'IA, provocando nuove sfide per le forze dell'ordine in relazione a disinformazione, propaganda, frode e inganno. Lo studio mostra che già oggi circa il 60% di tutti i testi presenti su Internet può essere prodotto dall'intelligenza artificiale, grazie all'uso diffuso di traduttori AI.

Fonte: @GoogleDeepMind, Tech Crunch