Google lanza la tecnología SynthID Text para etiquetar texto generado por IA

Google ha presentado SynthID Text, una tecnología que permite a los desarrolladores añadir marcas de agua y descubrir textos creados por modelos generativos de IA. SynthID Text está disponible para su descarga en la plataforma Hugging Face y en el kit de herramientas GenAI responsable actualizado de Google.

Esto es lo que sabemos

La tecnología funciona cambiando la probabilidad de generación de tokens, lo que crea un patrón único que sirve como marca de agua. Este patrón ayuda a determinar si el texto ha sido creado por la IA o por otras fuentes.

Google asegura que la calidad, precisión y velocidad de generación de texto no se resiente aunque el texto haya sido alterado o traducido. Sin embargo, la tecnología tiene limitaciones, especialmente cuando se trata de textos cortos o respuestas a preguntas objetivas. En el futuro, es posible introducir marcas de agua obligatorias para los contenidos generados por IA, como ya se ha hecho en China.

Esta innovación es importante porque, según un informe de la Agencia de Aplicación de la Ley de la Unión Europea, hasta el 90% de los contenidos en línea podrían ser creados por la IA para 2026, lo que provocaría nuevos retos para las fuerzas de seguridad en relación con la desinformación, la propaganda, el fraude y el engaño. El estudio muestra que ya hoy en día alrededor del 60% de todos los textos en Internet pueden ser producidos por la inteligencia artificial, impulsada por el uso generalizado de traductores de IA.

Fuente: @GoogleDeepMind, Tech Crunch