Google lance la technologie SynthID Text pour étiqueter les textes générés par l'IA

Google a dévoilé SynthID Text, une technologie qui permet aux développeurs d'ajouter des filigranes et de découvrir des textes créés par des modèles d'IA générative. SynthID Text peut être téléchargé sur la plateforme Hugging Face et dans la boîte à outils GenAI responsable mise à jour par Google.

Ce que nous savons

La technologie fonctionne en modifiant la probabilité de génération de jetons, ce qui crée un motif unique qui sert de filigrane. Ce motif permet de déterminer si le texte a été créé par l'IA ou par d'autres sources.

Google affirme que la qualité, la précision et la vitesse de génération du texte n'en pâtissent pas, même si le texte a été modifié ou traduit. Toutefois, la technologie a ses limites, surtout lorsqu'il s'agit de textes courts ou de réponses à des questions factuelles. À l'avenir, il est possible d'introduire des filigranes obligatoires pour le contenu généré par l'IA, comme cela a déjà été fait en Chine.

Cette innovation est importante car, selon un rapport de l'Agence européenne pour l'application des lois, jusqu'à 90 % du contenu en ligne pourrait être créé par l'IA d'ici à 2026, ce qui poserait de nouveaux défis aux services répressifs en matière de désinformation, de propagande, de fraude et de tromperie. L'étude montre qu'aujourd'hui déjà, environ 60 % de tous les textes sur l'internet peuvent être produits par l'intelligence artificielle, grâce à l'utilisation généralisée des traducteurs d'IA.

Source : @GoogleDeepMind @GoogleDeepMind, Tech Crunch