Google lanserar SynthID Text-teknik för märkning av AI-genererad text

Google har presenterat SynthID Text, en teknik som gör det möjligt för utvecklare att lägga till vattenstämplar och upptäcka text som skapats av generativa AI-modeller. SynthID Text finns tillgänglig för nedladdning på Hugging Face-plattformen och i Googles uppdaterade Responsible GenAI Toolkit.

Här är vad vi vet

Tekniken fungerar genom att ändra sannolikheten för tokengenerering, vilket skapar ett unikt mönster som fungerar som en vattenstämpel. Detta mönster hjälper till att avgöra om texten skapats av AI eller andra källor.

Google hävdar att kvaliteten, noggrannheten och hastigheten i textgenereringen inte påverkas även om texten har ändrats eller översatts. Tekniken har dock begränsningar, särskilt när det handlar om korta texter eller svar på faktafrågor. I framtiden är det möjligt att införa obligatoriska vattenstämplar för AI-genererat innehåll, vilket redan har gjorts i Kina.

Denna innovation är viktig eftersom

Den här innovationen är viktig eftersom, enligt en rapport från Europeiska unionens byrå för brottsbekämpning, upp till 90 procent av onlineinnehållet kan skapas av AI år 2026, vilket innebär nya utmaningar för brottsbekämpande myndigheter när det gäller felaktig information, propaganda, bedrägeri och vilseledande. Studien visar att redan idag kan cirka 60 procent av alla texter på internet produceras av artificiell intelligens, drivet av den utbredda användningen av AI-översättare.

Källa: @GoogleDeepMind, Tech Crunch