Google lanserar SynthID Text-teknik för märkning av AI-genererad text
Google har presenterat SynthID Text, en teknik som gör det möjligt för utvecklare att lägga till vattenstämplar och upptäcka text som skapats av generativa AI-modeller. SynthID Text finns tillgänglig för nedladdning på Hugging Face-plattformen och i Googles uppdaterade Responsible GenAI Toolkit.
Här är vad vi vet
Tekniken fungerar genom att ändra sannolikheten för tokengenerering, vilket skapar ett unikt mönster som fungerar som en vattenstämpel. Detta mönster hjälper till att avgöra om texten skapats av AI eller andra källor.
Idag gör vi vårt vattenmärkningsverktyg SynthID öppet tillgängligt genom en uppdaterad Responsible Generative AI Toolkit.
- Google DeepMind (@GoogleDeepMind) 23 oktober 2024
Det är fritt tillgängligt för utvecklare och företag och hjälper dem att identifiera sitt AI-genererade innehåll. ????
Få reda på mer → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y
Google hävdar att kvaliteten, noggrannheten och hastigheten i textgenereringen inte påverkas även om texten har ändrats eller översatts. Tekniken har dock begränsningar, särskilt när det handlar om korta texter eller svar på faktafrågor. I framtiden är det möjligt att införa obligatoriska vattenstämplar för AI-genererat innehåll, vilket redan har gjorts i Kina.
Denna innovation är viktig eftersom
Den här innovationen är viktig eftersom, enligt en rapport från Europeiska unionens byrå för brottsbekämpning, upp till 90 procent av onlineinnehållet kan skapas av AI år 2026, vilket innebär nya utmaningar för brottsbekämpande myndigheter när det gäller felaktig information, propaganda, bedrägeri och vilseledande. Studien visar att redan idag kan cirka 60 procent av alla texter på internet produceras av artificiell intelligens, drivet av den utbredda användningen av AI-översättare.
Källa: @GoogleDeepMind, Tech Crunch
