OpenAI använder GPT-4 för att bygga ett system för innehållsmoderering baserat på artificiell intelligens

OpenAI anser att GPT-4 kan ersätta tiotusentals moderatorer och samtidigt vara nästan lika exakt och mer konsekvent. Utvecklare säger att de redan använder språkmodellen för att skapa och förfina sina egna policyer, innehållsmärkning och beslutsfattande.

Det här är vad vi vet

OpenAI beskriver tre huvudsakliga fördelar jämfört med traditionella metoder för innehållsmoderering.

För det första, enligt företaget, tolkar människor regler på olika sätt, medan maskiner är konsekventa i sina bedömningar. Riktlinjer kan vara långa och ständigt föränderliga. Dessutom behöver människor mycket träning för att lära sig och anpassa sig, medan språkmodeller omedelbart kan implementera nya regler.

För det andra kan GPT-4 förmodligen hjälpa till att ta fram en ny policy inom några timmar. Vanligtvis tar processen med att utarbeta, märka, samla in feedback och slutföra sådana dokument veckor eller flera månader.

För det tredje hänvisar OpenAI till välbefinnandet hos arbetstagare som ständigt exponeras för skadligt innehåll, t.ex. videor med barnmisshandel eller tortyr.

Källa: OpenAI: OpenAI