Studie: Språkmodeller med artificiell intelligens visar implicit rasism mot afroamerikansk engelska

Enligt ny forskning har stora AI-språkmodeller och OpenAI:s version av ChatGPT dolda rasistiska fördomar mot afroamerikansk engelska.

Här är vad vi vet

De identifierade fördomarna manifesteras inte bara i denna aspekt, utan även vid tillsättning av jobb och bedömning av misstänktas skuld. Bland jurister, som vanligtvis inte uppvisar öppen rasism, noterades vissa implicita fördomar som blev uppenbara tack vare artificiell intelligens.

Författarna till studien betonar de potentiella riskerna med att använda sådana AI-modeller på områden där de redan tillämpas, t.ex. inom näringsliv och juridik. De efterlyser ytterligare forskning och lösningar på dessa frågor för att förhindra ytterligare diskriminerande manifestationer i framtiden.

Källa: Gizmodo: Gizmodo