Discord förbjuder spridning av bilder på övergrepp mot barn som genererats av artificiell intelligens

Discord-plattformen har förbjudit distribution av material om sexuella övergrepp mot barn (CSAM) som genererats av artificiell intelligens.

Vad som är känt

John Redgrave, Discords Vice President of Trust and Security, sa att plattformen utökar reglerna för generativ AI som kan skapa falskt innehåll. Den uppdaterade policyn förbjuder i synnerhet skapande och distribution av CSAM-bilder samt sexualisering av barn i textchattar.

Förra månaden rapporterade Washington Post att CSAM-bilder som genererats av artificiell intelligens har spridits på internet under de senaste månaderna. Discord visade sig vara en av dessa plattformar.

Flera integrationer placerades på plattformen, vilket gjorde det möjligt för användare att skapa bilder direkt i chattar. Det visade sig att användarna ofta skapade bilder med sexuellt innehåll.

En representant för Discord säger dock att arbetet med att uppdatera policyn har pågått sedan sista kvartalet 2021. Enligt honom är de nya reglerna inte en reaktion på några nya rapporter.

Källa: NBC.