Metas tillsynsstyrelse kommer att granska fall där AI används för att skapa explicita bilder

Mariia Shalabaieva/Unsplash

Metas tillsynsstyrelse har tagit upp två fall som rör användningen av artificiell intelligens för att skapa explicita bilder av offentliga personer. Styrelsen vill utvärdera effektiviteten i Metas modereringspolicyer och praxis när det gäller sådant innehåll.

Här är vad vi vet

Det ena fallet gäller ett Instagram-inlägg med en AI-genererad bild av en naken indisk kvinna. Det publicerades av ett konto som endast publicerar sådant innehåll. Trots att inlägget togs bort efter att användaren klagat, beaktades inte heller hans överklagande.

Det andra fallet rör ett inlägg i en Facebook-grupp som visade en "AI-genererad naken kvinna" med en bildtext som hänvisade till en "amerikansk offentlig person". Inlägget togs bort av ett automatiskt modereringsverktyg, men författaren överklagade beslutet.

Tillsynsnämnden har beslutat att granska båda fallen för att bedöma om Meta på ett rättvist sätt skyddar kvinnor runt om i världen från sådant AI-genererat innehåll. Styrelsen ber om offentliga kommentarer under fjorton dagar och planerar att snart publicera sitt beslut och sina rekommendationer för Metas policyer.

Oversight Board har tidigare påverkat företagets policy för AI-genererat innehåll, till exempel efter Joe Biden-videoincidenten. Som ett resultat gick Meta med på att märka mer sådant AI-innehåll på sina plattformar.

Källa: Engadget