Användare av Bing Image Creator har skapat en bild av terroristattacken den 11 september 2001, med Musse Pigg och Svampbob som piloter på planet
Användare kringgick skyddet i Bings AI-bildgenerator och skapade bilder av tecknade figurer som attackerade tvillingtornen i New York. Microsoft har försökt att blockera sådana förfrågningar, men verkar inte ha lyckats.
Det här är vad vi vet
Vissa användare använde Bing med DALL-E 3-modellen för att generera bilder av SpongeBob, Kirby, Mickey Mouse och andra karaktärer som attackerar tvillingtornen.
Microsoft säger att man arbetar med att förbättra sitt filtreringssystem för att förhindra att skadligt innehåll skapas. Men genom att helt enkelt byta ut ord i en fråga kan man fortfarande kringgå blockeringen och generera en bild av tornen.
Experter konstaterar att modereringssystemen i AI-generatorer är bristfälliga. Angripare utnyttjar aktivt denna sårbarhet för att skapa och distribuera skadligt innehåll.
Företagen har fortfarande mycket arbete kvar att göra för att skapa en effektiv bildfiltrering, säger experterna.
Gå på djupet:
Källa: 404 media
