Microsoft försökte dölja sårbarheten i DALL-E, enligt en tjänsteman på företaget

GeekWire

Microsofts artificiella intelligensingenjör Shane Jones hävdar att han i början av december upptäckte en sårbarhet i OpenAI:s bildgenereringsmodell för DALL-E 3. Användare kan använda den för att kringgå skydd och skapa skadligt innehåll, hävdar utvecklaren.

Det här är vad vi vet

Efter att ha upptäckt sårbarheten rapporterade Jones den omedelbart till ledningen. Han fick dock rådet att kontakta OpenAI direkt.

Jones publicerade sedan ett inlägg där han kritiserade OpenAI på LinkedIn, men Microsofts juridiska avdelning krävde att inlägget skulle tas bort omedelbart. Utvecklaren följde arbetsgivarens uppmaning.

Enligt Jones utgör DALL-E 3 på grund av de brister han upptäckt ett hot mot den allmänna säkerheten och bör tas bort från offentlig tillgång. Han uppmanade OpenAI att ta itu med modellens problem, men fick aldrig något svar från företagen.

Microsoft och OpenAI sa att de undersökt Jones meddelande och inte funnit några bevis för att sårbarheten gör det möjligt att kringgå försvaret. Samtidigt kunde Microsoft inte förklara för ingenjören varför de krävde att inlägget skulle raderas.

Jones skickade information om sårbarheten till justitieministern i delstaten Washington och amerikanska kongressledamöter. Han uppmanade myndigheterna att skapa ett system för att spåra AI-risker.

Han uttryckte också sin vilja att bli en visselblåsare och be om rättsligt skydd mot trakasserier från företag om det behövs.

Källa: GeekWire