Apple tar bort appar med artificiell intelligens för nakenbilder

Apple har beslutat att ta bort appar som använder artificiell intelligens för att skapa nakenbilder från sin App Store. Detta beslut togs som svar på ökad oro för integriteten och etiken i sådana appar.

Här är vad vi vet

Vi skrev nyligen att Huawei hamnade i en skandal när en app på deras nya flaggskepp Pura 70 gjorde det möjligt att ta av kläder från flickor med hjälp av AI. Nu har Apple befunnit sig i en liknande situation. Företaget har enligt uppgift tagit bort tre appar från App Store som marknadsförde sig själva som "konstgeneratorer" men som marknadsförde sig själva på Instagram och vuxenwebbplatser och hävdade att de kunde "klä av vilken tjej som helst gratis". Några av dessa appar erbjöd en AI-funktion för "avklädning", medan andra utförde ansiktsbyte på vuxenbilder. Även om bilderna inte visar flickans faktiska nakenhet kan appen generera bilder som kan användas för trakasserier, utpressning och intrång i privatlivet.

404 Media rapporterar att Apple tog bort apparna först efter att ha fått länkar till apparna och deras annonser. Dessförinnan kunde företaget inte hitta sådana appar. Även om det finns rapporter om att apparna var tillgängliga från 2022 och redan annonserade "avklädningsfunktionen" på vuxenwebbplatser. Det rapporteras att dessa appar kan finnas kvar i App Store om de tar bort annonserna på 18+-webbplatser.

Denna incident kommer olägligt för Apple som förbereder sig för att hålla sin utvecklarkonferens WWDC 2024 i juni, där företaget kommer att göra stora tillkännagivanden om artificiell intelligens för iOS 18 och Siri. Just nu behöver Apple ett gediget rykte för tillförlitlighet och den här situationen kan skada det.

Källa: 404 Media 404 Media