Google kommer att kräva att appar i Play Store bättre modererar AI-innehåll och lägger till en knapp för klagomål från användare

Google kommer att börja kräva att applikationer i Play Store ska ha en knapp för att klaga på stötande innehåll som genereras av artificiell intelligens, samt efterlevnad av reglerna för moderering av sådant innehåll.

Det här är vad vi vet

Från och med januari 2024 måste appar med AI-innehåll lägga till en möjlighet för användare att klaga på stötande innehåll för att få finnas kvar i appbutiken. Detta kommer att påverka chatbots, bildgeneratorer och appar med AI-genererade videor.

Appar som använder AI för att sammanfatta text och förbättra prestanda som en funktion kommer däremot inte att omfattas av de nya reglerna.

Enligt Google kan exempel på problematiskt innehåll som skapats av artificiell intelligens vara falskt sexuellt innehåll, bedrägliga videor av riktiga människor och falskt eller vilseledande valinnehåll.

Företaget är medvetet om att generativ AI är en snabbt växande kategori av applikationer. Därför kommer policyn för sådana program att ses över regelbundet, konstaterar Google.

Källa: Google