Midjourney vill förbjuda generering av bilder på politiker inför valet i USA

Jonathan Kemper/Unsplash

Midjourney, utvecklaren av en populär bildgenerator baserad på artificiell intelligens, överväger ett totalförbud mot politiskt bildskapande för att begränsa spridningen av förfalskningar inför det amerikanska presidentvalet.

Det här är vad vi vet

Enligt Midjourneys VD David Holz handlar det om att blockera bilder på politiker som Joe Biden och Donald Trump under de kommande 12 månaderna. Användare har tidigare skapat komprometterande bilder och memes med dessa och andra högprofilerade personer med hjälp av AI.

"Jag vet att det är kul att göra Trump-bilder - jag gör Trump-bilder", säger Holz. "Trump är estetiskt riktigt intressant. Men det är nog bättre att bara inte - bättre att dra sig tillbaka lite under det här valet. Vi får se."

Midjourney har redan regler på plats som förbjuder skapandet av "vilseledande offentliga personer" och "händelser". Men politiska förfalskningar sipprar fortfarande igenom moderatorernas försvar. Med detta sagt kommer förbud mot specifika personas inte att lösa problemet med att AI används för desinformation i allmänhet.

Andra IT-företag vidtar också åtgärder för att bekämpa falskt politiskt innehåll. ChatGPT, i synnerhet, kommer snart att börja märka AI-genererade bilder.

Källa: Bloomberg