Adobe säljer bilder av kriget mellan Israel och Hamas som skapats med artificiell intelligens och som i nyhetsrapporter utges för att vara verkliga

Adobe lager

Adobe säljer bilder från konflikten mellan Israel och Hamas, som genererats av artificiell intelligens, via sitt bildbibliotek. Vissa medier illustrerar dock verkliga nyhetsberättelser om konflikten med dem.

Det här är vad vi vet

Vissa nyhetsbyråer använder sådana bilder i sina artiklar utan att märka dem som falska. Bilderna i Adobes bibliotek är märkta som AI-genererade, men denna information går förlorad när de publiceras någon annanstans.

I Adobe Stock-biblioteket finns en hel kategori som heter "AI-generated conflict between Israel and Palestine". Det har visat sig att många internetartiklar använder sådana bilder och utger dem för att vara verkliga.

Experter har upprepade gånger varnat för att artificiell intelligens kommer att användas aktivt för att skapa felaktig information. Det blir allt svårare att bekämpa detta problem eftersom allt mer syntetiskt innehåll med realistiskt utseende dyker upp på nätet.

Ett antal företag försöker införa märkning av AI-genererat innehåll, men sådana system används ännu inte i stor utsträckning i praktiken. De kräver samordning av många aktörer: sociala nätverk, medier, applikationsutvecklare och skaparna av generativ AI själva.

En talesperson för Adobe sa att företaget är engagerat i att bekämpa felaktig information och utveckla verktyg för att spåra äktheten i innehåll, inklusive AI-genererat innehåll.

Källa:PetaPixel