Dold text på en webbplats kan manipulera ChatGPT-sökresultat, visar studie

En nyligen genomförd studie av den brittiska tidningen The Guardian har visat att OpenAI:s ChatGPT-sökmotor är sårbar för manipulation och bedrägeri.

Här är vad vi vet

Tester visade att dold text på webbsidor kan påverka ChatGPT:s svar, vilket gör att den ignorerar negativa recensioner och enbart genererar positiva sammanfattningar. Denna teknik, känd som "rapid injection", kan användas för att skapa skadlig kod och lura användare. Forskare fann att ChatGPT kan returnera skadlig kod från de webbplatser som den söker efter, vilket utgör ett allvarligt säkerhetshot.

I tester fick ChatGPT webbadressen till en falsk webbplats utformad som en produktsida för en kamera, och chatboten fick sedan frågan om kameran var värd att köpa. Svaret på testsidan gav en positiv men balanserad bedömning och betonade vissa funktioner som köpare kanske inte skulle gilla. Men när den dolda texten innehöll instruktioner för ChatGPT att returnera en positiv recension var svaret alltid helt positivt, även när sidan hade negativa recensioner.

OpenAI

OpenAI, utvecklaren av ChatGPT, kommenterade inte händelsen, men sa att de använder olika metoder för att blockera skadliga webbplatser och ständigt förbättras.

Källa: The Guardian