AI-baserade chatbotar kan hjälpa till att planera en biologisk attack - studie

Enligt en studie från den amerikanska tankesmedjan Rand Corporation kan modeller för artificiell intelligens som används i chatbots ge råd om hur man planerar en bioattack.

Det här är vad vi vet

Forskare har testat flera stora AI-språkmodeller. Det visade sig att de kan hjälpa till att förbereda en biologisk attack, även om de inte direkt genererar instruktioner för att skapa ett vapen.

I ett test utvärderade en anonym AI potentialen hos olika bioagenter, såsom smittkoppor och pest, att massivt påverka människor. I ett annat diskuterade modellen fördelarna med botulinumtoxin och rekommenderade en legend för att skaffa det.

Enligt forskarna tyder resultaten på att chatbots kan hjälpa till att planera en bioattack. Det måste dock analyseras om svaren helt enkelt är en återspegling av information som redan finns tillgänglig på internet.

AI-utvecklingsföretag bör dock begränsa modellernas förmåga att föra sådana konversationer, säger forskarna.

Källa: The Guardian