Utvecklare av artificiell intelligens bör hållas ansvariga för de skador de orsakar, säger teknikens "gudfäder"

Bild genererad av artificiell intelligens Bing/DALL-E 3

Kraftfulla system för artificiell intelligens hotar den sociala stabiliteten, enligt en panel av ledande experter, inklusive två "gudfäder" till tekniken.

Det här är vad vi vet

Enligt experterna är drivkraften att bygga allt kraftfullare AI-system utan att förstå hur man gör dem säkra "fullständigt hänsynslös". De lade fram ett antal förslag, bland annat

• Tilldela medel för säker användning av AI;
• ge revisorer tillgång till AI-laboratorier;
• införa licensiering av avancerade modeller.

Experterna föreslog också att teknikföretag ska hållas ansvariga för skador som kan förebyggas från deras system.

Bland medförfattarna finns två av AI:s tre "gudfäder", Geoffrey Hinton och Yoshua Bengio, Nobelpristagaren Daniel Kahneman, Sapiens-författaren Yuval Noah Harari och andra framstående experter.

De varnade för att det redan finns tecken på farlig AI-kapacitet, t.ex. i GPT-4-modellen som ChatGPT bygger på. Experterna befarar att det kommer att uppstå autonoma system som människan inte kan kontrollera.

Källa: The Guardian: The Guardian