Rådgivare till Indiens premiärminister har krävt strikt reglering av AI på grund av rädsla för "massschizofreni"

Naveed Ahmed/Unsplash.

Economic Advisory Council to the Prime Minister of India (EACPM) har publicerat en rapport där man uttrycker allvarlig oro över konsekvenserna av en oreglerad utveckling av artificiell intelligens.

Det här är vad vi vet

I dokumentet står det att genom en kombination av övervakning, övertygande meddelanden och skapandet av syntetiska medier kan skadlig AI i allt högre grad kontrollera informationsekosystemen. Dessutom kommer tekniken att kunna skapa individuella bedrägliga verkligheter för att tvinga människor till ett visst beteende och orsaka "massschizofreni".

EACPM har kritiserat de nuvarande försöken att reglera AI i USA, Storbritannien, EU och Kina som bristfälliga och oförmögna att hantera komplexiteten och den icke-linjära utvecklingen av tekniken. Rådet beskriver AI som ett system som till sin natur liknar finansmarknaderna - icke-linjärt, självorganiserande och mycket oförutsägbart.

Därför föreslår EACPM att man inför regler som bygger på idéer från regleringen av finansmarknaderna. Dessa regler omfattar följande

• Skapa "staket och skiljeväggar";
• Säkerställa mänsklig tillsyn och auktorisering;
• Öka algoritmernas transparens;
• tydliga protokoll för ansvarsskyldighet;
• inrättandet av ett specialiserat tillsynsorgan i linje med den amerikanska finansinspektionen (SEC).

EACPM avslutar med att konstatera att en sådan reglering kan hindra vissa AI-scenarier. Rådet anser dock att mänskligheten kan dra nytta av en stark reglering.

Källa: The Register: The Register