Illinois myndigheter är den första delstaten i USA som officiellt förbjuder AI-terapeuter

Delstaten Illinois har blivit den första i USA att officiellt förbjuda användningen av artificiell intelligens i rollen som psykoterapeut. Lagen signerades av guvernör J.B. Pritzker och förbjuder uttryckligen att erbjuda några mentalvårdstjänster om det inte är en människa utan en AI eller en bot som kommunicerar med klienten.

Detta vet vi

Både startups som främjar "billig terapi 24/7" baserat på neurala nätverk och stora plattformar som testar automatiserade assistenter för att stödja användare är under attack. Sådana tjänster måste nu tydligt indikera att användaren interagerar med ett program snarare än en certifierad professionell. Brottslingar riskerar böter.

Anledningen är säkerhet och skydd av sårbara användare, särskilt tonåringar. Lagen syftar också till att förhindra en falsk känsla av "hjälp", när en person tror att han eller hon kommunicerar med en professionell, men i verkligheten - med en algoritm utan ansvar och kompetens.

Detta beslut är särskilt betydelsefullt mot bakgrund av Trump-administrationens nyligen tillkännagivna plan att föreslå ett 10-årigt federalt moratorium för AI-reglering på delstatsnivå. Illinois utmanar effektivt den idén genom att bilda sin egen agenda för att skydda sårbara användare.

Lagen kom också i samband med uttalanden från OpenAI, som tillkännagav att de testade förmågan hos sina modeller att känna igen tecken på psykisk ohälsa. Företaget har också lovat att avbryta ovanligt långa chattar för att minska den känslomässiga belastningen på användarna. Allt detta har ökat oron: kan en maskin "av misstag" bota - och vem är ansvarig?

Illinois-beslutet kan skapa ett prejudikat för andra delstater och länder, eftersom marknaden för AI "terapi" blomstrar. Och inte utan kontroversiella konsekvenser.

Källa: IDFPR