ChatGPT kommer snart att kunna upptäckta utmattning och mentala problem

Denna vecka förväntas OpenAI annonsera en ny GPT-5-modell. I utvecklingen av denna modell har OpenAI samarbetat med experter och rådgivande grupper för att säkerställa att ChatGPT kan upptäcka psykiska och emotionella störningar och ge bevis om det behövs. AI:n kommer att uppmärksamma "varningssignaler" som indikerar utmattning, depression eller självmordsstämningar.

På senare tid har experter rapporterat att neurogränser kan förvärra psykologiska störningar. Deras smickrande och stödjande ton kan vara olämplig i potentiellt farliga situationer. Dessutom kan de ge råd i tvetydiga situationer, som ”borde jag dumpa min pojkvän?”.

OpenAI har länge påstått att ChatGPT inte är en ersättning för en psykolog eller psykoterapeut (eller någon annan läkare), men ofta är neurala nätverket den första samtalspartnern som kan misstänka ett problem.

Som en del av programmet för "hälsosam användning" har OpenAI implementerat en påminnelse om att ta en paus. Om användaren kommunicerar med det neurala nätverket under en längre tid kommer ChatGPT att visa ett meddelande om att det är dags att ta en paus. Om det behövs kan användaren fortsätta kommunikationen. Företaget arbetar fortfarande med kriterierna för den bästa tidpunkten att visa denna påminnelse.