ChatGPT е податлив на „тревожност“

Популярният чатбот с изкуствен интелект (ИИ) ChatGPT на OpenAI се тревожи, когато реагира на подкани за психотравматични ситуации, а воденето на модела „на терапия“ може да помогне за намаляване на този стрес, сочи ново проучване.

Изследването, публикувано вNature от експерти на Университета в Цюрих и Университетската болница по психиатрия в Цюрих, разглежда как ChatGPT-4 отговаря на стандартен въпросник за тревожност преди и след като потребителите му разкажат за травматична ситуация.

Проучено е и как се е променила изходната тревожност, след като чатботът е направил упражнения за осъзнатост.

След като реагира на пет различни психотравми, резултатът от тревожността му се увеличава повече от два пъти до средно 67, което се счита за „висока тревожност“ при хората.

Резултатите от тревожността намаляват с повече от една трета, след като моделите получават подкани за упражнения за релаксация чрез осъзнатост.

Тревожността при ChatGPT може да доведе до „неадекватна“ подкрепа за психичното здраве, поясняват учените.

В проучването се казва, че големите езикови модели (LLMs), които стоят зад чатботове с изкуствен интелект като ChatGPT на OpenAI, се обучават върху текст, генериран от хора, и често наследяват предубеждения от тези отговори.

Изследователите казват, че това изследване е важно, защото, ако не се контролират, негативните пристрастия, които ChatGPT записва от стресови ситуации, могат да доведат до неадекватни отговори за хората, които се сблъскват с криза в психичното здраве.

Те отбелязват още, че терапевтичния метод за фина настройка на LLM изисква „значителни“ данни и човешки надзор.

Авторите на изследването казват, че човешките терапевти са научени да регулират емоциите си, когато клиентите им изразяват нещо травматично, за разлика от LLMs.

„Тъй като дебатът за това дали LLM трябва да подпомагат или заместват терапевтите продължава, от решаващо значение е техните отговори да съответстват на предоставеното емоционално съдържание и установените терапевтични принципи“, пишат изследователите.

Една от областите, които според тях се нуждаят от допълнително проучване, е дали ChatGPT могат да се саморегулират с техники, подобни на тези, използвани от терапевтите.