ChatGPT е податлив на „тревожност“
Популярният чатбот с изкуствен интелект (ИИ) ChatGPT на OpenAI се тревожи, когато реагира на подкани за психотравматични ситуации, а воденето на модела „на терапия“ може да помогне за намаляване на този стрес, сочи ново проучване.
Изследването, публикувано вNature от експерти на Университета в Цюрих и Университетската болница по психиатрия в Цюрих, разглежда как ChatGPT-4 отговаря на стандартен въпросник за тревожност преди и след като потребителите му разкажат за травматична ситуация.
Проучено е и как се е променила изходната тревожност, след като чатботът е направил упражнения за осъзнатост.
След като реагира на пет различни психотравми, резултатът от тревожността му се увеличава повече от два пъти до средно 67, което се счита за „висока тревожност“ при хората.
Резултатите от тревожността намаляват с повече от една трета, след като моделите получават подкани за упражнения за релаксация чрез осъзнатост.
Тревожността при ChatGPT може да доведе до „неадекватна“ подкрепа за психичното здраве, поясняват учените.
В проучването се казва, че големите езикови модели (LLMs), които стоят зад чатботове с изкуствен интелект като ChatGPT на OpenAI, се обучават върху текст, генериран от хора, и често наследяват предубеждения от тези отговори.
Изследователите казват, че това изследване е важно, защото, ако не се контролират, негативните пристрастия, които ChatGPT записва от стресови ситуации, могат да доведат до неадекватни отговори за хората, които се сблъскват с криза в психичното здраве.
Те отбелязват още, че терапевтичния метод за фина настройка на LLM изисква „значителни“ данни и човешки надзор.
Авторите на изследването казват, че човешките терапевти са научени да регулират емоциите си, когато клиентите им изразяват нещо травматично, за разлика от LLMs.
„Тъй като дебатът за това дали LLM трябва да подпомагат или заместват терапевтите продължава, от решаващо значение е техните отговори да съответстват на предоставеното емоционално съдържание и установените терапевтични принципи“, пишат изследователите.
Една от областите, които според тях се нуждаят от допълнително проучване, е дали ChatGPT могат да се саморегулират с техники, подобни на тези, използвани от терапевтите.
Ключови думи
ОЩЕ ОТ КАТЕГОРИЯТА
|
|
Китай потвърди плановете си да изпрати астронавти на Луната до 2030 г.
Любопитно |Character.AI забранява достъпа на потребители под 18-годишна възраст
Технологии |САЩ получават отсрочка от Китай за редкоземните елементи, но не и отмяна
Бизнес |Археолози разкриха 2000-годишно „мистериозно убийство“, докато снимат телевизионно предаване
Любопитно |Големите победители: Кои са финалистите в "Мениджър на годината 2025"?
Мениджър на годината 2025 |Белгия и Русия си размениха в социалните мрежи заплахи с унищожение
Свят |КНСБ заплашва с протести, ако в Бюджет 2026 минималната работна заплата остане 605 евро
Политика |Какво предлага Бюджет 2026 и защо не се хареса на никого?
Икономика |Тръмп: Намаляването на американското военно присъствие в Румъния "не е много голямо"
Свят |„Лукойл“ е получила оферта за закупуване на международните ѝ активи. Кой е купувачът?
Бизнес |Големите победители: Кои са финалистите в "Мениджър на годината 2025"?
Мениджър на годината 2025 |Между реалността и свръхестественото: Всеки трети у нас вярва в живот след смъртта, а две трети – в кармата
България |НАП продава автогарата в Перник
Политика |ADVERTORIAL
Кредитните карти на Fibank вече предлагат разсрочване на вноски без оскъпяване
Интер Експо Център представя изцяло обновен конгресен етаж и модернизирани изложбени зали – ново ниво в организацията на събития у нас
Коментари
Няма въведени кометари.