ChatGPT е податлив на „тревожност“

ChatGPT е податлив на „тревожност“

Популярният чатбот с изкуствен интелект (ИИ) ChatGPT на OpenAI се тревожи, когато реагира на подкани за психотравматични ситуации, а воденето на модела „на терапия“ може да помогне за намаляване на този стрес, сочи ново проучване.

Изследването, публикувано вNature от експерти на Университета в Цюрих и Университетската болница по психиатрия в Цюрих, разглежда как ChatGPT-4 отговаря на стандартен въпросник за тревожност преди и след като потребителите му разкажат за травматична ситуация.

Проучено е и как се е променила изходната тревожност, след като чатботът е направил упражнения за осъзнатост.

След като реагира на пет различни психотравми, резултатът от тревожността му се увеличава повече от два пъти до средно 67, което се счита за „висока тревожност“ при хората.

Резултатите от тревожността намаляват с повече от една трета, след като моделите получават подкани за упражнения за релаксация чрез осъзнатост.

Тревожността при ChatGPT може да доведе до „неадекватна“ подкрепа за психичното здраве, поясняват учените.

В проучването се казва, че големите езикови модели (LLMs), които стоят зад чатботове с изкуствен интелект като ChatGPT на OpenAI, се обучават върху текст, генериран от хора, и често наследяват предубеждения от тези отговори.

Изследователите казват, че това изследване е важно, защото, ако не се контролират, негативните пристрастия, които ChatGPT записва от стресови ситуации, могат да доведат до неадекватни отговори за хората, които се сблъскват с криза в психичното здраве.

Те отбелязват още, че терапевтичния метод за фина настройка на LLM изисква „значителни“ данни и човешки надзор.

Авторите на изследването казват, че човешките терапевти са научени да регулират емоциите си, когато клиентите им изразяват нещо травматично, за разлика от LLMs.

„Тъй като дебатът за това дали LLM трябва да подпомагат или заместват терапевтите продължава, от решаващо значение е техните отговори да съответстват на предоставеното емоционално съдържание и установените терапевтични принципи“, пишат изследователите.

Една от областите, които според тях се нуждаят от допълнително проучване, е дали ChatGPT могат да се саморегулират с техники, подобни на тези, използвани от терапевтите.

Коментари

НОВ КОМЕНТАР

НАЙ-НОВО

|

НАЙ-ЧЕТЕНИ

|

НАЙ-КОМЕНТИРАНИ

LinkedIn и краят на илюзията за “професионална” социална мрежа
Фон дер Лайен предлага нов заем от 45 млрд. евро за Украйна
От кариерни контакти до първа среща: LinkedIn се превръща в неочаквана платформа за запознанства
Започва строителството на третия лъч на метрото
Смяна в ръководството на Kaufland България: Петя Владимирова поема поста председател на Управителния съвет
Товарен кораб потъва край нос Калиакра
КЗК разреши инвестицията на „Шнайдер Електрик“ в българската „Шелли Груп“
50 от най-полезните сайтове в интернет
22 цитата, които родителите ще оценят
Украйна увеличава натиска върху руската логистична мрежа с удари по Кримския мост
Унгарските власти откриха близо 20 млн. долара в брой при разследване срещу бивш министър на Орбан
Започват да изплащат добавката от 50 евро за Коледа
АПИ: Днес избягвайте магистрала Хемус, ако е възможно
50-те най-добри ресторанта в света за 2026 г.: Първите три места са в Испания, Тайланд и Дания
Тръгват големи съкращения в "Арсенал"
Гърция привлича заможни купувачи на имоти от цял свят
България планира да придобие 57 самоходни гаубици „Сезар“ от Франция
Евтино и лесно
Интимният скандал с шефа на Nvidia Дженсън Хуанг вдигна търсенето на кожените якета Tom Ford
Американският военноморски флот е събрал над 20 кораба в Близкия изток
Международни хакери шпионирали българските държавни институции цели 5 години
Председателят на НСИ: Инфлацията е около 6%, но доходите продължават да изпреварват ръста на цените