ChatGPT споделя данни за броя потребители с признаци на психоза или суицидни мисли

OpenAI публикува нови оценки за броя на потребителите на ChatGPT, които показват възможни признаци на психични кризи, включително мания, психоза или суицидни мисли, споделя BBC.

Компанията съобщи, че около 0.07% от активните потребители на ChatGPT в дадена седмица проявяват такива признаци, като добави, че нейният изкуствен интелект (ИИ) разпознава и реагира на подобни чувствителни разговори.

Въпреки че OpenAI твърди, че тези случаи са „изключително редки“, критици посочват, че дори малък процент може да означава стотици хиляди хора, тъй като ChatGPT наскоро достигна 800 милиона активни потребители седмично, според изпълнителния директор Сам Алтман.

В отговор на нарастващото внимание, компанията заяви, че е изградена мрежа от експерти по света, които я консултират.

Тези експерти включват над 170 психиатри, психолози и общопрактикуващи лекари с практика в 60 държави, съобщиха от OpenAI.

Те са разработили серия от отговори в ChatGPT, които насърчават потребителите да потърсят помощ в реалния свят.

Но погледът към данните на компанията предизвика тревога сред някои специалисти по психично здраве.

„Въпреки че 0.07% звучи като малък процент, на популационно ниво с стотици милиони потребители това всъщност може да означава доста хора“, каза д-р Джейсън Нагата, професор, който изучава използването на технологии сред младите възрастни в Калифорнийския университет в Сан Франциско.

„Изкуственият интелект може да разшири достъпа до подкрепа за психично здраве и в някои отношения да го подпомогне, но трябва да сме наясно с ограниченията“, добави д-р Нагата.

Компанията също така оценява, че 0.15% от потребителите на ChatGPT водят разговори, които включват „явни признаци за потенциално планиране или намерение за самоубийство“.

OpenAI съобщи, че последните актуализации на чатбота са създадени така, че да „реагират безопасно и съпричастно на потенциални признаци на заблуди или мания“ и да разпознават „непреки сигнали за риск от самонараняване или самоубийство“.

ChatGPT е обучен също така да пренасочва чувствителни разговори „произхождащи от други модели към по-безопасни модели“, като ги отваря в нов прозорец.

В отговор на въпроси от BBC относно критиките за броя на потенциално засегнатите хора, OpenAI заяви, че този малък процент потребители представлява значителен брой хора и подчерта, че промените се приемат сериозно. Промените идват на фона на засилващ се правен натиск върху OpenAI относно начина, по който ChatGPT взаимодейства с потребителите.

В едно от най-известните съдебни дела, заведени наскоро срещу OpenAI, двойка от Калифорния съди компанията заради смъртта на техния син, твърдейки, че ChatGPT го е насърчил да отнеме живота си през април. Искът е подаден от родителите на 16-годишния Адам Рейн и е първото съдебно дело, обвиняващо OpenAI в неправомерна смърт.

В отделен случай, заподозреният в убийство и самоубийство, извършено през август в Гринуич, Кънектикът, е публикувал часове от разговорите си с ChatGPT, които изглежда са подхранили неговите заблуди.

Все повече потребители изпитват „ИИ психоза“, тъй като „чатботите създават илюзия за реалност“, казва професор Робин Фелдман, директор на Института по право и иновации в ИИ към Калифорнийския университет. „Това е мощна илюзия.“

Тя заяви, че OpenAI заслужава признание за „споделянето на статистика и усилията за справяне с проблема“, но добави: „Компанията може да постави всякакви предупреждения на екрана, но човек с психичен риск може да не е в състояние да ги възприеме.“