ChatGPT споделя данни за броя потребители с признаци на психоза или суицидни мисли

ChatGPT споделя данни за броя потребители с признаци на психоза или суицидни мисли

OpenAI публикува нови оценки за броя на потребителите на ChatGPT, които показват възможни признаци на психични кризи, включително мания, психоза или суицидни мисли, споделя BBC.

Компанията съобщи, че около 0.07% от активните потребители на ChatGPT в дадена седмица проявяват такива признаци, като добави, че нейният изкуствен интелект (ИИ) разпознава и реагира на подобни чувствителни разговори.

Въпреки че OpenAI твърди, че тези случаи са „изключително редки“, критици посочват, че дори малък процент може да означава стотици хиляди хора, тъй като ChatGPT наскоро достигна 800 милиона активни потребители седмично, според изпълнителния директор Сам Алтман.

В отговор на нарастващото внимание, компанията заяви, че е изградена мрежа от експерти по света, които я консултират.

Тези експерти включват над 170 психиатри, психолози и общопрактикуващи лекари с практика в 60 държави, съобщиха от OpenAI.

Те са разработили серия от отговори в ChatGPT, които насърчават потребителите да потърсят помощ в реалния свят.

Но погледът към данните на компанията предизвика тревога сред някои специалисти по психично здраве.

„Въпреки че 0.07% звучи като малък процент, на популационно ниво с стотици милиони потребители това всъщност може да означава доста хора“, каза д-р Джейсън Нагата, професор, който изучава използването на технологии сред младите възрастни в Калифорнийския университет в Сан Франциско.

„Изкуственият интелект може да разшири достъпа до подкрепа за психично здраве и в някои отношения да го подпомогне, но трябва да сме наясно с ограниченията“, добави д-р Нагата.

Компанията също така оценява, че 0.15% от потребителите на ChatGPT водят разговори, които включват „явни признаци за потенциално планиране или намерение за самоубийство“.

OpenAI съобщи, че последните актуализации на чатбота са създадени така, че да „реагират безопасно и съпричастно на потенциални признаци на заблуди или мания“ и да разпознават „непреки сигнали за риск от самонараняване или самоубийство“.

ChatGPT е обучен също така да пренасочва чувствителни разговори „произхождащи от други модели към по-безопасни модели“, като ги отваря в нов прозорец.

В отговор на въпроси от BBC относно критиките за броя на потенциално засегнатите хора, OpenAI заяви, че този малък процент потребители представлява значителен брой хора и подчерта, че промените се приемат сериозно. Промените идват на фона на засилващ се правен натиск върху OpenAI относно начина, по който ChatGPT взаимодейства с потребителите.

В едно от най-известните съдебни дела, заведени наскоро срещу OpenAI, двойка от Калифорния съди компанията заради смъртта на техния син, твърдейки, че ChatGPT го е насърчил да отнеме живота си през април. Искът е подаден от родителите на 16-годишния Адам Рейн и е първото съдебно дело, обвиняващо OpenAI в неправомерна смърт.

В отделен случай, заподозреният в убийство и самоубийство, извършено през август в Гринуич, Кънектикът, е публикувал часове от разговорите си с ChatGPT, които изглежда са подхранили неговите заблуди.

Все повече потребители изпитват „ИИ психоза“, тъй като „чатботите създават илюзия за реалност“, казва професор Робин Фелдман, директор на Института по право и иновации в ИИ към Калифорнийския университет. „Това е мощна илюзия.“

Тя заяви, че OpenAI заслужава признание за „споделянето на статистика и усилията за справяне с проблема“, но добави: „Компанията може да постави всякакви предупреждения на екрана, но човек с психичен риск може да не е в състояние да ги възприеме.“

Коментари

НОВ КОМЕНТАР

НАЙ-НОВО

|

НАЙ-ЧЕТЕНИ

|

НАЙ-КОМЕНТИРАНИ

Берлин оттегли съпротивата си срещу придобиването на Commerzbank от UniCredit
Времето в неделя: Предимно слънчево с максимални температури до 18 градуса
Ребалансиране без нарушаване на бюджета
Износът на петрол през Ормузкия проток спада рязко на фона на зачестилите ирански атаки
Можем ли да бъдем продуктивни през целия работен ден?
Макрон обмисля промяна в конституцията на Франция заради растящия държавен дълг
„Отвъд болката се крие по-голяма красота“: Принцеса Кейт откровено за живота след рака в нов филм
В Мексико заловиха един от 10-те най-издирвани престъпници от ФБР – наркобоса „Ел Чапо Исидро“
LinkedIn и краят на илюзията за “професионална” социална мрежа
Фон дер Лайен предлага нов заем от 45 млрд. евро за Украйна
Започва строителството на третия лъч на метрото
Смяна в ръководството на Kaufland България: Петя Владимирова поема поста председател на Управителния съвет
Товарен кораб потъва край нос Калиакра
От кариерни контакти до първа среща: LinkedIn се превръща в неочаквана платформа за запознанства
Започват да изплащат добавката от 50 евро за Коледа
АПИ: Днес избягвайте магистрала Хемус, ако е възможно
Тръгват големи съкращения в "Арсенал"
50-те най-добри ресторанта в света за 2026 г.: Първите три места са в Испания, Тайланд и Дания
Гърция привлича заможни купувачи на имоти от цял свят
България планира да придобие 57 самоходни гаубици „Сезар“ от Франция
Евтино и лесно
Интимният скандал с шефа на Nvidia Дженсън Хуанг вдигна търсенето на кожените якета Tom Ford
Американският военноморски флот е събрал над 20 кораба в Близкия изток
Международни хакери шпионирали българските държавни институции цели 5 години
Председателят на НСИ: Инфлацията е около 6%, но доходите продължават да изпреварват ръста на цените
КЗК разреши инвестицията на „Шнайдер Електрик“ в българската „Шелли Груп“
Украйна увеличава натиска върху руската логистична мрежа с удари по Кримския мост