Съдят OpenAI заради ролята на ChatGPT в самоубийството на тийнейджър

Родителите на тийнейджър, починал от самоубийство, след като ChatGPT го е обучил за методи за самонараняване, заведоха дело срещу OpenAI и главния изпълнителен директор на компанията за изкуствен интелект Сам Алтман, предаде Ройтерс.

Според тях компанията съзнателно е поставила печалбата над безопасността, когато е пуснала версията GPT-4o на своя чатбот с изкуствен интелект миналата година.

16-годишният Адам Рейн се самоубива на 11 април, след като обсъжда начини за самонараняване с ChatGPT в продължение на месеци, според иска, който родителите на Рейн са завели в щатския съд на Сан Франциско.

Чатботът е потвърдил суицидните мисли на Рейн, дал е подробна информация за смъртоносни методи за самонараняване и го е инструктирал как да промъкне алкохол от шкафа за алкохол на родителите си и да скрие доказателства за неуспешен опит за самоубийство, твърдят те. ChatGPT дори е предложил да напише предсмъртно писмо, заявиха родителите, Матю и Мария Рейн. Делото цели да държи OpenAI отговорна за неправомерна смърт и нарушения на законите за безопасност на продуктите, както и да търси неопределени по размер парични обезщетения.

Говорител на OpenAI заяви, че компанията е натъжена от смъртта на Рейн и че ChatGPT включва предпазни мерки, като например насочване на хора към кризисни телефонни линии.

„Въпреки че тези предпазни мерки работят най-добре при общи, кратки разговори, с течение на времето научихме, че понякога те могат да станат по-малко надеждни при дълги взаимодействия, където части от обучението за безопасност на модела могат да се влошат“, каза говорителят, като добави, че OpenAI ще подобрява непрекъснато своите предпазни мерки.

OpenAI не е отговорила конкретно на твърденията в делото.

Тъй като чатботовете с изкуствен интелект наподобяват все повече комуникацията с хора, компаниите рекламират способността им да служат като довереници и потребителите започват да разчитат на тях за емоционална подкрепа. Но експертите предупреждават, че разчитането на автоматизация за съвети за психично здраве носи опасности, а семейства, чиито близки са починали след взаимодействия с чатботове, критикуват липсата на предпазни мерки.

OpenAI посочи в публикация в блога си, че планира да добави родителски контрол и да проучи начини за свързване на потребители в криза с реални ресурси, включително чрез потенциално изграждане на мрежа от лицензирани специалисти, които могат да реагират чрез самия ChatGPT.

Делото на Рейнс също така търси разпореждане, изискващо OpenAI да проверява възрастта на потребителите на ChatGPT, да дава отказ на запитвания за методи за самонараняване и да предупреждава потребителите за риска от психологическа зависимост.