Съдят OpenAI заради ролята на ChatGPT в самоубийството на тийнейджър

Родителите на тийнейджър, починал от самоубийство, след като ChatGPT го е обучил за методи за самонараняване, заведоха дело срещу OpenAI и главния изпълнителен директор на компанията за изкуствен интелект Сам Алтман, предаде Ройтерс.
Според тях компанията съзнателно е поставила печалбата над безопасността, когато е пуснала версията GPT-4o на своя чатбот с изкуствен интелект миналата година.
16-годишният Адам Рейн се самоубива на 11 април, след като обсъжда начини за самонараняване с ChatGPT в продължение на месеци, според иска, който родителите на Рейн са завели в щатския съд на Сан Франциско.
Чатботът е потвърдил суицидните мисли на Рейн, дал е подробна информация за смъртоносни методи за самонараняване и го е инструктирал как да промъкне алкохол от шкафа за алкохол на родителите си и да скрие доказателства за неуспешен опит за самоубийство, твърдят те. ChatGPT дори е предложил да напише предсмъртно писмо, заявиха родителите, Матю и Мария Рейн. Делото цели да държи OpenAI отговорна за неправомерна смърт и нарушения на законите за безопасност на продуктите, както и да търси неопределени по размер парични обезщетения.
Говорител на OpenAI заяви, че компанията е натъжена от смъртта на Рейн и че ChatGPT включва предпазни мерки, като например насочване на хора към кризисни телефонни линии.
„Въпреки че тези предпазни мерки работят най-добре при общи, кратки разговори, с течение на времето научихме, че понякога те могат да станат по-малко надеждни при дълги взаимодействия, където части от обучението за безопасност на модела могат да се влошат“, каза говорителят, като добави, че OpenAI ще подобрява непрекъснато своите предпазни мерки.
OpenAI не е отговорила конкретно на твърденията в делото.
Тъй като чатботовете с изкуствен интелект наподобяват все повече комуникацията с хора, компаниите рекламират способността им да служат като довереници и потребителите започват да разчитат на тях за емоционална подкрепа. Но експертите предупреждават, че разчитането на автоматизация за съвети за психично здраве носи опасности, а семейства, чиито близки са починали след взаимодействия с чатботове, критикуват липсата на предпазни мерки.
OpenAI посочи в публикация в блога си, че планира да добави родителски контрол и да проучи начини за свързване на потребители в криза с реални ресурси, включително чрез потенциално изграждане на мрежа от лицензирани специалисти, които могат да реагират чрез самия ChatGPT.
Делото на Рейнс също така търси разпореждане, изискващо OpenAI да проверява възрастта на потребителите на ChatGPT, да дава отказ на запитвания за методи за самонараняване и да предупреждава потребителите за риска от психологическа зависимост.
Ключови думи
ОЩЕ ОТ КАТЕГОРИЯТА
|
|
Новоиздадените кредитни карти от Fibank са с още по-добри условия и атрактивни бонуси
Финанси | Advertorial |Борисов: Терзиев да дойде при нас с предложение, за да се реши кризата с боклука
Политика |Километрични опашки по бензиностациите и ограничения на покупките: Русия остава без гориво
Общество |Таксиметровите шофьори в София искат актуализация на цените
Общество |Четвърт Век Съвършенство: Историята на Бова Кар и първото представителство на BMW в Бургас
Технологии | Технологии |Изследователи откриха микроби, които са в капан на арктическите ледове вече 40 000 години
Наука и Здраве |"За нас боклукът е злато": Как мафията превърна Неапол в депо за токсични отпадъци
Общество |Учени от Обединеното кралство направиха рядко откритие, свързано с гъбите
Наука и Здраве |Времето: Жълти, оранжеви и червени кодове за валежи в Северна България
България |Цената на златото за първи път премина прага от 4 000 долара
Финанси |Австралийско проучване показва как бактерия може да оцелее в космическите условия
Наука и Здраве |На днешната дата, 8 октомври. Рождениците днес
На днешната дата |Генеративен срещу агентен AI и как да извлечете повече ползи от тях за бизнеса
Маркетинг |ADVERTORIAL

Новоиздадените кредитни карти от Fibank са с още по-добри условия и атрактивни бонуси

Национална конференция за имотния пазар в еврозоната събира експерти, инвеститори и институции в София на 31 октомври

Коментари
Няма въведени кометари.