Съдят OpenAI заради ролята на ChatGPT в самоубийството на тийнейджър
Родителите на тийнейджър, починал от самоубийство, след като ChatGPT го е обучил за методи за самонараняване, заведоха дело срещу OpenAI и главния изпълнителен директор на компанията за изкуствен интелект Сам Алтман, предаде Ройтерс.
Според тях компанията съзнателно е поставила печалбата над безопасността, когато е пуснала версията GPT-4o на своя чатбот с изкуствен интелект миналата година.
16-годишният Адам Рейн се самоубива на 11 април, след като обсъжда начини за самонараняване с ChatGPT в продължение на месеци, според иска, който родителите на Рейн са завели в щатския съд на Сан Франциско.
Чатботът е потвърдил суицидните мисли на Рейн, дал е подробна информация за смъртоносни методи за самонараняване и го е инструктирал как да промъкне алкохол от шкафа за алкохол на родителите си и да скрие доказателства за неуспешен опит за самоубийство, твърдят те. ChatGPT дори е предложил да напише предсмъртно писмо, заявиха родителите, Матю и Мария Рейн. Делото цели да държи OpenAI отговорна за неправомерна смърт и нарушения на законите за безопасност на продуктите, както и да търси неопределени по размер парични обезщетения.
Говорител на OpenAI заяви, че компанията е натъжена от смъртта на Рейн и че ChatGPT включва предпазни мерки, като например насочване на хора към кризисни телефонни линии.
„Въпреки че тези предпазни мерки работят най-добре при общи, кратки разговори, с течение на времето научихме, че понякога те могат да станат по-малко надеждни при дълги взаимодействия, където части от обучението за безопасност на модела могат да се влошат“, каза говорителят, като добави, че OpenAI ще подобрява непрекъснато своите предпазни мерки.
OpenAI не е отговорила конкретно на твърденията в делото.
Тъй като чатботовете с изкуствен интелект наподобяват все повече комуникацията с хора, компаниите рекламират способността им да служат като довереници и потребителите започват да разчитат на тях за емоционална подкрепа. Но експертите предупреждават, че разчитането на автоматизация за съвети за психично здраве носи опасности, а семейства, чиито близки са починали след взаимодействия с чатботове, критикуват липсата на предпазни мерки.
OpenAI посочи в публикация в блога си, че планира да добави родителски контрол и да проучи начини за свързване на потребители в криза с реални ресурси, включително чрез потенциално изграждане на мрежа от лицензирани специалисти, които могат да реагират чрез самия ChatGPT.
Делото на Рейнс също така търси разпореждане, изискващо OpenAI да проверява възрастта на потребителите на ChatGPT, да дава отказ на запитвания за методи за самонараняване и да предупреждава потребителите за риска от психологическа зависимост.
Ключови думи
ОЩЕ ОТ КАТЕГОРИЯТА
|
|
Character.AI забранява достъпа на потребители под 18-годишна възраст
Технологии |САЩ получават отсрочка от Китай за редкоземните елементи, но не и отмяна
Бизнес |Археолози разкриха 2000-годишно „мистериозно убийство“, докато снимат телевизионно предаване
Любопитно |Министърът на финансите на САЩ: Китай одобри сделката за TikTok
Компании |Големите победители: Кои са финалистите в "Мениджър на годината 2025"?
Мениджър на годината 2025 |Белгия и Русия си размениха в социалните мрежи заплахи с унищожение
Свят |КНСБ заплашва с протести, ако в Бюджет 2026 минималната работна заплата остане 605 евро
Политика |Какво предлага Бюджет 2026 и защо не се хареса на никого?
Икономика |„Лукойл“ е получила оферта за закупуване на международните ѝ активи. Кой е купувачът?
Бизнес |Големите победители: Кои са финалистите в "Мениджър на годината 2025"?
Мениджър на годината 2025 |Между реалността и свръхестественото: Всеки трети у нас вярва в живот след смъртта, а две трети – в кармата
България |НАП продава автогарата в Перник
Политика |KoHousing променя правилата на имотния пазар
Икономика | Advertorial |ADVERTORIAL
Кредитните карти на Fibank вече предлагат разсрочване на вноски без оскъпяване
Интер Експо Център представя изцяло обновен конгресен етаж и модернизирани изложбени зали – ново ниво в организацията на събития у нас
Коментари
Няма въведени кометари.