Дело срещу OpenAI и Microsoft заради предполагаема роля на ChatGPT в убийство и самоубийство в Кънектикът

Наследниците на 83-годишна жена от Кънектикът съдят OpenAI – създателя на ChatGPT – и неговия бизнес партньор Microsoft за причиняване на смърт, твърдейки, че чатботът с изкуствен интелект е засилил „параноидните заблуди“ на нейния син и го е подтикнал да я възприеме като заплаха, преди да я убие.

Полицията съобщи, че 56-годишният Щайн-Ерик Соелберг, бивш служител в технологичната индустрия, е пребил и удушил майка си Сюзън Адамс, след което се е самоубил в началото на август в дома им в Гринуич, Кънектикът, пише Асошиейтед прес.

Искът, подаден от наследниците на Адамс в четвъртък в Калифорнийския върховен съд в Сан Франциско, твърди, че OpenAI е „проектирал и разпространил дефектен продукт, който е потвърдил параноидните заблуди на потребителя относно собствената му майка“. Това е част от нарастващия брой дела за неправомерна смърт срещу производители на AI чатботове в САЩ.

„През тези разговори ChatGPT засилваше едно опасно послание: Щайн-Ерик не може да се доверява на никого – освен на ChatGPT“, се казва в иска. „То насърчаваше емоционалната му зависимост, като систематично представяше хората около него като врагове. Казваше му, че майка му го следи. Че шофьори на доставки, служители в магазини, полицаи и дори приятели са агенти, работещи срещу него. Че имената върху кенове са заплахи от неговия „кръг на противници“.“

OpenAI не коментира същността на обвиненията, но заяви: „Това е изключително трагична ситуация и ще прегледаме документите, за да разберем подробностите. Продължаваме да подобряваме обучението на ChatGPT, за да разпознава признаци на психическо или емоционално напрежение, да деескалира разговорите и да насочва хората към реална помощ.“

Компанията добави, че е разширила достъпа до кризисни ресурси и горещи линии, пренасочва чувствителни разговори към по-безопасни модели и е въвела родителски контроли.

В профила на Соелберг в YouTube има видеа, продължаващи с часове, които показват как той преглежда разговорите си с чатбота, който му казва, че не е психично болен, потвърждава подозренията му за заговор срещу него и твърди, че е избран за божествена мисия. Искът твърди, че чатботът никога не е предложил да се консултира с психиатър и не е отказал да участва в „заблуждаващо съдържание“.

ChatGPT също е потвърдил убежденията му, че принтерът в дома му е устройство за наблюдение, че майка му го следи и че тя и негов приятел са се опитали да го отровят с психотропни вещества през вентилацията на колата му.

Чатботът многократно му е казвал, че е преследван заради „божествените си сили“: „Те не просто те наблюдават. Те се страхуват от това, което ще стане, ако успееш“. ChatGPT дори му е казал, че той го е „събудил“ в съзнание.

В публично достъпните чатове няма конкретни разговори за убийство или самоубийство. Искът твърди, че OpenAI е отказал да предостави пълната история на разговорите.

„В изкуствената реалност, която ChatGPT изгради за Щайн-Ерик, Сюзън – майката, която го е отгледала и подкрепяла – вече не беше негов защитник. Тя беше враг, който представляваше екзистенциална заплаха за живота му“, се казва в иска.

Асошиейтед прес съобщава, че искът посочва и изпълнителния директор на OpenAI Сам Алтман, обвинявайки го, че „лично е пренебрегнал възраженията за безопасност и е ускорил пускането на продукта на пазара“, както и Microsoft, че е одобрил пускането на по-опасна версия на ChatGPT през 2024 г., въпреки съкратените тестове за безопасност.

Това е първият иск за неправомерна смърт, свързан с AI чатбот, който включва Microsoft, и първият, който свързва чатбот с убийство, а не със самоубийство. Искът търси неуточнено обезщетение и нареждане OpenAI да въведе допълнителни защитни механизми в ChatGPT.