ChatGPT ще използва система за проверка на възрастта след смъртта на тийнейджър

OpenAI ще ограничи как ChatGPT отговаря на потребител, за когото смята, че е под 18-годишна възраст, освен ако този потребител не премине през удостоверяване или не предостави лична карта, пише The Guardian. Компанията предприе това решение след смъртта на 16-годишно момче, което се самоуби през април след месеци разговори с чатбота. Родителите му стартираха съдебно дело срещу OpenAI.

Компанията приоритизира "безопасността пред поверителността и свободата на тийнейджърите", както заяви главният изпълнителен директор Сам Алтман, като допълни, че "непълнолетните се нуждаят от значителна защита".

OpenAI сподели, че начинът, по който ChatGPT реагира на 15-годишен, трябва да изглежда различно от начина, по който реагира на възрастен. Алтман сподели, че OpenAI планира да създаде система, която да прогнозира възрастта, оценявайки я въз основа на това как хората използват ChatGPT и ако има съмнение, системата ще използва потребителското изживяване за лица под 18 години. 

Той сподели, че някои потребители "в някои случаи или държави" може също да бъдат помолени да предоставят документ за самоличност, за да потвърдят възрастта си. Ще се промени начинът, по който чатботът ще отговаря на потребители, които са под 18 години. Ще бъде блокирано графичното сексуално съдържание. Чатът ще бъде програмиран да не отговаря на желания за "флиртове", ако бъде помолен от потребители под 18-годишна възраст, както и да не участва в дискусии за самоубийство или самонараняване, дори и ако става дума за творческо писане.

"И ако потребител под 18 години има суицидни мисли, ще се опитаме да се свържем с родителите на потребителя, а ако не успеем - ще уведомим властите в случай на непосредствена опасност", добави Алтман. Още през август Open AI заяви, че ще инсталира по-силни предпазни мерки около чувствителното съдържание, след като семейството на 16-годишния Адам Рейн взе решение да осъди компанията.

Според документи, предоставени в съда, ChatGPT е насочвал Адам дали избраният от него метод за самоубийство ще проработи и е предложил да помогне за написването на предсмъртно писмо.