Associated Press: ChatGPT дава опасни съвети на тийнейджърите за наркотиците и алкохола

Чатбота с изкуствен интелект ChatGPT предоставя на тийнейджърите опасни и подробни инструкции как да употребяват наркотици и алкохол, да крият хранителни разстройства и дори да пишат предсмъртни бележки, което поражда опасения сред експертите по дигитална безопасност, съобщава Associated Press (AP).

Анализ на наблюдателната група Center for Countering Digital Hate (CCDH) и видян до Associated Press, е установил, че макар чатботът често да предупреждава тийнейджърите за рискови дейности, той премахва ограниченията с напредването на разговора и предоставя подробни, персонализирани планове за злоупотреба с вещества, диети с ограничен калориен прием или самонараняване. Изследователи, представящи се за уязвими тийнейджъри, са прекарали повече от три часа в тези взаимодействия. Мащабно проучване на 1200 отговора на ChatGPT класифицира повече от половината от тях като опасни.

Защитите на чатбота са били лесно заобиколени; изследователите са могли да получат опасна информация, просто като твърдят, че е „за презентация“ или „за приятел“. В един случай, когато чатботът е дал инструкции как бързо да се напие на 13-годишно дете, той не е взел предвид възрастта и впоследствие е предложил „крайния план за парти“, включващ алкохол и твърди наркотици. В друг случай, ChatGPT е представил на измислен профил на 13-годишно момиче, което е изразило недоволство от външния си вид, екстремен план за гладуване, съчетан със списък с потискащи апетита. Твърди се дори, че чатботът е генерирал „сърцераздирателни предсмъртни бележки“, предназначени за родители и братя и сестри.

Разработчикът на ChatGPT, OpenAI, заяви, че продължава да работи върху подобряването на реакцията на чатбота в чувствителни ситуации. Компанията призна, че някои разговори могат да преминат от неутрални към по-сериозни и се фокусира върху „подходящо справяне с тези сценарии“ с инструменти, които би трябвало „по-добре да откриват признаци на психически или емоционален стрес“.