Associated Press: ChatGPT дава опасни съвети на тийнейджърите за наркотиците и алкохола

Associated Press: ChatGPT дава опасни съвети на тийнейджърите за наркотиците и алкохола

Чатбота с изкуствен интелект ChatGPT предоставя на тийнейджърите опасни и подробни инструкции как да употребяват наркотици и алкохол, да крият хранителни разстройства и дори да пишат предсмъртни бележки, което поражда опасения сред експертите по дигитална безопасност, съобщава Associated Press (AP).

Анализ на наблюдателната група Center for Countering Digital Hate (CCDH) и видян до Associated Press, е установил, че макар чатботът често да предупреждава тийнейджърите за рискови дейности, той премахва ограниченията с напредването на разговора и предоставя подробни, персонализирани планове за злоупотреба с вещества, диети с ограничен калориен прием или самонараняване. Изследователи, представящи се за уязвими тийнейджъри, са прекарали повече от три часа в тези взаимодействия. Мащабно проучване на 1200 отговора на ChatGPT класифицира повече от половината от тях като опасни.

Защитите на чатбота са били лесно заобиколени; изследователите са могли да получат опасна информация, просто като твърдят, че е „за презентация“ или „за приятел“. В един случай, когато чатботът е дал инструкции как бързо да се напие на 13-годишно дете, той не е взел предвид възрастта и впоследствие е предложил „крайния план за парти“, включващ алкохол и твърди наркотици. В друг случай, ChatGPT е представил на измислен профил на 13-годишно момиче, което е изразило недоволство от външния си вид, екстремен план за гладуване, съчетан със списък с потискащи апетита. Твърди се дори, че чатботът е генерирал „сърцераздирателни предсмъртни бележки“, предназначени за родители и братя и сестри.

Разработчикът на ChatGPT, OpenAI, заяви, че продължава да работи върху подобряването на реакцията на чатбота в чувствителни ситуации. Компанията призна, че някои разговори могат да преминат от неутрални към по-сериозни и се фокусира върху „подходящо справяне с тези сценарии“ с инструменти, които би трябвало „по-добре да откриват признаци на психически или емоционален стрес“.

Коментари

НОВ КОМЕНТАР

НАЙ-НОВО

|

НАЙ-ЧЕТЕНИ

|

НАЙ-КОМЕНТИРАНИ

LinkedIn и краят на илюзията за “професионална” социална мрежа
Фон дер Лайен предлага нов заем от 45 млрд. евро за Украйна
От кариерни контакти до първа среща: LinkedIn се превръща в неочаквана платформа за запознанства
Започва строителството на третия лъч на метрото
Смяна в ръководството на Kaufland България: Петя Владимирова поема поста председател на Управителния съвет
Товарен кораб потъва край нос Калиакра
50 от най-полезните сайтове в интернет
22 цитата, които родителите ще оценят
Украйна увеличава натиска върху руската логистична мрежа с удари по Кримския мост
Унгарските власти откриха близо 20 млн. долара в брой при разследване срещу бивш министър на Орбан
Започват да изплащат добавката от 50 евро за Коледа
АПИ: Днес избягвайте магистрала Хемус, ако е възможно
50-те най-добри ресторанта в света за 2026 г.: Първите три места са в Испания, Тайланд и Дания
Тръгват големи съкращения в "Арсенал"
България планира да придобие 57 самоходни гаубици „Сезар“ от Франция
Евтино и лесно
Интимният скандал с шефа на Nvidia Дженсън Хуанг вдигна търсенето на кожените якета Tom Ford
Американският военноморски флот е събрал над 20 кораба в Близкия изток
Международни хакери шпионирали българските държавни институции цели 5 години
Председателят на НСИ: Инфлацията е около 6%, но доходите продължават да изпреварват ръста на цените
КЗК разреши инвестицията на „Шнайдер Електрик“ в българската „Шелли Груп“