OpenAI въвежда мерки за безопасност с изкуствения интелект за младежи и хора под стрес

Разработчикът на ChatGPT  - компанията OpenAI,  ще въведе мерки за безопасност за хора в емоционален стрес и за тийнейджъри до края на годината, според съобщени на сайта на компанията.

 „Виждали сме хора да се обръщат към ChatGPT в най-трудните си моменти. Ето защо продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален стрес“, заявиха от компанията.

OpenAI отбеляза, че е започнала да сформира съвет от експерти в областта на развитието на младежите, психичното здраве и взаимодействието човек-компютър.

„Добавяме още медици и изследователи към нашата мрежа, включително такива с дълбоки познания в области като хранителни разстройства, употреба на психоактивни вещества и здравето на подрастващите“, заявиха от компанията. 

Освен това, родителският контрол ще бъде засилен при работа с ChatGPT. Родителите ще могат да получават известия, ако системата открие, че тийнейджър се „намира в трудно положение“. Подобни промени са важни, защото ChatGPT напоследък не е предприела подходящи действия при комуникация с хора, които планират убийство или самоубийство, пише Axios.   Според изданието, компанията в момента не сезира правоохранителните органи за подобни случаи, позовавайки се на опасения за поверителност. Сега ChatGPT насочва потребителите, изразяващи суицидни намерения, към „горещите“ линии. 

Както The Wall Street Journal съобщи в началото на август, ChatGPT е започнал да отправя неверни и абсурдни твърдения, които довеждат до тежко разстройство на психиката някои потребители. Например, изкуственият интелект твърди за контакти с извънземни и бъдещ апокалипсис. Лекарите наричат ​​това „AI психоза“, когато усилва заблудите и илюзиите на потребителите. Някои хора, следвайки съветите на чатбота, са похарчили големи суми пари или са прекъснали връзки с близки. OpenAI призна проблема и обеща да забрани на невронните мрежи да дават съвети по важни лични въпроси.