OpenAI моли потребителите на ChatGPT-4o да не развиват чувства към него

OpenAI моли потребителите на ChatGPT-4o да не развиват чувства към него

ChatGPT-4o е най-новата верия на чатбота на OpenAI и, както може да се очаква, компанията има известни притеснения относно начина, по който потребителите се ангажират с него. Като се има предвид, че най-новата версия може да демонстрира поведение и реакции, подобни на човешките, фирмата за изкуствен интелект се опасява, че потребителите ще развият чувства към чатбота.

Докато оцененият на милиарди стартъп продължава да усъвършенства своя продукт, той не може да не забележи някои модели от потребителите на ChatGPT-4o. Пускането на новия чатбот имаше за цел да осигури преживяване, подобно на разговора с човек, но изглежда OpenAI е подценила емоционалната връзка, която може да се създаде между потребителите и програмата.

"По време на ранното тестване, включително и вътрешно потребителско тестване, забелязахме, че потребителите използват език, който може да показва, че формират връзки с модела. Това включва например език, изразяващ споделени връзки, като например "Това е последният ни ден заедно". Въпреки че тези случаи изглеждат доброкачествени, те сигнализират за необходимостта от продължаване на проучването на това как тези ефекти могат да се проявят за по-дълги периоди от време", предупреждава компанията.

Според нея, включването на по-разнообразни общности от потребители, с различни нужди и желания от модела, в допълнение към независими академични и вътрешни проучвания, ще ѝ помогнат да определи по-конкретно тази рискова област.

Развиването на чувства към ChatGPT-4o е вредно по различни причини. Основната е, че преди това потребителите не са обръщали внимание на халюцинациите, тъй като предишните версии на чатбота са ги карали да изглеждат по-скоро като програма с изкуствен интелект, а не като човек. Сега, когато програмата преминава към предоставяне на преживяване, близко до това на човек, всичко, което казва, може да бъде прието без допълнителни въпроси.

Забелязвайки тези модели, OpenAI вече ще следи как хората развиват емоционални връзки с ChatGPT-4o и ще настройва системите си по съответния начин. Компанията трябва да добави и отказ от отговорност в началото, за да не се влюбят потребителите в нея, защото в крайна сметка тя е програма с изкуствен интелект.

Коментари

НАЙ-НОВО

|

НАЙ-ЧЕТЕНИ

|

НАЙ-КОМЕНТИРАНИ

Футболната звезда Килиан Мбапе подаде жалба в прокуратурата за морален тормоз в ПСЖ
Киев: Русия е струпала 110 000 войници близо до стратегически важен украински град
В Будапеща ще се състои ежегодният гей парад въпреки официалната забрана
Върховният съд на САЩ разшири властта на Тръмп - и той възнамерява да се възползва от това
Джеф Безос се ожени за Лорън Санчес на пищна церемония във Венеция
Времето: Жълт код за интензивни валежи в 23 области в страната
Германски надзоорен орган иска Apple и Google да блокират DeepSeek
Червени флагове, за които да внимавате, когато сте на интервю за работа