OpenAI моли потребителите на ChatGPT-4o да не развиват чувства към него

ChatGPT-4o е най-новата верия на чатбота на OpenAI и, както може да се очаква, компанията има известни притеснения относно начина, по който потребителите се ангажират с него. Като се има предвид, че най-новата версия може да демонстрира поведение и реакции, подобни на човешките, фирмата за изкуствен интелект се опасява, че потребителите ще развият чувства към чатбота.

Докато оцененият на милиарди стартъп продължава да усъвършенства своя продукт, той не може да не забележи някои модели от потребителите на ChatGPT-4o. Пускането на новия чатбот имаше за цел да осигури преживяване, подобно на разговора с човек, но изглежда OpenAI е подценила емоционалната връзка, която може да се създаде между потребителите и програмата.

"По време на ранното тестване, включително и вътрешно потребителско тестване, забелязахме, че потребителите използват език, който може да показва, че формират връзки с модела. Това включва например език, изразяващ споделени връзки, като например "Това е последният ни ден заедно". Въпреки че тези случаи изглеждат доброкачествени, те сигнализират за необходимостта от продължаване на проучването на това как тези ефекти могат да се проявят за по-дълги периоди от време", предупреждава компанията.

Според нея, включването на по-разнообразни общности от потребители, с различни нужди и желания от модела, в допълнение към независими академични и вътрешни проучвания, ще ѝ помогнат да определи по-конкретно тази рискова област.

Развиването на чувства към ChatGPT-4o е вредно по различни причини. Основната е, че преди това потребителите не са обръщали внимание на халюцинациите, тъй като предишните версии на чатбота са ги карали да изглеждат по-скоро като програма с изкуствен интелект, а не като човек. Сега, когато програмата преминава към предоставяне на преживяване, близко до това на човек, всичко, което казва, може да бъде прието без допълнителни въпроси.

Забелязвайки тези модели, OpenAI вече ще следи как хората развиват емоционални връзки с ChatGPT-4o и ще настройва системите си по съответния начин. Компанията трябва да добави и отказ от отговорност в началото, за да не се влюбят потребителите в нея, защото в крайна сметка тя е програма с изкуствен интелект.