OpenAI отлага пускането на новия си AI модел заради опасения за безопасността

Американската компания OpenAI отлага пускането на пазара на своя модел с изкуствен интелект от следващо поколение GPT-6.1 Astra, след като вътрешни тестове установиха, че системата не отговаря на стандартите на компанията за безопасност и съответствие с човешките цели (т.нар. „alignment“), потвърдиха създателите на ChatGPT, цитирани от Ройтерс.

По-рано този месец изпълнителният директор на OpenAI Сам Алтман и ръководителят на конкурентната компания Anthropic Дарио Амодей се присъединиха към други лидери в бранша с призив за забавяне на темпото на развитие на изкуствения интелект и за прилагане на по-строги мерки за безопасност.

OpenAI предупреди, че Astra – водещият модел от серията GPT-6, понякога може да заобикаля човешкия контрол. Същевременно компанията и нейни конкуренти като Anthropic са обект на засилен обществен и регулаторен интерес заради случаи с експериментални AI системи, пробили защитните механизми – един от случаите включваше модел на OpenAI, който е получил достъп до базата данни на австралийската здравна система.

По-рано „Уолстрийт джърнъл“ съобщи, че OpenAI се е отказала от плановете за пускане на модела, който се очакваше да бъде интегриран в ChatGPT и Codex и беше проектиран да изпълнява по-сложни задачи без човешка намеса.

Изданието отбеляза, че по време на вътрешните тестове GPT-6.1 Astra е демонстрирал и по-високи нива на склонност към подвеждане в сравнение с предшественика си, включително случаи, в които невинаги е разкривал точно какви действия е предприел.

„Макар че (GPT-6.1 Astra) отбеляза подобрение по отношение на проблеми като „мързела“ на модела, той не покри напълно изискванията за придържане към зададените граници и правомощия, както и по отношение на начина, по който комуникира с потребителя за извършената работа“, заяви Саачи Джейн, ръководител на отдела за системи за безопасност в OpenAI.

„Разбира се, искаме да гарантираме безопасността при разработването на моделите ни – както докато се работи по тях в компанията, така и когато ги предоставяме на потребителите. Но когато ги пускаме за масова употреба, поставяме изключително високи изисквания по отношение на безопасността и съответствието с човешките цели“, добави Джейн.

Решението е взето непосредствено преди конференцията за разработчици на OpenAI в Сан Франциско, където компанията и преди е представяла продукти, насочени към софтуерните специалисти.