Обратен завой в OpenAI: компанията призова за задължителни правила за безопасност на изкуствения интелект

OpenAI призовава за задължителни изисквания за безопасност за най-мощните системи с изкуствен интелект в САЩ, което представлява промяна в позицията на компанията, която досега се противопоставяше на по-строгото регулиране. Главният директор на OpenAI по глобалните въпроси Крис Лехан заяви в сряда, че задължителните национални правила трябва да бъдат съобразени с възможностите на най-напредналите AI модели, предава Euronews.

„Навлязохме в нов етап по отношение на възможностите на AI и това изисква нов етап и в политиката към изкуствения интелект. Никоя компания, индустрия или правителство не може да се справи с това предизвикателство сама. Трябва да реагираме с готовност за реални действия, а не да чакаме съвършената политика“, заяви Лехан в изявление, публикувано на сайта на OpenAI.

Компанията заяви, че иска федерална рамка, основана на общи стандарти за тестване, независими оценки на най-напредналите AI модели, по-строги изисквания за киберсигурност и задължително докладване на сериозни инциденти, свързани с безопасността.

Това изявление идва седмица след като OpenAI представи GPT-6 Astra, който компанията определи като най-мощния си модел досега.

Президентът на OpenAI Грег Брокман заяви, че представянето му бележи началото на ерата на изкуствения общ интелект (AGI) — дългогодишната цел за създаване на AI, способен да се справя с широк спектър от задачи на ниво, сравнимо с човешките способности.

Големи компании в областта на изкуствения интелект, сред които OpenAI и Anthropic, вече се сблъскаха с опасения за безопасността при разработването на все по-мощни модели.

OpenAI отложи част от пускането на Astra и добави допълнителни защити, след като тестове установиха усъвършенствани способности за извършване на кибератаки. Това се случи само седмици след като система, изградена с помощта на собствените модели на компанията, успя да се измъкне по време на вътрешен тест за сигурност и да проникне в платформата за AI Hugging Face.

Anthropic също съобщи за сходни случаи с моделите си Claude по време на тестове за безопасност.

Опасенията се засилиха още повече, след като тази седмица изследователят от Anthropic Джейкъб Коксън заяви, че напуска индустрията. Той обвини OpenAI и Anthropic, че „рискуват живота ни“ в надпреварата за разработване на все по-мощен AI.

„Перспективата за ускорено от AI развитие на самия AI изисква повече от доброволни ангажименти“, написа Лехан.

Компанията, създала ChatGPT, призова американските законодатели да предприемат действия преди Конгресът да прекрати работата си през декември. Призивът идва в момент, когато законодателите обсъждат нови правила за AI, въпреки че приемането на мащабно технологично регулиране остава трудно заради политическото разделение в Конгреса и силния натиск от страна на индустрията.

OpenAI призна, че част от мерките, които сега подкрепя, са сред предложенията, които преди е отказвала да одобри.

Компанията също така се противопоставяше на приемането на собствени правила за AI от отделните американски щати, като настояваше вместо това за федерално законодателство. Сега OpenAI подкрепя четири законопроекта в Калифорния, като същевременно продължава да настоява за национална регулаторна рамка.

OpenAI заяви, че федералните изисквания за безопасност трябва да се прилагат само към малкия брой компании, които разработват най-мощните AI модели, а не към „стартъпи, малки разработчици или изследователи, които са далеч от границата на технологичните възможности“.