OpenAI създава нов надзорен екип, включващ Сам Алтман

От стартъпа за изкуствен интелект OpenAI съобщиха, че са създали Комитет за безопасност и сигурност, ръководен от висши служители, след като предишният Надзорен съвет беше разпуснат в средата на май.

Новият комитет ще отговаря за изготвянето на препоръки към борда на OpenAI „за критични решения за безопасност и сигурност за проекти и операции на OpenAI“, посочиха от компанията.

Това се случва, след като разработчикът на виртуалния асистент ChatGPT обяви, че е започнал да обучава своя следващ модел с изкуствен интелект.

Фирмата посочи в публикация в блог, че очаква „резултатните системи да ни доведат до следващото ниво на способности по пътя ни към AGI”.

Изкуствения общ интелект (AGI) в общи линии се отнася до ИИ, който е равнопоставен или по-напреднал от човешкият.

Създаването на нов екип за надзор идва, след като OpenAI разпусна предишен такъв, който беше фокусиран върху дългосрочните рискове от ИИ. Преди това и двамата ръководители на екипа, съоснователят на OpenAI Иля Суцкевер и Ян Лейке, обявиха напускането си от подкрепения от Microsoft стартъп.

Безопасността на ИИ е в челните редици на по-широк дебат относно новата технология, тъй като огромните изкови модели, които са в основата на приложения като ChatGPT, стават все по-напреднали. Разработчиците на ИИ продукти също се чудят кога ще се появи AGI и какви рискове ще дойдат с него.

Брет Тейлър, Адам Д’Анджело, Никол Селигман, които са в борда на директорите на OpenAI, сега участват в новата комисия по безопасност заедно с главния изпълнителен директор Сам Алтман.

Лейке този месец написа, че „културата и процесите на безопасност на OpenAI са отстъпили на заден план пред лъскавите продукти“. В отговор на напускането си Алтман посочи в социалната медийна платформа X, че е тъжен да види Лейке да напуска, като добави, че OpenAI има „много повече за вършене“

През следващите 90 дни групата по безопасност ще оцени процесите и предпазните мерки на OpenAI и ще сподели препоръките си с борда на компанията.