OpenAI създаде контролен орган от топ-мениджъри за наблюдение и спиране на опасния изкуствен интелект

Компанията OpenAI обяви създаването на независим наблюдателен орган /комитет/ към Съвета на директорите, който ще се фокусира върху проблемите на безопасността и сигурността в областта на изкуствения интелект /ИИ/. С негова помощ компанията се стреми да демонстрира своята заинтересованост и ангажираност интерес към етичното и безопасно развитие на невронните мрежи, съобщава The Verge.

Новият комитет получава безпрецедентни правомощия, включително правото да спира пускането на ИИ модели от съображения за сигурност. Той включва топ мениджъри на OpenAI като Зико Колтер, Адам Д’ Анджело, Пол Накасоне и Никол Селигман. Изпълнителният директор на OpenAI Сам Алтман не попадна в списъка. Новата структура ще получава информация от ръководството на компанията относно оценката на безопасността на основните издания на ИИ- модели и ще наблюдава пускането им заедно с пълния борд на директорите. Целият борд на директорите на OpenAI също ще получава редовни доклади по проблемите на безопасността и сигурността.

The Verge пише, че степента на независимост на новия комитет е под въпрос, като се има предвид, че всички негови членове са в борда на директорите на OpenAI. Като пример за по-успешно прилагане на този контекст медията цитира надзорния съвет на Meta , чиито членове са напълно независими от борда на директорите на IT-гиганта.