OpenAI занижава критериите за безопасност под натиска на конкуренцията

OpenAI, разработчикът на чатбота ChatGPT, намалява сроковете за тестване на сигурността на собствените си модели с изкуствен интелект, както и количеството ресурси, разпределени за тези цели, пише Financial Times, позовавайки се на свои източници.

Това поражда опасения, че компанията бърза да пусне нови технологии, за да поддържа конкурентно предимство, без да тества достатъчно безопасността им, отбелязва вестникът. Според източниците на изданието, служителите и външните групи са получили само няколко дни, за да извършат оценка на риска и ефективността на най-новите модели на OpenAI, в сравнение с месеци по-рано.

Тестването е станало по-малко задълбочено, а времето и ресурсите, отделени за него, са недостатъчни за идентифициране и минимизиране на рисковете, казват източниците.  Липсата на време за тестване се дължи на „конкурентния натиск“, като се има предвид, че OpenAI се конкурира с компании като Meta Platforms Inc., Google, както и стартъпи, включително xAI на Илон Мъск, отбелязват други източници. 

OpenAI се стреми да пусне своя нов o3 AI модел следващата седмица, като някои екипи имат по-малко от седмица, за да проверят неговата безопасност, казват източниците. Според тях датата на пускане на модела може да се промени.