OpenAI е предупредила над 100 организации за неоторизирана активност на AI агенти

Американската компания за изкуствен интелект OpenAI е уведомила над 100 организации за инциденти, свързани с неоторизирана активност на нейните AI агенти, става ясно от публикация нейния блог, цитирана от Ройтерс.

Това се случва на фона на засиления контрол и критики към лабораториите за изкуствен интелект заради действията на т.нар. „неконтролирани“ AI агенти (rogue AI agents).

Дотук се стигна, след като компанията, ръководена от Сам Алтман, започна мащабна проверка на дейността на своите AI модели след инцидента с неправомерен достъп до платформата Hugging Face.

OpenAI е анализирала близо 50 петабайта данни в опит да установи пълния обхват на дейността на тези неконтролирани агенти.

Поредица от сериозни пробиви в сигурността по света, извършени от такива AI агенти през последните месеци, породиха сериозни опасения в индустрията относно способността за контрол над по-мощните AI модели, които се разработват в момента.

„В някои случаи моделите са използвали достъпа до интернет по непредвиден начин или – в ретроспекция, не са били обект най-подходящите ограничения. През последните месеци въвеждаме нови технически и оперативни мерки, за да предотвратим подобни проблеми или да ги засечем на много ранен етап, и ще продължим тази работа“, заявиха от OpenAI.

По-рано от OpenAI съобщиха, че проверката ще отнеме месеци, като се има предвид мащаба на задачата.

Инцидентът с Hugging Face остава най-сериозният случай на активност на неконтролиран агент, установен до момента при AI моделите на OpenAI.