Стартиращата компания за AI сигурност Xbow вече е оценена на над 1 милиард долара

Xbow, стартъп, който разработва AI софтуер за откриване на уязвимости в приложения, е привлякъл нов кръг финансиране, който го оценява на над 1 милиард долара — знак за ентусиазма на инвеститорите към използването на изкуствен интелект в киберсигурността.

DFJ Growth и Northzone водеха финансирането от 120 млн. долара в Xbow, съобщи компанията в сряда. Други участници бяха Alkeon Capital и Sofina, както и предишни инвеститори като Sequoia Capital, Altimeter Capital и NFDG, пише Bloomberg.

Основана през 2024 г., Xbow е част от ново поколение стартъпи, обещаващи да използват напредъка в AI за борба със злонамерени действащи лица, включително такива, които могат да се възползват от изкуствения интелект, за да автоматизират собствените си атаки. По-рано този месец OpenAI се съгласи да купи Promptfoo — компания, която позволява на големи организации да откриват и поправят проблеми със сигурността в AI модели. OpenAI и Anthropic PBC също представиха AI агенти, предназначени да помагат на екипите по сигурността да откриват и отстраняват уязвимости в големи бази данни.

Xbow използва човешки хакери, за да обучава AI модели, които автоматизират функциите на т.нар. „penetration testers“ и „red teams“, които се опитват да открият слабости в системите на компаниите, преди те да бъдат експлоатирани. Стартиращата компания се фокусира върху търсенето на пропуски в приложенията — нужда, която расте, тъй като все повече разработчици използват AI инструменти за програмиране, за да ускорят процеса на писане на софтуер.

Оеге де Мур, главен изпълнителен директор на Xbow и бивш ръководител на иновативния продукт за генериране на код Copilot на GitHub, казва, че приложения, изградени предимно с AI, обикновено „произвеждат несигурни модели на кодиране“.

Причината, според него, е, че „те са обучавани върху публично достъпен код, а за съжаление голяма част от публично достъпния код не е бил добре защитен“. Де Мур очаква, че AI моделите „ще стават все по-добри в избягването на несигурни кодови модели“, но ще остане предизвикателство да се откриват уязвимости, произтичащи от това, че AI не разбира бизнес логиката, или когато данните могат или трябва да се споделят. Xbow, казва той, може да открива такива пропуски.

Стартиращата компания има около 150 служители и очаква да достигне няколкостотин до края на годината. Xbow има над 100 клиенти, включително Moderna Inc. и Samsung Electronics Co., и наблюдава силен интерес в Южна Корея, където компаниите са изложени на заплахи от държавни хакерски групи, каза де Мур.

Докато AI инструментите могат да помагат на компаниите да се защитават, хакерите също използват технологията, за да увеличат обема и тежестта на атаките.

„Светът все още не е напълно осъзнал какво предстои“, каза де Мур. „Очакват ни масови злонамерени атаки. По-добре да сме подготвени за тях.“