Почти всяка област от дигитализацията и всеки сегмент, свързан с обработка на информация, през последните години се оказаха поле на ускорени промени под влиянието на изкуствения интелект. Затова и вероятно е било въпрос на време киберсигурността също да се окаже сериозно засегната от него. Това, че AI моделите и базирани на тях агенти се използват за атакуване на информационни системи, не е новина. Нито че такива технологии се внедряват активно и в решенията за сигурност. Тази

своеобразна „надпревара във въоръжаването“

се случва вече от няколко години и според повечето анализатори тепърва ще дефинира развитието на сегмента на киберсигурността. Едно събитие от последните седмици обаче създаде истинска буря в IT отделите на стотици компании – от водещите банки до разработчиците на всевъзможни софтуерни продукти. И както може да се очаква, американското дружество, разработващо модели с изкуствен интелект, Anthropic, отново се оказа във фокуса на общественото внимание.

Софтуерната компания вече предизвика сериозни сътресения с някои от своите предишни продукти, които, както списание „Мениджър“ писа в предишния си брой, дори доведоха до временен борсов срив. Сега тя отново накара технологичния (и не само) сегмент да настръхне. Този път Anthropic представи нов AI модел, който се оказа

особено ефективен в откриването на уязвимости

в разнообразни типове софтуерни системи. Той се нарича Claude Mythos и за краткото си съществуване вече успя да идентифицира десетки уязвимости, включително в някои от най-популярните операционни системи, интернет браузъри и множество други приложения. Някои от уязвимостите – съществували в продължение на десетилетия, без да бъдат открити и ограничени. Така например той е показал как може да бъде атакувано софтуерно решение чрез дупка в сигурността, съществувала „необезпокоявано“ цели 27 години.

Изводът е ясен: освен да създава софтуерни програми, изкуственият интелект е много добър също и в това да обхожда щателно такива решения, както и да обединява информацията за тях, така че да открива различни

нови методи за атаки.

На теория подобна технология би могла да бъде използвана за укрепване на софтуерната инфраструктура. Въпросът, който се налага от само себе си обаче, е: какво ще стане, ако тя бъде използвана от злонамерени играчи с цел компрометиране на компютърни системи в невиждани досега мащаби.

Рисковете са огромни, особено като се има предвид, че голяма част от интернет инфраструктурата е базирана на приложения, които съществуват от десетилетия, много от тях са с отворен код и откриването на уязвимости се е извършвало на доброволни начала от неформални общности от IT експерти. Други решения със затворен код пък са развивани от частни компании, които невинаги са разполагали с ресурса да проверяват щателно за дупки в сигурността или са имали желанието да инвестират такъв ресурс.

Какво все пак представлява Claude Mythos?

Това е езиков модел от ново поколение, който комбинира класическа обработка на естествен език със задълбочен анализ на софтуерен код. Моделите на Anthropic вече се доказаха като особено ефективни в разработката на софтуер и затова не буди учудване, че именно тази компания успя да създаде инструмент с такова влияние в сегмента на сигурността. Интересното е, че за разлика от други подобни модели, Mythos не просто разбира програмен код, а го възприема в контекст, което му помага да открива логически зависимости, да предвижда определено поведение и да идентифицира слабости.

Сред причините за това е и начинът, по който новият изкуствен интелект е трениран. Обучението му е осъществено върху мащабен набор от данни, включващ както публични бази със софтуерен код, така и симулирани среди за атаки и защита. Това позволява на езиковия модел да създава сценарии на кибератаки с особено висока прецизност. Тези способности го правят много ценен инструмент за компании и държавни институции, които искат да тестват устойчивостта на своите системи. И вероятно именно тази употреба е основната цел на неговите създатели.

През последните години обаче станахме свидетели на съвсем друг начин за разпространение на AI моделите. Много от тях бяха предоставяни на широката публика за свободно ползване – безплатно или срещу много ниска месечна такса. Съответно няма как да не се запитаме какво би станало, ако Mythos бъде използван свободно от всеки желаещ. Това на този етап не е възможно, тъй като Anthropic ограничи достъпа до своето ново творение.

Ускорен анализ на уязвимостите

Може би най-впечатляващо при Mythos е неговата способност да анализира различни проблеми в работата на софтуерните системи в реално време, както и веднага да предлага специфични решения за тях. Характеристика, която би могла да предефинира начина, по който действат хакерите и съответно системите за защита, като позволи приложенията да се обновяват за секунди, добавяйки нови „кръпки“ в отговор на току-що открити дупки в сигурността.

Колко опасен е новият модел?

На теория Mythos не създава уязвимости в компютърните системи, а само разкрива тези, които вече съществуват. Т.е. една много добре разработена и защитена система не би трябвало да бъде поставена под риск от новия изкуствен интелект. На практика обаче едва ли има софтуер, който да е напълно защитен и без каквито и да било дупки в сигурността.

Anthropic вече показа, че моделът няма да бъде предоставен свободно, и обяви Project Glasswing – инициатива, в рамките на която предостави достъп до него на някои от най-големите софтуерни компании. Това са гиганти, чиито продукти са критични за функционирането на дигиталната инфраструктура по света и с които работят както множество обикновени потребители, така и бизнеси, държавни институции, болници и много други организации. Мислете си за Microsoft, Google, Amazon Web Services, производители на чипове, на софтуер за киберсигурност и други. Сред тях е и станалата печално известна Crowdstrike, чийто софтуер беше в основата на голям срив в сигурността преди две години. Само преди дни дойде и съобщението, че създателите на Mythos ще го предоставят и на някои от водещите банкови организации в света. Финансовите институции съвсем очаквано са сред най-притеснените от появата на новия AI модел, тъй като техните информационни системи са с особено критична роля за нормалното функциониране на обществото ни. Затова и шефът на Федералния резерв на САЩ Джером Пауъл вече проведе среща с представители на водещите американски банки във връзка с рисковете, произтичащи от новия инструмент на Anthropic.

Project Glasswing все пак ще позволи предимствата на новия модел първо да се използват за укрепването на ключови инфраструктури и едва след това (евентуално) той да бъде предоставен на по-широк кръг организации.

Междувременно обаче някои експерти поставиха логичния въпрос: след като основаната от Дарио Амодей компания за изкуствен интелект вече показа, че един AI модел може да покаже като на длан всички уязвимости на най-популярните софтуерни системи в света, колко трудно би било друг играч с достатъчно ресурси да създаде подобна технология.

Пътят вече е открит

и е въпрос само на мотивация и капитал по него да преминат и други. В съвременната напрегната геополитическа обстановка би било наивно да допуснем, че подобни играчи липсват. Високопоставени лица от американската администрация вече изразиха задоволство, че такава технология е създадена от американска компания. При това – въпреки скорошните търкания на ръководеното от Амодей дружество с Пентагона и дори поставянето му в списъка с компании, които не са достатъчно надеждни, за да работят с държавата.

В крайна сметка новият AI модел с митично име би могъл в перспектива да направи софтуерните решения, които всички използваме, по-добре защитени, като обърне внимание на уязвимости, които дълги години са били пренебрегвани.

Някои анализатори обаче поставят акцент върху един потенциално по-значим проблем в дългосрочен план. Според тях компаниите за киберсигурност и софтуерна разработка биха могли с времето да привикнат към автоматизираните системи за сигурност, развивайки своеобразна зависимост. И в перспектива това да доведе до ограничаване на човешкия фактор и по-малко подготвени хора в областта. В резултат, ако възникне евентуален пробив или грешка в самия AI модел, може да няма човешки експерти, способни да се справят с проблема, и последствията биха могли да бъдат значително по-тежки.