Business Signature БРОЙ /// Мениджър 04/2026

Съвременният бизнес навлиза в нова ера, в която изкуственият интелект (AI) се превръща в ключов двигател на растежа. За да разберем как AI променя корпоративната среда и какви рискове носи, разговаряме с Вихрен Славчев, изпълнителен директор на водещата компания за киберсигурност „Мнемоника“ АД.

Как съвременният бизнес използва основно AI?

Днес AI е интегриран във всички ключови бизнес процеси – от автоматизация на операции до анализ на големи масиви от данни. Компаниите използват AI за оптимизация на разходи, вземане на по-информирани решения, прогнозиране и подобряване на клиентското обслужване чрез чатботове и виртуални асистенти. Това позволява на организациите да работят по-бързо и по-интелигентно. Може би едно от най-добрите приложения е за оптимизиране на веригите на доставки. В нашата практика виждаме, че AI ускорява трансформацията на цели индустрии.

Кои са основните ползи за бизнеса от използването на AI?

Ползите са многопластови. На първо място – ефективност. AI позволява автоматизация на рутинни задачи и освобождава човешкия ресурс за по-стратегически дейности. На второ – прецизност. Алгоритмите откриват зависимости, които човек трудно би забелязал. И на трето – скорост. В динамична среда това е критично. Подобрява времето и точността за вземане на решения. AI дава конкурентно предимство чрез по-точни прогнози и персонализирани услуги към клиентите.

Кои са основните проблеми, свързани с киберсигурността при използване на AI и LLM?

Основният риск е свързан с изтичане на чувствителни данни. Много организации използват AI модели, без да осъзнават, че въвеждат информация, която може да бъде обработена или съхранена по начин, който не е под техен контрол. Друг проблем е манипулирането на моделите чрез злонамерени входове. Неправилна конфигурация на модели, уязвимости в самите AI системи и възможности за манипулиране на резултатите чрез т.нар. prompt injection атаки. Това може да доведе до грешни решения или компрометиране на системи. Чрез атаки за „отравяне на данни“ зловредните лица могат да вкарат „отровени“ данни в тези, използвани за обучение на AI модели. 

Така моделът може да прави неправилни или преднамерено изкривени прогнози. Друг вид са атаките за „извличане на модели“, чрез които нападателите могат да се опитат да „извлекат“ AI модела от организацията, като анализират неговите изходи. Това може да им позволи да възпроизведат модела и да го използват за свои собствени цели или да идентифицират уязвимости в него. За да се избегнат халюцинациите на моделите, е много важно процесът на обучение да е плавен и постепенен, като се следва примера за обучение на децата в различните класове/стадии на образованието. Необходимо е при използването на вътрешни модели или така модерните „AI агенти“ много внимателно да се въвеждат ограниченията Guardrails, които точно и ясно да поставят границите, при които моделът трябва да изпълнява инструкциите. Точно тези ограничения подлежат на тестове и задължително трябва да бъдат проверявани.

Как компания като вашата, която разполага със Security Operations Center, може да помогне за повишаване на сигурността при използване на AI?

„Мнемоника“ АД е компания за киберсигурност от ново поколение и ние винаги се стремим да стоим на ръба на технологиите, които са ключът за развитието на човечеството. Нашите разбирания са, че традиционната сигурност вече не е достатъчна и трябва да се стремим да защитаваме това, което е най-използваното в момента. Както е казал народът: „Пътят е там, откъдето минават хората“. Нашият SOC наблюдава, анализира и реагира в реално време на инциденти, включително такива, свързани с AI. Ние изграждаме политики за сигурност, провеждаме мониторинг на AI системи и откриваме аномалии, които могат да сигнализират за атаки. Освен това обучаваме екипите на клиентите как безопасно да използват AI.

Изключително важно е в организациите, които широко са допуснали използването на AI, да се въведат правилните контроли за следене на поведението и точно те да бъдат подавани за наблюдение и корелиране в SOC.

Може ли и как трябва да се тестват AI системите в организациите за сигурност и изтичане на данни?

Да, и това е задължително. Провеждат се т.нар. AI security assessments – тестове, които проверяват устойчивостта на модела срещу атаки, както и риска от изтичане на данни. Използваме техники като Adversarial testing, моделно сканиране и симулации на реални атаки. Провеждат се одити, Penetration тестове и симулации на атаки. Това помага да се идентифицират слабости и да се предотврати изтичане на данни или злоупотреба.

Ще бъдат ли изгубени работни места вследствие на AI?

AI няма да премахне работни места, а ще ги трансформира. Рутинните дейности ще бъдат автоматизирани, но ще се появят нови роли – специалисти по AI етика, AI одитори, инженери по сигурност на модели. Компаниите, които инвестират в обучение, ще спечелят най-много. По-скоро говорим за промяна в уменията, отколкото за масова загуба на работа.

Какъв е вашият съвет към бизнеса?

Да внедряват AI стратегически и сигурно – с ясни политики, контрол и постоянен мониторинг. Сигурността трябва да бъде интегрирана от самото начало, а не добавена впоследствие. Както във всички останали сфери на работа, и тук превенцията е от изключително значение – моделите трябва екстензивно да бъдат тествани от гледна точка на киберсигурност, преди да бъдат пуснати в експлоатация в реална работна среда. AI е мощен инструмент, но изисква отговорно управление. Компаниите, които комбинират иновации със силна киберсигурност, ще бъдат лидерите на утрешния пазар.

Вихрен Славчев е изпълнителен директор на „Мнемоника“. Има повече от 20 години опит в сферата на IT и управлението, придобит в разработка на софтуерни продукти, в сферата на недвижимите имоти и услуги, както и в компании във финансовия сектор. От 2009 г. досега, заедно с ръководения от него екип, продължава да изгражда една от най-динамично развиващите се и успешни български компании за киберсигурност. Завършил е Техническия университет във Варна, специалност „Автоматика и системи за управление“.