Банковите регулатори засилват контрола върху AI на фона на нарастващите опасения за стабилността

Банковите регулатори засилват усилията си за ограничаване на нарастващите рискове, свързани с изкуствения интелект, като някои от тях акцентират потенциала за кибератаки срещу банки или за действия на неконтролирани AI агенти, които биха могли да подкопаят глобалната финансова стабилност, пише Ройтерс.

Засиленият регулаторен отразява нарастващото разбиране, че напредъкът в най-съвременните технологии за AI може да наложи скъпоструващи инвестиции във възстановяване на системите след кибератаки, по-голямо внимание към зависимостта от външни технологични доставчици, а в някои юрисдикции – и по-формални регулаторни насоки, твърдят източници.

Трима водещи регулатори в САЩ, включително Федералният резерв, изискват от банките информация за използването на усъвършенствани модели на изкуствен интелект, съобщават за Ройтерс двама от запознатите със случая, като това е в допълнение вече провежданите проверки.

Въпросите засягат теми като това дали банките внедряват технологии, разработени в Китай, дали използват AI агенти за киберзащита и дали са в състояние да контролират все по-автономните системи, посочват трима от източниците.

В Европа надзорните органи, включително Английската централна банка и Европейската централна банка, настояват банките да подобрят плановете си за възстановяване на дейността, опасявайки се, че бързият напредък на AI може да причини сериозни щети и сътресения на финансовите пазари по-скоро, отколкото се е предполагало досега, заявяват трима души, запознати с позицията на регулаторите.

Високопоставен представител на голяма европейска банка е споделил, че и те са загрижени за потенциални мащабни щети за банковия сектор и финансовите пазари, които биха могли да настъпят „в рамките на шест месеца“.

Дебатът относно надзора над AI се засили на фона на предупреждения от страна на индустрията след скорошни инциденти; изпълнителният директор на JPMorgan Джейми Даймън призова корпоративните лидери да се присъединят към специализирана група от сектора в САЩ за справяне с рисковете, свързани с изкуствения интелект, съобщи Ройтерс.

Американската компания за киберсигурност CrowdStrike съобщи този месец, че лице в Китай вероятно е използвало разработен в страната AI агент и инструмента Claude Code на компанията Anthropic при хакерска атака срещу южнокорейски банки. Междувременно, неконтролирани AI агенти, разработени от OpenAI, са били замесени в пробив в сигурността на платформата за ИИ Hugging Face, предаде Ройтерс.

Изследователи от Anthropic предупредиха, че все по-мощните AI системи могат в крайна сметка да излязат извън човешкия контрол и дори да представляват екзистенциална заплаха, което провокира призиви за по-строга регулация. Банките се надпреварват да внедряват „агентен“ изкуствен интелект (AI) – системи, способни да изпълняват задачи с минимален човешки надзор – като същевременно се сблъскват с предизвикателствата, свързани с новите модели, включително слабости в ИТ инфраструктурата, отличени от инструмента Mythos на компанията Anthropic.

„Внедряването на изкуствен интелект често изпреварва способността за въвеждане на необходимите механизми за контрол“, коментира Майкъл Уудбридж, партньор по киберсигурност в лондонския офис на Grant Thornton.

Опасенията в САЩ са насочени към агентния изкуствен интелект

Регулаторните запитвания в САЩ се фокусират върху начина, по който банките използват агентен изкуствен интелект в сфери като киберсигурността, като се обръща специално внимание на това дали AI агентите се използват за идентифициране и приоритизиране на заплахи, както и за реакция срещу тях.

Въпросите от страна на Службата на контрольора на валутата (OCC), Федералната корпорация за гарантиране на депозитите (FDIC) и Федералния резерв (Fed) засягат ограниченията, наложени върху системите, начина, по който действията им се наблюдават и одобряват, както и възможността на банките ясно да проследяват и одитират решенията, взети от AI агентите, посочват двама от запознатите източници.

Регулаторите също така изискват информация относно съществуващите защитни механизми, предотвратяващи излизането на агентите извън рамките на техните правомощия, участието на хора при вземането на ключови решения и възможностите на банките да преустановят работата на автономните системи.

От OCC, Fed и FDIC са отказали коментар.

Чрез тези запитвания регулаторите проучват по-конкретни въпроси, свързани с усъвършенстваните модели на изкуствен интелект, включително използването на автономни AI агенти, модели, разработени в чужбина, и нови киберрискове, отбелязват тримата запознати със ситуацията източници.

Писмените и устните запитвания, отправени към големи, средни и малки банки, показват, че регулаторите се фокусират върху уязвимостите, произтичащи от използването на изкуствен интелект, както и върху готовността на банките да реагират при необходимост, добавят те.

Регулаторните органи все още събират информация и засега не налагат конкретни изисквания за това как точно трябва да действат финансовите институции, уточняват източниците.

Европейците се боят за възстановяването на системите

Паралелно с това, надзорните органи във Великобритания насърчават най-големите банки да разгледат плановете за възстановяване от типа „bare metal“, посочват двама от запознатите източници. Тези системи са напълно независими от основната технологична инфраструктура на банката и могат да се задействат, ако основните операционни системи бъдат компрометирани.

Изграждането и поддържането на подобни модерни системи за възстановяване обаче е скъпо начинание, отбелязват източниците. Вместо да въвеждат нови изисквания, властите в Обединеното кралство възнамеряват да работят съвместно с индустрията, добавиха те.

Английската централна банка е отказала коментар.

През юли ЕЦБ постави на финансовите институции краен срок до края на октомври да изготвят планове за противодействие на киберзаплахи, свързани с изкуствения интелект, включително за подобряване на системите за архивиране и възстановяване на данни.

В отговор на въпрос относно стратегията си за регулиране на AI, ЕЦБ се позова на писмото си от юли, както и на реч от юни на члена на Управителния съвет Франк Елдерсън, който подчерта необходимостта от създаване на усещане за неотложност, но не и за паника, по отношение на тези заплахи.

Нуждата от надзорни действия стана още по-належаща, след като европейските банки и регулатори изразиха недоволство от ограничения достъп до системата Mythos през тази година, опасявайки се, че на американските банки ще бъде дадена възможност първи да тестват най-съвременните модели (т.нар. frontier models).

Подобно на колегите си в САЩ, британските надзорни органи също изискват от банките да използват най-съвременни AI технологии за идентифициране на уязвимости и ускоряване на процеса по отстраняване на софтуерни пропуски. Според двама източници финансовите институции се справят добре с тази задача до момента.

Трети източник посочва, че от банките в еврозоната се изисква също така да направят преглед на начина, по който AI се използва в дейността им и от външни доставчици, за да разберат ключовите зависимости и да гарантират, че могат да изключват и рестартират системите по контролиран начин.

В някои компании все още съществуват значителни пропуски, добавят източниците.

„За защита срещу атаки бързото възстановяване е също толкова важно, колкото и превенцията“, заяви Суканд Рамачандран, управляващ директор и старши партньор в BCG.

Без наличието на отделно съхранявани „чисти“ и сигурни копия на критични данни, „сериозна атака би могла да лиши клиентите от достъп до сметките им и да наруши разплащанията в цялата икономика“, каза Рамачандран пред Ройтерс.