Експерти по сигурността от САЩ и Китай предлагат предпазни мерки около ядрените системи заради рисковете, свързани с AI

Система с изкуствен интелект, която пречи на мрежата за ядрено командване или стартира военна кибероперация, може да остави Вашингтон или Пекин с броени минути, преди да вземат решение дали другото правителство ги е атакувало, според експерти по сигурността от САЩ и Китай.

Експертите, част от диалог между САЩ и Китай, чиято работа помага за информиране на официалните дискусии, призовават и двете правителства да се подготвят за подобни сценарии на фона на нарастващите опасения относно все по-мощните и по-автономни системи, пише Ройтерс.

Техните предложения включват червени линии около ядрените системи, човешки контрол върху последващи кибератаки и гореща линия за инциденти, включващи автономен изкуствен интелект.

Препоръките бяха публикувани миналата седмица, преди планираните преговори за изкуствен интелект на правителствено ниво и очакваната среща на 24 септември във Вашингтон между президента на САЩ Доналд Тръмп и китайския президент Си Дзинпин.

Авторите Мелани Сисон, старши сътрудник в мозъчния тръст на Института Брукингс, и Тиендзяо Дзян, доцент в Университета Фудан, участваха в диалога между САЩ и Китай относно изкуствения интелект и националната сигурност, организиран от 2019 г. насам от Центъра за международна сигурност и стратегия към Брукингс и Университета Цинхуа.

Техните предложения показват как съперничеството между САЩ и Китай в областта на изкуствения интелект излиза отвъд конкуренцията за чипове и авангардни AI модели и се насочва към въпроси, отдавна свързани с контрола върху въоръженията – как да се предотврати погрешното приемане на инциденти за атаки, как да се ограничат машинно взетите военни решения и как да се установят комуникационни протоколи за ядрено въоръжени съперници, когато технологиите се държат неочаквано.

Министърът на държавната сигурност на Китай Чен Исин тази седмица написа в правителствено издание, че изкуственият интелект „фундаментално трансформира формата на военна борба“. Според него той се е преместил от поддържаща роля на бойното поле в ключова роля, позовавайки се на ударите, ръководени от изкуствен интелект, в американско-израелската война с Иран.

Червени линии около ядрените системи

Сисон от Института Брукингс твърди, че хората трябва да запазят изключителните правомощия да инициират кибератаки с изкуствен интелект срещу системите за ядрено командване, контрол и комуникации на другата държава или стратегически важна инфраструктура.

Автономна система може да не работи правилно, да превишава инструкциите си или да бъде компрометирана, докато атакуваната държава може да се затрудни да определи дали действието е било случайно или по нареждане на нейния съперник.

Дзян от Университета Фудан предложи ясни червени линии, които да не позволяват на AI самостоятелно да взема решения за използване на ядрени оръжия или автономно да атакува системи за ядрено командване, заедно със защити около критична инфраструктура, включително енергетика, финанси и здравеопазване. Той също така настоя за споделено определение за „смислен човешки контрол“, за да се предотврати използването на идентичен език от двете страни за оправдаване на различни нива на машинна автономност.

Идеята се основава на принцип, подкрепен от тогавашния президент на САЩ Джо Байдън и Си Дзинпин през ноември 2024 г., че хората трябва да запазят контрол върху решенията за използване на ядрени оръжия.

Лора Заалман, старши сътрудник в Стокхолмския международен институт за изследване на мира, написа през февруари, че това е важен момент от сближаването между САЩ и Китай, въпреки че и двете страни показват признаци на по-дълбоко интегриране на ИИ в ядрените и свързаните с тях системи.

Дзян също така предложи специална военна гореща линия между САЩ и Китай за инциденти с АИ, предупреждавайки, че автоматизираният киберобмен може да ескалира твърде бързо за човешка намеса.

Защитният AI на едната страна може автоматично да реагира на подозрителна активност, докато другата страна може да интерпретира този отговор като атака и да отмъсти, преди да разбере какво всъщност се е случило.

Гореща линия може да позволи на едното правителство да каже на другото, че необичайна операция на AI е била случайна, неоторизирана или все още е в процес на разследване, преди да бъде третирана като умишлено държавно действие.

Експерти, включително Карла Фрийман от Училището за висши международни изследвания Джонс Хопкинс, обаче поставиха под въпрос полезността на съществуващата гореща линия за комуникация при кризи между военните сили на САЩ и Китай, позовавайки се на отказа на китайските служители да отговорят на обажданията на американските си колеги относно „инцидента с шпионски балон“ през февруари 2023 г.

Вижданията във Вашингтон и Пекин

Нито едно от правителствата не е одобрило публично предложенията на Брукингс-Цинхуа, но Китай все повече поставя изкуствения интелект в рамките на съществуващата си бюрокрация за контрол върху оръжията.

Изкуственият интелект е официално портфолио на Департамента за контрол на въоръженията към Министерството на външните работи, който също така се занимава с ядрени оръжия, неразпространение на ядрени оръжия, ракети и други въпроси, свързани с международната сигурност.

Шен Джиен, посланикът на Китай по въпросите на разоръжаването, заяви на среща на ООН в Женева през юни, че военният AI може да повлияе на стратегическата стабилност и да повиши риска от грешни изчисления и ескалация на конфликти, и че оръжията трябва да останат под човешки контрол. Китай също така твърди, че безопасността на изкуствения интелект не трябва да се превръща в претекст за технологични бариери.

Вашингтон няма еквивалентен единен център за контрол на въоръженията за AI, като политиката за национална сигурност е разпръсната в Съвета за национална сигурност на Белия дом, Държавния департамент, Пентагона и други агенции.

И двете правителства остават предпазливи към мерки, които биха могли да забавят собственото им технологично развитие. Тръмп предупреди, че широките ограничения биха могли да дадат предимство на Китай, докато Пекин разглежда много от американските технологични контроли като опити за запазване на американското господство.