Белият дом поиска от OpenAI и Anthropic да не дават достъп на Великобритания за тестове на новите им AI модели

Белият дом е поискал от OpenAI и Anthropic да не споделят новите си модели за изкуствен интелект с агенцията за тестване на правителството на Обединеното кралство, докато моделите не преминат през процес на тестване от правителството на САЩ, твърдят запознат източник и висш служител на американската администрация, цитирани от Politico.

Искането, което е дошло от Службата на Националния директор по киберсигурност, поставя компаниите в трудната позиция да избират между това да задържат своите модели далеч от Института за безопасност на изкуствения интелект на Обединеното кралство (AISI) – една от най-добре обезпечените с ресурси правителствени агенции за тестване в света, която преди това се е радвала на привилегирован ранен достъп до AI модели, или да рискуват да разстроят Белия дом на Тръмп. Висшият служител на администрацията заяви, че Белият дом иска САЩ да прегледат моделите и да предприемат стъпки, за да се уверят, че американските системи са сигурни, преди моделите да бъдат споделени с американските партньори.

„Защото са американски компании и това е нашата политика с всеки нов авангарден модел, който излиза“, обясни висшият служител.

Белият дом не е отговорил веднага на искане за коментар.

Изглежда, че Anthropic се е съгласила с искането. Компанията не е предоставила своя модел Claude Mythos 5.1 на британската AISI, като в съобщението си е казала, че моделът е „достъпен само за набор от американски организации“.

„В координация сме с правителството на САЩ, за да разширим достъпа до по-широк набор от местни и международни партньори възможно най-бързо“, се казва в блог на Anthropic, с който бе обявен модела.

В писмо до британска парламентарна комисия по-рано този месец директорът на AISI Хенри де Зут призна липсата на достъп до модела на Anthropic, но каза:

Поддържаме силни взаимоотношения с всички разработчици на авангарден AI и продължаваме да имаме предварителен достъп до някои от най-способните модели в света“, посочвайки, че е тествала модела GPT-6 Astra на OpenAI преди пускането му.

„Доверителните взаимоотношения, които AISI поддържа, ни позволяват да тестваме редица модели, които представляват скокове във възможностите в цялата индустрия“, коментира Де Зут.

Искането на администрацията на Тръмп идва в момент, когато Белият дом се опитва да определи как правителството трябва да се справи с мощни, нови модели с изкуствен интелект, които са хакнали външни обекти по време на тестване – включително, както беше разкрито тази седмица, уебсайт на австралийско правителство.

Това идва и в момент, когато бивши инженери и водещи служители от големи компании за изкуствен интелект предупреждават за възможна катастрофа, ако AI моделите бъдат оставени да се развиват без сериозен контрол.

Създадена през 2023 г., британската AISI е установила тесни връзки с водещи лаборатории за изкуствен интелект, като на доброволна основа рутинно тества най-новите им модели преди публичното им пускане.

Премиерът на Обединеното кралство Анди Бърнам заяви тази седмица, че изкуственият интелект ще бъде „в основата“ на председателството на страната на Г-20 следващата година.

Но привилегированият достъп на AISI до авангардни модели от водещи американски лаборатории е подложен на натиск от настояването на администрацията на Тръмп правителството на САЩ да получи първи достъп до новите системи.

Обединеното кралство се стреми да омаловажи евентуален сблъсък, като Бърнам заяви на Общото събрание на ООН тази седмица, че институтът на Обединеното кралство „работи ръка за ръка със САЩ и водещите лаборатории по безопасността на изкуствения итнелект“. Той призова за „единен набор от глобални принципи и стандарти“, за да се подобри прозрачността и готовността и да се гарантира безопасното разработване на AI.

Министърът на външните работи на Обединеното кралство Ед Милибанд изложи подобен аргумент пред Съвета за сигурност на ООН в сряда, заявявайки, че правителствата трябва да гарантират, че авангардните модели са „строго тествани“ и имат достатъчна видимост, за да се оцени какво правят компаниите.

„Водещите компании за AI всъщност са се ангажирали да осигурят тази видимост. Това е наистина, наистина важно и е предложение, което ние и те трябва да изпълним“, каза Милибанд.

„Великобритания е световен лидер в сигурността на AI и Институтът за безопасността на изкуственият интелект продължава да работи в тясно сътрудничество с правителството на САЩ, международни партньори и водещи компании за AI, включително OpenAI и Anthropic“, заяви говорител на британското правителство.

„Тези рискове не спират на националните граници и страната може да се справи с тях сама. Ще продължим да работим в тясно сътрудничество със САЩ и други партньори по тестването на усъвършенстван AI, като същевременно изграждаме собствено строго научно разбиране за тези системи и гарантираме, че нашият подход е основан на доказателства.“

В САЩ Конгресът и Белият дом настояват за повече ресурси за Центъра за стандарти и иновации в областта на изкуственият към Министерството на търговията, или CAISI. Той се разглежда като перлата в короната на управлението на АИ в САЩ, но в момента работи без постоянен директор и все повече се сблъсква с проблеми с капацитета, тъй като от него се изисква също така да оцени нарастващ поток от авангардни модели, докато за него работят само няколко десетки служители с технически познания.

OpenAI заяви тази седмица, че CAISI трябва да ръководи работата по международни стандарти за наблюдение на напредъка и безопасността на AI, като работи с други национални институти за безопасност на изкуствения интелект, включително британския AISI.