Великобритания ще тества "гранични" модели на изкуствен интелект

Британското правителство разширява обхвата на съоръжението си за тестване на „гранични“ модели на изкуствен интелект(ИИ)  в САЩ, за да подобри имиджа си на водещ световен играч, който се бори с рисковете, свързани с тази технология, и да засили сътрудничеството тъй като правителствата по света се борят за лидерство в областта на изкуствения интелект, съобщи CNBC.

В понеделник британското правителство обяви, че това лято в Сан Франциско ще представи американски аналог на своята среща на върха за безопасност на изкуствения интелект - подкрепян от държавата орган, насочен към тестване на усъвършенствани системи за изкуствен интелект, за да се гарантира тяхната безопасност.

Американската итерация на Института за безопасност на изкуствения интелект ще има за цел да наеме екип от технически персонал, оглавяван от директор по изследванията. В Лондон институтът в момента разполага с екип от 30 души. Той се ръководи от Иън Хогарт, известен британски технологичен предприемач, основал сайта за откриване на музикални концерти Songkick.

В изявление министърът на технологиите на Обединеното кралство Мишел Донелан заяви, че въвеждането на AI Safety Summit в САЩ „представлява британското лидерство в областта на AI в действие“.

Лондон ще използа богатството от технологични таланти в Сан Франциско

Разширяването „ще позволи на Обединеното кралство да се възползва от богатството от технологични таланти, налични в района на залива, да се ангажира с най-големите световни лаборатории за изкуствен интелект със седалище в Лондон и Сан Франциско и да затвърди отношенията си със Съединените щати за повишаване на безопасността на изкуствения интелект в интерес на обществото“, заяви правителството.

В същото време всички модели, тествани от института, са силно уязвими към „джейлбрейкове“, при които потребителите ги подмамват да произвеждат отговори, които не са разрешени съгласно техните насоки за съдържание, а някои от тях произвеждат вредни резултати дори без опити за заобикаляне на защитите.

Според правителството тестваните модели също така не са били в състояние да изпълняват по-сложни и продължителни задачи без присъствието на хора, които да ги наблюдават.

Правителството не посочва имената на тестваните модели на изкуствен интелект. Преди това правителството накара OpenAI, DeepMind и Anthropic да се съгласят да предоставят желаните от тях модели на ИИ на правителството, за да подпомогнат изследванията на рисковете, свързани с техните системи.

Развитието идва в момент, когато Великобритания е критикувана, че не е въвела официални разпоредби за ИИ, докато други юрисдикции, като Европейския съюз, се надпреварват да въвеждат закони, съобразени с ИИ.

Знаковият закон на ЕС за ИИ, който е първото по рода си голямо законодателство за ИИ, се очаква да се превърне в проект за глобални разпоредби за ИИ, след като бъде одобрен от всички държави - членки на ЕС, и влезе в сила.

Сан Франциско е домът на OpenAI, на Microsoft,к оято стои зад вирусния чатбот с изкуствен интелект ChatGPT. Институтът за безопасност на изкуствения интелект беше създаден през ноември 2023 г. по време на срещата на върха за безопасност на изкуствения интелект - глобално събитие, проведено в английския Блетчли Парк, дом на разбивачите на кодове от Втората световна война, което имаше за цел да засили трансграничното сътрудничество в областта на безопасността на изкуствения интелект.

Разширяването на Института за безопасност на ИИ в САЩ става в навечерието на Срещата на върха за ИИ в Сеул, Южна Корея, която беше предложена за първи път на срещата на върха във Великобритания в Блетчли Парк миналата година. Срещата на върха в Сеул ще се проведе във вторник и сряда.

Британското правителство заяви още, че след създаването на Института за безопасност на ИИ през ноември е постигнало напредък в оценяването на гранични модели на ИИ от някои от водещите играчи в индустрията.

Киберсигурността

Няколко модела на ИИ са изпълнили предизвикателствата, свързани с киберсигурността, но се борят да изпълнят по-напредналите предизвикателства, докато няколко модела са показали познания по химия и биология на ниво доктор на науките.

„Това е ключов момент в способността на Обединеното кралство да изучава както рисковете, така и потенциала на ИИ от глобална гледна точка, като укрепва партньорството ни със САЩ и проправя пътя за други държави да се възползват от нашия опит, докато продължаваме да сме водещи в света по отношение на безопасността на ИИ.“