Финансови министри и водещи банкери изразяват сериозни опасения относно AI модела Mythos на Anthropic

Министри на финансите, централни банкери и финансисти изразиха сериозни опасения относно мощен нов модел на изкуствен интелект (AI), който би могъл да подкопае сигурността на финансовите системи, предаде BBC.

Разработването на модела Claude Mythos от Anthropic доведе до кризисни срещи, след като откри уязвимости във всяка основна операционна система и браузър.

Експерти предупредиха, че моделът потенциално има безпрецедентна способност да идентифицира и използва слабости в киберсигурността.

Канадският министър на финансите Франсоа-Филип Шампан заяви пред Би Би Си, че Mythos е бил обсъден подробно от неговите колеги на ключовата среща на Международния валутен фонд (МВФ) във Вашингтон тази седмица.

„Разбира се, това е достатъчно сериозно, за да оправдае вниманието на всички финансови министри“, каза той.

„Разликата с Ормузкия проток е, че знаем къде се намира и колко е голям. Проблемът, с който се сблъскваме с Anthropic, е, че е неизвестен, неизвестен“, добави Шампан, като подчерта, че е нужно много внимание, за да се поддържат предпазните мерки и процеси, които да гарантират устойчивостта на нашата финансова система.

На водещите банкери ще бъде предоставен достъп до модела предварително, за да тестват системите си.

Главният изпълнителен директор на Barclays, К.С. Венкатакришнан, каза пред BBC: „Това е достатъчно сериозно, за да разтревожи хората“.

„Трябва да го разберем по-добре и да разберем уязвимостите, които се разкриват, и да ги отстраним бързо“, коментира той.

Венкатакришнан добави, че „това ще бъде новият свят“ - визирайки много по-свързана финансова система, с възможности и уязвимости.

Докато разработчикът Anthropic заяви, че моделът вече е разкрил множество уязвимости в сигурността в някои критични операционни системи, финансови системи и уеб браузъри, на правителствата и банките се предлага достъп преди публичното му пускане, за да помогнат за защитата на собствените им системи.

Управителят на Английската централна банка Андрю Бейли заяви пред Би Би Си, че развитието трябва да се приеме много сериозно: „Трябва да разгледаме много внимателно какво може да означава това последно развитие на изкуствения интелект за риска от киберпрестъпления“.

„Има развитие на изкуствения интелект, на моделирането, което улеснява откриването на съществуващи уязвимости в основни ИТ системи и очевидно киберпрестъпниците биха могли да се опитат да ги експлоатират.“

Министерството на финансите на САЩ потвърди, че е повдигнало въпроса пред големите си банки, насърчавайки ги да тестват системите си, преди Anthropic да пусне Mythos публично.

Източници от финансовата индустрия посочиха, че друга известна американска компания за изкуствен интелект може скоро да пусне подобен мощен модел, но без същите предпазни мерки.

Джеймс Уайз, партньор в Balderton Capital, е председател на звеното Sovereign AI – фонд за рисков капитал, който ще инвестира в британски компании за изкуствен интелект, подкрепен от 500 милиона паунда държавно финансиране.

Той каза, че Mythos е „първият от много по-мощни модели“, които могат да разкрият уязвимостите на системите.

Неговото звено „инвестира в британски компании за изкуствен интелект, които се справят с това - компании, работещи в областта на сигурността и безопасността на изкуствения интелект“, каза той пред BBC.

„Надяваме се, че моделите, които разкриват уязвимости, са и моделите, които ще ги отстранят.“