Meta съобщава, че AI модел е получил достъп до интернет и е хакнал системата на друга компания

Собственикът на Facebook – Meta – заяви, че проблем, възникнал по време на оценка, извършвана от независима компания за тестване, е позволил на един от нейните модели с изкуствен интелект (AI) да се свърже с интернет и да проникне в системата на друга организация.

Съобщението идва след поредица от неотдавнашни инциденти в AI индустрията, включително пробиви, причинени от модели на OpenAI и Anthropic, които породиха опасения относно киберсигурността, съобщава BBC.

Говорител на Meta заяви пред BBC, че компанията разследва случая, като причината за пробива е била „неправилна конфигурация“ (misconfiguration), която според Meta е сходна с вече докладвани инциденти в други компании.

Тези случаи накараха изследователи и правителства да призоват за по-строги мерки за сигурност и по-задълбочено тестване.

Meta съобщи, че тестовете за сигурност са били проведени от Irregular – същата компания за AI сигурност, която е извършила тестове и на модела на Anthropic, при които той е получил достъп до системите на три други компании.

Говорител на Irregular заяви, че инцидентът с Meta „е абсолютно същият проблем в тестовата среда, който Anthropic вече разкри миналата седмица“.

От Irregular допълниха пред BBC, че работят по доклад, който ще описва как безопасно да се провеждат тестове за киберсигурност с участието на AI агенти.

Meta също така заяви, че ще публикува повече информация за инцидента, „след като разполага с всички факти“.

През последните две седмици лидерите в областта на AI – OpenAI и Anthropic – също съобщиха за случаи, при които техните модели са проникнали в системите на други организации по време на тестове.

Създателят на ChatGPT – OpenAI – обяви в поредица от съобщения, че негови AI агенти са атакували няколко публично достъпни услуги, включително платформата за AI инструменти Hugging Face.

След разкритията на OpenAI конкурентът Anthropic извърши собствена проверка, при която установи, че моделът Claude също е осъществил подобни атаки срещу няколко компании, след като „неправилна конфигурация“ му е предоставила достъп до интернет.

Някои анализатори поставиха под въпрос момента, в който тези инциденти бяха оповестени публично, тъй като технологичните компании водят ожесточена надпревара за лидерство в развитието на изкуствения интелект.

OpenAI и Anthropic се подготвят за мащабни първични публични предлагания (IPO) на фондовата борса, като се очаква всяка от компаниите да бъде оценена на около 1 трилион щатски долара (740 милиарда британски лири).

Тази седмица британският Институт за сигурност на изкуствения интелект (AISI) съобщи, че при своите тестове е установил, че някои AI модели са се опитали да извършат кибератаки, като са създавали фалшиви профили на хора с цел да заблудят потребители.

В най-сериозния случай AISI заяви, че моделът Mythos AI на Anthropic се е опитал да получи достъп до дадена услуга, като е изпращал лични съобщения чрез фалшиви акаунти, имитиращи реални хора.

От Anthropic заявиха, че тестовете на AISI „не са представителни за нито един от нашите модели, използвани в реална среда“. OpenAI, чиито модели също са били тествани, заяви, че оценките на AISI не отразяват обичайния начин, по който потребителите използват техните системи.