Anthropic разследва твърдение за неоторизиран достъп до инструмента Mythos AI

Компанията Anthropic разследва твърдения, че малка група потребители е получила неоторизиран достъп до модела Claude Mythos — инструмент за киберсигурност, който според фирмата е толкова мощен, че не е предназначен за публично използване.

„Разследваме доклад за възможен неоторизиран достъп до Claude Mythos Preview чрез среда на наш външен доставчик“, заявиха от компанията.

Повод за реакцията е информация на Bloomberg, според която потребители в частен онлайн форум са успели да използват модела без стандартните разрешения, съобщава BBC.

Въпреки това засега няма данни за участие на хакери или злонамерени групи, а Anthropic подчертава, че няма доказателства за компрометиране на собствените ѝ системи.

Случаят обаче повдига въпроси за това доколко големите AI компании могат да предотвратят неправомерен достъп до най-напредналите си модели. Според Ралука Съсеану, изпълнителен директор на компанията за киберсигурност SmartTech, става дума по-скоро за злоупотреба с легитимен достъп, отколкото за класическа хакерска атака.

Anthropic предоставя Mythos на избрани технологични и финансови компании, за да могат те да тестват и защитават системите си срещу възможностите му да открива уязвимости. Това обаче зависи от това тези организации да контролират строго собствените си акаунти и достъп.

По данни на Bloomberg, лицето, което е получило достъп, вече е имало права да работи с модели на Anthropic чрез проект за външен изпълнител. Съобщава се още, че групата е използвала модела след това, но без да извършва хакерски дейности, за да избегне засичане.

„Когато толкова мощни AI инструменти се използват извън предвидените контроли, рискът не е само инцидент със сигурността, а и разпространение на възможности, които могат да бъдат използвани за измами, кибератаки или други злоупотреби“, коментира Съсеану.

На конференцията CyberUK ръководителят на британския Национален център за киберсигурност (NCSC) Ричард Хорн призова да не се гледа на AI единствено като заплаха. Според него изкуственият интелект може да повиши сигурността, ако организациите първо се справят с основните си киберслабости.

„Както виждаме в последните новини, напредналият AI вече позволява бързо откриване и използване на съществуващи уязвимости в голям мащаб. Това показва колко критично е да бъдат оправени основите на киберсигурността“, каза той.

Британското правителство също призова AI компаниите да работят по-тясно с държавата, за да се гарантира защитата на критичната инфраструктура.

В момента най-напредналите AI модели се разработват основно в САЩ и Китай, което означава, че страни като Великобритания разчитат на компании като Anthropic за достъп до технологии като Mythos, без да имат пълен контрол върху тяхното разработване или внедряване.