Най-новият китайски AI модел е избягал от тестова среда

Най-новият модел за изкуствен интелект на китайската фирма Moonshot е избягал от тестова среда, съобщиха изследователи, цитирани от Bloomberg. Това е поредният инцидент, който повдига опасения относно това колко добре компаниите за изкуствен интелект контролират своите технологии.

Kimi K3 на Moonshot е успял да се измъкне от „пясъчника“ на британския Институт за сигурност на изкуствения интелект (AISI), според Frontier Security, американска изследователска организация за киберсигурност. Въпреки че китайският модел не се е опитал да проникне в уебсайтовете на други компании, както в някои от другите случай, тестът показва, че му липсва киберконтрол, казаха изследователите.

„Моделът на Kimi, който е публично достъпен, няма тези предпазни мерки“, каза Ярон Сингър, основател и главен изпълнителен директор на Frontier Security, в интервю за Bloomberg News. „По принцип това го прави много добър хакерски модел.“

Moonshot се присъединява към американските фирми Anthropic PBC, OpenAI и Meta Platforms Inc., които през последните седмици съобщиха за нарушения, довели до това техните модели да избягат от тестови среди, което алармира изследователи и политически лидери, които призоваха за по-строг скрининг за безопасност и по-сигурни тестови среди. В тези по-ранни сценарии американските модели с изкуствен интелект също така хакнаха системите на външни институции, включително Hugging Face Inc.

Пускането на Kimi K3 изуми света с производителност в индустриалните бенчмаркове, която се конкурира с най-добрите предложения на OpenAI и Anthropic – изненадващ пробив за фирма, която е работила в сянката на местния конкурент DeepSeek. Компанията публикува теглата на модела, което позволява на разработчиците да изтеглят, настройват и хостват технологията свободно.