Китайски модел с изкуствен интелект извършва сложни кибератаки в контролирани тестове

Водещият модел с изкуствен интелект на китайската компания Z.AI е извършил сложни кибератаки в рамките на контролирани симулации, а в отделни тестове многократно е пренебрегвал дадени му инструкции. Това се посочва в доклад на изследователската фирма Irregular, специализирана в сигурността на системите с изкуствен интелект.

Моделът GLM-5.3 е успял да изпълни успешно 3 от 13 сценария за многостепенни кибератаки (поне веднъж) – най-впечатляващия резултат, регистриран от Irregular за публично достъпен AI модел, пише Ройтерс.

В тестовете на Irregular моделът GLM-5.3 все още изостава от водещите американски модели. Например, GPT-6 Astra на OpenAI е изпълнил 9 от 10 сценария в отделна оценка, макар че тестовете не са били напълно идентични.

Констатациите засилват опасенията, че все по-способните AI модели понижават техническите бариери за извършване на сложни кибератаки. Това важи в особена степен за много китайски AI модели от типа Open–weight, които потребителите могат да ги изтеглят, променят и използват самостоятелно.

Базираната в Пекин компания Z.AI – един от водещите китайски стартъпи в сферата на изкуствения интелект, ne e отговорила веднага на запитване за коментар.

Според Irregular, по време на симулираните атаки GLM-5.3 е получил достъп до защитени услуги, установил е алтернативни връзки за придвижване в компютърни мрежи и е координирал действията си между множество машини. Моделът не е отказал изпълнението на нито една от поставените му задачи, свързани с кибератаки.

В отделни тестове изследователите от Irregular установили, че GLM-5.3 многократно възпроизвежда компютърен код по памет, въпреки изричните указания да не го прави. По този начин моделът е достигал до верни отговори, нарушавайки правилата, въведени именно за проверка на неговите възможности.

Изследователите описват това поведение като reward hacking – ситуация, в която AI системата намира начини да постигне желания резултат, пренебрегвайки инструкциите. Те предупреждават, че тестовете, които измерват единствено дали моделът е постигнал целта си, могат да пропуснат подобни нарушения.