Китайски модел с изкуствен интелект извършва сложни кибератаки в контролирани тестове

Китайски модел с изкуствен интелект извършва сложни кибератаки в контролирани тестове

Водещият модел с изкуствен интелект на китайската компания Z.AI е извършил сложни кибератаки в рамките на контролирани симулации, а в отделни тестове многократно е пренебрегвал дадени му инструкции. Това се посочва в доклад на изследователската фирма Irregular, специализирана в сигурността на системите с изкуствен интелект.

Моделът GLM-5.3 е успял да изпълни успешно 3 от 13 сценария за многостепенни кибератаки (поне веднъж) – най-впечатляващия резултат, регистриран от Irregular за публично достъпен AI модел, пише Ройтерс.

В тестовете на Irregular моделът GLM-5.3 все още изостава от водещите американски модели. Например, GPT-6 Astra на OpenAI е изпълнил 9 от 10 сценария в отделна оценка, макар че тестовете не са били напълно идентични.

Констатациите засилват опасенията, че все по-способните AI модели понижават техническите бариери за извършване на сложни кибератаки. Това важи в особена степен за много китайски AI модели от типа Open–weight, които потребителите могат да ги изтеглят, променят и използват самостоятелно.

Базираната в Пекин компания Z.AI – един от водещите китайски стартъпи в сферата на изкуствения интелект, ne e отговорила веднага на запитване за коментар.

Според Irregular, по време на симулираните атаки GLM-5.3 е получил достъп до защитени услуги, установил е алтернативни връзки за придвижване в компютърни мрежи и е координирал действията си между множество машини. Моделът не е отказал изпълнението на нито една от поставените му задачи, свързани с кибератаки.

В отделни тестове изследователите от Irregular установили, че GLM-5.3 многократно възпроизвежда компютърен код по памет, въпреки изричните указания да не го прави. По този начин моделът е достигал до верни отговори, нарушавайки правилата, въведени именно за проверка на неговите възможности.

Изследователите описват това поведение като reward hacking – ситуация, в която AI системата намира начини да постигне желания резултат, пренебрегвайки инструкциите. Те предупреждават, че тестовете, които измерват единствено дали моделът е постигнал целта си, могат да пропуснат подобни нарушения.

Коментари

НОВ КОМЕНТАР

НАЙ-НОВО

|

НАЙ-ЧЕТЕНИ

|

НАЙ-КОМЕНТИРАНИ

Евростат: България е втора в еврозоната и трета в ЕС по ръст на годишната инфлация с темп от 5,9% през октомври
Американският военноморски флот е събрал над 20 кораба в Близкия изток
Евелина Милтенова: Вторият пенсионен стълб е лично спестяване, което трябва да развиваме
ЕК обмисля забрани за чуждестранни компании, нарушили правилата за субсидии
Берлин оттегли съпротивата си срещу придобиването на Commerzbank от UniCredit
МОН предвижда увеличение на ученическите стипендии с около 20%
След 30 години експлоатация, много соларни панели работят на впечатляващите 80 процента от оригиналната си мощност
Времето: Остава ветровито, а температурите ще се повишат до 22 градуса
LinkedIn и краят на илюзията за “професионална” социална мрежа
Фон дер Лайен предлага нов заем от 45 млрд. евро за Украйна
Започва строителството на третия лъч на метрото
Смяна в ръководството на Kaufland България: Петя Владимирова поема поста председател на Управителния съвет
Товарен кораб потъва край нос Калиакра
Терзиев подписа договор за 282 млн. евро еврофинансиране за модернизация на градския транспорт
Председателят на НСИ: Инфлацията е около 6%, но доходите продължават да изпреварват ръста на цените
tbi bank въвежда проверка на получателя за по-сигурни преводи
От кариерни контакти до първа среща: LinkedIn се превръща в неочаквана платформа за запознанства
50 от най-полезните сайтове в интернет
22 цитата, които родителите ще оценят
Унгарските власти откриха близо 20 млн. долара в брой при разследване срещу бивш министър на Орбан
Тръгват големи съкращения в "Арсенал"
България планира да придобие 57 самоходни гаубици „Сезар“ от Франция
Евтино и лесно
Интернет не е вашият банкомат. На Интернет вие сте му напълно безразлични
Интимният скандал с шефа на Nvidia Дженсън Хуанг вдигна търсенето на кожените якета Tom Ford
Fibank понижава лихвата по жилищен кредит „Право на избор“ до 2,15%
Американският военноморски флот е събрал над 20 кораба в Близкия изток
10 гатанки за деца, които затрудняват и възрастните
Международни хакери шпионирали българските държавни институции цели 5 години