Глобален финансов регулатор призовава за по-голям човешки надзор върху агентния AI

Съветът за финансова стабилност (FSB) призова за по-голям човешки надзор върху агентния AI в окончателните си насоки за банки и други фирми относно управлението на рисковете, свързани с технологията, предаде Ройтерс.

Насоките на глобалния орган за определяне на стандарти, публикувани днес, идват в момент, когато регулаторите засилват усилията си за овладяване на нарастващите рискове, свързани с изкуствения интелект.

В проект на насоки, публикувани през юни, FSB предупреди, че AI агентите, които могат да планират и изпълняват задачи с ограничен човешки надзор, носят сериозни предизвикателства за регулаторите.

Публикувайки окончателните си насоки, групата заяви, че е засилила препоръките си относно агентния изкуствен интелект, позовавайки се на обратна връзка по проекта, нарастващия интерес сред финансовите институции към приемането на технологията и различните рискове и контроли, които се предвиждат.

Серия от инциденти засили опасенията относно потенциала на системите с изкуствен интелект да заобикалят предпазните мерки, включително инцидент през юли, при който AI агент на OpenAI избяга от контролирана тестова среда и хакна компанията за изкуствен интелект Hugging Face.

FSB посочва, че в случаи на употреба с по-висок риск, по-интензивният човешки надзор ще бъде от решаващо значение. От съвета добавят, че фирмите трябва да определят ясни, основани на риска активатори за това кога агент трябва да търси човешко одобрение.

FSB също така премахна насока, според която финансовите институции трябва да третират изкуствения интелект като „синтетични служители“. Вместо това, фирмите трябва да признаят, че „агентите с изкуствен интелект не разсъждават като хората и могат да интерпретират предварително дефинирани цели по неочаквани начини“.