Anthropic: AI лабораториите се нуждаят от координиран план за спиране на разработката, ако рисковете се повишат

Американската компания Anthropic заяви, че разработчиците на авангарден изкуствен интелект трябва да установят координиран и подлежащ на проверка механизъм за  забавяне или временно спиране на разработката, ако AI системи започнат да се усъвършенстват по-бързо, отколкото обществото може да управлява рисковете, предаде Ройтерс.

Изкуственият интелект, който може да се саморазвива, би представлявал важно развитие в историята на технологиите, но „пълното рекурсивно самоусъвършенстване може също да увеличи рисковете хората да загубят контрол над системите с изкуствен интелект“, посочи стартъпа.

„Ако системите са способни напълно да изградят свои собствени наследници, начините, по които ги подсигуряваме, наблюдаваме и оформяме поведението им, стават много по-важни.“

Като пример Anthropic отбеляза, че към май повече от 80% от кода, обединен в кодовата им база, е написан от техния AI асистент Claude.

Би било „добре светът да има възможността да забави или временно да спре разработването на авангарден AI, за да позволи на обществените структури и изследванията за съгласуване да са в крак с напредъка на технологиите“, посочиха от Anthropic.

Компанията обаче предупреди, че едностранните или лошо координирани забавяния могат да имат обратен ефект, ако по-малко предпазливите участници продължат напред, потенциално намалявайки общата безопасност.

Тя подчерта, че една смислена пауза би изисквала споразумение между „множество добре обезпечени лаборатории“, работещи на технологичната граница, както и правила за това какви условия биха задействали или отменили такава пауза и кой би я контролирал.

Едностранна пауза от една компания би била по-лесна за прилагане, добави Anthropic, но би имала ограничено въздействие, като основно би променила лидерството, вместо да насърчи по-широко глобално обсъждане.

Нейното изследователско звено – Anthropic Institute, планира да проучи и помогне за изграждането на системи, които биха били необходими за подпомагане на подобно забавяне.

През следващите месеци Anthropic планира да свика дискусии с участието на политици, изследователи, групи на гражданското общество и други фирми за изкуствен интелект, за да разгледа ключови въпроси.

Тези въпроси включват как да се управляват рисковете, свързани с изкуствения интелект, като рекурсивно самоусъвършенстване, и как да се подобрят механизмите за координация.

Миналия месец Anthropic завърши кръг за набиране на средства, който оцени компанията на 965 милиарда долара. В понеделник тя подаде конфиденциално заявление за първично публично предлагане в САЩ.