Anthropic: AI лабораториите се нуждаят от координиран план за спиране на разработката, ако рисковете се повишат

Политика за бисквитки

Американската компания Anthropic заяви, че разработчиците на авангарден изкуствен интелект трябва да установят координиран и подлежащ на проверка механизъм за  забавяне или временно спиране на разработката, ако AI системи започнат да се усъвършенстват по-бързо, отколкото обществото може да управлява рисковете, предаде Ройтерс.

Изкуственият интелект, който може да се саморазвива, би представлявал важно развитие в историята на технологиите, но „пълното рекурсивно самоусъвършенстване може също да увеличи рисковете хората да загубят контрол над системите с изкуствен интелект“, посочи стартъпа.

„Ако системите са способни напълно да изградят свои собствени наследници, начините, по които ги подсигуряваме, наблюдаваме и оформяме поведението им, стават много по-важни.“

Като пример Anthropic отбеляза, че към май повече от 80% от кода, обединен в кодовата им база, е написан от техния AI асистент Claude.

Би било „добре светът да има възможността да забави или временно да спре разработването на авангарден AI, за да позволи на обществените структури и изследванията за съгласуване да са в крак с напредъка на технологиите“, посочиха от Anthropic.

Компанията обаче предупреди, че едностранните или лошо координирани забавяния могат да имат обратен ефект, ако по-малко предпазливите участници продължат напред, потенциално намалявайки общата безопасност.

Тя подчерта, че една смислена пауза би изисквала споразумение между „множество добре обезпечени лаборатории“, работещи на технологичната граница, както и правила за това какви условия биха задействали или отменили такава пауза и кой би я контролирал.

Едностранна пауза от една компания би била по-лесна за прилагане, добави Anthropic, но би имала ограничено въздействие, като основно би променила лидерството, вместо да насърчи по-широко глобално обсъждане.

Нейното изследователско звено – Anthropic Institute, планира да проучи и помогне за изграждането на системи, които биха били необходими за подпомагане на подобно забавяне.

През следващите месеци Anthropic планира да свика дискусии с участието на политици, изследователи, групи на гражданското общество и други фирми за изкуствен интелект, за да разгледа ключови въпроси.

Тези въпроси включват как да се управляват рисковете, свързани с изкуствения интелект, като рекурсивно самоусъвършенстване, и как да се подобрят механизмите за координация.

Миналия месец Anthropic завърши кръг за набиране на средства, който оцени компанията на 965 милиарда долара. В понеделник тя подаде конфиденциално заявление за първично публично предлагане в САЩ.

Коментари

НОВ КОМЕНТАР

НАЙ-НОВО

|

НАЙ-ЧЕТЕНИ

|

НАЙ-КОМЕНТИРАНИ

След 30 години експлоатация, много соларни панели работят на впечатляващите 80 процента от оригиналната си мощност
Турското електромагнитно оръдие Ejderha унищожи 51 дрона с един изстрел
Американският военноморски флот е събрал над 20 кораба в Близкия изток
Звездите за бизнеса от 16 до 22 ноември: Баланс между амбицията и реалните възможности
Магически послания от Мая Цанкова
Украйна нанесе тежък удар по Кремъл: Керченският мост е сериозно повреден
Нов удар в Черно море: Танкер сигнализира за атака с дронове югоизточно от Варна
Времето: На места сутрешни мъгли, на други пък ще превали
LinkedIn и краят на илюзията за “професионална” социална мрежа
Започва строителството на третия лъч на метрото
Смяна в ръководството на Kaufland България: Петя Владимирова поема поста председател на Управителния съвет
Товарен кораб потъва край нос Калиакра
tbi bank въвежда проверка на получателя за по-сигурни преводи
Терзиев подписа договор за 282 млн. евро еврофинансиране за модернизация на градския транспорт
Тръгват големи съкращения в "Арсенал"
Бързи кредити от Ferratum без трудов договор
България планира да придобие 57 самоходни гаубици „Сезар“ от Франция
Тревожна нощ в Балтика: дрон прелетя над четири държави въпреки намесата на НАТО
Евтино и лесно
Интимният скандал с шефа на Nvidia Дженсън Хуанг вдигна търсенето на кожените якета Tom Ford
Интернет не е вашият банкомат. На Интернет вие сте му напълно безразлични
Fibank понижава лихвата по жилищен кредит „Право на избор“ до 2,15%
10 гатанки за деца, които затрудняват и възрастните
От кариерни контакти до първа среща: LinkedIn се превръща в неочаквана платформа за запознанства
50 от най-полезните сайтове в интернет
22 цитата, които родителите ще оценят
Унгарските власти откриха близо 20 млн. долара в брой при разследване срещу бивш министър на Орбан