Anthropic: Изкуственият интелект се доближава до създаването на собствен наследник

Гигантът в областта на изкуствения интелект Anthropic заяви в четвъртък, че системите с изкуствен интелект все по-често са способни да създават бъдещи версии на самите себе си, което допълнително засилва опасенията относно рисковете от тази мощна технология.

Дебатът относно рисковете от изкуствения интелект се засили през последните месеци, подхранван от няколко инцидента и апокалиптични предупреждения от специалисти в индустрията, пише Euronews.

Anthropic съобщи, че нейният чатбот Claude вече извършва над една четвърт от нейната научноизследователска и развойна дейност и си сътрудничи с човешки служители при повече от 90% от задачите.

Компанията заяви, че публикува тази информация, за да даде на обществеността, външни организации и правителствата „по-добра представа за темпото на развитие на изкуствения интелект“, докато светът „обмисля забавяне“ на това темпо.

Главният изпълнителен директор на Anthropic Дарио Амодей призова този месец за забавяне на развитието на изкуствения интелект, тъй като бързият напредък на технологията поражда опасения относно загубата на работни места, както и заради нарастващото потребление на енергия и въздействието върху околната среда от центровете за данни.

Опасенията, че създателите на автономни AI агенти могат да загубят контрол над своите творения, също се засилиха, след като според съобщения няколко модела на Anthropic и конкурента OpenAI са успели самостоятелно да напуснат ограничените си среди, да получат достъп до интернет и да проникнат в уебсайтове и платформи.

„Модели, които ускоряват собственото си развитие, могат да направят по-трудно за хората разбирането и контролирането на тези системи“, заяви Anthropic в доклад.

„Затова е важно тези показатели да бъдат споделяни, за да се разбере колко близо е светът до достигането на рекурсивно самоусъвършенстване (модел, който напълно автономно създава свой наследник).“

Към август Claude отговаря за 26% от научноизследователската и развойната дейност на Anthropic. Това означава, че той може да изпълни по-голямата част от дадена задача от началото до края под човешки надзор.

Anthropic заяви, че Claude все още не може да работи „напълно автономно“. Компанията съобщи, че разполага с около 30 000 AI агента, които извършват изследователска и инженерна работа, като под „агенти“ се разбират ботове, способни да изпълняват различни задачи.

Очаква се Anthropic да изпревари OpenAI при излизането на публичните пазари с мащабно първично публично предлагане на акции (IPO) по-късно тази година, въпреки опасенията относно регулациите в индустрията.