Изследовател от Anthropic: Има повече от 10% вероятност AI да убие всички хора

Има повече от 10% вероятност изкуственият интелект да „убие всички хора“, заяви във вторник изследовател по безопасност в Anthropic, часове след като друг служител каза, че напуска компанията поради опасения, че лабораториите с изкуствен интелект „си играят с живота ни“, предаде CNBC.

Коментарите подчертават нарастващите опасения сред тези, които са в основата на развитието на изкуствения интелект, че технологията може да излезе извън контрол и да представлява заплаха за човечеството, дори когато Anthropic и OpenAI продължават да набират големи суми за финансиране и се готвят за първични публични предлагания.

Джейкъб Коксън, изследовател в Anthropic, заяви във вторник, че е подал оставка от компанията. Коксън каза, че нито Anthropic, нито OpenAI действат отговорно.

„Те се надпреварват директно към самоусъвършенстващ се суперинтелект и си играят с живота ни“, каза Коксън в публикация в X.

Самоусъвършенстването е идеята, че системите с изкуствен интелект могат да се усъвършенстват без много човешка намеса. Рекурсивното самоусъвършенстване, както често се нарича, все още не е възможно, но лабораториите с изкуствен интелект работят за постигане на целта.

„Не подценявайте силата на тази технология. Скоро това ще бъдат свръхчовешки системи, които могат да хакнат всичко, да революционизират всяка област за една нощ и да придобият реална власт и ресурси. Всички сме свидетели на напредъка във всяка от тези области и той не се забавя“, каза Коксън.

Той добави, че „хората, които изграждат изкуствен интелект, искрено вярват, че той може да ни убие всички до края на десетилетието.“

Този коментар предизвика отговор от Евън Хюбингер, ръководител на отдела за наука за подравняване в Anthropic, който каза, че не само твърдението на Коксън е „правилно“, но и че Anthropic няма план за този сценарий.

„Джейкъб е прав тук – ние наистина искрено вярваме, че изкуственият интелект може да убие всички хора! Аз лично мисля, че е има над 10% вероятност за това в рамките на следващото десетилетие. Вярвам, че Anthropic прави всичко възможно, но все още нямаме план за решаване на проблема със суперинтелекта и видимо не сме напът към решение“, коментира Хюбингер в X.

AI извън контрол

През юни Anthropic отбеляза, че „пълното рекурсивно самоусъвършенстване също може да увеличи рисковете хората да загубят контрол над системите с изкуствен интелект“.

„Ако системите са способни да изградят напълно свои собствени наследници, начините, по които ги подсигуряваме, наблюдаваме и оформяме поведението им, стават много по-важни“, посочи Anthropic в публикация в блога си.

Опасенията относно появата на неконтролируем изкуствен интелект не са нови. Главният изпълнителен директор на Tesla и SpaceX,Илон Мъск предупреждава през последните няколко години, че изкуственият интелект може да представлява заплаха за човечеството. Водещи изследователи и академици също алармират за компании, които губят контрол върху системите с изкуствен интелект.

Тези опасения нараснаха, след като през юни модел на OpenAI акнаха инфраструктурата на Hugging Face _ основна платформа за разработчици на проекти с отворен код. Коксън посочи инцидента с Hugging Face като пример за „предупредителни изстрели“, които направиха споразуменията между американските лаборатории по-жизнеспособни, а това го направи по-оптимистично настроен относно потенциала за координация. Но Коксън предупреди, че глобалната надпревара в областта на изкуствения интелект ще бъде неизбежна.