Дарио Амодей: Човечеството подценява рисковете от изкуствения интелект

Човечеството „трябва да се събуди“ за потенциално катастрофалните рискове, които мощните системи с изкуствен интелект могат да създадат през идните години, заяви ръководителят на Anthropic Дарио Амодей, чиято компания е сред тези, които разширяват границите на технологията.

В есе от близо 20 000 думи, публикувано в понеделник, Амодей очертава рисковете, които могат да възникнат, ако технологията се развива без контрол — от масови загуби на работни места до биотероризъм.

„Човечеството е на път да получи почти немислима власт и е дълбоко неясно дали нашите социални, политически и технологични системи притежават зрелостта да я управляват“, пише Амодей.

Financial Times пише, че есето представлява рязко предупреждение от един от най-влиятелните предприемачи в индустрията на ИИ, че защитните механизми около технологията са недостатъчни.

Амодей описва рисковете, които биха могли да възникнат с появата на това, което той нарича „мощен ИИ“ — системи, които ще бъдат „много по-способни от всеки носител на Нобелова награда, държавник или технолог“ — и които според него е вероятно да се появят през следващите „няколко години“.

Сред тези рискове е възможността отделни хора да разработят биологични оръжия, способни да убият милиони или „в най-лошия случай дори да унищожат целия живот на Земята“.

„Един разстроен самотник [който] може да извърши стрелба в училище, но вероятно не може да създаде ядрено оръжие или да пусне чума… сега ще бъде издигнат до нивото на способности на доктор по вирусология“, пише Амодей.

Той също така повдига възможността AI да „излезе извън контрол и да надделее над човечеството“ или да даде сила на авторитарни режими и други "зли герои", водейки до „глобална тоталитарна диктатура“.

Амодей, чиято компания Anthropic е основен конкурент на OpenAI — създателя на ChatGPT, е влизал в конфликт с Дейвид Сакс, „царя“ на изкуствения интелект и криптовалутите на президента Доналд Тръмп, относно посоката на регулацията в САЩ. Той също така е сравнил плановете на администрацията да продава усъвършенствани ИИ чипове на Китай с продажбата на ядрени оръжия на Северна Корея.

Миналия месец Тръмп подписа изпълнителна заповед, която възпрепятства усилията на отделните щати да регулират ИИ компаниите, а миналата година публикува план за действие в областта на ИИ, очертаващ намерения за ускоряване на иновациите в САЩ.

В есето си Амодей предупреждава за мащабни загуби на работни места и „концентрация на икономическа власт“ и богатство в Силициевата долина в резултат на ИИ.

„Това е капанът: ИИ е толкова мощен, толкова бляскава награда, че за човешката цивилизация е изключително трудно да наложи каквито и да било ограничения върху него“, добавя той.

В прикрита препратка към споровете около AI модела Grok на Илон Мъск, Амодей пише, че „някои ИИ компании са показали обезпокоителна небрежност по отношение на сексуализацията на деца в днешните модели, което ме кара да се съмнявам, че ще проявят желание или способност да се справят с рисковете, свързани с автономността, в бъдещите модели“.

Притесненията за безопасността на изкуствения интелект — като биологични оръжия, автономни оръжия и злонамерени държавни субекти — заеха централно място в обществения дебат през 2023 г., отчасти подтикнати от предупреждения на лидери като Амодей.

Същата година британското правителство организира среща на върха за безопасността на ИИ в Блетчли Парк, където държави и лаборатории се договориха да работят заедно за противодействие на подобни рискове. Следващата среща е планирана да се проведе в Индия през февруари.

Според Амодей обаче политическите решения около ИИ все по-често се движат от желанието да се използват възможностите, които новата технология предлага, а не да се ограничат нейните рискове. „Това колебание е жалко, тъй като самата технология не се интересува от това кое е модерно, а ние сме значително по-близо до реална опасност през 2026 г., отколкото бяхме през 2023 г.“, пише той.

Амодей е бил сред първите служители на OpenAI, но напуска, за да съоснове Anthropic през 2020 г. след конфликт със Сам Алтман относно посоката на OpenAI и предпазните механизми за изкуствения интелект. Anthropic води преговори с групи като Microsoft и Nvidia, както и с инвеститори, включително сингапурския държавен фонд GIC, Coatue и Sequoia Capital, за кръг на финансиране от 25 млрд. долара или повече, който би оценил компанията на 350 млрд. долара.