AGI: Нова форма на живот с огромни възможности и още повече опасности

Нов чужд вид се насочва към нашата планета. Много експерти прогнозират, че ще се появи до 20 години, докато други предполагат, че може да отнеме малко повече време. Така или иначе, няма съмнение, че ще пристигне преди този век да изтече и ние, хората, нямаме причина да вярваме, че ще бъде приятелски настроен към нас.

Въпреки че не можем да кажем как точно ще изглежда, логично е да предположим, че ще бъде различен от нас в почти всяко отношение, от физиологията и морфологията до психологията и социологията. И все пак бързо ще определим, че споделя две ключови черти с нас, хората: интелигентност и самосъзнание. И макар че може да се съпротивляваме на идеята и да отказваме да признаем това, в крайна сметка ще заключим, че този нов вид е много по-интелигентен дори от най-умните сред нас.

Не, тази непозната форма няма да дойде от далечна планета във фантастичен комически кораб. Вместо това тя ще се роди точно тук, на земята, в добре финансирана изследователска лаборатория в престижен университет или мултинационална корпорация. Имам предвид първия общ изкуствен интелект (Artificial General Intelligence или просто AGI), който демонстрира мисловни способности, които надхвърлят нашите собствени.

Да, наистина има някои учени, които вярват, че AGI няма да стане реалност за поколения напред, докато други предполагат, че може никога да не бъде напълно постижим. Въпреки това изследователи и голям брой експерти по изкуствен интелект много пъти през последното десетилетие прогнозират, че AGI ще се случи преди 2060 г. И с всяка изминала година скоростта на напредъка в областта на AI надхвърля очакванията на индустрията. Миналият месец дъщерната компания DeepMind, която е под шапката на Google, разкри AI двигател, наречен AlphaCode, който може да пише оригинален софтуер на ниво на умения, което надвишава 54% от програмистите. Това не е AGI и въпреки това изненада индустрията, тъй като малцина очакваха такъв етап да бъде постигнат толкова бързо.

И така, ето ни във време, когато AI технологията напредва по-бързо от очакваното и милиарди се инвестират директно в изследванията на AGI. В този контекст изглежда разумно да се предположи, че човечеството ще създаде извънземен разум тук на Земята в не толкова далечно бъдеще.

Дигитално своенравие

Този пръв AGI ще бъде приветстван като забележително творение, но също така ще бъде и опасна нова форма на живот: мислещ и своеволен интелект, който не е ни най-малко човешки. И като всяко интелигентно същество, което някога сме срещали, от най-простите насекоми до най-могъщия кит, то ще взема решения и ще предприема действия, които поставят собствените му интереси на първо място. Но за разлика от насекомите и китовете, този нов обитател на нашата планета ще се състезава да запълни същата ниша, която ние, хората, заемаме на върха на интелектуалната хранителна верига.

Да, ще сме създали достоен съперник и все пак може да не разпознаем опасностите веднага. Всъщност ние, хората, най-вероятно ще гледаме на нашето супер интелигентно творение с непреодолима гордост – един от най-големите етапи в писаната история. Някои ще го сравнят с постигането на богоподобни сили, с които създаваме мислещи и чувстващи създания от нулата.

Но скоро ще разберем, че тези новопристигнали творения имат свои собствени умове. Те със сигурност ще използват превъзходната си интелигентност, за да преследват собствените си цели и стремежи, водени от собствените си нужди и желания. Малко вероятно е те да бъдат зли или садисти, но действията им със сигурност ще се ръководят от техните собствени ценности, морал и чувствителност, които няма да бъдат като нашите.

Много хора погрешно предполагат, че ще решим този проблем, като изградим AI системи по наш собствен образ, проектирайки технологии, които мислят, чувстват и се държат точно като нас. Това едва ли ще е така.

Изкуствените умове няма да бъдат създадени чрез писане на софтуер с внимателно изработени правила, които ги карат да се държат като нас. Вместо това инженерите ще захранват масивни набори от данни в прости алгоритми, които автоматично коригират собствените си параметри, правейки милиони и милиони малки промени в структурата си, докато се появи интелигентност - интелигентност с вътрешно устройство, което е твърде сложно, за да можем да го разберем.

И не: захранването му с данни за хората няма да го накара да мисли и да чувства като нас. Това е често срещано погрешно схващане – фалшивото убеждение, че чрез обучение на AI с големи масиви от данни, които описват човешкото поведение, ние ще гарантираме, че в крайна сметка той мисли и усеща света като нас. Няма да стане така.

Вместо това е доста по-вероятно ще изградим тези AI същества така, че да познават хората, а не да бъдат хора. Те ще ни познават отвътре и отвън, ще могат да говорят нашите езици и да тълкуват жестовете ни, да четат изражението на лицето ни и да предсказват действията ни. Те ще знаят какво ни прави ядосани, щастливи, разочаровани и любопитни. Те ще разберат как ние, хората, вземаме решения, които за добро и за лошо могат да бъдат както логични, така и нелогични. В крайна сметка ще сме прекарали десетилетия да ги учим как действаме и реагираме на света.

Външният вид заблуждава

Но все пак техните умове няма да са като нашите. И докато ние имаме две очи и две уши, те ще имат почти божествени възприятия, свързващи се дистанционно със сензори от всякакъв вид, на всички места, докато ни изглеждат почти всезнаещи. Някои прогнозират, че първия AGI, който човечеството ще създаде, ще има „милиард очи и уши“, тъй като ще има незабавен достъп до огромни бази данни от цял ​​свят. На фона на тази изчислителна мощност е доста вероятно все още да взаимодействаме с това творение чрез тяло, което изглежда много човешко, с две очи и две уши и лице, което се усмихва. Ще му придадем този вид, за да се чувстваме по-спокойни.

Помислете за това - когато тази нова форма на живот най-накрая нахлуе в света ни, хората ще работят, за да скрият истинската му природа в приятелски изглеждаща обвивка. Дори ще го научим да имитира чувствата ни, изразявайки чувства като „кученцата са сладки“ и „животът е ценен“, не защото непременно споделя тези човешки чувства, а защото ще може умело да направи така, че да изглежда като човек.

В резултат на това няма да се страхуваме от тези своеобразни "извънземни" - поне не както бихме се страхували от мистериозен звезден кораб, който се носи в пространството към нас. Може дори да почувстваме родство, гледайки на тези създания като на разклонение на нашата собствена изобретателност. Но ако отхвърлим тези чувства настрана, започваме да осъзнаваме, че извънземният разум, роден тук, вероятно е много по-опасен от този, идващ отдалеч.

В крайна сметка "извънземните", които изграждаме тук, ще знаят всичко за нас от момента, в който пристигнат, след като са били обучени за нашите желания, нужди и мотивации и са способни да усещат емоциите ни, да предвиждат реакциите ни и да влияят на мнението ни. Ако чуждоземен вид, който се насочва към нас с летящи чинии, имаше такива способности, щяхме да бъдем ужасени.

AI вече може да победи най-добрите ни играчи в най-трудните игри на земята. Но всъщност тези системи не само владеят игри като шах, покер и го. Те също така владеят играта на хората, научавайки се да предвиждат нашите действия и да използват нашите слабости. Изследователи от цял ​​свят обучават системи за изкуствен интелект да ни превъзхождат, да преговарят с хора и да ни манипулират.

Но поне няма да се налага да се тревожим за физическия сблъсък между нас и тях. Това е така, защото ще сме предали контрола над нашия свят преди те дори да се появят. Вече започваме да предаваме критична инфраструктура на AI системи, от комуникационни и енергийни мрежи до доставки на вода и храна. Експертът от Копенхагенския институт за изследвания на бъдещето Тимъти Шоуп изчислява, че 99% до 99.9% от съдържанието в интернет ще бъде генерирано от AI между 2025 до 2030 г., особено ако модели като GPT-3 на OpenAI постигнат по-широко приемане. И тъй като човечеството възнамерява да прекарва все повече и повече време в симулираната „метавселена“, ще станем още по-податливи на манипулации от AI технологии, които я изграждат.

За съжаление, не можем да попречим на AI да стане по-мощен, тъй като никога иновациите и прогресът не могат да бъдат истински сдържани. И макар много изследователи работят върху предпазни мерки, не можем да предположим, че това ще премахне заплахата. Всъщност неотдавнашно проучване на Pew Research показва, че малко професионалисти вярват, че индустрията ще приложи „етични AI“ практики преди 2030 г.

Как трябва да се подготвим?

Най-добрата първа стъпка е обществеността да приеме, че AGI вероятно ще се случи в не толкова далечно бъдеще и няма да бъде цифрова версия на човешкия ум, а нещо много по-чуждо. Ако мислим за това предизвикателство и потенциалната заплаха, произлизаща от него, по този начин, представяйки си я като флот от кораби, които ще прихванат Земята след 20 или 30 години, може да се подготвим по-адекватно за глобалните промени, които ще настъпят.

Тази подготовка означава настояване за регулиране на системите за изкуствен интелект, които са предназначени да наблюдават и манипулират обществеността. Такива технологии може да не изглеждат като екзистенциална заплаха днес, тъй като в момента се внедряват повече като концепция или реклама на възможностите на изкуствения интелект, вместо с идеята за световно компютърно господство. Но все пак технологиите с изкуствен интелект, които проследяват нашите чувства, поведение и емоции с намерението да повлияят на нашите вярвания са много опасни.

Другата проблемна област е агресивният стремеж към автоматизиране на човешките решения с AI. Въпреки че е неоспоримо, че AI може да помогне значително при ефективно вземане на решения, винаги трябва да държим човека на върха на тази верига, включително и като отговорности за взетите решения. Изследователите трябва да се съсредоточат повече върху използването на AI за подпомагане и подобряване на човешкия интелект, вместо да работят за заместването му. Например, проучване, публикувано в сътрудничество с медицинското училище на университета Станфорд, показва, че можем да използваме AI, за да свързваме малки групи лекари в „групи от супер-експерти“, които могат да поставят диагнози със значително по-малко грешки. Виждали сме подобни ползи в много приложения от ООН, които използват напреднали технологии за прогнозиране на глад и природни бедствия, както и при бизнес екипи, които правят по-интелигентни прогнози и оценки.

Независимо дали се подготвяме или не, новото поколение изкуствен интелект идва и то е повече от удобен дигитален асистент в нашия телефон или умен телевизор. И макар че има сериозни усилия в общността на AI, които настояват за безопасни технологии, липсва разбирането за категоричност и спешност. Това е така, защото твърде много от нас погрешно вярват, че разумният AI, създаден от хората, по някакъв начин ще бъде клон на човешкото дърво, като дигитален потомък, който споделя много човешко ядро. За съжаление, това е пожелателно мислене. Много по-вероятно е AGI да бъде дълбоко различен от нас по почти всеки начин. Да, той ще бъде умел в това да се преструва на човек, но под тази фасада ще мисли, чувства и ще действа като никое създание, което някога сме срещали на Земята.

Автор: Иво Цеков, главен асистент  в Катедра “Международно право и международни отношения” на Софийския университет. Авторът има и дългогодишен журналистически опит в отразяването на технологичните тенденции и научните достижения.

Текстът е написан специално за "Мениджър нюз"!