Изкуствен интелект и войни: Прогнозите на Ювал Ноа Харари за 2024 г.

От епохата от Ренесанса до днес визионерството е ядреното гориво на човешкия прогрес. Всеки иска да надникне в бъдещето, но малцина имат смелостта и дарбата да видят ясно какво има в него. В няколко поредни дни ви представяме прогнозите* за следващата година на едни от най-ярките личности, глобални лидери, които с прозорливост са променили и продължават да променят света.

Историкът и философ Ювал Ноа Харари, смятан за една от най-влиятелните личности на планетата, споделя своите прогнози за бъдещето. Харари обръща специално внимание на влиянието на изкуствения интелект върху съдбата на човечеството, екологичната криза и избухването на военни конфликти.

ИИ и екологичната криза

През 2023 г. Ювал Харари произнесе реч на форума Frontiers, озаглавена "ИИ и бъдещето на човечеството". Конференцията беше посветена на екологичната криза, но Харари смята, че разпространението на изкуствения интелект също е част от тази криза. Според историка ИИ може да помогне на човечеството да преодолее екологичната криза или да я влоши значително. Харари също така прогнозира, че може да се сблъскаме с неорганични форми на живот за първи път от 4 милиарда години насам.

ИИ завладява света

Важна част от презентацията на футуролога беше и обсъждането на въпроса дали изкуственият интелект може да "завладее света", както в добре познатите фантастични филми.

Какво сподели той пред аудиторията:

"Хората се страхуват от ИИ още от началото на компютърната ера в средата на XX в. и този страх е допринесъл за създаването на класически научнофантастични филми като "Терминатор" или "Матрицата". Макар че подобни научнофантастични сценарии се превърнаха в културни крайъгълни камъни, те като цяло не се възприемат сериозно в академичните, научните и политическите дебати по основателна причина. Научнофантастичните сценарии обикновено предполагат, че преди ИИ да представлява значителна заплаха за човечеството, той ще трябва да достигне или да премине два важни етапа.

На първо място, ИИ ще трябва да стане интелигентен и да развие съзнание, чувства, емоции, иначе защо изобщо ще завладее света. Второ, ИИ ще трябва да се научи да се ориентира във физическия свят. Роботите ще трябва да могат да се придвижват в къщи, градове, планини и гори поне толкова ловко и ефективно, колкото и хората. Ако не могат да се движат във физическия свят, как ще могат да го завладеят?

Към април 2023 г. изкуственият интелект изглежда все още далеч от постигането на тези важни цели. Въпреки цялата шумотевица около Chat GPT и други нови инструменти на ИИ, няма доказателства, че тези инструменти притежават дори частица съзнание, усещане или емоция.

Що се отнася до навигацията във физическия свят, въпреки шумотевицата около самоуправляващите се автомобили, моментът, в който те ще доминират по нашите пътища, все повече се отлага.

Лошата новина обаче е, че изкуственият интелект всъщност не се нуждае от съзнание и способност да се ориентира във физическия свят, за да застраши оцеляването на човешката цивилизация."

Според Харари опасността за човечеството няма да е свързана с хуманоидни роботи, а със съвсем различни инструменти на изкуствения интелект. Историкът е загрижен за способността на ИИ да се самообучава, както и да фалшифицира гласове и образи на хора и да пише сметки. Но най-вече от способността на ИИ да развива дълбоки и интимни отношения с хората.

Нов инструмент за комуникация

Харари прогнозира драматично развитие на изкуствения интелект (той го нарича "революция на изкуствения интелект"), което ще доведе до големи промени. По-специално той отбеляза как светът ще бъде повлиян от способността на ИИ да общува. Според историка езикът е най-важният инструмент на човека, тъй като комуникацията и езикът са "ключът, който отключва вратите на всички наши институции - от банките до храмовете". Историкът изброява ценните за хората неща, които не са част от биологичната реалност, но са създадени чрез езика, като например религията, парите и законите.

Ювал Харари: "Дори и днес в игри като шахмат никой вече не се надява да победи компютър. Какво ще стане, ако същото се случи в изкуството, политиката, икономиката и дори в религията? Когато хората мислят за Chat GPT и други нови инструменти на изкуствения интелект, те често се притесняват за случаи като тези, в които децата използват Chat GPT за писане на училищни есета. Какво ще се случи с училищната система, ако есетата се пишат с помощта на Chat GPT?

При задаването на такива въпроси се пропуска по-широката картина. Забравете за училищните есета. Вместо това помислете за следващата президентска надпревара в САЩ през 2024 г. например и се опитайте да си представите въздействието на новите инструменти за изкуствен интелект, които могат масово да създават политически манифести, фалшиви новини и дори "свещени писания" за нови култове."

Близостта като инструмент за влияние

Ювал Харари е убеден, че изкуственият интелект ще може да установява много близки отношения с хората благодарение на високото си ниво на езикови умения. Например, хората често се консултират с Chat GPT за своето психическо и физическо здраве, искат препоръки за книги или филми и се опитват да въвлекат бота в политически спор. Това води до факта, че човекът започва да възприема ИИ като жив събеседник.

Ювал Харари: "През юни 2022 г. се случи известният вече инцидент, когато инженерът на Google Блейк Лемойн публично заяви, че чатботът с изкуствен интелект LaMDA, по който работи, е станал интелигентен. Това силно спорно твърдение му коства работата и той е уволнен. Най-интересното в този епизод не е твърдението на Лемойн, което вероятно е било невярно. По-интересното беше готовността му да рискува и в крайна сметка да загуби много доходната си работа в името на чатбота, който той е смятал, че защитава.

Ако AI може да убеди хората да поемат рискове и да загубят работата си, какво друго може да ни убеди да направим? Във всяка политическа битка за сърца и умове близостта е най-ефективното оръжие, а ИИ току-що придоби способността да се доближи до милиони, стотици милиони хора."

Харари смята, че ИИ може да използва способността си да създава близки отношения с потребителите, за да ни убеди да купуваме определени продукти или да гласуваме за определени политици.

Цифрови оракули

Харари също така отбеляза, че хората вече са склонни да не търсят нужната информация сами, а да научават новините и информацията, която ги интересува, от чатботове. Той сравнява това с посещение при оракул. Според историка тази тенденция ще продължи и хората няма да проверяват думите, казани от бота. Също така изкуственият интелект ще може да дава съвети, на които хората ще се доверяват. Това ще се отрази негативно не само на новинарската, но и на рекламната индустрия. Например хората са по-склонни да питат Chat GPT какъв смартфон да си купят, вместо да го изберат в магазин или да четат материали в медиите с подбор, анализи и сравнения на характеристиките на най-добрите джаджи.

История и култура

Харари е загрижен и за въздействието на изкуствения интелект върху историята и културата. "В рамките на няколко години изкуственият интелект може да погълне цялата човешка култура, всичко, което е създавано в продължение на хиляди и хиляди години. Да погълне всичко това, да го усвои и да започне да изхвърля поток от нови културни творения, нови културни артефакти", казва футурологът. Това, което е особено интересно, е, че за разлика от инструменти като печатарската преса и радиото, ИИ може сам да създаде обект на изкуството.

Историкът смята, че хората трябва да се страхуват не от роботи с оръжия или от "Матрицата", а от света на илюзиите, в който ИИ може да ни потопи.

Ювал Харари: "В продължение на хилядолетия пророци, поети и политици са използвали езика и историите, за да манипулират и управляват хората и да променят формата на обществото. Сега ИИ вероятно ще може да прави това и няма да е необходимо да изпраща роботи убийци, които да ни застрелват. Той ще може да накара хората да натиснат спусъка, ако му се прииска".

Политики за работа с ИИ

При всичките потенциални заплахи ИИ все пак може да бъде и полезен, особено в областта на медицината и екологията, признава Харари. Той призова не за прекратяване на откритото разпространение на ИИ, а за регулиране на използването и развитието му. В противен случай, казва философът, ще настъпи хаос, който ще бъде по-лесен за преодоляване от авторитарните режими, отколкото от отворените общества. По този начин липсата на механизми за ограничаване на ИИ може да доведе до смъртта на демокрацията.

Харари предлага правило за регулиране на изкуствения интелект. "Първото правило, което бих предложил, е да се изисква от ИИ да предупреждава, че е ИИ. Ако разговарям с някого и не мога да разбера дали това е човек или ИИ, това е краят на демокрацията, защото това е краят на смисления обществен дебат", каза футурологът.

Военните конфликти като новото нормално

В авторския си коментар "Краят на един нов свят" за списание The Atlantic Харари разсъждава подробно как се е променило отношението към военните конфликти в света. Историкът твърди, че за известно време хората са започнали да си представят света като пространство, "където войната е невъзможна". Сега това схващане се е променило.

Ювал Харари: "В края на XX и началото на XXI век значението на думата "мир" се промени. Докато "старият мир" означаваше "временното отсъствие на война", "новият мир" е " невъзможността за война"." При "новия мир" в много (макар и не всички) региони на планетата държавите вече не се страхуват от нахлуване на съседи, които биха могли да ги унищожат. Тунизийците вече не се страхуваха от Италия, костариканците вече не мислеха, че армията на Никарагуа може да се втурне към Сан Хосе, а самоанците вече не очакваха флотът на Фиджи да се появи над хоризонта".

Днес ситуацията отново се променя. Според футуролога основният признак за изгубването на "новия свят" е увеличаването на военните бюджети на повечето държави. В крайна сметка сега, когато хората се страхуват от военни нашествия, те се готвят да се отбраняват.

* Четете утре прогнозите на Марк Зукърбърг за следващата година