Ювал Харари: Изкуственият интелект хакна операционната система на нашата цивилизация

Известният историк и философ разсъждава върху това как способността на ИИ да генерира език може да промени хода на човешката история

Страхът от изкуствения интелект (AI) преследва човечеството от зората на компютърната ера. Но досега той се фокусира върху машини, способни физически да унищожат хората, да ги поробят или да ги заменят. През последните няколко години обаче се появиха нови AI инструменти, които застрашават оцеляването на човешката цивилизация от неочаквана страна. Изкуственият интелект е придобил невероятни способности да генерира език – вербален, звуков или визуален – и да го контролира. Така той хакна операционната система на нашата цивилизация.

Езикът е това, от което се състои почти цялата човешка култура. Правата на човека, например, не са заложени в нашата ДНК. Не, това са културни артефакти, които сме създали чрез разказване на истории и измисляне на закони. И боговете не са физическа реалност. Не, това са културни артефакти, които сме създали чрез измисляне на митове и писания.

Парите също са културен артефакт. Банкнотите са само цветни хартийки, а сега повече от 90% от парите дори не са банкноти, а просто цифрова информация в компютрите. Това, което им дава стойност, са историите, които ни разказват банкери, финансови министри и гурута на криптовалутите. Сам Банкман-Фрайд, Елизабет Холмс и Бърни Мадоф не бяха особено добри в създаването на истинска стойност, но всички те са изключително талантливи разказвачи.

Какво би се случило, ако нечовешкият интелект стане по-добър от обикновения човек в разказването на истории, композирането на мелодии, рисуването на картини и създаването на закони или писания? Когато хората мислят за ChatGPT и други нови AI инструменти, те често се фокусират върху неща като училищни есета, написани с помощта на AI и какво ще се случи с училищната система, ако децата започнат да правят това. Тези въпроси обаче не отразяват цялостната картина. Забравете училищните есета! Помислете за следващата президентска надпревара през 2024 г. и си представете въздействието на AI инструментите, които могат да се използват за широко производство на политическо съдържание, фейк новити и сакрални текстове за нови култове.

Култът QAnon, който се формира през последните години, възникна около анонимни онлайн съобщения, известни като „q drops“, които неговите последователи са събирали, чели и тълкували като писания. И въпреки че тези съобщения, доколкото ни е известно, са създадени от хора, а ботовете само са помогнали за разпространението им, в бъдеще може да видим първите култове в историята, чиито "свещени" текстове са написани от нечовешки ум. Религиите, през цялата история на човечеството са претендирали за нечовешки източник на  свещените си книги. Скоро това може да стане реалност.

Скоро могат да станат реалност - на по-обикновено ниво - и дълги онлайн дискусии за абортите или изменението на климата със същества, които мислим, че са хора, но всъщност са AI. Капанът е в твоа, че докато за нас няма абсолютно никакъв смисъл да губим време, опитвайки се да променим мнението на бот, то изкуственият интелект е в състояние да усъвършенства посланията си толкова добре, че има добри шансове да ни повлияе.

Чрез владеенето на езика AI може дори да формира близки отношения с хората и да използва силата на близостта, за да промени техните възгледи и мироглед. Въпреки че няма индикации, че AI има собствен ум или сетива, за създаването на фалшива близост е достатъчно хората да бъдат накарани да се чувстват емоционално привързани. През юни 2022 г. научният инженер на Google Блейк Лемуан, публично заяви, че чатботът LaMDA AI, над който работи, има разум. Това нееднозначно изявление му струваше позицията. Но не това беше най-интересното в този епизод, а по-скоро готовността на човек да рискува високоплатената си работа в името на чатбот. Ако AI може да принуди хората да поемат такива рискове, към какво друго е способен да ги подтикне?

В политическата борба за умовете и сърцата близостта е най-ефективното оръжие, а изкуственият интелект току-що придоби способността да изгражда лични взаимоотношения с милиони хора. Всички знаем, че през последното десетилетие социалните медии се превърнаха в бойно поле за човешкото внимание. С новото поколение AI целта вече е да се премине от внимание към близост. Какво ще се случи с човешкото общество и човешката психология, когато AI се бори с AI за фалшива близост с нас, която след това може да бъде използвана, за да ни убеди да гласуваме за определени политици или да купуваме определени продукти?

Дори без да създават фалшива близост, новите AI инструменти имат потенциала да окажат огромно влияние върху нашите възгледи и мироглед. Хората могат да използват един AI консултант като универсален всезнаещ оракул. Нищо чудно, че Google е в ужас. Защо да си правите труда да търсите, когато можете просто да попитате оракула? Новинарската и рекламната индустрия също трябва да бъдат ужасени. Защо да четете вестник или да гледате реклама, когато можете просто да попитате оракула за последните новини или какво да купите?

И дори тези сценарии не отразяват цялостната картина. Това, за което говорим, е потенциалният край на човешката история. Не краят на историята като цяло, а тази част от нея, където човекът доминира. Историята е взаимодействието между биология и култура; между нашите биологични нужди и желания, като храна и секс, и нашите културни институции, като религия и закони. Историята е процесът, чрез който законите и религиите оформят храната и секса.

Какво ще се случи с историята, когато AI завземе културата и започне да създава текстове, мелодии, закони и религии? Предишни инструменти като печатната преса и радиото са помогнали за разпространението на културните идеи на хората, но самите те не са създавали нови. Изкуственият интелект може да породи напълно нови идеи и напълно нова култура.

Първоначално ИИ вероятно ще имитира създадените от човека модели, от които се е научил в ранните си етапи. Но всяка година културата на AI ще отива все по-далеч и по-далеч, където никога не е имало човек. В продължение на хиляди години хората са живели в свят, измислен от други хора. През следващите десетилетия може да се окажем в свят, измислен от нечовешки разум.

Страхът от ИИ преследва човечеството само през последните няколко десетилетия. Но от хилядолетия хората са били преследвани от много по-дълбок страх. Винаги сме оценявали способността на историите и образите да контролират умовете ни и да създават илюзии. Затова от древни времена хората са се страхували да не попаднат в капана на илюзорната природа на света.

През 17 век Рене Декарт се страхува, че може би зъл демон го е хванал в капана на илюзия, създавайки всичко, което вижда и чува. В древна Гърция Платон в своите диалози използва известната алегория за пещера, в която хората са оковани, така че винаги да гледат празна стена, която по същество е екран, който отразява само сенки. И пленниците погрешно ги приемат за реалност.

В древна Индия будистки и хиндуистки мъдреци посочват, че всички хора живеят в капана на майя - света на илюзиите. Това, което обикновено приемаме за реалност, често е просто измислица на собственото ни съзнание. Поради вярата си в тази или онази илюзия, хората са в състояние да водят войни, като убиват други и самите те търсят смъртта.

AI революцията ни изправя лице в лице с демона на Декарт, пещерата на Платон и майя. Ако не внимаваме, може да се окажем обвити в було от илюзия, която не можем да премахнем - или дори да осъзнаем, че съществува.

Разбира се, пълната мощ на AI може да се използва за добри цели. И няма да говоря за това, защото вече е казано достатъчно от тези, които разработват изкуствен интелект. Целта на историци и философи като мен е да посочат опасностите. Но, безусловно, изкуственият интелект може да ни помогне по много начини - от намирането на нови лекарства срещу рака до решаването на екологичната криза. Въпросът, пред който сме изправени, е как да гарантираме, че новите AI инструменти се използват за добро, вместо за зло. За да направим това, първо трябва да разберем истинските възможности на тези инструменти.

От 1945 г. знаем, че ядрената технология може да генерира евтина енергия в полза на хората, но също така може физически да унищожи цялата човешка цивилизация. Точно затова, за да защитим човечеството и да гарантираме, че тези технологии се използват преди всичко за добро, променихме целия световен ред. Сега трябва да се справим с ново оръжие за масово поражение, способно да унищожи целия ни интелектуален и социален свят.

Ние все още можем да повлияем на новите AI инструменти. Но трябва да действаме бързо. Докато ядрените оръжия не могат да измислят по-мощна версия на себе си, AI може. Първата важна стъпка е да се изисква задълбочен преглед на сигурността на AI инструментите, преди да станат публични. По същия начин, по който една фармацевтична компания не може да пусне нови лекарства, без да тества техните краткосрочни и дългосрочни странични ефекти, технологичните компании не трябва да пускат нови AI инструменти, докато не са безопасни. Имаме нужда от аналог на FDA (Food and Drug Administration) за новите технологии и имаме нужда от него още вчера.

Но дали има опасност по-бавното внедряване на AI да доведе до изоставането на демокрациите от бруталните авторитарни режими? Точно обратното. Нерегулираното внедряване на AI ще създаде социален хаос, който е в полза само на автократите и унищожава демокрациите. Демокрацията е разговор, а разговорът разчита на езика. Когато AI хакне езика, той може да унищожи способността ни да водим смислени разговори и по този начин да унищожи демокрацията.

Току-що се сблъскахме с извънземен разум тук на Земята. Не знаем много за него, освен че може да унищожи нашата цивилизация. Трябва да спрем безотговорното внедряване на AI инструменти в обществото и да започнем да регулираме изкуствения интелект, преди той да започне да регулира нас. И първото нещо, което бих предложил, е да задължим ИИ да разкрие факта, че е ИИ. Ако говоря с някого и не мога да разбера дали е човек или изкуствен интелект, това е краят на демокрацията.

Този текст е генериран от човек.

Или вече не?

Източник: The Economist