Digital Age: Искате ли да разберете опасностите от изкуствения интелект, вижте един чешки роман от 1936 г.

Когато историците в бъдещите векове съставят пълните летописи на човечеството, резултатите от тях ще бъдат разделени на два тома. Първият ще обхване стотиците хиляди години, през които хората са били най-висшата форма на разум на земята. Ще разкаже как маймуните са се сдобили с каменни инструменти, писменост, нарязан хляб, ядрени оръжия, космически пътувания и интернет – и различните начини, които са намерили да ги използват за злоупотреба. Вторият том ще опише как хората са се справили с по-висша от тях форма на интелигентност. Как се e справил нашият вид, след като e бил надхитрен? По-скоро вълнуващо, началните страници на този втори том може да са напът да бъдат написани.

В зависимост от това кого питате, изкуственият общ интелект(ИИ) - системи, способни да съпоставят хората и след това да ги оставят в когнитивния прах - са или месеци, години или десетилетие или две. Прогнозите за това как това може да се случи варират от това, че всички се наслаждават на спокоен живот до изчезването на човешката раса от ръцете на роботи, усукващи кламери пише The Economist.

ChatGPT е само на няколко години, големите ИИ не са съгласни дали неговият интелект все още може да се сравни с този на котка. Ако това звучи успокояващо, помислете за тритона. Не кой да е саламандър, а по-скоро измислените герои от „Войната с тритоните“ от Карел Чапек, публикувана в Чехословакия през 1936 г. – отлично плажно четиво и смразяваща пророческа алегория за развитието на ИИ. В сатиричния роман капитанът на холандски кораб се натъква на порода морски създания в Индонезия. Екипажът е озадачен, когато зверовете с размерите на деца игриво хвърлят камъни по тях и изглежда отговарят на човешки подкани. Колко умно! Точно както всички се забавлявахме през 2022 г. от способността на ИИ да генерира изображение на кучета, играещи покер в стила на Караваджо, нашите измислени предшественици се чудеха как тези бързо обучаващи се нови форми на интелигентност могат да извличат ценни перли. Тогава, както и сега, се забелязва възможност за печалба. Скоро тритоните искат ножове, за да произвеждат повече перли. Разбира се, защото какво може да се обърка?!

Комедията от непредвидени последствия, която настъпва, ще звучи познато на притеснените от ИИ. Ножовете помагат на саламандрите да победят хищните акули, които са държали броя им под контрол, което води до демографски бум, достоен за закона на Мур. Тъй като тритоните се размножават, става ясно, че те са по-слаби от хората, но се развиват стряскащо бързо. Не след дълго те разговарят гладко като чатбот. Мъгляв „Синдикат на саламандър“, нещо като Big Tech, продаващ тритони с милиони, намира нови начини да обучи изобилните същества и да ги накара да работят във ферми и фабрики. Панамският канал се разширява с ниска цена за хората. Страховете, че всичко това се случва твърде бързо, се отхвърлят като претоплен лудизъм. Злото на евтините работници-тритони е заклеймено като „антисоциално“ от Международната организация на труда; днес предупреждението на МВФ е, че 40% от работните места може да бъдат засегнати от ИИ. Австралия налага данък върху тритоните, подобен на данъка върху роботите, който Бил Гейтс, предложи преди време.

Не всички са доволни от тази „ера на Саламандър“, предшественик на днешната „ера на ИИ“. Консумацията на съществата от глобалното снабдяване с храна тревожи критиците, точно както моделите за машинно обучение сега са критикувани за тяхното потребление на електроенергия. Задават се въпроси дали хората, които наемат тритони, носят отговорност за действията си, точно както трибунал наскоро принуди Air Canada да уважи отстъпка, направена от активиран AI чатбот, който халюцинира политиката. Някои хора се привързват към тритоните, докато се учат да танцуват и пеят. The Daily Star пита „Има ли Нютс душа?“; през 2023 г. America, католическо списание, избра „Има ли ChatGPT душа?“ Мнозина днес смятат, че софтуерът метафорично изяжда света. Вместо това тритоните на Чапек поглъщат земя, създавайки нови крайбрежни местообитания, в които да приютят непрекъснато увеличаващия се брой.

Успокояващите търговци на тритони твърдят, че техните продукти просто имитират хората и не могат да ги надминат (това също звучи познато днес). Неизбежно, някога мрачните създания в крайна сметка правят точно това. Докато хората осъзнаят, че нямат представа как всъщност работят тритоните – случващото се под водата е толкова мистериозно за хората на Чапек, колкото случващото се в облака за днешните потребители на изкуствен интелект – вече е твърде късно. Хората са твърде обгърнати от собствените си мании, за да забележат какво се случва - германците са заети да твърдят, че техните тритони са етнически по-добри от другите. Тритоните винаги могат да намерят някой алчен човек, който да им продаде експлозиви или подводници.

Чапек е активен в чешките политически кръгове и учи философия в Париж и Берлин. Има нещо архетипно европейско в страха му от Новото. Има основателни причини Европа да се притеснява от бързите промени, предизвикани от бързо развиващите се тритони или компютри. Особено в Южна Европа социалните системи зависят от нещата, които се развиват с темпове, с които често властната държава може да се справи. В книгата французите са първите, които се опитват да ограничат превземането на тритоните. Днес, въпреки че Америка прави голяма част от инвестициите в ИИ, Европейският съюз е този, който оглавява регулирането му. Законът за ИИ на блока, досега най-строгата усмирителна риза на технологията в света, ще влезе официално в сила през август. Ще бъдат забранени машини, които разпознават лица в публични и китайски системи за „социално оценяване“.

Чапек също си представя дистопично бъдеще в ръцете на роботи, термин, който той измисли в по-ранна работа (на чешки език означава „крепостен“). Но дори писател на научна фантастика не би могъл да проумее създадена от човека технология, развиваща се с темпото на днешния AI - оттук и тритоните. В книгата хората със слаба воля предават Китай на новите си владетели с надеждата да купят мир. През 1938 г., само седмици преди смъртта на Чапек, родината му е пожертвана по подобен начин, за да успокои нацистите. „Войната с тритоните“ е възхваляван за изобразяването на високомерието и алчността на хората от 20-ти век. Може някой ден да бъде запомнен с разбирането си за машините от 21-ви век.