Колко близо сме до AI оръжия на бойното поле?

Нарастващото значение на информационните и комуникационните технологии във всички аспекти на бизнеса и ежедневието драматично промени нашия начин на живот. Със своята анонимност, лекота на използване, бързина на комуникация и възможност за трансгранично споделяне на информация и достигане до голяма аудитория, интернет се превърна в ключов фактор както за законните потребители, така и за тези, които искат да извършват престъпления и преследват недобросъвестни интереси.

Човечеството вече е успяло да достигне и постепенно да овладява четири физически домейна или пространства. Те са сушата, водата, въздуха и Космоса. Това неминуемо е водило и води до противопоставяне между народите и борба за надмощие във всеки един тях. Наред с това се търсят и средства за мирно и съвместно използване на тези пространства. Но сега държавите са изправени пред предизвикателството да използват още един нов, нефизически, непрекъснато развиращ се, пети домейн. Киберпространството може да бъде пространство за сътрудничество и развитие, но също така дава ново поле и възможности за противопоставяне, включително със зараждащия се капацитет за използване на изкуствен интелект.

Произведенията на научната фантастика отдавна изобразяват тъмно и зловещо бъдеще, в което роботи-убийци управляват своите човешки създатели. Десетилетия преди Terminator да направи Арнолд Шварценегер мегазвезда на екшън филмите, пиесата R.U.R. от 1920 г. (Rossumovi Univerzální Roboti или Универсалните роботи на Росъм) беше първата, която въведе концепцията за роботи, които се надигат срещу своите господари. В историята на писателя Карел Чапек, роботите, направени от синтетична органична материя, изпълняват обикновени ежедневни задачи преди да променят поведението си.

Писателят Филип К. Дик изследва същата тема десетилетия по-късно в Do Androids Dream of Electric Sheep. Филмът Blade Runner, определящ жанра киберпънк, е адаптация на романа на Дик, който се съсредоточава около определението за човечността и това, което ни прави хора. Въпреки че репликантите във филма не стават точно господари на човечеството, е ясно, че те представляват заплаха.

Terminator и The Matrix представяха едно наистина дистопично бъдеще, в което човечеството е почти унищожено. Тогава, управлявана от машини, нашата планета се превръща в жив ад. Има популярна теория сред феновете, че Terminator е предистория на филмите от поредицата The Matrix. Всяка серия е породила романи, комикси, видеоигри и играчки.

Но дали един филм наистина представлява сериозно предупреждение за възможното бъдеще?

Въпреки доброто начало на всяка серия, повечето от последващите филми и други проекти разочароваха феновете, а причината за това сякаш е проста. Идеята машините да поробват хората изглежда доста пресилена, а мерките, които машините предприемат, за да потушат бунта, още повече. Гледайте някой от филмите от серията Terminator след втория или някое от продълженията на The Matrix, за да се убедите сами.

Въпреки това, в реалния живот има много експерти, политици и граждани, които остават дълбоко загрижени от появата на концепциите за автономните оръжия или „роботи-убийци“. През 2018 г., по време на годишната Международна съвместна конференция за изкуствен интелект в Стокхолм, Швеция, някои от най-добрите научни умове в света подписаха обещание, което призовава за „закони срещу смъртоносни автономни оръжия“.

Основателят на SpaceX и Tesla Илон Мъск, както и членовете на проекта DeepMind на Google, бяха сред тези, които подписаха документа, който също има подкрепата на Future of Life Institute. Очевидно достатъчно хора, включително представители на големия технологичен бизнес, изглежда загрижен, че автономните системи – или изкуственият интелект (AI) – разработени за самостоятелно управляващи автомобили и други приложения, представляват проблем, когато става въпрос за оръжия.Умните коли са едно, умните оръжия - съвсем друго

Честно казано, на пръв поглед е лесно да се види разлика между самоуправляващ се автомобили на компанията за споделено пътуване Uber и самоуправляващ се танк M1 Abrams. Въпросът, който може би Мъск и тези в Google, Apple, Ford и Uber – всеки от които разработва технология за автономни превозни средства – си задават е защо трябва да вярваме на кола, която да кара вместо нас, но не и на оръжие за водене на война? В края на краищата, тези, които разработват самоуправляващата се кола, често рекламират предпазните механизми срещу инциденти, така че не биха ли били приложеми те и в автономно оръжие?

„Това тепърва предстои да се определи и има определено движение към гарантиране, че автономните системи са разработени с идеята за безопасност и сигурност“, обяснява Майкъл Блейдс, вицепрезидент по аерокосмическа дейност, отбрана и сигурност във Frost & Sullivan, международна изследователска и консултантска фирма.

„Въпреки това, има много дебати относно това дали „общият“ AI, където машините могат да вземат свои собствени решения, е постижим, или дали „тесният“ AI, където машините могат да правят само това, което са научени, ще бъде функционалната граница, “, добавя той.

Исторически аналогии на роботите убийци

Хората са се сражавали помежду си от зората на времето и така са създавали някои наистина ужасяващи оръжия - ядрени, химически, биологични като всяко от тях може да представлява голяма заплаха. Но компютърните технологии са малко по-различни, отчасти поради това колко взаимосвързан е станал нашият свят. Ако бъде използван срещу критична инфраструктура, някакъв компютърен код може да причини толкова щети, колкото ядрена атака. Ясно е, че технологията като цяло може да представлява сериозен проблем.

В същото време обаче трябва да разгледаме различни аналогии от историята. Хората са „опитомили“ коне, кучета, слонове и дори делфини с различна степен на успех, за да използват тези животни във военни роли. Войниците са яздели коне в продължение на векове, но конете до голяма степен изчезнаха от бойното поле само за едно поколение през 20-ти век. Кучета, овце и други животни са разполагали мини и са се движили през минни полета, но днес също не са част от арсенала.

Животните, разбира се, могат да се обърнат срещу своите господари, но с ограничен успех. Куче може да ухапе собственика си, но не може да развива или използва оръжия. По-голямата опасност отдавна е в доверието на човешки войници — още от древността има истории за бунтове на войници. Британците научиха този урок преди 160 години, когато сепаите (местни войници) на Източноиндийската компания се надигнаха и бяха необходими три години, за да се потуши въстанието им. Те извлякоха някои ценни поуки, които след това последваха и други колониални сили. А именно, снабдете своите колониални войски и местни спомагателни части с по-лоши оръжия. По този начин, ако не успеят да останат лоялни, поне ще имате предимство пред тях.

Истината е, че машините може да е по-малко вероятно да се разбунтуват. За разлика от наемниците - каквито реално бяха индийските сепаи - мотивацията на машината не може да бъде свързана с парите. Освен това, за разлика от машината, не можете наистина да програмирате човек.Дали хората някога ще се доверят напълно на машина?

Дори днес вече определено има проблем с доверието по отношение на робот, който става „неуправляем, но успоредно с това се работи по разработката и прилагането на обширни мерки, за да гарантира, че всички аспекти на безопасността са обхванати. Засега въпросът до голяма степен е спорен, защото не сме достигнали ниво на истинска автоматизация. Дори ако това ниво на автоматизация стане възможно, машините пак няма да „мислят“ в традиционния смисъл.

Повечето автономни оръжейни системи все още не са наистина автономни. Засега те се нуждаят от човек, който е вътре в машината или я следи дистанционно, за да се гарантира, че решенията, които се вземат, остават в човешки ръце. Синтетичното обучение е фокус в отбранителната политика, с цел гарантиране, че всички системи са усилено тествани и оценени. AI и машинното обучение ще се използват за подобряване и подпомагане на вземането на човешки решения, вместо да ги замени. Поради тези причини, автономните оръжия всъщност могат да предоставят възможности, които биха могли да спасят животи. Те биха могли да премахнат човешката грешка от процеса.

Истината е, че има много предимства на автономните системи. Те могат да помогнат за намаляване на когнитивната тежест върху боеца, захранвайки го с нужната информация. Логистичните безпилотни наземни превозни средства могат да облекчат товара за войниците, като пренасят екипировка и провизии. Бойните превозни средства могат да бъдат изпратени напред преди войските за извършване на наблюдение и разузнаване. През последните няколко години имаше огромен напредък във всички тези направления. Въпреки това, технологията все още е в доста ембрионален етап, като тестването и оценката са ключови. А това означава, че решението в каква посока ще поемат автономните оръжейни системи все още е изключително в нашите човешки ръце.

Автор: Иво Цеков, специално за "Мениджър Нюз"