Не давайте на роботите да си играят с оръжия!

Дни след като Tesla демонстрира своя хуманоиден робот на света, шест от водещите производители на подобна техника обявиха, че няма да се стремят към или позволяват въоръжаването на своите роботи. Ангажиментът бе поет в необвързващо отворено писмо, което всички те подписаха.

Agility Robotics, ANYbotics, Clearpath Robotics, Open Robotics и Unitree Robotics се присъединиха към лидера в областта Boston Dynamics в споразумението.

„Вярваме, че добавянето на оръжия към роботи, които се управляват дистанционно или автономно, които са широко достъпни за обществеността и са способни да се придвижват до преди това недостъпни места, където хората живеят и работят, поражда нови рискове от увреждане и сериозни етични проблеми“, пише групата. „Въоръжените приложения на тези новопоявили се роботи също ще навредят на общественото доверие в технологията по начини, които ще минимизират огромните ползи, които те ще донесат на обществото.“

Групата цитира нарастващата обществена загриженост през последните месеци, причинена от действията на "малък брой хора, които видимо са разгласили своите импровизирани усилия да въоръжат наличните в търговската мрежа роботи“, като въоръжения Spot от Ghost Robotics, или използването от полицията в Далас на робота за обезвреждане на бомби EOD като импровизирано експлозивно устройство за главна причина защо са почувствали необходимостта да заемат тази позиция. Компаниите за роботика са особено загрижени за въоръжените, автономните или дистанционно управляваните роботи, предназначени за индустриални или спасителни приложения, които са модифицирани да носят оръжия и са превърнати в инструменти за унищожение. Добавянето на огнестрелни оръжия или други оръжия към роботи с общо предназначение, достъпни за обществеността, поражда „нови рискове от увреждане и сериозни етични проблеми“, предупреждава писмото.

За тази цел индустриалната група обещава да не въоръжава своите роботи с общо предназначение с усъвършенствана мобилност или софтуера, който разработваме, който позволява усъвършенствана роботика, и компаниите няма да подкрепят други, които се опитват да го правят. Групата няма да позволи на своите клиенти впоследствие да въоръжат платформи, които са им били продадени, когато това е възможно. Това е голямо предупреждение, като се има предвид дългата и сложна история на такива оръжия като бивште пикапи Hilux на Toyota Technical, превърнати в бойни машини „направи си сам“ в много асиметрични конфликти от 80-те години на миналия век.

„Също така обещаваме да проучим развитието на технологични характеристики, които биха могли да смекчат или намалят тези рискове“, продължава групата, но „за да бъде ясно, не разглеждаме съществуващите технологии, които нациите и техните правителствени агенции използват, за да се защитават и поддържат техните закони." Те също така призовават политиците, както и останалата част от общността за развитие на роботиката, да поемат подобни обещания.

Все повече роботи намират приложение в конкретни условия

Границата между цивилното и военното приложение на дадена технология в исторически план винаги е била тънка. Огромна част от устройствата и нововъведенията, които възприемаме като даденост в нашия живот през 21 век, е продукт на технологии, развити вследствие на войните. Списъкът е огромен и всеобхватен и включва невъобразимо разнообразие от изобретения и процеси: от микровълновите печки до радиото и телевизията; от контактните лещи до интернет; от компютрите до сърдечната хирургия.

Не е тайна, че все повече военни разчитат на дронове и други роботизирани машини, но в редица държави като Великобритания властите имат особено амбициозна визия. През 2021 г. централното командване там обяви, че вярва, че към 2030 г. 1/4 от британската армия може да бъде съставена от роботи. Последва внимателното пояснение, че не се поставят конкретни цели, но се прредвижда бъдеще, в което тези автоматизирани войници могат да служат на бойното поле или близко до него в един бъдещ конфликт.

Подобно изказване всъщност не е толкова абстрактно, колкото звучи. В следващия петгодишен бюджет на армията за Острова са заделени повече пари за роботозирана война. Наистина няма да се изненадаме ако Лондон започне да разчита все повече на роботи. Армията там има проблем с набирането на нови кадри като при последната кампания те са с 9000 по-малко от очакваното. Роботите биха могли да запълнят тези празноти или дори да разширят военния капацитет като в същото време намалят зависимостта от човешки войници.

Каква обаче роля биха изпълнявали тези роботи не е ясно. Засега идеята за „автономни роботи убийци“, които работят без човешка намеса, не се приема добре. Дроновете обаче изискват оператори, които или ги управляват директно, или взимат решение за въздушната атака. Автоматизацията може да навлезе с успех и в други военни области като шпионажа и логистиката.

През април 2021 г. именно роботизираното куче Spot на Boston Dynamics бе един от няколкото робота, тествани от френската армия по време на тренировки във военно училище в северозападната част на Франция. Той бе използван по време на двудневна тренировъчна сесия с цел „измерване на добавената стойност на роботите в бойни действия“.

Упражненията имаха за цел да накарат военните стратези и учените да мислят за това, как роботите могат да бъдат разположени в бъдещи бойни ситуации. Военните са проектирали три нападателни и отбранителни мисии, като Spot се използва предимно за разузнаване. Сценариите се изпълняваха от кадети първо без, а след това с помощта на роботите. Други разположени на бойното поле ботове бяха дистанционно управлявано превозно средство, подобно на танк, наречено OPTIO-X20, въоръжено с оръдие и Barakuda, което е брониран безпилотен самолет, предназначен да осигури прикритие за напредващите войници.

Роботите бяха дадени дадени назаем на армията от европейския дистрибутор Shark Robotics и Nexter Group. Производителят на Spot Boston Robotics обаче не е знаел за внедряването, посочи тогава говорител на компанията. Някои от ранните роботи на Boston Dynamics, включително Atlas, бяха финансирани от американската военна служба DARPA, но компанията бавно се отдалечи от военните си връзки. Настоящите условия на компанията забраняват използването им за „нанасяне на вреда или сплашване на всяко лице или животно, използването им като оръжие или за активиране на оръжия“.

С функционалността си и достъпната цена за корпоративни клиенти, Spot определено привлича вниманието на потенциални купувачи. Властите в италианския град Помпей се сдобиха с един робот, за да да патрулира по обрулените улици от теракота и цимент на Помпей като част от усилията за въвеждане на иновации в историческия обект. Spot е достатъчно пъргав, за да инспектира тесни проходи и да пресича неравни повърхности и събира данни за терена заедно с дрон за лазерно сканиране, пуснат да лети над обекта и да извършва автономни 3D сканирания. Роботът се използва и за издирване на подземни тунели, направени от разграбители на гробници, които са позволили достъп на крадци, търсещи древни реликви, които да продадат на трафикантите.

Какво казва международното право по въпроса?

Бързото развитие на автономните технологии и изкуствения интелект означава, че напълно автономните оръжия могат да станат реалност в обозримо бъдеще. Известни още като „роботи убийци“ и смъртоносни автономни оръжейни системи, те повдигат множество морални, правни, отчетни, оперативни, технически и др. опасения за сигурността. Тези оръжия са обект на международен дебат от 2013 г. насам. През тази година стартира Кампанията за спиране на роботите убийци: коалиция на гражданското общество, която настоява държавите да обсъждат новото поколение умни оръжия. След провеждането на три неофициални срещи на експерти, държавите-страни по Конвенцията за конвенционалните оръжия започнаха официални разговори по темата през 2017 г. През август 2018 г. приблизително 80 държави се събраха отново за следващата среща на Групата от правителствени експерти по конвенцията.

Повечето технологии за изкуствен интелект са с двойна употреба. Те са включени както в мирни граждански приложения, така и във военни оръжейни системи. Повечето от съществуващите кодекси за поведение и етични принципи относно изкуствения интелект се отнасят до първото, докато до голяма степен игнорират второто приложение. Но когато тези технологии се използват за захранване на системи, специално проектирани да причиняват вреда, трябва да се зададе въпросът дали етиката, прилагана към военните автономни системи, също трябва да се вземе предвид за всички технологии с изкуствен интелект, които могат да бъдат използвани за тези цели. Сравнението между етичните кодекси с общо предназначение и военните стига до заключението, че повечето етични принципи се прилагат за човешката употреба на системи с изкуствен интелект, стига да са изпълнени две характеристики: че начинът, по който работят алгоритмите, е разбран и че хората запазват достатъчно контрол. По този начин човешката свобода на действие е напълно запазена и моралната отговорност се запазва независимо от потенциалната двойна употреба на технологията за изкуствен интелект.

Напълно автономните оръжия биха били изправени пред значителни предизвикателства при дискусия за спазването на принципа на хуманно отношение, тъй като състраданието и правната и етична преценка са човешки характеристики. Емпатията и състраданието към другите, които тя поражда, са естествени за човешките същества. Повечето хора са изпитвали физическа или психологическа болка, което ги кара да избягват да причиняват ненужно страдание на другите. Независимо от сложността на едно напълно автономно оръжие, то не може да изпитва емоции. Следователно напълно автономните оръжия биха се сблъскали със значителни трудности при гарантирането, че действията им са хуманни и в съответствие с принципите на хуманността.

Роботите също няма да притежават правната и етична преценка, необходима за минимизиране на вредата за всеки отделен случай. Ситуациите, включващи използване на сила, особено при въоръжен конфликт, често са сложни и непредвидими и могат да се променят бързо. Следователно напълно автономните оръжия биха се сблъскали със значителни пречки при вземането на подходящи решения относно хуманното отношение. Към момента, роботите, показващи поведение, което може да бъде описано като „етично“ или „минимално етично“, могат да работят само в ограничена среда.

Конфликтът е неизбежно следствие от човешката природа, от нейната алчност и агресия.  Дори и днес тя е даденост. Но от това негативно явление могат да се зародят редица позитиви, които да направят света по-добро място за живеене за по-голямата част от човечеството. Заедно със страданията и мъките, конфликтите носят големи постижения, променящи живота ни. Компании като Tesla и останалите производители на умни роботи са изправени пред историческия шанс да допринесат повече за второто, а не за първото.