Писателите фантасти от десетилетия чертаят сценарии, в които всяко действие на човека се следи от злонамерен централизиран орган. И въпреки предупрежденията им очевидно вече сме се отправили към едно много мрачно бъдеще, достойно за „1984“ на Джордж Оруел. Затова и става все по-належащо да решим как да защитим правата си – като потребители, работещи и граждани.

Едно от разумните предложения е да ограничим действието на патентите за технологиите за наблюдение, за да се възпрепятства разработването и прекомерната им употреба. При равни други условия подобни ограничения биха могли поне да разколебаят развитието на технологиите, свързани с изкуствения интелект, в посока, различна от приложенията за наблюдение – поне в Съединените щати и други развити икономики, където патентното право има значение и където рисковите капиталисти няма да са склонни да финансират компании, които не разполагат с надеждни права на интелектуална собственост. Дори и да предприемем обаче такива мерки, светът ще остане разделен на държави, които дават ефективни гаранции за защита от наблюдение, и държави, които няма да гарантират тези права. Затова и се налага да преразгледаме законовата основа за търговията между тези два нововъзникващи блока.

Изкуственият интелект много бързо се разви през последните 18 месеца и едва ли можем да очакваме забавяне на темпа. Официалният старт на ChatGPT през ноември 2022 г. беше изстрелът на генеративния изкуствен интелект, който отекна по целия свят. Оттам последва и внезапно увеличение на възможностите за наблюдение на правителствата и корпорациите. Генеричният изкуствен интелект борави със съвпадение на модели, като чрез него разпознаването на лица вече става много точно (макар и с някои не толкова маловажни грешки). Същият общ подход може да се използва за разграничаване на „добро“ от „проблемно“ поведение – въз основа на моделите, по които хората се движат или общуват с околната си среда.

Подобно наблюдение ще повиши производителността, поне технически, тоест ще увеличи способността на властите да принуждават хората да правят онова, което очакват от тях. За една компания това означава изпълнение на работата на ниво, което ръководството смята за най-високото ниво на производителност. За правителствата това означава да осигурят прилагане на законите или спазването на правилата според разбирането на самите управляващи.

За съжаление, хилядолетният ни опит ни подсказва, че по-високата производителност не води непременно до подобряване на общото благосъстояние. Днес обаче вече трябва да сме разбрали, че изкуственият интелект ще позволи на властни мениджъри и авторитарни политически лидери по-безмилостно да налагат своята воля. Така че дори ако производителността се увеличи, повечето хора няма да имат особена полза от този растеж.

И тук не просто спекулираме – корпорациите вече използват методи за наблюдение с помощта на изкуствения интелект, за да следят всяка стъпка на служителите си. Amazon например изисква от служителите си по доставките да си изтеглят приложение (Mentor), което оценява шофирането – уж в името на безопасността им. Някои шофьори съобщават, че са следени дори когато не са на работа.

Консултантската компания Gartner изчислява, че делът на големите работодатели, които използват цифрови инструменти за следене на служителите си, се е удвоил от началото на пандемията от Covid-19 до 60%, а през следващите три години се очаква да достигне 70%. И макар наличните данни да сочат, че по-честото наблюдение е свързано с по-ниска удовлетвореност от работата, и дори много работодатели да са съгласни, че наблюдението на служителите им поражда „етични проблеми“, те все пак продължават да го правят.

Вярно е, че технологиите за наблюдение не са антихуманни по своята същност. Напротив, те могат да подобрят безопасността (например чрез наблюдение за т.нар. „активни стрелци“ при случаите на масова стрелба) или удобството ни. Трябва обаче да намерим правилния баланс между тези ползи и неприкосновеността на личния живот и да направим възможното, за да гарантираме, че технологиите за изкуствен интелект не са пристрастни и не дискриминират (например не се влияят в решенията си от цвета на кожата или пола).

Преодоляването на тези проблеми ще изисква нови международни норми и активно сътрудничество. Информацията за всеки изкуствен интелект, използван за проследяване или наказване на служители, трябва да бъде оповестявана при пълна прозрачност за начина, по който технологията дава своите препоръки. Ако сте уволнени, защото изкуственият интелект е сметнал поведението ви за проблемно, трябва да можете да оспорите това решение. Но същевременно много от новите технологии за изкуствен интелект са „черни кутии“, неразбираеми за собствените им създатели. Това автоматично ограничава обхвата на процеса по осигуряване на справедливо отношение.

Дори в страна толкова поляризирана като САЩ гражданите вероятно ще се обединят в полза на ограничения върху наблюдението. Всички – и вляво, и вдясно – споделят тревогата си от това, че са постоянно наблюдавани, дори и конкретните им страхове да са в различни посоки. Същото важи и за всички световни демокрации.

Малко вероятно е обаче Китай да ни сътрудничи доброволно в усилията за ограничаване на свободното използване на инструментите за наблюдение. Той не само системно увеличава практиките си по наблюдение на своите граждани с цел потискане на всяка проява на несъгласие и следи социалното им поведение в безпрецедентна степен, но и изнася технологиите си за наблюдение за други страни. Технологията за потисничество изведнъж поевтиня навсякъде.

В днешния раздвоен свят единият лагер вероятно ще разработи стабилни стандарти, които да регулират кога и как може да се използват системите за наблюдение. Самите практики ще останат все така спорни, но технологиите ще са под контрола на демократични институции. В другия лагер автократични лидери ще използват технологии за широкообхватно наблюдение, за да държат населението под контрол. Камерите ще бъдат навсякъде, което ще улесни репресиите във вид и в степен, каквито са от полза за режима.

Изборът за действие пред демокрациите по света се очертава да е на икономическия терен. Трябва ли да продължим да купуваме стоки от страни, в които работниците са подложени на наблюдение от технологии, които не бихме допуснали у дома? Това би насърчило повече намеса с цел наблюдение и репресии от страна на режимите, които все повече се стремят да подкопаят нашите демокрации. За общия ни просперитет би било много по-добре, ако се застъпим за по-слабо използване на технологиите за наблюдение, например, като определим, че на нашите пазари ще се допускат само продукти, които са напълно съобразени с мерките, осигуряващи защита от прекомерно следене.

През 90-те години на ХХ в. и началото на ХХI в. САЩ и Европа подариха на Китай много по-голям достъп до своите пазари, като вярваха, че износът от страни с ниска стойност на труда ще бъде от полза за местните потребители и общество и ще допринесе за демократизацията в тези страни. Вместо това Китай стана още по-авторитарен, а стимулираният от износа растеж допълнително закрепи режима.

Очевидно дойде краят на илюзиите ни относно възможните последици от предоставянето на неограничен достъп до пазарите ни на държави, които контролират и репресират своите граждани. Дали технологиите на изкуствения интелект ще бъдат използвани в помощ на работещите, или ще отнемат правата и достойнството им? Търговските и патентните ни политики не бива да остават встрани от тази битка.