Забрани за използване на ИИ в ЕС може да попречат на полицията и миграционните власти

От 2 февруари Европейският съюз забранява някои „неприемливи“ употреби на изкуствен интелект(ИИ), с което за първи път в света се въвеждат ограничения за тази зараждаща се технология.

Критиците обаче твърдят, че в забраните има твърде много вратички, които позволяват на европейската полиция и миграционните власти да използват изкуствен интелект - включително технология, която може бързо да идентифицира лица на охранителни камери - за да помогнат за проследяването на извършителите на тежки престъпления, като например терористични атаки, пише POLITICO.

Законът за ИИ на Европейския съюз вече не позволява ИИ да се използва за изготвяне на профил дали някой ще извърши престъпление, като подобна „прогнозна полицейска дейност“ е една от седемте категории използване на ИИ, които вече са забранени. Забранено е също така извличането на изображения от интернет за създаване на база данни за разпознаване на лица или извличане на емоциите на човека от биометрични данни.

Въпреки че забраните влизат в сила, правителствата трябва да определят органите, които ще ги прилагат, до август.

Законът за изкуствения интелект е първият в света, който определя правилата за използване на новите технологии. Ръководителят на Европейската комисия по въпросите на технологиите Хена Вирккунен похвали миналата година законопроекта като такъв, който ще „защити нашите граждани“ и същевременно ще бъде „стимул за иновации“. Създаването на предпазни мерки за зараждащата се технология се счита за съществено, за да се даде възможност за широкото ѝ използване. Други части от закона ще бъдат въведени постепенно през следващата година и половина.

Правилата отличават ЕС от други части на света, където има малко подобни регулации на технологията, като подчертават позицията му на регулаторен авангард. Президентът на САЩ Доналд Тръмп предприе противоположна тактика, като скъса изпълнителната заповед за безопасността на ИИ от своя предшественик, президента Джо Байдън.

Брандо Бенифеи, италиански законодател, който помогна за договарянето на правилата, заяви, че забраните целят да се избегне използването на ИИ за „обществен контрол“ или „ограничаване на нашите свободи“. 

„Забраните са силно концентрирани върху една проблемна област, която е свързана със защитата на нашите демокрации“, каза той.

Прилагането им може да бъде объркано. Европейските полицейски и миграционни органи също използват няколко практики с изкуствен интелект, като например разпознаване на лица в реално време на обществени места, и успяха да си осигурят дълги списъци с изключения в правилника, за да продължат да го правят.

Академиците и активистите са загрижени и следят отблизо как ще се прилага законът.

В първия проект на Комисията за новите правила за ИИ от април 2021 г. вече се предлагаше забрана на няколко практики, като например такива, които „изкривяват поведението на човек“ чрез подсъзнателни техники или използват уязвими групи. 

Когато законопроектът отиде за обсъждане в Европейския парламент, законодателите добавиха този списък, докато преговаряха с правителствени служители. Окончателният вид на закона беше договорен през декември 2023 г. 

Ким Ван Спарентак, холандски депутат от Зелените, участващ в преговорите по Закона за изкуствения интелект, заяви, че забраните в списъка се разделят на три категории.

„Неща, които вече съществуваха и за които знаехме, че не искаме, [и] неща, които можехме да си представим или от холивудските филми до известна степен, или от Китай“, каза тя.

Един от случаите, които повлияха на съставянето на проекта, беше фурорът в Нидерландия през 2019 г. заради това, че нидерландските данъчни власти използваха алгоритъм, за да откриват измами с детски надбавки - ход, който доведе до това, че около 26 000 души бяха погрешно обвинени в измама.

„Може дори да се постави под въпрос дали наистина може да се говори за забрана, ако има толкова много изключения“, казва Натали Смуха, доцент и изследовател в областта на етиката на изкуствения интелект в университета KU Leuven. 

Холивуд или Китай

Пълната забрана на някои употреби на ИИ не беше на дневен ред, когато през 2018 г. Европейската комисия възложи на своите експерти да изготвят стратегия за изкуствения интелест.

Подобна практика вече може да бъде забранена и да попадне в обхвата на прогнозната полицейска дейност. 

„Ако искате общество, което се основава на върховенството на закона, не можете да третирате хората постоянно така, сякаш те вече са потенциални престъпници“, казва Ван Спарентак. 

По подобен начин забраната за извличане на снимки на лица на хора от интернет произтича от базираната в САЩ фирма Clearview AI, разследвана за извличане на милиарди изображения в своята база данни за лицево разпознаване.

Експертите и високопоставените служители бързо промениха мнението си, каза Смуха, който координира работата на експертната група, тъй като осъзнаха, че съществуващото законодателство може да се окаже недостатъчно за справяне с някои практики.

Законът за изкуствения интелект забранява използването на „системи за изкуствен интелект, които създават или разширяват бази данни за разпознаване на лица чрез нецеленасочено извличане на изображения на лица от интернет. “ 

Възможно е Китай да е вдъхновил някои други забрани, като например забраната на социалното точкуване - китайската система за класиране на лица въз основа на тяхното поведение.

Миграция

"Борците за цифрови права" посочиха „различни сериозни пропуски“ в закона, особено за полицейската дейност и миграцията, пише група от 22 организации в отворено писмо през януари.

Забележително изключение е забраната за разпознаване на лица в реално време на обществени места.

По принцип правоприлагащите органи вече няма да могат да правят това, но страните от ЕС все още могат да допускат изключения, особено за най-тежките престъпления.

ИИ не може да се използва и за откриване на емоции в училища или офиси, но това не важи за правоприлагането и миграцията. Активисти предупредиха, че това може да позволи използването на детектори на лъжата с изкуствен интелект, които сканират лицето за признаци на измама, по границите.

Ван Спарентак заяви, че този вид изключения са били "червена линия" за правителствата на ЕС по време на преговорите, което е наложило преговорите в последния момент да се проточат до 36 часа.

„Те искат да могат да използват всички инструменти, с които разполагат“, каза тя. 

„Най-яркият пропуск е фактът, че забраните не се прилагат за правоприлагащите и миграционните органи“, заяви Катерина Родели, анализатор на политиката на ЕС в групата за цифрови права Access Now.