ООН иска мораториум върху изкуствения интелект, нарушаващ човешките права

Шефът на ООН по човешките права призова за мораториум върху използването на технологии с изкуствени интелект, които излагат на риск човешките права, включително системи за сканиране на лица, които проследяват хората в обществени пространства, предаде „Асошиейтед Прес“.

Мишел Бачелет, върховен комисар по правата на човека в международната организация, каза, че страните трябва изрично да забранят приложенията за изкуствен интелект, които не са в съответствие с международното законодателство за правата на човека.

Приложенията, които трябва да бъдат забранени, включват правителствени системи за „социално оценяване“, които преценяват хората въз основа на тяхното поведение и определени инструменти, базирани на AI, категоризиращи хората в групи, например по етническа принадлежност или пол.

Изкуственият интелект може да е добра сила, но може да има и „негативни, дори катастрофални ефекти, ако се използва без достатъчно внимание върху това как влияе върху правата на човека“, става ясно от изявление на Бачелет.

Коментарите ѝ идват с нов доклад на ООН, който изследва как държавите и предприятията прилагат системи за AI, които засягат живота и поминъка на хората, без да създават подходящи предпазни мерки за предотвратяване на дискриминацията и други вреди.

Върховният комисар не призова за категорична забрана на технологията за разпознаване на лица, но коментира, че правителствата трябва да спрат сканирането на хора в реално време, поне докато не покажат, че технологията не е дискриминираща.

Държави не се споменават поименно в доклада, но Китай например е сред онези, които внедриха технология за разпознаване на лица, особено като част от наблюденията в западния регион Синдзян, населен от малцинства на уйгурите.

Докладът изразява предпазливост относно инструментите, които опитват да изведат емоционалните и психичните състояние на хората, като анализират техните изражения на лицето или движения на тялото.

Кой взема мерки?

Европейските регулатори вече предприемат стъпки за овладяване на най-рисковите приложения за изкуствен интелект. Предложение регламенти, очертани от служители на Европейския съюз тази година, биха забранили някои употреби на изкуствен интелект, като например при сканиране на черти на лицето в реално време, докато други, които могат да застрашат безопасността и правата на хората, са силно контролирани.

Администрацията на президента на САЩ Джо Байдън също изрази опасенията си. Новосъздадена група, наречена Съвет по търговия и технологии и ръководена съвместно от американски и европейски длъжностни лица, се опитва да си сътрудничи при разработването на споделени правила за AI и други технологични политики.