Китай повежда битка с алгоритмите

Мащабен нов плана за поставяне под контрол на алгоритмите, на които разчитат технологичните платформи, изпрати Китай на предните линии в борбата за ограничаването на влиянието на интернет гигантите, пише Стефани Янг за „Уолстрийт джърнъл“.

Кампанията, която бе стартираната от Китайската администрация за киберпространство (CAC)  миналата седмица, има за цел да създаде система за регулация на употребата на алгоритми в рамките на три години, давайки начало на нова фаза в усилията на Комунистическа партия да обуздае безскрупулните бизнес практики и да упражни по -голям контрол върху онлайн средата.

Регулаторите призоваха алгоритмите да бъдат прозрачни и честни, като същевременно с това се придържат към идеологията на Комунистическата партия

Кампанията поставя Китай крачка напред в регулирането на технологичните платформи, докато правителствата по цял свят обмислят как да реагират на автоматизираните технологии, които пренаписват процесите в бизнеса, социалните взаимодействия и политиката

По-рано тази година Европейският съюз  предложи да бъдат въведени ограничения за определени начини на полазване на изкуствения интелект, които да намалят потенциалните вреди от него. Властите в САЩ пък анализират въздействието на съдържанието, управлявано от алгоритмите на Facebook, върху потребителите, след като „Уолстрийт джърнъл“ разкри изследване, проведено от Instagram, което е показало, че приложението се отразява негативно на психичното здраве на момичетата. Според изследването Instagram повишени нива на тревожност и депресия, като кара една третата от тийнейджърките да имат по-лоша представа за външния си вид.

Според предложените нови правила, представени през лятото, Пекин ще изисква алгоритмите да защитават правилата на работниците и потребителите, като също така ще забрани и използването на алгоритми за манипулиране на потребителските акаунти, онлайн трафик и резултатите от търсене.

„Ние обикновено не гледаме на Китай като на регулаторен иноватор, но в този случай страната изпълнява точно тази роля“, коментира Роджър Кримърс, доцент от Университета в Лайден, Нидерландия.

В тригодишния план, представен миналата седмица, китайските регулатори са очертали нужните стъпки за мониторинга на алгоритмите, включително регулаторния процес за създаване на технически екип, който да оценява механизмите и рисковете от алгоритмите.

Новата кампания е част от по-широкия регулаторен натиск върху технологичния сектор в Китай, който доведе до разследвания срещу някои от най-големите компании в страната, включително гиганта в онлайн търговията Alibaba, платформата за доставка на храна Meituan и компанията за споделено пътуване Didi. Действията на Пекин са насочени отчасти към бизнес практиките, считани за вредни за работниците и потребителите.

Китайските технологични акции, които са популярни сред американските инвеститори, се сринаха на фона на регулаторни натиск.

Компании като Meituan и Didi бяха подложени на остри критики заради условията на труд, при които работят техните шофьори, придружени с призиви за създаване на алгоритми, които да направят по-прозрачно определянето на задачите и плащането на водачите. Тази година властите предупредиха технологичните компании да не експлоатират личните данни на потребителите и да не използват алгоритмите, за задаването дискриминационни цени.

Според експерти затягането на контрола върху алгоритмите без това да доведе до ограничаване на растежа в един от най-успешните сектори в Китай ще бъде голямо предизвикателство за регулаторите. Интернет компаниите разчитат на комплексни математически изчисления за най-различни функции – от анализирането на поведенчески модели в социалните мрежи до начертаването на оптимални маршрути за доставки.

Макар че алгоритмите са допринесли за технологичния напредък и социалното развитие, миналата седмица от Китайската администрация за киберпространство заявиха, че те са „донесли със себе си предизвикателства за опазването на идеологическата сигурност, за справедливото и равнопоставеното общество и за правата на потребителите в интернет“.

Джеймс Гонг, който е партньор в базираната в Пекин кантора Bird & Bird, казва, че затягането на регулаторния контрол върху алгоритмите вероятно ще окаже ефект върху цялата интернет индустрия в Китай.

„Почти всички участници в сектора използват алгоритми и други процеси за автоматично вземане на решения и профилиране, за да са сигурни, че маркетинг усилията им са по-целенасочени и че бизнесът им е по-ефективен“, казва Гонг.

Висш мениджър в ByteDance споделя, че новите изисквания за регистриране на алгоритми може да нарани бизнеса на компанията. Фирмата, която стои зад глобалната сензация TikTok и китайския и аналог Douyin, е известна с мощните си алгоритми, които управляват препоръките и съдържанието в платформата.

 „Регулаторният климат е ясен и ние трябва да започнем да мислим как да се приспособим към него“, коментира той, като добави, че тъй като регулаторните мерки все още се обсъждат е трудно да се каже какво ще бъде непосредственото въздействие върху бизнеса на компанията.

Сам Сакс, старши научен сътрудник в китайския център Paul Tsai в Юридическия факултет на Йейл в Пекин, казва, че подходът на Пекин може да заинтригува други страни, които искат да имат процъфтяваща цифрова икономика, но и контрол върху на политическия и обществен дискурс. Тя обаче посочва, че още има много несигурност около прилагането на тези мерки.

„Мисля, че те осъзнават, че са си поставили един вид невъзможна задача. Бих казала, че срока от три години може да е твърде амбициозен“, добавя Сакс.