Китай публикува проект на правила за регулиране на AI, имитиращ човешки взаимодействия

Китайският регулатор на киберпространството публикува проект на правилата за обществено обсъждане, които биха затегнали надзора върху услугите с изкуствен интелект, предназначени да симулират човешката личност и да ангажират потребителите чрез емоционално взаимодействие, предаде Ройтерс.

Ходът подчертава усилията на Пекин да оформи бързото внедряване на изкуствен интелект, насочен към потребителите, чрез засилване на изискванията за безопасност и етика.

Предложените правила ще се прилагат за продукти и услуги с изкуствен интелект, предлагани на обществеността в Китай, които представят симулирани черти на човешката личност, модели на мислене и стилове на комуникация и взаимодействат с потребителите емоционално чрез текст, изображения, аудио, видео или други средства.

Проектът определя регулаторен подход, който би изисквал от доставчиците на услугите да предупреждава потребителите срещу прекомерна употреба и да се намесват, когато потребителите показват признаци на пристрастяване.

Съгласно предложението, доставчиците на услугите ще  бъдат задължи да поемат отговорности за цялостната безопасност през жизнения цикъл на продукта и да създадат системи за преглед на алгоритмите, сигурност на данните и защита на личната информация.

Проектът е насочен и към потенциални психологически рискове. От доставчиците ще се очаква да идентифицират състоянието на потребителите, да оценяват емоциите и зависимостта им от услугата. Ако се установи, че потребителите проявяват екстремни емоции или пристрастяващо поведение, доставчиците трябва да предприемат необходимите мерки за намеса, се казва още в съобщението.

Мерките определят червени линии за съдържание и поведение, като посочват, че услугите не трябва да създават съдържание, което застрашава националната сигурност, насърчава насилие или непристойност и разпространява слухове.