Президентът на Microsoft: AI е по-слабо регулиран от млякото

Изкуственият интелект в момента е обект на по-малко регулации от млякото или дори от пералните машини, заяви президентът на Microsoft Брад Смит.

Според него са необходими глобални правила за безопасност на AI, включително законово задължение компаниите да уведомяват засегнатите потребители, ако техни системи бъдат компрометирани от неконтролируем AI агент, както и ясно определени случаи, в които независими експерти трябва да одобряват даден продукт преди пускането му на пазара.

Изказването на Смит влиза в противоречие с позицията на президента на САЩ Доналд Тръмп, който нееднократно е заявявал, че секторът трябва до голяма степен да се саморегулира, за да не изостават американските компании от китайските си конкуренти, предава BBC.

„В момента вашата перална машина подлежи на повече правила за безопасност от изкуствения интелект. Всяка кутия мляко, която виждате в магазина, преминава през проверки и е обект на регулации“, каза Смит в интервю за подкаста Big Boss Interview на Би Би Си.

Призивите за по-строг контрол върху AI се засилиха през последните години, след като редица експерти предупредиха, че технологията може да представлява риск за човечеството.

Ръководителите на водещи компании в сектора, сред които Anthropic, OpenAI и Google DeepMind, вече са подкрепяли идеи за забавяне на развитието на най-мощните системи с изкуствен интелект. Доналд Тръмп обаче заема по-скоро противоположна позиция.

Смит определя AI едновременно като „инструмент и оръжие“, което според него налага спешно въвеждане на регулации.

„Нека започнем още днес“, заяви той.

По думите му компаниите трябва да разполагат с т.нар. „аварийни спирачки“ или kill switches, които да позволяват временно спиране или ограничаване на системите, ако те излязат извън контрол. Той се обяви и за законово изискване фирмите да изготвят доклади при инциденти и да уведомяват засегнатите лица, когато AI системите действат непредвидимо. Освен това предложи новите технологии да преминават през оценка от независими държавни експерти.

„Знаем как да правим това при други продукти. Трябва да използваме този опит и да помислим как да го приложим към изкуствения интелект“, каза Смит.

Според президента на Microsoft именно Великобритания е най-подходящата държава да води международните усилия за създаване на общи стандарти за AI заради съществуването на британския AI Security Institute.

„Повечето хора в технологичния сектор биха казали, че ако трябва да посочат държавата, която е лидер по отношение на експертния капацитет в тази област, това е Обединеното кралство“, заяви той.

Смит предупреди, че развитието на технологията е достигнало етап, в който регулациите вече не могат да бъдат отлагани.

„Когато виждате AI агенти, които са излезли извън човешки контрол, когато виждате модели, толкова мощни, че поставят световната киберсигурност в риск, бих казал: моментът настъпи“, каза той.

Изказването на Брад Смит идва на фона на задълбочаващия се дебат за регулирането на изкуствения интелект. Докато Европейският съюз вече въвежда една от най-строгите регулаторни рамки в света чрез AI Act, в САЩ продължава спорът доколко секторът трябва да бъде контролиран от държавата или да разчита на саморегулация.

В края на миналия месец Доналд Тръмп събра в Белия дом ръководителите на OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google, които подписаха документ с доброволни ангажименти за безопасно развитие на AI. 

Компаниите се съгласиха да работят с независими одитори, които да проверяват дали техните системи функционират по предназначение и не получават достъп до технически системи по непредвиден начин.

Смит приветства инициативата и заяви, че Microsoft също би подкрепила подобна декларация.

„Това е добра и необходима стъпка. Но вече не е достатъчна“, каза той.

По думите му основният проблем на саморегулацията е, че „отговорните компании така или иначе ще правят правилното нещо“, докато истинският риск идва от онези, които не спазват доброволни правила.