Шефът на Microsoft AI: Не бива да създаваме нов „силициев вид“

Ръководителят на подразделението за изкуствен интелект на Microsoft Мустафа Сюлейман предупреди, че развитието на AI без достатъчно предпазни механизми може да доведе до появата на нов „силициев вид“, способен да се конкурира с хората.

В интервю за предаването Today на BBC той заяви, че е напълно основателно хората да са обезпокоени от развитието на изкуствения интелект, но подчерта, че съществуват „много практични начини“ технологията да бъде държана под контрол.

Коментарите му са поредното предупреждение от представители на AI индустрията за потенциалните рискове от все по-мощните системи с изкуствен интелект. Сюлейман се обяви срещу разработването на AI системи, способни самостоятелно да си поставят цели, да печелят средства или да притежават активи.

Според него подобен подход би означавал:

„На практика да създадем нов силициев вид“, който „без съмнение може да започне да се конкурира с нас за ресурси, независимо колко много се грижи за човечеството или ни обича“.

Думите му идват след публикувано по-рано тази седмица есе, в което той поставя под въпрос подхода на компанията Anthropic към обучението на нейния AI модел Claude.

Въпреки че определя главния изпълнителен директор на Anthropic Дарио Амодеи и неговия екип като „интелектуално честни хора“, Сюлейман критикува практиката да се приписват човешки характеристики на изкуствения интелект.

В есето си той предупреждава, че технологичните компании рискуват да създадат нещо, което да стане „невъзможно за контролиране“, ако продължат да третират изкуствения интелект като човек.

„Изкуственият интелект не е съзнателен“, пише Сюлейман.

„Той не чувства, не преживява и не страда. Няма вродени предпочитания или собствени мотиви.“

„Това са системи за завършване на последователности, вътрешно лишени от собствена същност, създадени да следват инструкции и да изпълняват цели, поставени от хората.“

По думите му е необходима по-голяма прозрачност относно начина, по който AI моделите се обучават и оценяват. Това включва независимо наблюдение върху поведението им, както и по-силни механизми за контрол и мониторинг.

Сюлейман предупреждава:

„Не бива да стигнем насън до решение, за което по-късно горчиво да съжаляваме.“

Проф. Уенди Хол от Университета в Саутхемптън определи думите на Сюлейман като „точно този тип разговор, който трябва да водим на международно ниво“. Според нея това е много по-полезно от драматичните предупреждения, които някои компании отправят и които единствено „плашат всички“.

Въпросът колко самостоятелни трябва да бъдат системите с изкуствен интелект все повече разделя технологичната индустрия.

Говорейки пред BBC за предстояща среща на върха, Сюлейман подчерта необходимостта от т.нар. alignment – принцип, според който изкуственият интелект трябва да бъде съобразен с човешките ценности и да остане „подчинен“ на човечеството.

Това направление в AI изследванията цели вграждането на човешки етични принципи и ценности в поведението на интелигентните системи, така че те да действат в съответствие с това, което хората смятат за важно и правилно.

„Добрата новина е, че всеки човек има силен интерес системите, които създаваме и използваме по света, да бъдат безопасни, контролируеми и подчинени на човечеството“, каза Сюлейман.

„Всички трябва да бъдат на една и съща вълна.“

Microsoft създаде собствен екип за разработване на суперинтелигентни системи през октомври 2025 г. Подобно на конкурента си Anthropic, компанията активно работи по създаването на все по-мощни модели с изкуствен интелект.

Коментарите на Сюлейман отразяват и принципите, заложени в проекта на Кодекс за поведение за хуманистичен AI (Humanist AI Code of Conduct), публикуван от Microsoft в началото на седмицата като своеобразно ръководство за разработката на бъдещи AI системи.

В документа компанията въвежда понятието „хуманистичен суперинтелект“, което описва като „силно усъвършенстван изкуствен интелект, който винаги работи в полза на хората, спазва поставените ограничения и остава под човешки контрол“.

Тази концепция илюстрира едно от най-големите предизвикателства пред сектора: как изкуственият интелект да става все по-мощен, без да губи връзката си с ценностите и интересите, на които е създаден да служи.