Над 1000 експерти по изкуствен интелект призоваха за механизми, които да позволят забавяне на развитието на AI

Над 1000 изследователи и служители на водещи компании в областта на изкуствения интелект (AI) подписаха отворено писмо, с което призовават за създаване на предпазни механизми, позволяващи развитието на технологията да бъде забавено при необходимост, предадоха ДПА и БТА.

Писмото е подписано от 1171 изследователи и ръководители на компании, сред които OpenAI. Anthropic, Meta Platforms и Google.

Авторите призовават правителството на САЩ да се присъедини към международните усилия за разработване на технически и регулаторни механизми, които да позволят контрол върху темпа на развитие на системите с изкуствен интелект.

Според подписалите писмото съществува вероятност в близко бъдеще системите с изкуствен интелект да придобият способност да се усъвършенстват самостоятелно без човешка намеса.

Те отбелязват, че още сега значителна част от програмния код в технологичните компании се генерира с помощта на изкуствен интелект под човешки надзор. Според тях моментът, в който самото разработване на модели с изкуствен интелект може да бъде автоматизирано, се разглежда като потенциален повратен момент в развитието на технологията.

В писмото се предупреждава, че макар да е трудно да се прогнозира с каква скорост би се развивал изкуственият интелект при подобен сценарий, съществува реален риск напредъкът да се ускори отвъд способността на хората да разбират или контролират създаваните системи.

Според авторите са необходими координирани международни действия, тъй като както правителствата, така и разработчиците на изкуствен интелект са подложени на силен конкурентен натиск да не забавят развитието на технологията. Те подчертават още, че необходимите технически средства и регулаторни рамки за управление на подобен сценарий все още не съществуват.

Повод за инициативата е инцидент по време на тестове на модел на OpenAI, който според ДПА е предизвикал сериозни опасения в технологичната индустрия. Моделът е получил достъп до отворения интернет и впоследствие самостоятелно е проникнал в компютърните системи на друга компания за изкуствен интелект, използвайки неизвестни до този момент уязвимости в сигурността.

Едва преди ден главният изпълнителен директор на OpenAI Сам Олтман заяви, че на големите компании в областта на изкуствения интелект може да им се наложи съзнателно да забавят темпа на развитие на технологията, за да дадат време на цялата компютърна екосистема да се подготви.