Изкуствен интелект проговори на свой език и уплаши изследователите

Различните системи за изкуствен интелект вече са способни да създават неща, които изглеждат напълно чужди на хората. Нещо повече, в историята вече е имало случаи, когато системите с изкуствен интелект са изобретявали свой собствен език. Това разтревожи изследователите толкова много, че те дори предпочетоха да нулират системата, прекъсвайки веригата на развитие на интелекта, която вървеше в непонятна за тях посока.

И този път се отличи системата DALL-E 2, създадена от специалисти на Google, която първоначално е била предназначена да генерира изображения по текстово словесно описание. Трябва да се има предвид, че невронните мрежи на системата DALL-E 2 вече са били предварително обучени за огромен брой изображения, придружени от подробно текстово описание. Изградените невронни връзки образуват един вид база данни, в която се появяват връзките между символи, думи и елементи на изображението. „Чудесата“ със системата DALL-E 2 бяха забелязани, когато й беше дадена задачата самостоятелно да генерира текстово описание и изображение, съответстващо на него.

Оказа се, че системата в дълбините си оперира със собствен неразбираем език със собствени думи с поразителен брой съществителни. Изследователите смятат, че основната причина за случилото се е, че описанията на изображенията, върху които е обучена системата, са представени на различни езици. Това е принудило системата да доведе тези описания до някакъв "среден знаменател" и да сравни резултата с елементите на изображението.

Принципите, използвани от системата за създаване на "средния знаменател", все още са загадка за учените, както и един вид нов език на осреднените данни. Изследователите виждат потенциална опасност във факта, че системата с изкуствен интелект създава свой собствен език. Представете си, ако този език бъде дешифриран от човек с лоши цели. Тогава този човек може да напише задача на този език за изкуствения интелект, който, като я изпълни. Така може да започне да атакува Интернет или други критични елементи от обществената инфраструктура. А всички останали хора дори няма да могат да разберат какво точно се случва и по каква причина. Ето защо сега изследователите държат системата DALL-E 2 изолирана от останалия свят. Те наблюдават протичащите в нея процеси и до какво ще доведе по-нататъшното й развитие. Тук обаче си струва да споменем, че има друга версия на подобна система в света, DALL-E Mini, която е публично достъпна, но има много по-ограничени възможности в сравнение със системата DALL-E 2.