Системите с изкуствен интелект могат да се обърнат срещу хората, предупреждава един от „кръсниците на ИИ“

Известният компютърен учен Йошуа Бенджио - пионер в областта на изкуствения интелект, предупреди за потенциалните отрицателни ефекти от зараждащата се технология върху обществото и призова за повече изследвания за смекчаване на рисковете, предаде Си Ен Би Си.

Бенджио, професор в университета в Монреал и ръководител на Института за обучение на алгоритми в Монреал, спечели множество награди за работата си в сферата на „дълбокото обучение“ – сфера в изкуствения интелект, фокусирана върху опитите на технологията да имитира дейността в човешкия мозък, за да се научи как да разпознава сложни модели в данните.

Но той има опасения относно технологията и предупреди, че някои хора с „много власт“ може дори да искат да видят човечеството заменено от машини.

„Наистина е важно да се проектираме в бъдещето, където имаме машини, които са толкова интелигентни, колкото и ние, по много точки, и какво би означавало това за обществото“, каза Бенджио пред Си Ен Би Си на срещата на върха One Young World в Монреал.

Машините скоро биха могли да имат повечето от когнитивните способности на хората, каза той. Изкуственият общ интелект (AGI) е вид ИИ технология, която има за цел да достигне или надмине човешкия интелект.

„Интелигентността дава сила. И така, кой ще контролира тази власт?. Наличието на системи, които знаят повече от повечето хора, може да бъде опасно в грешни ръце и да създаде повече нестабилност на геополитическо ниво, например, или тероризъм“, добави той.

Ограничен брой организации и правителства ще могат да си позволят изграждането на мощни ИИ машини, според Бенджио, и колкото по-големи са системите, толкова по-умни стават.

„Тези машини, знаете, струват милиарди, за да бъдат построени и обучени [и] много малко организации и много малко държави ще могат да го направят. Това вече е така“, обясни той.

„Ще има концентрация на власт – икономическа мощ, която може да бъде лоша за пазарите; политическа власт, която може да бъде лоша за демокрацията; и военна мощ, което може да е лоша за геополитическата стабилност на нашата планета. Така че има много отворени въпроси, които трябва да проучим внимателно и да започнем да смекчаваме възможно най-скоро“, каза Бенджио.

Според него подобни резултати са възможни в рамките на десетилетия.

„Но ако са пет години, ние не сме готови … защото нямаме методи, за да сме сигурни, че тези системи няма да навредят на хората или няма да се обърнат срещу тях … Не знаем как да направим това“, категоричен е Бенджио .

Има аргументи, които предполагат, че начинът, по който в момента се обучават ИИ машините, „би довел до системи, които се обръщат срещу хората. Освен това има хора, които може да искат да злоупотребят с тази власт, и има хора, които може да се радват да видят човечеството заменено от машини. Искам да кажа, това е периферия, но тези хора могат да имат много власт и могат да го направят, освен ако не поставим правилните парапети точно сега“, каза той.

Насоки и регулиране на ИИ

Бенджио подкрепи отворено писмо през юни, озаглавено: „Право да предупреждаваме за напредналия изкуствен интелект“. То беше подписано още от настоящи и бивши служители на OpenAI – компанията зад популярния ИИ чатбот ChatGPT.

Писмото предупреждава за „сериозни рискове“ от развитието на ИИ и призовава за насоки от учени, политици и обществеността за тяхното смекчаване. OpenAI е обект на нарастващи опасения за безопасността през последните няколко месеца, след като екипът на компанията „AGI Readiness“ беше разпуснат през октомври

„Първото нещо, което правителствата трябва да направят, е да имат регулиране, което принуждава [компаниите] да се регистрират, когато изграждат тези гранични системи, чието обучение струва стотици милиони долари“, каза Бенджио.

Тъй като ИИ се развива толкова бързо, правителствата трябва да „бъдат малко креативни“ и да направят законодателство, което може да се адаптира към технологичните промени, каза Бенджио.

Компаниите, разработващи ИИ, също трябва да носят отговорност за действията си, според компютърния учен.

„Отговорността също е друг инструмент, който може да принуди компаниите да се държат добре, защото... ако става въпрос за техните пари, страхът да не бъдат съдени - това ще ги тласне към правене на неща, които защитават обществеността. Ако знаят, че не могат да бъдат съдени, защото в момента това е нещо като сива зона, тогава няма да се държат непременно добре“, смята той. „Компаниите се конкурират помежду си и, знаете ли, те смятат, че първият, който пристигне в AGI, ще доминира. Така че това е състезание и то опасно състезание“, категоричен е Бенджио.

„Най-трудният въпрос от всички“

Бенджио каза, че „най-трудният въпрос от всички“ е: „Ако създадем субекти, които са по-умни от нас и имат свои собствени цели, какво означава това за човечеството? В опасност ли сме?“

„Всички това са много трудни и важни въпроси и ние не разполагаме с всички отговори. Имаме нужда от много повече изследвания и предпазни мерки, за да смекчим потенциалните рискове“, смята той.

Той призова хората да действат. „Имаме воля. Не е твърде късно да насочим еволюцията на обществата и човечеството в положителна и полезна посока.Но за това имаме нужда от достатъчно хора, които разбират както предимствата, така и рисковете, и имаме нужда от достатъчно хора, които да работят върху решенията. И решенията могат да бъдат технологични, могат да бъдат политически..., но имаме нужда от достатъчно усилия в тези посоки точно сега“, заключи той.