Системите с изкуствен интелект могат да се обърнат срещу хората, предупреждава един от „кръсниците на ИИ“

Политика за бисквитки

Известният компютърен учен Йошуа Бенджио - пионер в областта на изкуствения интелект, предупреди за потенциалните отрицателни ефекти от зараждащата се технология върху обществото и призова за повече изследвания за смекчаване на рисковете, предаде Си Ен Би Си.

Бенджио, професор в университета в Монреал и ръководител на Института за обучение на алгоритми в Монреал, спечели множество награди за работата си в сферата на „дълбокото обучение“ – сфера в изкуствения интелект, фокусирана върху опитите на технологията да имитира дейността в човешкия мозък, за да се научи как да разпознава сложни модели в данните.

Но той има опасения относно технологията и предупреди, че някои хора с „много власт“ може дори да искат да видят човечеството заменено от машини.

„Наистина е важно да се проектираме в бъдещето, където имаме машини, които са толкова интелигентни, колкото и ние, по много точки, и какво би означавало това за обществото“, каза Бенджио пред Си Ен Би Си на срещата на върха One Young World в Монреал.

Машините скоро биха могли да имат повечето от когнитивните способности на хората, каза той. Изкуственият общ интелект (AGI) е вид ИИ технология, която има за цел да достигне или надмине човешкия интелект.

„Интелигентността дава сила. И така, кой ще контролира тази власт?. Наличието на системи, които знаят повече от повечето хора, може да бъде опасно в грешни ръце и да създаде повече нестабилност на геополитическо ниво, например, или тероризъм“, добави той.

Ограничен брой организации и правителства ще могат да си позволят изграждането на мощни ИИ машини, според Бенджио, и колкото по-големи са системите, толкова по-умни стават.

„Тези машини, знаете, струват милиарди, за да бъдат построени и обучени [и] много малко организации и много малко държави ще могат да го направят. Това вече е така“, обясни той.

„Ще има концентрация на власт – икономическа мощ, която може да бъде лоша за пазарите; политическа власт, която може да бъде лоша за демокрацията; и военна мощ, което може да е лоша за геополитическата стабилност на нашата планета. Така че има много отворени въпроси, които трябва да проучим внимателно и да започнем да смекчаваме възможно най-скоро“, каза Бенджио.

Според него подобни резултати са възможни в рамките на десетилетия.

„Но ако са пет години, ние не сме готови … защото нямаме методи, за да сме сигурни, че тези системи няма да навредят на хората или няма да се обърнат срещу тях … Не знаем как да направим това“, категоричен е Бенджио .

Има аргументи, които предполагат, че начинът, по който в момента се обучават ИИ машините, „би довел до системи, които се обръщат срещу хората. Освен това има хора, които може да искат да злоупотребят с тази власт, и има хора, които може да се радват да видят човечеството заменено от машини. Искам да кажа, това е периферия, но тези хора могат да имат много власт и могат да го направят, освен ако не поставим правилните парапети точно сега“, каза той.

Насоки и регулиране на ИИ

Бенджио подкрепи отворено писмо през юни, озаглавено: „Право да предупреждаваме за напредналия изкуствен интелект“. То беше подписано още от настоящи и бивши служители на OpenAI – компанията зад популярния ИИ чатбот ChatGPT.

Писмото предупреждава за „сериозни рискове“ от развитието на ИИ и призовава за насоки от учени, политици и обществеността за тяхното смекчаване. OpenAI е обект на нарастващи опасения за безопасността през последните няколко месеца, след като екипът на компанията „AGI Readiness“ беше разпуснат през октомври

„Първото нещо, което правителствата трябва да направят, е да имат регулиране, което принуждава [компаниите] да се регистрират, когато изграждат тези гранични системи, чието обучение струва стотици милиони долари“, каза Бенджио.

Тъй като ИИ се развива толкова бързо, правителствата трябва да „бъдат малко креативни“ и да направят законодателство, което може да се адаптира към технологичните промени, каза Бенджио.

Компаниите, разработващи ИИ, също трябва да носят отговорност за действията си, според компютърния учен.

„Отговорността също е друг инструмент, който може да принуди компаниите да се държат добре, защото... ако става въпрос за техните пари, страхът да не бъдат съдени - това ще ги тласне към правене на неща, които защитават обществеността. Ако знаят, че не могат да бъдат съдени, защото в момента това е нещо като сива зона, тогава няма да се държат непременно добре“, смята той. „Компаниите се конкурират помежду си и, знаете ли, те смятат, че първият, който пристигне в AGI, ще доминира. Така че това е състезание и то опасно състезание“, категоричен е Бенджио.

„Най-трудният въпрос от всички“

Бенджио каза, че „най-трудният въпрос от всички“ е: „Ако създадем субекти, които са по-умни от нас и имат свои собствени цели, какво означава това за човечеството? В опасност ли сме?“

„Всички това са много трудни и важни въпроси и ние не разполагаме с всички отговори. Имаме нужда от много повече изследвания и предпазни мерки, за да смекчим потенциалните рискове“, смята той.

Той призова хората да действат. „Имаме воля. Не е твърде късно да насочим еволюцията на обществата и човечеството в положителна и полезна посока.Но за това имаме нужда от достатъчно хора, които разбират както предимствата, така и рисковете, и имаме нужда от достатъчно хора, които да работят върху решенията. И решенията могат да бъдат технологични, могат да бъдат политически..., но имаме нужда от достатъчно усилия в тези посоки точно сега“, заключи той.

Коментари

НОВ КОМЕНТАР

НАЙ-НОВО

|

НАЙ-ЧЕТЕНИ

|

НАЙ-КОМЕНТИРАНИ

След 30 години експлоатация, много соларни панели работят на впечатляващите 80 процента от оригиналната си мощност
Грешките, които умните хора не повтарят
Звездите за бизнеса от 16 до 22 ноември: Баланс между амбицията и реалните възможности
Турското електромагнитно оръдие Ejderha унищожи 51 дрона с един изстрел
На днешната дата, 17 ноември. Международен ден на студентите
Цитат на деня
Апокалипсис: Книга от XVI век с предсказания за края на света ще бъде продадена на търг за 1 милион паунда
Financial Times: Италия пречи на Германия да участва в съвместно разработване на изтребител
LinkedIn и краят на илюзията за “професионална” социална мрежа
Терзиев подписа договор за 282 млн. евро еврофинансиране за модернизация на градския транспорт
Започва строителството на третия лъч на метрото
Смяна в ръководството на Kaufland България: Петя Владимирова поема поста председател на Управителния съвет
Товарен кораб потъва край нос Калиакра
tbi bank въвежда проверка на получателя за по-сигурни преводи
От кариерни контакти до първа среща: LinkedIn се превръща в неочаквана платформа за запознанства
50 от най-полезните сайтове в интернет
22 цитата, които родителите ще оценят
Унгарските власти откриха близо 20 млн. долара в брой при разследване срещу бивш министър на Орбан
Тръгват големи съкращения в "Арсенал"
Бързи кредити от Ferratum без трудов договор
България планира да придобие 57 самоходни гаубици „Сезар“ от Франция
Тревожна нощ в Балтика: дрон прелетя над четири държави въпреки намесата на НАТО
Интернет не е вашият банкомат. На Интернет вие сте му напълно безразлични
Fibank понижава лихвата по жилищен кредит „Право на избор“ до 2,15%
10 гатанки за деца, които затрудняват и възрастните