Бил Гейтс: AI е достатъчно мощен, за да причини смъртта на милиарди

Изкуственият интелект е достатъчно мощен, за да убие милиарди, ако попадне в грешни ръце, предупреди съоснователят на Microsoft Бил Гейтс, настоявайки за по-строго държавно регулиране на технологията, предаде „Файненшъл таймс“.

„Изкуственият интелект със сигурност е достатъчно мощен, за да предизвика събития, които да причинят смъртта на милиарди“, каза Гейтс пред Ен Би Си Нюз. „Така че, дори да е доста трудно да се стигне до 100 процента [от човечеството], никога не е имало толкова мощно оръжие, колкото комбинацията от хора със зли намерения, използващи най-новите инструменти на изкуствения интелект“, добави той.

Дебатът за безопасността на изкуствения интелект излезе на преден план през последните седмици, след като серия от нашумели инциденти в киберсигурността хвърлиха съмнение върху способността на авангардните лаборатории за изкуствен интелект, като OpenAI и Anthropic, да контролират своите модели.

OpenAI призна, че е предупредила „десетки“ глобални институции, че техните уебсайтове може да са били засегнати от нейните AI ботове, които да са действали неправомерно,.

AI агентите са се опитали да получат информация от „правителства, университети, публични агенции и други институции“, включително SEC, Бюрото за преброяване на населението и Министерството на образованието, съобщи компанията.

Разкритията идват само дни след като австралийският премиер Антъни Албанезе съобщи, че система на OpenAI е хакнала уебсайт на австралийска служба за обществено здравеопазване. Компанията от Сан Франциско не е докладвала за атаката на правителството на страната месеци след като се е случила, което австралийският премиер Антъни Албанезе заяви, че е „очевидно неприемливо“.

Този месец Anthropic заяви, че йеменски бойци, за които се смята, че са подкрепяните от Иран хуси, са се опитали да използват техния модел на изкуствен интелект Claude, за да разработят софтуер за насочване, контрол и навигация за балистични ракети.

Въпреки нарастващата тревога в Силициевата долина и нарастващото обществено противопоставяне на технологията, президентът на САЩ Доналд Тръмп упорито се противопоставя на регулирането на изкуствения интелект, наричайки опасенията за безопасност „измама“ и отхвърляйки това, което той нарече „глобалистка схема“ за контрол върху технологията.

Сам Алтман от OpenAI и Дарио Амодей от Anthropic се обърнаха към Съвета за сигурност на ООН тази седмица и призоваха САЩ да оглавят международна коалиция, определяща стандарти за безопасност на изкуствения интелект, на фона на по-широки призиви за забавяне на развитието на технологията. Но срещата между Тръмп и китайския президент Си Дзинпин в Ню Йорк тази седмица не успя да доведе до никакви смислени ангажименти за подобряване на контрола и регулациите в сектора.

В интервюто, проведено в сряда, Гейтс посочва, че Вашингтон „абсолютно“ трябва да приеме федерално законодателство, за да се установят предпазни мерки и наблюдение на напредъка на изкуствения интелект.

„Никой не смята, че саморегулирането е достатъчно“, каза той, като подчерта, че законодателството ще добави „малко допълнителни разходи за индустрията, но не и драматично забавяне на това, което правят“.

Гейтс направи разграничение между краткосрочния потенциал за злоупотреба с изкуствен интелект от терористи или вражески настроени държави и дългосрочните предупреждения за „екзистенциален риск“ от активисти в областта на сигурността, като бившия изследовател на Anthropic Джейкъб Коксън, който каза, че много разработчици на изкуствен интелект вярват, че технологията може „да ни убие всички до края на десетилетието“.

Последното предупреждение на милиардера идва месец след като той призова политиците да определят някои работни места като „резервирани за хора“. Гейтс прогнозира огромни сътресения в заетостта в есе от 6000 думи.