Сам Алтман: Страховете около AI са разбираеми, но светът трябва да ни се довери

Шефът на OpenAI Сам Алтман смята, че хората трябва да имат повече доверие в неговата компания и други подобни, че ще постъпват правилно, когато става въпрос за разработване на изкуствен интелект, на фона на нарастващите обществени опасения относно рисковете, свързани с технологията, пише BBC.

„Светът трябва да се довери, че ще постъпим правилно, защото това е правилното нещо и ние усещаме мащаба на случващото се“, каза Алтман във вторник по време на конференция в Сан Франциско. Алтман обаче отбеляза, че страховете на хората относно AI са оправдани, тъй като възможностите на инструментите се развиват бързо.

„Не е нужно толкова въображение, колкото преди, за да си представим как това може да се обърка“, заяви той. „Мисля, че светът е прав да се страхува от това.“

Коментарите на Алтман дойдоха по време на участие в годишна конференция, организирана от софтуерната фирма Salesforce. Това беше първият път, когато той говори публично, откакто миналата седмица публикация на изследовател, който напусна AI компанията Anthropic, доби популярност. Изследователят твърди, че AI може да убие всички хора до края на десетилетието, ако не бъде контролиран.

Няколко други ръководители и експерти в областта на изкуствения интелект отговориха, като заявиха, че са съгласни с оценката, въпреки че не обясниха как са стигнали до заключенията си или как точно изкуственият интелект би могъл да постигне подобно нещо.

Емоциите около твърденията доведоха до по-засилен контрол върху развитието на изкуствения интелект през последните дни. Главният изпълнителен директор на Anthropic Дарио Амодей призова за забавяне на темпото на цялото развитие на изкуствения интелект и настоя правителствата да регулират индустрията.

Публикацията беше аплодирана от Алтман, както и от съоснователя на DeepMind на Google, Демис Хасабис и Илон Мъск, собственик на сайта за социални медии X и AI асистентът Grok.

До вторник повече лидери в областта на изкуствения интелект изразиха подкрепа за саморегулиране, а не за намеса на правителството. Алтман каза, че смята, че компаниите за изкуствен интелект като неговата са способни по същество да се саморегулират.

„Ще го направим както трябва, много съм уверен в способността на нашата компания и индустрията да направят това безопасно“, каза Алтман, като добави, че е сигурен, че те „ще поддържат съответствието и безопасността много пред възможностите“ и ако не могат, ще „забавят темпото или ще спрат“.

След коментарите на Алтман, шефът на Meta Марк Зукърбърг написа: „Всяка лаборатория, която не се фокусира върху съответствието, ще изостане“.

„Лабораториите са изправени пред значителна отговорност, ако техните модели причинят вреда, така че имат силен стимул да предотвратят и това.“

Ръководителят на Nvidia Дженсън Хуан заяви на същата конференция във вторник, че фирмите за изкуствен интелект трябва да решават дали да бъдат пускани нови версии на технологията и да не се управляват от външни сили.

„Не се нуждаем от нови закони или разпоредби“, каза Хуан, добавяйки, че не трябва да има „фалшив избор“ между скоростта на иновациите и безопасността на продуктите с изкуствен интелект.

Nvidia е най-голямата компания в света по пазарна капитализация, като печалбите ѝ са се увеличили рязко в резултат на огромното търсене на чиповете за компютърни технологии с изкуствен интелект, които произвежда.

„Безопасността е от първостепенно значение. Въпреки това, безопасността е инженерен проблем“, каза Хуан.

Той добави, че ако по някое време лидер на компания за изкуствен интелект не е сигурен в продукта си, трябва да избере да не го пуска на пазара.

„Това е много очевидно нещо, което трябва да направите“, каза Хуан. „Бягайте възможно най-бързо, но ако по някое време почувствате, че институцията не контролира нещата, направете пауза.“

Някои представители на индустрията твърдят, че възраждащите се страхове от изкуствения интелект са преувеличени и се използват, за да се генерира шум за индустрията.

Джак Кларк, изпълнителен директор и съосновател на Anthropic, каза пред BBC в понеделник, че оставянето на изкуствения интелект като „напълно нерегулирана индустрия“ е „хвърляне на зарове с огромни рискове“.

Патрик Хилман, главен оперативен директор на Logical Intelligence, отбеляза във вторник колко малко вяра имат хората в технологичните компании, че ще направят нещо наистина в обществен интерес.

„Единствената институция, на която американците може би се доверяват по-малко от Вашингтон в наши дни, е Силициевата долина. Работил съм и съм живял и в двете и ви уверявам, че и двамата сте заслужили този скептицизъм“, каза Хилман.

„Ако смятате, че това, което създавате, е опасно, покажете ни какво сте готови да спрете да правите“, добави той.

Лидерите на OpenAI и Anthropic заявиха, че наскоро са започнали да работят за някакъв вид общоиндустриално споразумение за безопасност.