Мъск и над 1000 експерти призоваха за 6-месечна пауза в разработването на изкуствен интелект

Шефът на Tesla Илон Мъск, група експерти в сферата на изкуствения интелект и мениджъри от сектора призоваха в отворено писмо за шестмесечна пауза в разработването на системи, базирани на ИИ, които са по-мощни от току-що пуснатият GPT-4 на OpenAI, предаде Ройтерс.

Те аргументираха искането си с това, че развитието на изкуствения интелект крие „потенциални рискове за обществото и човечеството“.

Писмото по инициатива на финансирания от Мъск институт с нестопанска цел Future of Life Institute, подписано от повече от 1000 експерти, призова за спиране на напредналото развитие на ИИ, докато не бъдат разработени и внедрени споделени протоколи за безопасност за този тип проекти.

„Мощни ИИ системи трябва да се разработват само след като сме уверени, че техните ефекти ще бъдат положителни и рискове, свързани с тях, ще бъдат управляеми“, се казва в писмото.

Писмото подробно описва потенциалните рискове за обществото и цивилизацията от конкуриращите се с човека системите за изкуствен интелект под формата на икономически и политически смущения, и призовава разработчиците да работят заедно с политиците и регулаторите, за да предотвратят тези рискове.

Сред подписалите писмото са на главният изпълнителен директор на конкурента на OpenAI - Stability AI Емад Мостаке, изследователи от притежавания от Alphabet DeepMind, както и изтъкнати изследователи в сферата на ИИ Йошуа Бенгио и Стюарт Ръсел.

Според регистъра за прозрачност на Европейския съюз, Future of Life Institute се финансира основно от Фондацията на Мъск, както и от базираната в Лондон група за ефективен алтруизъм Founders Pledge и Фондация на общността на Силициевата долина.

Притесненията идват, след като в понеделник Европол се присъедини към групите и организациите, изразяващи  етични и правни опасения относно напредналия ИИ като ChatGPT, предупреждавайки за потенциалната злоупотреба със системата при опити за фишинг, дезинформация и киберпрестъпления.

Междувременно правителството на Обединеното кралство разкри предложения за „адаптивна“ регулаторна рамка около ИИ.

Подходът на правителството, очертан в публикуван в сряда документ, включва разделяне на отговорността за управлението на изкуствения интелект между регулаторите, отговарящи за правата на човека, здравето, безопасността и конкуренцията, вместо създаване на изцяло нов орган, посветен на технологията.

След пускането си миналата година, чатботът ChatGPT на OpenAI подтикна конкурентите да ускорят разработването на подобни големи езикови модели, а компаниите да интегрират генеративни ИИ модели в своите продукти.

Главният изпълнителен директор на OpenAI Сам Алтман не е подписал писмото, каза говорител на Future of Life пред Ройтерс. OpenAI не е отговорила веднага на искането за коментар от Ройтерс.

„Писмото не е перфектно, но духът е правилен: трябва да забавим темпото, докато не разберем по-добре последиците“, каза Гари Маркъс, професор в Нюйоркския университет, който подписа писмото. „Те могат да причинят сериозна вреда... големите играчи стават все по-потайни относно това, което правят. Това затруднява защитата на обществото срещу всякакви вреди, които могат да се материализират“, добави той.