Мъск и над 1000 експерти призоваха за 6-месечна пауза в разработването на изкуствен интелект
Шефът на Tesla Илон Мъск, група експерти в сферата на изкуствения интелект и мениджъри от сектора призоваха в отворено писмо за шестмесечна пауза в разработването на системи, базирани на ИИ, които са по-мощни от току-що пуснатият GPT-4 на OpenAI, предаде Ройтерс.
Те аргументираха искането си с това, че развитието на изкуствения интелект крие „потенциални рискове за обществото и човечеството“.
Писмото по инициатива на финансирания от Мъск институт с нестопанска цел Future of Life Institute, подписано от повече от 1000 експерти, призова за спиране на напредналото развитие на ИИ, докато не бъдат разработени и внедрени споделени протоколи за безопасност за този тип проекти.
„Мощни ИИ системи трябва да се разработват само след като сме уверени, че техните ефекти ще бъдат положителни и рискове, свързани с тях, ще бъдат управляеми“, се казва в писмото.
Писмото подробно описва потенциалните рискове за обществото и цивилизацията от конкуриращите се с човека системите за изкуствен интелект под формата на икономически и политически смущения, и призовава разработчиците да работят заедно с политиците и регулаторите, за да предотвратят тези рискове.
Сред подписалите писмото са на главният изпълнителен директор на конкурента на OpenAI - Stability AI Емад Мостаке, изследователи от притежавания от Alphabet DeepMind, както и изтъкнати изследователи в сферата на ИИ Йошуа Бенгио и Стюарт Ръсел.
Според регистъра за прозрачност на Европейския съюз, Future of Life Institute се финансира основно от Фондацията на Мъск, както и от базираната в Лондон група за ефективен алтруизъм Founders Pledge и Фондация на общността на Силициевата долина.
Притесненията идват, след като в понеделник Европол се присъедини към групите и организациите, изразяващи етични и правни опасения относно напредналия ИИ като ChatGPT, предупреждавайки за потенциалната злоупотреба със системата при опити за фишинг, дезинформация и киберпрестъпления.
Междувременно правителството на Обединеното кралство разкри предложения за „адаптивна“ регулаторна рамка около ИИ.
Подходът на правителството, очертан в публикуван в сряда документ, включва разделяне на отговорността за управлението на изкуствения интелект между регулаторите, отговарящи за правата на човека, здравето, безопасността и конкуренцията, вместо създаване на изцяло нов орган, посветен на технологията.
След пускането си миналата година, чатботът ChatGPT на OpenAI подтикна конкурентите да ускорят разработването на подобни големи езикови модели, а компаниите да интегрират генеративни ИИ модели в своите продукти.
Главният изпълнителен директор на OpenAI Сам Алтман не е подписал писмото, каза говорител на Future of Life пред Ройтерс. OpenAI не е отговорила веднага на искането за коментар от Ройтерс.
„Писмото не е перфектно, но духът е правилен: трябва да забавим темпото, докато не разберем по-добре последиците“, каза Гари Маркъс, професор в Нюйоркския университет, който подписа писмото. „Те могат да причинят сериозна вреда... големите играчи стават все по-потайни относно това, което правят. Това затруднява защитата на обществото срещу всякакви вреди, които могат да се материализират“, добави той.
Ключови думи
ОЩЕ ОТ КАТЕГОРИЯТА
|
|
Коментари
Няма въведени кометари.