Мъск и над 1000 експерти призоваха за 6-месечна пауза в разработването на изкуствен интелект

Мъск и над 1000 експерти призоваха за 6-месечна пауза в разработването на изкуствен интелект

Шефът на Tesla Илон Мъск, група експерти в сферата на изкуствения интелект и мениджъри от сектора призоваха в отворено писмо за шестмесечна пауза в разработването на системи, базирани на ИИ, които са по-мощни от току-що пуснатият GPT-4 на OpenAI, предаде Ройтерс.

Те аргументираха искането си с това, че развитието на изкуствения интелект крие „потенциални рискове за обществото и човечеството“.

Писмото по инициатива на финансирания от Мъск институт с нестопанска цел Future of Life Institute, подписано от повече от 1000 експерти, призова за спиране на напредналото развитие на ИИ, докато не бъдат разработени и внедрени споделени протоколи за безопасност за този тип проекти.

„Мощни ИИ системи трябва да се разработват само след като сме уверени, че техните ефекти ще бъдат положителни и рискове, свързани с тях, ще бъдат управляеми“, се казва в писмото.

Писмото подробно описва потенциалните рискове за обществото и цивилизацията от конкуриращите се с човека системите за изкуствен интелект под формата на икономически и политически смущения, и призовава разработчиците да работят заедно с политиците и регулаторите, за да предотвратят тези рискове.

Сред подписалите писмото са на главният изпълнителен директор на конкурента на OpenAI - Stability AI Емад Мостаке, изследователи от притежавания от Alphabet DeepMind, както и изтъкнати изследователи в сферата на ИИ Йошуа Бенгио и Стюарт Ръсел.

Според регистъра за прозрачност на Европейския съюз, Future of Life Institute се финансира основно от Фондацията на Мъск, както и от базираната в Лондон група за ефективен алтруизъм Founders Pledge и Фондация на общността на Силициевата долина.

Притесненията идват, след като в понеделник Европол се присъедини към групите и организациите, изразяващи  етични и правни опасения относно напредналия ИИ като ChatGPT, предупреждавайки за потенциалната злоупотреба със системата при опити за фишинг, дезинформация и киберпрестъпления.

Междувременно правителството на Обединеното кралство разкри предложения за „адаптивна“ регулаторна рамка около ИИ.

Подходът на правителството, очертан в публикуван в сряда документ, включва разделяне на отговорността за управлението на изкуствения интелект между регулаторите, отговарящи за правата на човека, здравето, безопасността и конкуренцията, вместо създаване на изцяло нов орган, посветен на технологията.

След пускането си миналата година, чатботът ChatGPT на OpenAI подтикна конкурентите да ускорят разработването на подобни големи езикови модели, а компаниите да интегрират генеративни ИИ модели в своите продукти.

Главният изпълнителен директор на OpenAI Сам Алтман не е подписал писмото, каза говорител на Future of Life пред Ройтерс. OpenAI не е отговорила веднага на искането за коментар от Ройтерс.

„Писмото не е перфектно, но духът е правилен: трябва да забавим темпото, докато не разберем по-добре последиците“, каза Гари Маркъс, професор в Нюйоркския университет, който подписа писмото. „Те могат да причинят сериозна вреда... големите играчи стават все по-потайни относно това, което правят. Това затруднява защитата на обществото срещу всякакви вреди, които могат да се материализират“, добави той.

Коментари

НОВ КОМЕНТАР

НАЙ-НОВО

|

НАЙ-ЧЕТЕНИ

|

НАЙ-КОМЕНТИРАНИ

Берлин оттегли съпротивата си срещу придобиването на Commerzbank от UniCredit
Времето в неделя: Предимно слънчево с максимални температури до 18 градуса
Ребалансиране без нарушаване на бюджета
Износът на петрол през Ормузкия проток спада рязко на фона на зачестилите ирански атаки
Можем ли да бъдем продуктивни през целия работен ден?
„Отвъд болката се крие по-голяма красота“: Принцеса Кейт откровено за живота след рака в нов филм
В Мексико заловиха един от 10-те най-издирвани престъпници от ФБР – наркобоса „Ел Чапо Исидро“
На днешната дата, 22 ноември. Рождениците днес
LinkedIn и краят на илюзията за “професионална” социална мрежа
Фон дер Лайен предлага нов заем от 45 млрд. евро за Украйна
Започва строителството на третия лъч на метрото
Смяна в ръководството на Kaufland България: Петя Владимирова поема поста председател на Управителния съвет
Товарен кораб потъва край нос Калиакра
От кариерни контакти до първа среща: LinkedIn се превръща в неочаквана платформа за запознанства
АПИ: Днес избягвайте магистрала Хемус, ако е възможно
Тръгват големи съкращения в "Арсенал"
50-те най-добри ресторанта в света за 2026 г.: Първите три места са в Испания, Тайланд и Дания
Гърция привлича заможни купувачи на имоти от цял свят
България планира да придобие 57 самоходни гаубици „Сезар“ от Франция
Евтино и лесно
Интимният скандал с шефа на Nvidia Дженсън Хуанг вдигна търсенето на кожените якета Tom Ford
Американският военноморски флот е събрал над 20 кораба в Близкия изток
Международни хакери шпионирали българските държавни институции цели 5 години
Председателят на НСИ: Инфлацията е около 6%, но доходите продължават да изпреварват ръста на цените
КЗК разреши инвестицията на „Шнайдер Електрик“ в българската „Шелли Груп“
Украйна увеличава натиска върху руската логистична мрежа с удари по Кримския мост
Започват да изплащат добавката от 50 евро за Коледа