Експерти: Практиките за безопасност на AI компаниите не отговарят на глобалните стандарти

Политика за бисквитки

Практиките за безопасност на водещи компании в областта на изкуствения интелект, като Anthropic, OpenAI, xAI и Meta, са „далеч под нововъзникващите глобални стандарти“, според новото издание на индекса за безопасност на AI на Future of Life Institute, публикувано в сряда и цитирано от Ройтерс.

Институтът заяви, че оценката за безопасност, извършена от независим панел от експерти, е установила, че докато компаниите се надпреварват да разработват суперинтелигентни системи, нито една няма солидна стратегия за контрол на подобни напреднали технологии.

Проучването идва на фона на засилена обществена загриженост относно въздействието върху обществото на системи, по-умни от хората, способни на разсъждение и логическо мислене, след няколко случая на самоубийства и самонаранявания, свързани с AI чатботове.

„Въпреки скорошния шум около хакерски атаки с помощта на AI и случаи, в които AI доведе хора до психоза и самонараняване, американските AI компании остават по-слабо регулирани от ресторантите и продължават да лобират срещу задължителни стандарти за безопасност“, каза Макс Тегмарк, професор в MIT и президент на Future of Life.

Надпреварата в AI не показва признаци на забавяне, като големите технологични компании инвестират стотици милиарди долари в обновяване и разширяване на усилията си в машинното обучение.

Future of Life Institute е неправителствена организация, която повдига въпроси за рисковете, които интелигентните машини представляват за човечеството. Основана през 2014 г., тя получи ранна подкрепа от изпълнителния директор на Tesla Илон Мъск.

През октомври група, включваща учени като Джефри Хинтън и Йошуа Бенджио, призова за забрана на разработването на суперинтелигентен изкуствен интелект, докато обществото не го поиска и науката не намери безопасен път напред.

Коментари

НОВ КОМЕНТАР

НАЙ-НОВО

|

НАЙ-ЧЕТЕНИ

|

НАЙ-КОМЕНТИРАНИ

LinkedIn и краят на илюзията за “професионална” социална мрежа
Смяна в ръководството на Kaufland България: Петя Владимирова поема поста председател на Управителния съвет
Товарен кораб потъва край нос Калиакра
tbi bank въвежда проверка на получателя за по-сигурни преводи
Терзиев подписа договор за 282 млн. евро еврофинансиране за модернизация на градския транспорт
Започва строителството на третия лъч на метрото
Тръгват големи съкращения в "Арсенал"
България планира да придобие 57 самоходни гаубици „Сезар“ от Франция
Тревожна нощ в Балтика: дрон прелетя над четири държави въпреки намесата на НАТО
Евтино и лесно
Интимният скандал с шефа на Nvidia Дженсън Хуанг вдигна търсенето на кожените якета Tom Ford
Интернет не е вашият банкомат. На Интернет вие сте му напълно безразлични
Fibank понижава лихвата по жилищен кредит „Право на избор“ до 2,15%
10 гатанки за деца, които затрудняват и възрастните
От кариерни контакти до първа среща: LinkedIn се превръща в неочаквана платформа за запознанства
50 от най-полезните сайтове в интернет
22 цитата, които родителите ще оценят
Унгарските власти откриха близо 20 млн. долара в брой при разследване срещу бивш министър на Орбан