Законопроектът за ИИ в Калифорния предизвиква дебат в Силициевата долина

Първият по рода си законопроект за ИИ си проправя път през Калифорния, предизвиквайки вътрешни борби между групи пионери в ИИ.

Законопроектът за безопасността на изкуствения интелект - SB 1047, ще натовари с отговорност всеки разработчик, който харчи повече от 100 млн. долара за изграждане на модел на изкуствен интелект. Изискванията включват тестове за безопасност, прилагане на предпазни мерки и разрешаване на държавния прокурор да предприеме действия срещу разработчика на всеки ИИ модел, който причинява „сериозни щети“, като например масови жертви или инциденти, причиняващи щети от 500 млн. долара или повече.

Компаниите трябва да се съгласят с одити от трета страна и да внедрят прекъсвач, който може да изключи технологията по всяко време. Законопроектът също така предлага защита за лицата, подаващи сигнали за нередности.

Сенаторът от щата Калифорния Скот Уинър, съавтор на законопроекта, обвини някои негови противници в „насаждане на страх“.

„Имаше много драма и драматични изявления и погрешни твърдения от страна на някои от опозицията“, каза Уинър. „Големите лаборатории са се ангажирали многократно и гръмогласно да извършват оценки на безопасността на своите големи модели и това е, което този законопроект изисква, e превръщането на доброволен ангажимент в задължителен“.

Законопроектът премина през Сената на щата и планиран за гласуване в Щатското събрание до края на тази седмица. Той ще се върне за окончателно гласуване в Сената, тъй като е изменян многократно. Ако бъде приет, ще отиде при губернатора Гавин Нюсъм за подпис. Нюсъм не е изразил мнение за законопроекта.

Уинър, който представлява Сан Франциско, проведе виртуална пресконференция в сряда с поддръжници на законопроекта, включително Йошуа Бенгио, известен като един от „кръстниците на ИИ“; Директорът на Центъра за безопасност на изкуствения интелект Дан Хендрикс, директорът на икономическата сигурност в Калифорния Тери Оле, вицепрезидентът по политическите въпроси на Encode Justice Съни Ганди и главният изпълнителен директор на стартъпа за изкуствен интелект Ava Тибо Дюшемин.

Уинър нарече SB 1047 „разумен“ и даде за пример ИИ модела на Meta Llama. „Meta вече се е ангажирала да направи това тестване“, твърди той, така че този законопроект няма да накара компанията да се откаже от поддържането на неговия отворен код.

„Ние работим много усилено, за да убедим моите колеги на събранието, че този законопроект си заслужава да бъде подкрепен; със сигурност имаме начин да го приемем в залата на събранието“, каза Уинър пред YahooFinance. „Губернаторът направи изявления, които са много в съответствие с моя собствен начин на мислене – тази регулация може да е подходяща тук и ние искаме да сме сигурни, че насърчаваме и иновациите.“

В понеделник вечерта Илон Мъск - ​​който притежава компанията за модели на изкуствен интелект xAI, се обяви в подкрепа на законопроекта, публикувайки на X „Това е трудно решение и ще разстрои някои хора, но като се вземат предвид всички неща, мисля, че Калифорния вероятно трябва да приемете законопроекта за безопасността на изкуствения интелект SB 1047 Повече от 20 години съм защитник на регулирането на изкуствения интелект, точно както регулираме всеки продукт/технология, който е потенциален риск за обществото“, добави той.

Миналата седмица Anthropic написа отворено писмо до губернатора Нюсъм, показвайки предпазлива подкрепа за изменения законопроект. В писмото компанията признава промените и казва, че законопроектът е „съществено подобрен, до точката, в която вярваме, че ползите от него вероятно надвишават вредите“.

В писмо до Уинър, главният стратегически директор на OpenAI Джейсън Куон пише, че макар неговата компания подкрепя някои от разпоредбите на законопроекта, регулациите за ИИ трябва да бъдат оставени на федералното правителство.

„Федерално управляван набор от политики за ИИ, а не смесица от щатски закони, ще насърчи иновациите и ще позиционира САЩ да ръководят развитието на глобалните стандарти“, пише Куон.

Но двама бивши изследователи на OpenAI, Даниел Кокотайло и Уилям Сондърс, казаха, че са разочаровани от решението на OpenAI да се противопостави. „Сам Алтман, бившият ни шеф, многократно е призовавал за регулиране на изкуствения интелект“, пишат те в писмо до губернатор Нюсъм миналата седмица. „Сега, когато действителното регулиране е на масата, той му се противопоставя.“

Googlе, Meta и Andreessen Horowitz също са сред големите имена, които наричат ​​законопроекта заплаха за иновациите и научните изследвания. Някои се страхуват, че това ще постави Калифорния в неизгодно положение и вероятно ще рискува да загуби компании за ИИ, базирани в Силициевата долина.

SB 1047 също е изправен пред критики от видни фигури в индустрията. Д-р Фей-Фей Ли, известна като „кръстницата на ИИ“ и съдиректор на Станфордския институт за изкуствен интелект, насочен към човека (HAI), написа във Fortune по-рано този месец, че санкциите и ограниченията на законопроекта ще имат „непредвидени последици“ върху иновация.

Ли каза, че SB 1047 „ще навреди на нашата нововъзникваща ИИ екосистема, особено на частите от нея, които вече са в неравностойно положение спрямо днешните технологични гиганти: публичния сектор, академичните среди и „малките технологии“.

Уинър среща опозиция и от някои от колегите си от Демократическата партия. Бившият председател на Камарата на представителите Нанси Пелоси разкритикува законопроекта, наричайки го „добронамерен, но неинформиран“. Осем членове на Камарата на представителите от Калифорния също настояват Нюсъм да наложи вето на мярката.

Уинър каза, че би приветствал федералното правителство да предотврати SB 1047 със строги правила за безопасност на ИИ. „Конгресът е напълно парализиран, когато става дума за технологична политика. Има добри хора в Конгреса, които работят за това, но институцията като цяло не е действала по начина, по който трябва да действа:.

Законодателите в Калифорния въведоха 50 мерки, свързани с AI, насочени към регулиране на нововъзникващите технологии. Понастоящем няма федерални закони, които да поставят парапети за разработчиците на ИИ. Ако бъде приет и подписан като закон, SB 1047 може да се превърне в първата истинска част от регулирането на ИИ в страната.