Шефът на Anthropic отхвърли искане на Пентагона за премахване на защитните механизми на AI

Компанията Anthropic заяви, че няма да отстъпи в спора с Министерството на отбраната на САЩ относно начина, по който се използва нейната технология за изкуствен интелект.

Главният изпълнителен директор на фирмата, Дарио Амодей, каза в четвъртък, че компанията му предпочита да не работи с Пентагона, отколкото да се съгласи с употреби на технологията ѝ, които биха могли „да подкопаят, а не да защитят, демократичните ценности“, пише BBC.

Коментарите му идват два дни след среща с министъра на отбраната на САЩ Пийт Хегсет относно исканията Anthropic да приеме „всяка законна употреба“ на своите инструменти. Срещата е приключила със заплаха компанията да бъде извадена от веригата за доставки на Министерството на отбраната.

„Тези заплахи не променят позицията ни: не можем с чиста съвест да се съгласим с искането им“, заяви Амодей.

Според Anthropic проблемът е потенциалното използване на нейните AI инструменти като Claude за две цели: „масово вътрешно наблюдение“ и „напълно автономни оръжия“.

Амодей заяви, че „такива случаи на употреба никога не са били включени в договорите ни с Министерството на войната и смятаме, че не бива да бъдат включвани и сега“.

„Ако Министерството реши да прекрати работата си с Anthropic, ще съдействаме за плавен преход към друг доставчик“, добави Амодей.

Говорител на Anthropic заяви в четвъртък, че макар компанията да е получила обновен текст по договора от Министерството на отбраната в сряда вечерта, той представлява „практически никакъв напредък в предотвратяването на използването на Claude за масово наблюдение на американци или в напълно автономни оръжия“.

„Новият език, представен като компромис, беше придружен от правни формулировки, които биха позволили тези защитни механизми да бъдат пренебрегвани по всяко време“, каза тя. „Въпреки последните публични изявления на Министерството на войната, именно тези ограничени защитни мерки са в основата на преговорите ни от месеци.“

Представител на Министерството на отбраната не е бил открит за коментар.

Емил Майкъл, заместник-министър на отбраната на САЩ, лично атакува Амодей в четвъртък вечер в публикация в X, като написа, че ръководителят „не иска нищо повече от това да се опита лично да контролира американската армия и е готов да изложи националната ни сигурност на риск“.

По-рано представител на Пентагона е заявил пред BBC, че ако Anthropic не се съобрази, Хегсет ще гарантира, че срещу компанията ще бъде приложен Законът за отбранителното производство (Defense Production Act).  Този закон по същество дава на президента на САЩ правомощието да определи дадена компания или неин продукт като толкова важни, че правителството може да изиска те да обслужват нуждите на отбраната.

Хегсет е заплашил също така да определи Anthropic като „риск за веригата за доставки“, което означава, че компанията ще бъде считана за недостатъчно сигурна за използване от правителството.

Макар Амодей да не уточнява точно как Anthropic може да бъде или е била използвана от Министерството за масово наблюдение или напълно автономни оръжия, той пише в публикация в корпоративния блог, че AI може да се използва за „събиране на разпръснати, поотделно безобидни данни в цялостна картина на живота на всеки човек — автоматично и в огромен мащаб“.

„Подкрепяме използването на AI за законни външни разузнавателни и контраразузнавателни мисии“, заяви Амодей. „Но използването на тези системи за масово вътрешно наблюдение е несъвместимо с демократичните ценности.“

Относно използването на AI в оръжията, Амодей заяви, че дори най-напредналите и способни AI системи днес „просто не са достатъчно надеждни, за да управляват напълно автономни оръжия“.

„Няма съзнателно да предоставим продукт, който излага на риск американските военнослужещи и цивилни“, каза той. „Без подходящ надзор напълно автономните оръжия не могат да бъдат разчитани да упражняват критичната преценка, която нашите висококвалифицирани професионални войници демонстрират всеки ден. Те трябва да бъдат внедрявани със съответните защитни механизми, които в момента не съществуват.“

Той добави, че Anthropic е „предложила да работи директно с Министерството на войната по научноизследователска и развойна дейност за подобряване на надеждността на тези системи, но предложението не е било прието“.