Съоснователят Anthropic призова за външен контрол върху изкуствения интелект

Развитието на изкуствения интелект не може да бъде оставено единствено на технологичните компании, заяви съоснователят на Anthropic Крис Олах, цитиран от Ройтерс.

Той настоя за по-голям надзор от страна на религиозните лидери, правителствата и гражданското общество.

Говорейки по време на представянето на първата енциклика на папа Лъв Четиринайсети, фокусирана върху изкуствения интелект, Олах каза, че има „реална възможност“ AI да измести човешкия труд „в много голям мащаб“.

„Ако това се случи, подкрепата на изместените ще бъде морален императив с исторически размери“, заяви той, седнал до папата.

Той добави, че компании като неговата работят под силен търговски, геополитически и личен натиск, който може да е в противоречие с по-широките интереси на обществото.

„Всяка гранична лаборатория за изкуствен интелект... работи в рамките на набор от стимули и ограничения, които понякога могат да противоречат на това да се постъпва правилно“, каза той, като добави, че дори добронамерените изследователи остават повлияни от тези сили.

Олах заяви, че това прави външния контрол от съществено значение.

Anthropic е компания, базирана в САЩ, която произвежда чатбота Claude AI. Тя влезе в сблъсък с администрацията на президента Доналд Тръмп, като настояваше за предпазни мерки, ограничаващи начина, по който нейните модели могат да се използват за военни цели, като например автономно насочване на оръжия или „вътрешно наблюдение“.

Олах приветства ангажираността на Римокатолическата църква с бързо развиващата се технология, заявявайки, че етичните въпроси, повдигнати от изкуствения интелект, се простират далеч отвъд инженерството.

„Въпросите, повдигнати от изкуствения интелект, са по-големи от изследователската общност в областта на изкуствения интелект“, каза той и призова за „сериозни и задълбочени критици“, които биха могли да предизвикат компаниите и да помогнат за насочването на създаването на мощни нови системи в положителна посока.

Олах подчерта три области, които според него изискват спешно внимание – рискът от широко разпространени загуби на работни места, необходимостта да се гарантира, че ползите от изкуствения интелект се разпространяват по целия свят, и нерешеният въпрос как да се тълкува все по-сложното и понякога непрозрачно поведение на системата.

„Развитието на изкуствения интелект е концентрирано в шепа богати държави. Как можем да гарантираме, че ползите от изкуствения интелект се споделят в световен мащаб?“, каза Олах.

Събитието в понеделник отбеляза необичайно сближаване между технологичния сектор и Римокатолическата църква, която се стреми да се позиционира като морален глас по отношение на последиците от бързия напредък в областта на изкуствения интелект.