Anthropic предупреждава за опасностите от AI преди борсовия си дебют

Изкуствен интелект извън контрол, кибератаки и възможността AI да бъде използван за разработване на опасни оръжия са сред рисковете, които Anthropic разкрива пред инвеститорите, докато се подготвя за дебют на фондовия пазар.

От 335-те страници, описващи финансите на Anthropic, възнагражденията на ръководството, политиката по дивидентите и други подобни теми, 93 страници са посветени на „рисковите фактори“ – обстоятелства, които биха могли да навредят на инвестицията на потенциалните акционери. За сравнение, при конкурента SpaceX изброените рискови фактори заемат 38 от над 250 страници.

Подобни разкрития са задължителна част от процеса по първично публично предлагане (IPO), като дават на потенциалните инвеститори по-ясна представа за рисковете, които поемат, купувайки акции на компанията, пише Euronews.

В представянето си пред инвеститорите Anthropic описва собственото си IPO като стъпка към ограничаване на рисковете, които според компанията изкуственият интелект носи.

„Да създаваш изкуствен интелект означава да овладяваш самото познание, а всичко толкова могъщо може да бъде използвано както за добро, така и за зло“, пишат основателите на компанията в писмо до бъдещите акционери, включено в документацията за IPO-то.

„Anthropic е организация, дълбоко водена от ценности, създадена до голяма степен, за да помогне на света да се възползва от предимствата на AI и да избегне неговите опасности.“

Въпреки това рисковете са многобройни. Те варират от по-обичайни предизвикателства, като невъзможност да задържи ключови служители или да преодолее регулаторни пречки, до участие в кибератаки и разпространение на опасна дезинформация.

Бързото развитие на технологията

Anthropic предупреждава, че е възможно нейните модели да се развиват толкова бързо, че компанията да не успее да въведе адекватни мерки за безопасност, „което би могло да увеличи вероятността от инциденти, свързани със сигурността, регулаторна намеса или репутационни щети и да се отрази неблагоприятно на бизнеса ни“.

През септември главният изпълнителен директор на Anthropic Дарио Амодей предупреди, че в рамките на шест до дванадесет месеца AI може да бъде способен да управлява рояк от агенти, който да поеме контрол над целия интернет.

Това предупреждение, както и сегашният ход на компанията да предложи акции на пазара, идват на фона на нарастващи опасения както в индустрията, така и извън нея относно все по-мощните системи, които могат да решават проблеми отвъд човешките възможности, но също така биха могли самостоятелно да извършват вредни действия.

Според документацията, с напредването на AI системите и способността им да предприемат важни действия с по-малко човешки надзор, съществува риск те „самостоятелно и в голям мащаб да предприемат вредни действия без човешка намеса“.

„Дори нашите собствени модели да не причинят подобна вреда, сериозен инцидент, свързан с който и да е водещ AI модел, може да доведе до сериозни репутационни щети за цялата индустрия, обществена реакция и всеобхватни регулаторни мерки, които биха могли да се отразят негативно на нашия бизнес“, посочва компанията.

Тъй като AI моделите вече участват в собствената научноизследователска и развойна дейност на Anthropic, съществува възможност развитието на технологиите да изпревари способността на компанията да оценява и обезопасява новите модели. Според документа това също може да навреди на бизнеса ѝ.

Злонамерени лица могат да използват технологията за хаос

В документа се посочва, че усъвършенстваните AI системи, ако не бъдат разработвани и управлявани с достатъчно предпазни механизми и контрол, могат да представляват „катастрофални или екзистенциални рискове за човечеството, особено ако бъдат използвани неправомерно, копирани, превърнати в оръжие или оставени да действат с висока степен на автономност“.

Компанията предупреждава, че би понесла щети, ако злонамерени потребители причинят вреда чрез нейните продукти или ако защитните механизми на моделите не успеят да предотвратят злоупотребата с тях.

Anthropic очертава сценарии, при които недоброжелатели използват AI модели за създаване на химически оръжия или авторитарни режими прибягват до технологията, за да засилят репресиите срещу гражданите си. През септември компанията разкри, че е блокирала опити нейните модели да бъдат използвани за злонамерени дейности като кибератаки, наблюдение и изследвания, които биха могли да доведат до разработване на биологични оръжия.

Компанията може да се сблъска с ограничения в изчислителната мощност

Изчислителните ресурси, необходими за създаването, тестването и подобряването на AI модели, са скъпи и силно търсени. Anthropic отбелязва, че ако не успее да си осигури достатъчен изчислителен капацитет или ако не го разпределя ефективно между различните си задачи, може да се окаже неспособна да обучава модели, които да останат конкурентоспособни, или да обслужва адекватно клиентите си.

Компанията посочва и обществената съпротива срещу центровете за данни като риск за бизнеса си. Според документа изграждането им поражда обществени спорове и засилен регулаторен контрол заради въздействието върху околната среда, използването на земя и вода, както и потреблението на ограничени енергийни ресурси.

Anthropic предупреждава още, че разчита на ограничен брой големи клиенти, сред които SpaceX и Microsoft, както и на малък брой канали за разпространение на значителна част от приходите си. Това означава, че ако дори един от основните ѝ клиенти намали сътрудничеството си или се откаже напълно от услугите ѝ, финансовите перспективи на компанията могат сериозно да пострадат.

Ограничаване на рисковете

В известен смисъл огромният риск, свързан с AI, заедно с огромния му потенциал, е и основното предимство, с което Anthropic се представя пред инвеститорите. Компанията се стреми да се позиционира като отговорен разработчик на изкуствен интелект и привлича бизнес клиенти, подчертавайки фокуса си върху безопасността.

„Вярваме, че компаниите, развиващи водещи AI технологии, трябва да инвестират в безопасност и съгласуваност на моделите, за да подпомогнат отговорното разпространение на тази технология“, се казва в документацията.

Брайън Мълбъри, главен пазарен стратег в Zacks Investment Research, посочва, че компаниите, които излизат на борсата, трябва „много ясно“ да покажат какви рискове поемат инвеститорите.

„Едно от големите предимства на капиталовите пазари е нивото на прозрачност, което се изисква. За да бъдеш публично търгувана компания на американска борса, трябва ясно да изложиш тези рискове, така че хората да разбират какво означава да вложат спечелените си с труд средства и да помогнат за финансирането на подобна сделка“, казва той.