Всевиждащото око на Palantir се обърна към изкуствения интелект на бойното поле

За почитателите на "Властелинът на пръстените" палантирът е "всевиждащ камък" или кристална топка, която може да се използва за виждане на бъдещи събития и общуване с други камъни. За почитателите на технологичните компании Palantir е американска компания, специализирана в анализа на големи обеми от данни. Един от нейните съоснователи е Питър Тийл, милиардерът и рисков капиталист, който беше първият външен инвеститор на Facebook. Palantir, която понякога е определяна като "най-страшния" от американските технологични гиганти, започна бизнеса си като работеше с американските войници в Ирак и Афганистан, но сега доставя софтуер на полицейски управления, други публични агенции и корпоративни клиенти. Днес тя действа в повече от 150 държави, включително в Обединеното кралство, където беше една от технологичните фирми, които правителството привлече преди време, за да помогне в борбата с коронавируса.

Но възходът на Palantir бе помрачен от опасенията на експертите по защита на личните данни, които твърдят, че инструментите на фирмата дават възможност за наблюдение и анализ на данни - от шофьорски книжки и публикации в социалните мрежи до ДНК проби - което заобикаля правото на хората на неприкосновеност на личния живот и дава възможност за злоупотреби. В САЩ използването на технологията на фирмата от имиграционните власти за подпомагане на събирането на имигранти без документи предизвика бурни протести, а в Обединеното кралство здравните данни, обработвани от фирмата, също предизвикаха тревога.

Преди борсовия дебют на фирмата, организацията Амнести Интернешънъл публикува доклад, в който се казва, че тя не изпълнява отговорността си като компания да защитава правата на човека, като не полага достатъчна грижа за това за кого работи.

Изкуственият интелект отваря нова страница

Сега тя стартира Palantir Artificial Intelligence Platform (AIP) - софтуер, предназначен за работа с големи езикови модели като GPT-4 и алтернативи в частни мрежи. В един от видеоклиповете на Palantir се демонстрира как военните могат да използват AIP за водене на война. Във видеото операторът използва чатбот в стил ChatGPT, за да разпореди разузнаване с дронове, да генерира няколко плана за атака и да организира заглушаване на вражеските комуникации.

В сценария на Palantir "военен оператор, отговарящ за наблюдение на дейността в Източна Европа", получава сигнал от AIP, че врагът струпва военно оборудване в близост до приятелски сили. След това операторът иска от чатбота да му покаже повече подробности, получава малко повече информация и след това се обръща към алгоритъма да познае какви може да са единиците.

"Той пита какви вражески части има в региона и използват изкуствен интелект, за да изградят вероятна формация на частите", се казва във видеото. След като получи най-доброто предположение на ИИ за това какво се случва, операторът иска от системата да направи по-добри снимки. Тя изстрелва безпилотен самолет Reaper MQ-9, за да направи снимки, и операторът открива, че в близост до приятелските сили има танк Т-80, руска машина от съветската епоха.

Тогава операторът пита роботите какво да прави по въпроса. "Операторът използва AIP, за да генерира три възможни начина на действие за насочване към тази вражеска техника", се казва във видеото. "След това той използва AIP, за да изпрати автоматично тези варианти нагоре по командната верига." Вариантите включват атакуване на танка с F-16, артилерия с голям обсег на действие или ракети Javelin. Според видеото ИИ дори ще уведоми всички дали близките войски разполагат с достатъчно Javelin бройки, за да изпълнят мисията, и ще автоматизира системите за заглушаване.

Разбира се, сценарият за употреба на технологията на Palantir е изключително опасен и странен. Макар че в демонстрацията на AIP има човек в процеса на взимане на решения, изглежда, че той не прави нищо повече от това да пита чатбота какво да прави и след това да одобрява действията му. Безпилотните летателни апарати вече абстрахираха войната, улеснявайки хората да убиват на огромни разстояния с натискането на един бутон. Последиците от тези системи са добре документирани. Във визията на Palantir за бъдещето на армията още системи ще бъдат автоматизирани и абстрахирани.

Palantir също така не лансира специфичен за военните сили изкуствен интелект или голям езиков модел (LLM), а предлага да интегрира съществуващи системи в контролирана среда. Демонстрацията на AIP показва, че софтуерът поддържа различни LLM с отворен код, включително FLAN-T5 XL, прецизно настроена версия на GPT-NeoX-20B и Dolly-v2-12b, както и няколко персонализирани приставки. Дори готовите фино настроени системи за изкуствен интелект имат много известни проблеми, които могат да превърнат въпроса за това какво да правят във военна зона в кошмар. Например, те са склонни просто да си измислят неща или да "халюцинират" несъществуващи детайли. По-специално GPT-NeoX-20B е алтернатива с отворен код на GPT-3, предишна версия на езиковия модел на OpenAI, създадена от стартъп, наречен EleutherAI. Един от моделите с отворен код на EleutherAI, прецизиран от друг стартъп, наречен Chai, наскоро убеди белгиец, който разговарял с него в продължение на шест седмици, да се самоубие.

Това, което Palantir предлага, е илюзията за сигурност и контрол за Пентагона, който започва да внедрява ИИ. "Големите езикови модели и алгоритмите трябва да бъдат контролирани в този силно регулиран и чувствителен контекст, за да се гарантира, че те се използват по законен и етичен начин", се казва в сценария на компанията. Според Palantir този контрол включва три стълба. Първото твърдение е, че AIP ще може да внедрява тези системи в класифицирани мрежи и "устройства на тактическия ръб". Компанията твърди, че ще може да анализира както класифицирани данни, така и данни в реално време по отговорен, законен и етичен начин.

Според видеоклипа, след това потребителите ще могат да контролират какво може да прави всеки LLM и AI в системата, подкрепена от Palantir. "Сигурността на AIP се характеризира с това какво LLM и AI могат и не могат да виждат и какво могат и не могат да правят", се казва във видеото. "Когато операторите предприемат действия, AIP генерира защитен цифров запис на операциите. Тези възможности са от решаващо значение за намаляване на значителните правни, регулаторни и етични рискове в чувствителни и класифицирани среди.

Половината от видеото представлява случай на използване на ИИ във военната сфера, а другата половина е изглед към бекенда на системата. Това е обиколка на оганиченията, които AIP предполагаемо ще създаде около тези LLM, за да ги направи безопасни и да контролира кой до каква информация има достъп.

Това, което AIP не прави, е да покаже как планира да се справи с различните вредни проблеми на LLM и какви могат да бъдат последствията във военен контекст. Изглежда, че AIP не предлага решения на тези проблеми, освен "рамки" и "предпазни огради", които обещава да направят използването на военния ИИ "етично" и "законно".

Европейски неволи

Palantir може и да е американска компания, но всъщност в Лондон за нея работят повече хора - малко под 600 - отколкото в нейната база в Силициевата долина или в централата в Денвър. Очевидно е, че европейският бизнес е особено важен за компанията, чието предложение идва в труден за нея момент, когато няколко германски провинции преосмислят начина, по който техните полицейски сили използват софтуера, произведен от Palantir, поради опасения за неприкосновеността на личния живот.

През март 2023 г. две провинции - Бавария и Северен Рейн-Вестфалия - съобщиха пред Financial Times, че преразглеждат използването на софтуера на Palantir след решение, според което законите, разрешаващи използването на извличане на данни от полицейските сили, са твърде широки и нарушават неприкосновеността на личния живот.

Това решение беше взето от Федералния конституционен съд на Германия срещу Хесен и Хамбург и вече принуди тези провинции да започнат да преразглеждат използването на софтуера, произведен от Palantir, която е най-известна с договорите си с американски организации за сигурност, включително ЦРУ.

Действията на германските провинции нанесоха удар на компанията за анализ на данни, която е на стойност 17 млрд. долара, ръководена от главния изпълнителен директор Алекс Карп и съоснована от Питър Тийл, технологичен инвеститор и виден поддръжник на американските републикански политически кандидати.

Palantir се стреми да се развива в Европа чрез работа за правителствени клиенти. Тя е фаворит за предстоящ договор за данни на стойност 400 млн. паунда с британската Национална здравна служба, а сред другите ѝ клиенти са датската полиция и правоприлагащата агенция Европол. Германските полицейски сили заявиха, че възнамеряват да продължат да използват софтуера на Palantir.

Но предпазливостта на защитниците на неприкосновеността на личния живот в Европа възпрепятства усилията за разширяване на дейността. Карп, който е немскоговорящ и има докторска степен от университета "Гьоте" във Франкфурт, заяви през февруари 2023 г., че европейците са "много по-малко приятелски настроени към новите иновации".

Не е случайно, че ръстът в бизнеса на Palantir с държавни поръчки, който съставлява повече от половината от приходите на компанията, но от които над три четвърти идват от САЩ, се срина от 47% през 2021 г. до 19,5% през 2022 г. Държавните разходи извън САЩ са нараснали само с 12% от 2021 г. до 2022 г., в сравнение с 61% ръст през предходната година.

В Германия недоверието към държавното наблюдение е дълбоко, като се имат предвид спомените за тайната полиция Щази в ГДР и Гестапо на Хитлер. Подобно на други клиенти на Palantir в областта на правоприлагането, полицията в Хесен, провинция в Централна Германия с население от около 6 млн. души, използва софтуера Gotham на Palantir, кръстен на измисления град, в който живее супергероят Батман, за да пресява огромни източници на полицейски данни.

Откакто е внедрена за първи път през 2017 г., т.нар. система HessenDATA е помогнала да се предотврати ислямистка терористична атака през 2018 г. и да се разкрие педофилска мрежа през 2020 г. Сега полицията на Хесен не може да извършва автоматизиран анализ на данни, докато правителството не преработи законодателството си. Хамбург все още не е започнал да прилага софтуера, но също трябва да реформира законите от 2019 г., позволяващи използването му.

Решението също така застрашава разширяването на дейността на Palantir в други райони. През 2022 г. Бавария подписа рамково споразумение с Palantir на стойност 25 млн. евро, към което могат да се присъединят и други германски провинции, ускорявайки внедряването на Palantir в цялата страна. Бавария заяви, че е стигнала до заключението "по принцип", че ще трябва да промени закона си за полицията, но подробностите ще зависят от Конституционния съд. В Северен Рейн-Вестфалия, която през 2020 г. сключи сделка с Palantir на стойност над 20 млн. евро, решението накара местното правителство да попита правните експерти дали трябва да промени законите си на държавно ниво, заяви говорител. То изчаква резултата от решението на собствения си конституционен съд, след като беше подадена подобна жалба.

Първият външен инвеститор на Palantir е In-Q-Tel: подразделение за рискови инвестиции на ЦРУ. След установяването на тази връзка разузнаването и въоръжените сили на САЩ остават ключови клиенти на платформите за анализ на данни на Palantir. Всъщност през 2019 г. Palantir си осигури договор на стойност 800 млн. долара само от армията.

Какво се случва, когато едно правителство предостави на компания с репутация като Palantir достъп до данните, които съхранява за своите граждани, без никакви консултации? Как това се съчетава с правото ни на неприкосновеност на личния живот? Как можем да спрем ерозията на неприкосновеността на личния живот, която очевидно води до това, освен с протести, които правителствата обикновено игнорират? Колко много знае за вас компания като Palantir и за какво използва тази информация? Това са все въпроси, които продължават да търсят своите отговори.