Наближава ли моментът, в който AI ще ни съветва как да гласуваме?

През януари 2024 г. много американци от Ню Хемпшър получили обаждания от човек, който твърдял, че е Джо Байдън. Той призовал демократите да „запазят гласа си“, като пропуснат първичните избори. Думите на бившия президент звучали автентично, но всъщност обаждането било фалшиво, а гласът - генериран от изкуствен интелект.

Днес технологията зад този измамен разговор изглежда остаряла. Инструменти като Sora на OpenAI вече позволяват създаването на убедителни синтетични видеа и могат да бъдат използвани за фалшифициране на послания от политици и знаменитости, дори на цели новинарски емисии, за минути. Страхът, че изборите могат да бъдат "наводнени" от реалистични фалшиви медии, вече е масов и за това има сериозни основания, пише изданието на Масачузетския технологичен институт MIT Technology Review.

По-дълбоката заплаха обаче не е свързана просто със способността на AI да имитира хора, а че може активно да убеждава хора. Ново изследване показва колко мощна може да бъде тази негова убедителност. В две големи рецензирани проучвания чатботовете с изкуствен интелект променят мнението на избиратели с голям марж – много по-голям, отколкото този на обичайната политическа реклама.

Достъпна услуга

В следващите години ще станем свидетели на възхода на AI, който може да персонализира аргументи, да тества кои от тях работят и тихо да променя политическите възгледи на милиони хора. Тази промяна – от имитация към активно убеждаване – всъщност е изключително тревожна, смятат експертите.

Модерният AI не просто копира – той разговаря, чете емоции и адаптира тона си, за да убеждава. Освен това той вече може да управлява други свързани системи – да насочва модели за изображение, видео и звук, които да създават най-убедителното съдържание за всеки конкретен човек. Ако съберем всички тези части, лесно можем да си представим как може да бъде създадена координирана машина за убеждаване. Един AI инструмент пише посланието, друг създава визуализациите, трети го разпространява и наблюдава кое работи. За този процес въобще не са нужни хора.

Преди десетилетие ефективната онлайн кампания за влияние изискваше армии от хора, управляващи фалшиви акаунти и фабрики за "мемета". Сега този труд може да бъде автоматизиран – евтино и невидимо. Същата технология, която захранва чатботовете за обслужване на клиенти или обучителни приложения, може да бъде пренасочена да влияе върху политически мнения или да усилва даден наратив. А убеждаването не е нужно да се ограничава до реклами или автоматични обаждания – то може да бъде вплетено в инструментите, които хората използват ежедневно: социални мрежи, приложения за езиково обучение, платформи за запознанства или дори гласови асистенти.

Тази форма на влияние може да идва както от злонамерени актьори, използващи API-тата на популярни AI платформи, така и от нови приложения, изградени изначално с вградени механизми за убеждаване.

За по-малко от един милион долара някой може да генерира персонализирани, разговорни послания за всеки регистриран избирател в САЩ. Математиката е проста: десет кратки обмена на човек – около 2700 токена текст – при текущите цени на API за ChatGPT. Дори при 174 милиона избиратели, сумата е под 1 милион долара. А 80 000-те колебаещи се избиратели, които решиха изборите през 2016 г., биха могли да бъдат таргетирани за под 3000 долара.

Макар това да е глобално предизвикателство, залозите за САЩ са особено високи. Ако страната не действа бързо, следващите президентски избори през 2028 г., а може би и междинните през 2026 г., може да бъдат спечелени от този, който пръв автоматизира убеждаването, пише още изданието.

Заплахата през 2028 г.

Въпреки че някои твърдят, че заплахата от AI за изборите е преувеличена, растящият обем доказателства подсказва обратното. Последните проучвания показват, че GPT-4 може да надмине експертите по комуникации, когато трябва да генерира убедителни аргументи по поляризиращи политически теми в САЩ, и е по-убедителен от хора-неексперти в две трети от дебатите с реални избиратели.

Две големи изследвания разширяват тези резултати и показват, че кратките разговори с чатбот могат да променят нагласите на избиратели с до 10 процентни пункта – като участниците в САЩ променят мнението си почти четири пъти повече, отколкото в отговор на реклами от 2016 и 2020 г. А когато моделите се оптимизират конкретно за убеждаване, промяната достига 25 пункта – почти немислимо за "живите" експерти по политическа комуникация.

Днес големите езикови модели вече не са ограничени до няколко добре финансирани компании. Докато OpenAI, Anthropic и Google налагат политики и филтри, това важи само за тяхната инфраструктура. Огромната екосистема от отворени модели, които могат да бъдат изтеглени от всеки, остава извън контрол. А с внимателно обучение тези модели вече могат да съперничат на комерсиалните.

Това означава, че всякакви актьори – от политически и корпоративни организации до малки неформални групи – могат да внедрят политически убедителен AI, и то в големи мащаби.

Вече има примери по света. На изборите в Индия през 2024 г. бяха похарчени десетки милиони долари за AI, който сегментира избиратели, идентифицира колебаещи се групи, изпраща персонализирани съобщения и др. В Тайван властите документираха операции, свързани с Китай, използващи генеративен AI за по-фини форми на дезинформация.

Не след дълго технологията ще стигне r до изборите в САЩ. Китай, Русия, Иран и други държави имат изградени мрежи от тролски ферми и ботове. С отворени езикови модели, които генерират гладък и локализиран политически текст, тези операции могат да бъдат значително подсилени. Вече дори не са нужни хора, които говорят езика или разбират контекста.

Политическите кампании също няма да изостанат. Всички големи кампании вече сегментират аудитории и оптимизират послания. AI само намалява цената.