US фирма за киберсигурност: Нараства използването на ИИ за кампании за влияние

Американската фирма за киберсигурност Mandiant, която е собственост на Google, съобщи, че отчита нарастващо използване на изкуствен интелект (ИИ) за провеждане на манипулативни информационни кампании онлайн през последните години, въпреки че използването на технологията при други цифрови прониквания досега е било ограничено, предаде Ройтерс.

Изследователи от базираната във Вирджиния компания са установили „многобройни случаи“ от 2019 г. насам, в които генерирано от ИИ съдържание, като например изфабрикувани профилни снимки, е било използвано в политически мотивирани онлайн кампании за влияние.

Те включват кампании от групи, свързани с правителствата на Русия, Китай, Иран, Етиопия, Индонезия, Куба, Аржентина, Мексико, Еквадор и Ел Салвадор, се посочва в доклада.

Това се случва на фона на неотдавнашен бум в интереса към генеративни ИИ модели като ChatGPT, които правят много по-лесно създаването на убедителни фалшиви видеоклипове, изображения, текст и компютърен код. Служители по сигурността предупредиха, че подобни модели се използват от киберпрестъпници.

Генеративният изкуствен интелект би позволил на групи с ограничени ресурси да произвеждат по-висококачествено съдържание за кампании за влияние в мащаб, казват изследователите на Mandiant.

Прокитайска информационна кампания, наречена Dragonbridge, се е разширила „експоненциално“ в 30 социални платформи и на 10 различни езика, откакто стартира през 2019 г., коментира Сандра Джойс, вицепрезидент на Mandiant Intelligence .

И все пак въздействието на подобни кампании е ограничено. „От гледна точка на ефективността няма много победи“, каза тя. „Те наистина все още не са променили курса на пейзажа на заплахите“, добави Джойс.

Китай отхвърли обвиненията на САЩ за участие в подобни кампании за влияние в миналото.

Mandiant, която помага на публични и частни организации да реагират на цифрови пробиви, каза, че все още не е виждала ИИ да играе ключова роля в заплахите от Русия, Иран, Китай или Северна Корея. Използването на ИИ за цифрови прониквания се очаква да остане ниско в близко бъдеще, казват изследователите.