OpenAI забранява руски ChatGPT акаунти, използвани в тайна кампания за дезинформация

OpenAI забрани група ChatGPT акаунти с произход от Русия, за които твърди, че се използват за подкрепа на тайна онлайн кампания за влияние с цел разпространение на дезинформация, предаде CNBC.

Компанията откри проблема, след като разследва публикации в социалните медии, генерирани от изкуствен интелект, което разкри „много по-широка операция за влияние“, заяви OpenAI в публикация в блога си във вторник.

„Кампанията е билаизградена около уебсайт, съдържащ копирана и погрешно приписана академична работа; индекс на „суверенитет“, който представя Русия в благоприятна светлина; както и усилия за прикриване на руския произход на операторите“, добави компанията.

Това е последният инцидент с проруски участници, използващи изкуствен интелект за разпространение на дезинформация. OpenAI не позволява достъп до своите модели в Русия, но компанията заяви, че VPN мрежи са били използвани за прикриване на местоположението.

През февруари OpenAI заяви, че е затворила акаунти в ChatGPT, свързани с Rybar – проруска медийна компания, която британското правителство описва като „частично координирана от президентската администрация“, финансирана от руската държавна корпорация Rostec и работеща с членове на руските разузнавателни служби.

Проруска кампания за влияние

Операторите са били подканени на руски език да генерират коментари в социалните медии, които са били публикувани в Substack, Telegram, X, Facebook и LinkedIn, и са инструктирали ChatGPT да скрие всички езикови улики, че са руснаци, съобщи OpenAI.

Голяма част от генерираното съдържание е промотирало организация, наречена International Burke Institute (IBI), чийто уебсайт съдържа статии, копирани от истински академични текстове, понякога с невярно посочване на авторството.

Кампанията за влияние е създала и „индекс на суверенитет“, каза OpenAI, който е хвалил Русия и е очернял западните страни.

Въпреки че непосредственото въздействие на операцията изглежда ограничено, компанията добави, че „значението на операцията се крие по-малко в аудиторията, до която е достигнала, отколкото в инфраструктурата, която е изградила“.

Публикациите, създадени от ChatGPT, сочат към „иначе надеждна институция, пълна с предполагаеми експерти, препубликувани академични трудове и предполагаем собствен индекс на риска“, заяви OpenAI.

„Това илюстрира как влиятелните лица могат да използват AI като поддържащ инструмент в рамките на по-широки усилия за създаване на авторитет, прикриване на източника на предпочитани наративи и установяване на активи, които биха могли да бъдат мащабирани с течение на времето“, добави компанията. „Това също така илюстрира как подкрепящото използване на AI може да доведе до разкриване на по-широката операция.“