OpenAI е неутрализирал пет опита за злоупотреба с неговите ИИ модели за „измамна дейност“

Технологичният стартъп OpenAI съобщи, че е неутрализирал пет „тайни операции за влияние“, които са опитвали да използват нейните модели на изкуствен интелект за „измамна дейност“ в интернет, предаде Ройтерс.

Според компанията за изкуствен интелект операциите са имали за цел да използват нейните модели, за да генерират кратки коментари, по-дълги статии, измислени имена и биографии  на различни езици в социалните мрежи през последните три месеца.

Тези кампании, включващи участници от Русия, Китай, Иран и Израел, са били фокусираха върху редица въпроси, включително нахлуването на Русия в Украйна, конфликта в Газа, изборите в Индия, политиката в Европа и Съединените щати.

Измамните операции са били „опит за манипулиране на общественото мнение или влияние върху политическите резултати“, се казва в изявление на OpenAI.

Докладът на фирмата, базирана в Сан Франциско, е последният, който изкарва на преден план опасенията за потенциалната злоупотреба с технологията за изкуствен интелект, която може бързо и лесно да създава текст, изображения и видеа.

Подкрепен от Microsoft стартъп OpenAI заяви във вторник, че е сформирал Комитет за безопасност и сигурност, който ще се ръководи от членове на борда, включително главния изпълнителен директор Сам Алтман, докато започва обучението на следващия си модел с ИИ.

Измамните кампании не са се възползвали от повишената ангажираност на аудиторията или обхвата на услугите на фирмата за изкуствен интелект, се казва в изявлението на OpenAI.

От OpenAI подчертават, че тези операции не използват само генериран от ИИ материал, но включват ръчно написани текстове или меми, копирани от целия интернет.