Малайзия и Индонезия забраниха Grok заради скандални визуализации

Индонезия и Малайзия обявиха, че блокират достъпа до Grok – чатбота с изкуствен интелект, създаден от Илон Мъск – този уикенд на фона на нарастващо възмущение заради генерирането на сексуализирани изображения на реални хора, предава The New York Times.

Индонезия съобщи в събота, че временно блокира чатбота на компанията xAI, собственост на Мъск, а малайзийското правителство направи подобно изявление в неделя. Докато държавни служители в други държави изразяват тревога и призовават за забрана на приложението заради изображенията, Индонезия и Малайзия са първите страни, които официално го забраняват.

„Правителството разглежда практиката на неразрешени сексуализирани дийпфейкове като сериозно нарушение на човешките права, достойнството и сигурността на гражданите в дигиталното пространство“, заяви Меутя Хафид, министър на комуникациите и цифровите технологии на Индонезия, в събота.

През последните седмици сексуализирани изображения на възрастни и деца, генерирани от Grok, заляха платформата X, собственост на Мъск, където потребителите могат да поискат от чатбота да създаде изображения на реални хора, включително да ги постави в сексуални ситуации, понякога премахвайки дрехите им или позиционирайки ги в провокативни пози.

Индонезия отдавна поддържа строга позиция срещу порнографско съдържание онлайн, ограничавайки достъпа до сайтове като Pornhub и OnlyFans. През 2018 г. властите временно блокираха TikTok, позовавайки се на съдържание, което според тях представлява риск за децата, включително сексуално съдържание.

В Малайзия регулаторите заявиха, че планират да забранят достъпа на деца под 16 години до социалните мрежи, отчасти заради няколко случая на онлайн тормоз, довели до смъртта на непълнолетни.

Производството на сексуално съдържание от Grok предизвика възмущение сред служители по света, включително премиера на Великобритания Киър Стармър и американските сенатори Рон Уайдън (демократ от Орегон), Ед Марки (демократ от Масачузетс) и Бен Рей Лухан (демократ от Ню Мексико), които миналата седмица изпратиха писмо до Apple и Google с искане да премахнат приложението от онлайн магазините си.

Докато много чатботове с изкуствен интелект имат защити, които им пречат да създават изображения на реални хора, Мъск – известен с това, че разширява границите на допустимата реч – досега отказва да ограничи собствените си платформи, където процъфтяват език на омразата и кибертормоз.

Създаването на неразрешени сексуализирани изображения от Grok може да наруши закони в множество държави, забраняващи притежанието и споделянето на подобно съдържание, особено в случаите, когато някои изображения включват деца и непълнолетни. В публикация в X този месец Мъск заяви, че всеки потребител, който насочи Grok да създава сексуализирани изображения на деца, ще понесе „последствия“.

Миналата седмица функцията на Grok в X ограничи възможността за генериране на изображения само до абонати, които плащат за достъп до допълнителни функции в приложението. Но регулаторите казват, че този ход не решава основния проблем, а просто прави генерирането на неподходящи изображения премиум услуга.

В петък говорител на Стармър заяви, че ограничаването на създаването на изображения само за абонати „не е решение“ и е „обидно“ за жертвите на мизогиния и сексуално насилие.