X продължава да позволява публикуването на сексуализирани изображения, генерирани от Grok

X продължава да позволява на потребителите да публикуват сексуализирани видеа на жени по бикини, генерирани от чатбота Grok, въпреки твърденията на компанията, че е предприела мерки срещу злоупотребите, посочва The Guardian.

Проучване на медията показва, че такъв тип изображения лесно могат да се създават в платформата на Grok, а впоследствие да се публикуват в X, без да има модериране на публикацията, а това значи, че такова съдържание лесно и бързо може да бъде видяно от десетки потребители.

Това изглежда като лесен начин за заобикаляне на ограниченията, обявени от социалната мрежа на Илон Мъск по-рано тази седмица. Те бяха приветствани от британския премиер Киър Стармър, който определи генерираните от Grok изображения като „отвратителни“ и „позорни“.

След седмици на нарастващо обществено безпокойство, X заяви късно в сряда, че е „въвела технологични мерки, за да попречи на акаунта на Grok да позволява редактиране на изображения на реални хора в разкриващо облекло, като бикини“.

Компанията посочи, че ограничението ще важи за всички потребители, включително платените абонати, и че има „нулева толерантност към всички форми на сексуална експлоатация на деца, недоброволна голота и нежелано сексуално съдържание“. Не беше уточнено обаче дали потребителите все още ще могат да създават подобни изображения чрез самостоятелното приложение Grok и след това да ги споделят публично в X.

The Guardian споделя, че тази самостоятелна версия на Grok, известна като Grok Imagine – която е лесно достъпна чрез уеб браузър – все още реагира на подканвания за дигитално премахване на дрехи от изображения на жени.

Ребека Хитчън, ръководител на политиките и кампаниите в коалицията End Violence Against Women, заяви, че подобно лесно заобикаляне на ограниченията не би трябвало да е възможно.

„Продължаващата лесна достъпност до усъвършенствани инструменти за ‘разсъбличане’ ясно показва, че X не приема достатъчно сериозно проблема с онлайн насилието срещу жени и момичета“, каза тя.

Хитчън призова правителството на Обединеното кралство и медийния регулатор Ofcom да окажат натиск върху X и други платформи „да спрат разпространението на сексуално насилие чрез изображения“.

Агенция Ройтерс също сподели, че нейни журналисти са използвали Grok за създаване на сексуализирани изображения по заявка след обявените от X мерки.

„Трудно е да се повярва, че xAI и Илон Мъск не могат да измислят как да предотвратят излизането на тези изображения от Grok“, заяви Пени Ист, изпълнителен директор на организацията Fawcett Society. „Първо Мъск реши, че решението е ‘разсъбличането’ да остане привилегия само за потребителите, които плащат за X. След това обеща да го спре напълно. И въпреки това то не е спряло.“

„Истината е, че Мъск и технологичният сектор просто не поставят безопасността и достойнството като приоритет в продуктите, които създават. За жените това е изключително ниска летва – да очакват, че могат да общуват онлайн, без мъже да ги ‘разсъбличат’. И все пак изглежда дори това е невъзможно.“

Регулаторът Ofcom заяви, че официалното му разследване срещу X, започнало в понеделник, продължава и че се „работи денонощно, за да изясни какво се е объркало и какво се прави, за да бъде поправено“.

Канадският орган за защита на личните данни съобщи, че разследва xAI, докато властите във Филипините заявиха, че предприемат действия за блокиране на Grok, а малайзийските власти планират съдебни действия.

Спорът обаче може да е допринесъл за повишаване на обществената разпознаваемост на Grok. В четвъртък Мъск сподели публикация, в която твърди, че „популярността и реалната употреба растат стремглаво в световен мащаб“, придружена от графика, показваща нов връх в търсенията на „Grok“ в Google Trends. Мъск добави единствено: „Опитайте Grok.com.“