Брюксел разследва X и Grok заради сексуализирано съдържание, генерирано от изкуствен интелект

Европейският надзорен орган по защита на личните данни започна „мащабно“ разследване срещу X на Илон Мъск във връзка с генерирани от изкуствен интелект сексуализирани изображения на хора, които не са дали съгласието си за това – пореден знак, че регулаторите засилват контрола върху чатбота Grok на социалната мрежа.

Ирландската Комисия за защита на данните (Data Protection Commission – DPC), която отговаря за прилагането на Общия регламент на ЕС относно защитата на данните (GDPR), съобщи късно в понеделник, че е започнала проверка относно създаването и публикуването на „потенциално вредни“ сексуализирани изображения от Grok, които съдържат или включват обработване на данни на потребители от ЕС, съобщава Financial Times.

Чатботът Grok е интегриран в социалните потоци на X и е разработен от стартъпа за изкуствен интелект на Мъск – xAI, който миналата година придоби X. По-рано този месец xAI се сля с компанията за ракети на Мъск SpaceX, създавайки гигант с оценка от 1,5 трилиона долара.

Разследването е последното от поредица проверки от страна на световните власти, насочени срещу X, след като в началото на януари чрез Grok бяха генерирани хиляди сексуализирани дийпфейкове на жени, което предизвика широко обществено възмущение сред потребители, експерти по безопасност и политици.

„DPC е в контакт с X, откакто преди няколко седмици се появиха медийни публикации относно предполагаемата възможност потребители на X да подтикват профила @Grok в X да генерира сексуализирани изображения на реални хора, включително деца“, заяви в понеделник в изявление заместник-комисарят на DPC Греъм Дойл.

Той добави, че комисията „е започнала мащабно разследване, което ще разгледа съответствието на [X] с някои от основните ѝ задължения по GDPR във връзка с разглежданите въпроси“. 

Мъск е възприел по-свободен подход към модерирането на чатбота Grok, позовавайки се на свободата на словото. Миналото лято xAI направи промени в чатбота, след като системата похвали Хитлер и публикува антисемитски публикации в X.

В началото на февруари офисите на X в Париж бяха претърсени от френски и европейски разследващи органи като част от широкообхватно разследване на алгоритмите на X, както и на разпространението на сексуално насилствен материал, генериран от изкуствен интелект. Френските прокурори са призовали Мъск и Линда Якаринo, бивш главен изпълнителен директор на X, за „доброволни разпити“ в Париж през април.

Британската Служба на комисаря по информацията (Information Commissioner’s Office) също миналата седмица обяви, че започва ново разследване срещу X и xAI, като заяви, че има „сериозни опасения“ относно използването на лични данни от Grok и „потенциала му да създава вредно сексуализирано изображение и видеосъдържание“.

ЕС вече е започнал официално разследване срещу xAI съгласно Закона за цифровите услуги (Digital Services Act), който изисква големите технологични платформи да ограничават разпространението на незаконно и вредно съдържание.  Процедурата е стартирана заради разпространението на сексуализирани изображения на жени и деца чрез Grok.

Обявеното в понеделник европейско разследване обаче ще оцени дали X е нарушила водещите правила на ЕС по GDPR, които задължават компаниите да гарантират, че личните данни на потребителите се обработват само за конкретни законосъобразни цели, да вземат предвид защитата на личните данни при разработването на продукти и да изготвят предварителни оценки на риска при пускането на функции с висок риск.

След натиск от правителства по света, включително заплахи от глоби и забрани в ЕС, Обединеното кралство и Франция, миналия месец X въведе „технологични мерки“, за да ограничи Grok от генериране на определени явни изображения. Компанията обаче настоява, че премахва материали със сексуално насилие над деца и съдържание с голота без съгласие.

В отговор на претърсванията във Франция X заяви в публикация, че обвиненията са „неоснователни“ и че „категорично отрича каквото и да е нарушение“. Компанията определи акцията като „злоупотреба с правоприлагащ театър, целящ постигане на нелегитимни политически цели“, добавяйки, че разследването „изопачава френското право, заобикаля надлежната процедура и застрашава свободата на словото“.