Character.AI забранява достъпа на потребители под 18-годишна възраст

Компанията за чатботове Character.AI ще забрани на потребители под 18 години да разговарят с "виртуалните си спътници", считано от края на ноември, след месеци на правна проверка, пишe The Guardian.

Обявената промяна идва, след като компанията, която позволява на потребителите си да създават герои, с които могат да водят отворени разговори, се сблъска с трудни въпроси относно влиянието на тези AI-компаньони върху психичното здраве на тийнейджърите и обществото като цяло — включително и наличието на съдебно дело, свързано със самоубийството на дете, както и предложен законопроект, който би забранил на непълнолетни да общуват с такива AI-компаньони.

„Внасяме тези промени в нашата платформа за лица под 18 години в светлината на развиващия се пейзаж около изкуствения интелект и тийнейджърите“, пише компанията в съобщението си. „Видяхме скорошни новинарски репортажи, които повдигат въпроси, и получихме въпроси от регулаторните органи относно съдържанието, с което тийнейджърите могат да се сблъскат, когато чатят с изкуствен интелект, и за това как отвореният чат с изкуствен интелект като цяло може да повлияе на тийнейджърите, дори когато контролът на съдържанието работи перфектно.“

Миналата година компанията беше съдена от семейството на 14-годишния Сюъл Сетцер III, който отне живота си, след като се твърди, че е развил емоционална привързаност към герой, който е създал в Character.AI. Семейството му обвини Character.AI за смъртта му и твърди, че технологията е „опасна и неизпитана“. Оттогава още семейства съдят Character.AI и отправят подобни обвинения. По-рано този месец Центърът за право на социалните медии заведе три нови дела срещу компанията от името на деца, които са починали от самоубийство или по друг начин са формирали зависими отношения с нейните чатботове.

Като част от мащабните промени, които Character.AI планира да въведе до 25 ноември, компанията ще въведе и „функционалност за гарантиране на възрастта“, която гарантира, че „потребителите получават правилното изживяване за възрастта си“.

„Не предприемаме тази стъпка за премахване на отворения чат с герои лекомислено – но смятаме, че това е правилното нещо, предвид повдигнатите въпроси за това как тийнейджърите взаимодействат и трябва да взаимодействат с тази нова технология“, пише компанията в съобщението си.

Character.AI не е единствената компания, която е подложена на проверка заради въздействието на чатботовете си върху психичното здраве на потребителите, особено на по-младите потребители. Семейството на 16-годишния Адам Рейн заведе дело за неправомерна смърт срещу OpenAI по-рано тази година, твърдейки, че компанията е дала приоритет на задълбочаването на ангажираността на потребителите си с ChatGPT пред тяхната безопасност.

В отговор OpenAI въведе нови насоки за безопасност за своите потребители в тийнейджърска възраст. Само тази седмица OpenAI разкри, че повече от милион души седмично проявяват суицидни намерения, когато разговарят с ChatGPT, както и че стотици хиляди показват признаци на психоза.