Digital Age: Цифрово възкресение

Смъртта е неизбежна част от жизнения кръговрат и нейната мрачна реалност от хилядолетия завладява съзнанието на хората. С появата на ново поколение технологии на преден план излизат непознати досега въпроси, свързани с това доколко е добра идея да се опитаме да променяме - или просто влияем - на естествения ход на нещата.

Специалистите по етика на изкуствения интелект призоваха за спешни предпазни мерки срещу зараждащата се индустрия за "цифров живот след смъртта". Притесненията са свързани с чатботове, които имитират външния вид, речта и личността на мъртви хора.

Известни като "deadbots" или "griefbots", тези клонинги на ИИ се обучават на базата на данни за починалите. След това те осигуряват симулирано взаимодействие с виртуални възстановки на починалите. Според изследователи от Университета в Кеймбридж обаче, това "посмъртно присъствие" може да нанесе социални и психологически вреди.

Изследователите предупреждават, че "мъртвите роботи" и "индустрията за цифров живот след смъртта" могат да преследват живите и да опорочат това иначе интимно изживяване.

Специалистите по етика на изкуствения интелект призоваха за спешни предпазни мерки срещу възникващата индустрия за "цифров живот след смъртта". Притесненията са свързани с чатботове, които имитират външния вид, речта и личността на мъртви хора.

Според изследователи от Университета в Кеймбридж това "посмъртно присъствие" може да нанесе социални и психологически вреди. Новото им проучване подчертава няколко риска. Един от тях е свързан с използването на подобни ботове за реклама. Като имитират изгубени близки, тези задгробни гласове биха могли да манипулират уязвимите оцелели по различни начини, включително да правят нещо или да харчат пари.

Друг проблем е свързан с терапевтичните приложения. Изследователите се опасяват, че те ще създадат непреодолима емоционална тежест. Това би могло да ускори процеса на скърбене в безкрайни виртуални взаимодействия, превръщайки го в порочен кръг, от който не може да излезете.

В проучването се предвижда също така мъртви ботове да досаждат на потребителите с нежелана информация или известия. Изследователите сравняват това с "дигитален спам от мъртвите".

Ако подобни притеснения ви звучат абстрактно и дори несериозно, не бързайте да ги отписвате. Това е перспектива, която бързо се превръща в реалност. Услуги като "Project December" и "HereAfter" вече предлагат на клиентите си възможност за дигитално възкресяване на мъртвите.

Началото винаги е благородно и малко тъжно

Когато стартира преди няколко години, "Project December", разработен от програмист от района на Сан Франциско, се захранва от една от най-способните системи за изкуствен интелект в света - софтуер, тогава известен като GPT-3. Той умее да манипулира човешкия език, като генерира свободен английски текст в отговор на запитване. Въпреки че цифрови асистенти като Siri на Apple и Alexa на Amazon изглежда също разбират и възпроизвеждат английски език на някакво ниво, GPT-

3 е много по-напреднал вариант и може да имитира почти всеки стил на писане с едно движение на копчето.

Джейсън Рорер е на 41 години, когато се захваща с проекта. Той създава независими видеоигри. Отдавна е застъпник на идеята, че игрите могат да бъдат изкуство, вдъхновяващо сложни емоции; известно е, че творенията му карат играчите да плачат. След месеци експерименти с GPT-2 и GPT-3, той разбира, че е докоснал нова област от възможности, като е разбрал как да накара системите за изкуствен интелект да правят нещо, за което не са били създадени: да водят разговори с хора, подобни на чат. Потребителите могат да избират измежду редица вградени чатботове, всеки от които има различен стил на писане на текстови съобщения, или могат да създадат свои собствени ботове, като им придадат каквато си пожелаят индивидуалност.

Джейсън разработва платформата постепенно, като започва с вградените чатботове. Той използва с "Уилям" - бот, който се опитва да се представя за Шекспир, и "Саманта" - приятелски настроена жена, създадена по модела на асистента на изкуствения интелект във филма "Тя". Но веднага след като построява първия си наистина оригинален бот - симулация на Спок от Star Trek, когото смята за свой герой - нещо му светва: след като първоначално въвежда няколко цитата на Спок от стар телевизионен епизод, Джейсън създаде бот, който звучеше точно като персонажа, но говореше с оригинални фрази, които не се срещаха в нито един сценарий.

Докато мъжът продължава да експериментира, той осъзнава, че няма правило, което да му пречи да симулира истински хора. Какво ли би станало, чуди се той, ако се опита да създаде чатбот версия на мъртвата си годеница?

Според него няма нищо странно в желанието да се свържеш отново с мъртвите: Хората го правят постоянно в молитви и сънища. По това време стотици хиляди вече са починали от COVID-19, често внезапно, без да се разделят с близките им, оставяйки мрачна реалност на скръб. Колко от оцелелите с удоволствие биха експериментирали с технология, която им позволява да се преструват за момент, че техният мъртъв близък е отново жив - и може да пише текстови съобщения? Достатъчно е само да въведете стари писвма, гласови и текстови съобщения на покойника заедно с "уводен параграф", който трябва да описва отношенията между бота и човека.

Останалото, както се казва, е просто история.

По-рано тази година на прочутия фестивал "Сънданс" в щата Юта, САЩ, дебютира филмът "Вечният ти", който разказва за този нов бизнес за създаването на ИИ аватари на покойници. Филмът представя историята на Кристи Ейнджъл, която използва чатбот с изкуствен интелект, наречен Project December, за да "общува" с починал близък човек. Това, което се случва след това, би подхождало на холивудски филм на ужасите. Когато Ейнджъл пита аватара с изкуствен интелект къде се намира, чатботът отговаря: "В ада".

Бъдете наясно с какво се забърквате

Използването на технологиите за запълване на празнината, оставена от партньор, родител или близък приятел, едва ли е нещо ново. Привличането на изкуствен интелект преди смъртта на човека е една от стратегиите за постигане на вид безсмъртие. Такива ботове вече са гореща тенденция в Китай. Експертите обаче поставят под въпрос психологическото, емоционалното и етичното въздействие на тази практика.

За да се намалят рисковете, изследователите призовават дизайнерите на deadbot алгоритми да искат съгласие от "донорите на данни", преди те да умрат. Те искат също така продуктите редовно да предупреждават потребителите за рисковете, да предоставят лесни протоколи за отказ и да забраняват неуважителното използване на тези ботове.

Друга предлагана защита са удобните за потребителя методи за прекратяване на тази особена комуникация. Те могат да включват дори "цифрово погребение" на бота. Всички тези мерки трябва да отчитат както достойнството на мъртвите, така и психиката и чувствата на тези, които те оставят след себе си.

"Изключително важно е цифровите услуги за живот след смъртта да отчитат правата и съгласието не само на тези, които пресъздават, но и на тези, които ще трябва да взаимодействат със симулациите", казва д-р Томаш Холанек, един от съавторите на изследването.

"Тези услуги рискуват да причинят огромно страдание на хората, ако те бъдат подложени на нежелани цифрови преследвания от тревожно точни възстановки с изкуствен интелект на тези, които са загубили. Потенциалният психологически ефект, особено в и без това труден момент, може да бъде опустошителен."