"Биг Брадър" в офиса: Как големите компании използват AI за наблюдаване на служителите си

В зависимост от това къде работите, има голяма вероятност изкуствен интелект да анализира съобщенията ви в Slack, Microsoft Teams, Zoom и други популярни приложения. 

Огромни американски работодатели като Walmart, Delta Air Lines, T-Mobile, Chevron и Starbucks, както и европейски марки се обърнаха към седемгодишния стартъп Aware, за да наблюдават разговорите сред своите служители, разказва в свой материал CNBS 

Джеф Шуман, съосновател и главен изпълнителен директор на базирания в Кълъмбъс, Охайо, стартъп, казва, че изкуственият интелект помага на компаниите да "разберат риска в своите комуникации", като получават информация за настроенията на служителите в реално време, вместо да разчитат на годишно или двукратно годишно проучване. 

С помощта на анонимните данни в аналитичния продукт на Aware клиентът може да види как служителите от определена възрастова група или в конкретна географска област реагират на нова корпоративна политика или маркетингова кампания, според Шуман. Десетките модели с изкуствен интелект на Aware, създадени да четат текст и да обработват изображения, могат също така да идентифицират тормоз, преследване, дискриминация, неспазване на правилата, порнография, голота и други поведения, каза той. 

Според Шуман аналитичният инструмент на Aware - този, който следи настроенията и вредните влияния на служителите - няма възможност да маркира конкретни имена на служители. Но отделният му инструмент  eDiscovery може - в случай на екстремни заплахи или други рискови поведения, които са предварително определени от клиента, добави той. 

Не е нужно да сте любител на антиутопичните романи, за да видите как може да се обърка всичко. 

Джута Уилямс, съосновател на организацията с нестопанска цел Humane Intelligence, заяви, че ИИ добавя нова и потенциално проблематична брънка към така наречените програми за вътрешен риск, които съществуват от години, за да оценяват такива аспекти като корпоративен шпионаж например, особено в рамките на имейл комуникациите. 

Говорейки в по-широк план за изкуствения интелект за наблюдение на служителите, а не конкретно за технологията на Aware, Уилямс заяви пред CNBC: "Много от тези неща се превръщат в мисловни престъпления." И добави: "Това е третиране на хората като инвентар по начин, който не съм виждала." 

Изкуственият интелект за наблюдение на служителите е бързо развиваща се, но нишова част от по-големия пазар на технологията който се разрасна през последната година след пускането на чатбота ChatGPT на OpenAI в края на 2022 г. Генеративният AI бързо се превърна в шумна фраза за корпоративните разговори за печалби, а определени форми на технологията автоматизират задачи в почти всяка индустрия - от финансовите услуги и биомедицинските изследвания до логистиката, онлайн пътуванията и комуналните услуги. 

 Приходите на Aware са скочили средно със 150% годишно през последните пет години, каза Шуман пред CNBC, а типичният клиент на компанията има около 30 000 служители. Сред основните ѝ конкуренти са Qualtrics, Relativity, Proofpoint, Smarsh и Netskope. 

Проследяване в реално време 

Шуман основава компанията през 2017 г., след като прекарва почти осем години в работа по корпоративно сътрудничество в застрахователната компания Nationwide. Преди това той е бил предприемач. И Aware не е първата компания, която той стартира и която предизвиква мисли за Оруел. 

През 2005 г. Шуман основава компания, наречена BigBrotherLite.com. Според профила му в LinkedIn фирмата разработва софтуер, който "подобрява цифровото и мобилното изживяване при гледане" на риалити сериала на CBS "Big Brother". В класическия роман на Оруел "1984 г." Големият брат е лидер на тоталитарна държава, в която гражданите са под постоянно наблюдение. 

 ″Изградих прост плейър, фокусиран върху по-чистото и по-лесно потребителско изживяване за хората, които гледат телевизионното предаване на компютъра си", споделя Шуман в имейл. 

В Aware той прави нещо съвсем различно. 

 Всяка година компанията публикува доклад, в който обобщава информация от милиардите съобщения /през 2023 г. броят им е 6,5 милиарда/, изпратени от големи компании, като представя в табличен вид предполагаеми рискови фактори и оценки на настроенията на работното място. Шуман нарича трилионите съобщения, изпращани всяка година през платформите за комуникация на работното място, "най-бързо растящият набор от неструктурирани данни в света". 

Ако се включат и други видове споделяно съдържание, като изображения и видеоклипове, аналитичният изкуствен интелект на Aware анализира повече от 100 милиона части от съдържание всеки ден. По този начин технологията създава социалната графика на компанията, като разглежда кои екипи вътрешно си говорят повече от другите. 

 "Той винаги проследява настроенията на служителите в реално време и винаги проследява токсичността в реално време", казва Шуман за аналитичния инструмент. "Ако сте банка, която използва Aware, и настроенията на служителите са се повишили през последните 20 минути, това е защото те говорят за нещо положително, колективно. Технологията ще може да им каже какво е било то". 

Aware потвърждава пред CNBC, че използва данни от своите корпоративни клиенти за обучение на моделите си за машинно обучение. Хранилището с данни на компанията съдържа около 6,5 милиарда съобщения, представляващи около 20 милиарда индивидуални взаимодействия между повече от 3 милиона уникални служители, съобщиха от компанията.  

 Когато нов клиент се регистрира за инструмента за анализ, на моделите с изкуствен интелект на Aware са необходими около две седмици, за да се обучат на съобщенията на служителите и да се запознаят с моделите на емоции и настроения в компанията, за да могат да видят кое е нормално и кое - не, каза Шуман. 

"В докладите няма да има имена на хора, за да се защити личното пространство", казва Шуман. По-скоро, каза той, клиентите ще видят, че "може би работната сила над 40-годишна възраст в тази част на Съединените щати възприема промените в [дадена] политика много негативно заради разходите, но всички останали извън тази възрастова група и местоположение я възприемат положително, защото тя им влияе по различен начин". 

Но инструментът eDiscovery на Aware работи по различен начин. Компанията-клиент може да даде достъп до имената на служителите на базата на роли, в зависимост от избраната от него категория "изключителен риск", която инструктира технологията на Aware да извлича името на дадено лице в определени случаи за човешките ресурси или друг представител на дружеството. 

 "Някои от най-често срещаните случаи са екстремно насилие, екстремен тормоз, тормоз, но те варират в зависимост от отрасъла", каза Шуман, като добави, че във финансовите услуги би могло да се проследява подозрение за търговия с вътрешна информация. 

Амба Как, изпълнителен директор на Института AI Now към Нюйоркския университет, се притеснява от използването на ИИ за подпомагане на определянето на това какво се счита за рисково поведение. 

"Това води до смразяващ ефект върху разговорите на работното място", казва Как и добавя, че Федералната търговска комисия, Министерството на правосъдието и Комисията за равни възможности за заетост са изразили загриженост по въпроса, въпреки че не споменава конкретно технологията на Aware. "Това са въпроси, свързани както с правата на работниците, така и с неприкосновеността на личния живот."  

 От своя страна Шуман казва, че макар инструментът  eDiscovery на Aware да позволява на екипите по сигурността или разследванията на човешките ресурси да използват AI за търсене в огромни количества данни, "аналогична, базова възможност вече съществува  в Slack, Teams и други подобни платформи. 

"Основната разлика  е, че Aware и нейните модели на изкуствен интелект не вземат решения", казва Шуман. "Нашият ИИ просто улеснява претърсването на този нов набор от данни, за да идентифицира потенциални рискове или нарушения на правилата."