"Престъпления на мисълта": AI вече чете служебни чатове

Стотици хиляди служители на огромни компании като Starbucks, Delta Airlines, T-Mobile, Chevron, Nestle или AstraZeneca са под наблюдение. Не от камерите в офисите им, а от алгоритми, които анализират всеки техен мейл и всяко съобщение в Slack, MS Teams или Zoom.

Целта - шефовете в реално време да следят как подчинените им реагират на една или друга промяна в политиките. А също и да се засичат грубиянско и токсично поведение, тормоз и всякакви нарушения на вътрешните правила. Какво може да се обърка?

Много малко, ако питате изпълнителния директор на стартъпа Aware, който е една от водещите компании в сферата с топ клиенти като изредените по-горе. Пред CNBC той обяснява, че платформата му позволява на бизнесите чрез AI "да разбират риска в рамките на комуникациите си" и да следят настроенията сред служителите в реално време - а не чрез въпросници, които се попълват 1-2 пъти годишно.

Регулациите идват: Брюксел одобри първия в света закон за изкуствения интелект

Ще спънат ли новите правила иновациите?

Как работи?

Когато нов клиент започне да работи с Aware, в рамките на 2 седмици AI моделите изучават комуникацията между служителите и така се "ориентират" какво е нормално и какво - не. Събраната информация се използва за подобряване на цялата система.

По думите на Шуман компанията разполага с "най-бързо растящият неструктуриран набор от данни в света" - по 100 млн. единици съдържание се обработва всеки ден.

От анализите се разбира, например, кои екипи общуват най-много, но и какво си казват. Aware има два продукта - аналитичният показва тенденции в рамките на възрастови, географски и т.н. групи, които са анонимизирани. eDiscovery обаче позволява HR, звеното за сигурност или друг отдел да има достъп до конкретната комуникация на конкретен служител, който, например, е бил "уличен" от AI, че заплашва колеги.

Какви са проблемите?

Според съоснователя на оргаизацията Humane Intelligence Юта Уилямс този тип автоматизирани системи са потенциално проблематични: "Това се превръща в преследване на "престъпления на мисълта" (каквито ги знаем от "1984" на Джордж Оруел - б.р.). Хората се третират като инвентар по начин, който не съм виждала".

Изпълнителният директор на института AI Now в Нюйоркския университет Амба Как коментира пред CNBC, че системи като тази на Aware имат "смразяващ ефект върху това какво хората си казват на работното място" и "има също толкова много проблеми по линия на правата на служителите, колкото и по отношение на личната неприкосновеност" - а и редица държавни структури като FTC и Министерството на правосъдието са изказали загриженост по случая.

Как компаниите използват AI за тотално следене на служителите си

Може да ви уволнят след препоръка от алгоритъм, който даже не работи надеждно

Всичко това очевидно не е голям проблем за Aware. Приходите на компанията са скачали средно с по 150% годишно през последните 5 години, а клиентите ѝ са с по няколко десетки хиляди служители. Освен това, не е единствената подобна - има поне още 5 участници в надпреварата за най-ефективно AI следене на служителите.