Представете си магазин за сладолед, който предоставя на AI агент данните за продажбите през лятото и го моли да прогнозира зимното търсене. Моделът намира ясна зависимост, изчислява очакваните продажби и дава уверен отговор. Управителят му се доверява и зарежда фризерите. Само че алгоритъмът никога не е виждал зима. Примерът е опростен, но проблемът е съвсем реален. Кристиан Ферейра от Harvard Business School и колегите ѝ Матю ДосСантос ДиСорбо, Джордан Тонг и Мая Балакришнан изследват как хората реагират, когато алгоритъм прави прогнози върху данни, различни от тези, върху които е обучаван. Резултатът е показателен: когато системата предупреждава, че се движи извън познатата за нея среда, човешките грешки намаляват с 35%. Когато едновременно показва кога прогнозата е надеждна и кога трябва да бъде приемана с резерви, спадът достига 49%. Това е един от големите проблеми пред компаниите, които днес се надпреварват да внедряват AI агенти. Не всеки агент е лош. Много от тях вече могат да изпълняват впечатляващо сложни задачи. Но добър агент, поставен на грешното място, може да се окаже изключително скъп начин една компания да автоматизира и подобри собствените си слабости. Натискът върху мениджърите ...