Когато фирмите изберат грешния AI агент – научено от опит

Представете си магазин за сладолед, който предоставя на AI агент данните за продажбите през лятото и го моли да прогнозира зимното търсене. Моделът намира ясна зависимост, изчислява очакваните продажби и дава уверен отговор. Управителят му се доверява и зарежда фризерите. Само че алгоритъмът никога не е виждал зима.

Примерът е опростен, но проблемът е съвсем реален. Кристиан Ферейра от Harvard Business School и колегите ѝ Матю ДосСантос ДиСорбо, Джордан Тонг и Мая Балакришнан изследват как хората реагират, когато алгоритъм прави прогнози върху данни, различни от тези, върху които е обучаван. Резултатът е показателен: когато системата предупреждава, че се движи извън познатата за нея среда, човешките грешки намаляват с 35%. Когато едновременно показва кога прогнозата е надеждна и кога трябва да бъде приемана с резерви, спадът достига 49%.

Още по темата можете да прочетете тук.

Търсете специалното издание на списание „Мениджър“ Tech Connect: AI in Action на в разпространителската мрежа в цялата страна, на manager.bg/списание и на zinzin.bg.