ТРАЙНА//// Предизвиква ли AI обратен Дънинг-Крюгер?

Наречен на името на двама психолози, които го описват в класическа статия от 1999 г., ефектът на Дънинг-Крюгер описва често срещана динамика, която повечето от нас наблюдават в ежедневието. Най-просто казано, хората, които знаят най-малко по дадена тема, са склонни да бъдат най-уверени в знанията си. В същото време истинските експерти, които разбират сложността на дадена тема, са по-предпазливи и скромни.

Ефектът на Дънинг-Крюгер се е превърнал в популярен начин за критикуване на невежи и твърдоглави хора онлайн. Но това не е основното послание, което психолозите, дали името му, са искали да предадат. Вместо това, те виждат ефекта на Дънинг-Крюгер като предупреждение към неекспертите да не бъдат върде самонадеяни. Вероятно знаете по-малко, отколкото си мислите.

 Това е добър съвет във всяка епоха. Но може да се нуждае от малко актуализация за ерата на изкуствения интелект. Според ново проучване, дори експертите по изкуствен интелект сериозно надценяват уменията си, използвайки технологията. Това е феномен, който изследователите нарекоха „обратен ефект на Дънинг-Крюгер“.

Дънинг-Крюгер изглежда различно в ерата на изкуствения интелект

За да разберат връзката между самооценката на уменията за работа с изкуствен интелект и увереността, изследователи от финландския университет Аалто са докарали група от около 500 участници в лаборатория и са ги помолили да изпълнят сложни задачи за логическо разсъждение от приемния изпит за юридически факултет (LSAT).

За допълнителна мотивация, на участниците е било предложено допълнително възнаграждение за по-добро представяне. Половината са използвали големи езикови модели (LLM) като ChatGPT, за да стигнат до отговорите, а половината не. На всички участници е бил даден и тест за оценка на тяхната грамотност в областта на изкуствения интелект, както и за оценка на собственото им представяне по задачата.

Класическият Дънинг-Крюгер прогнозира, че тези с най-малко умения и познания в сферата на изкуствения интелект биха надценили най-много представянето си по задачата, в която са били подпомогнати от AI. Но резултатът е бил различен, става ясно от резултатите, публикувани в журнала „Computers in Human Behavior“,

Всъщност, участниците, които са били най-осведомени и опитни по отношение на AI, са надценили най-много уменията си.

„Очаквахме хората, които са грамотни в областта на изкуствения интелект, не само да са малко по-добри във взаимодействието с AI системите, но и в преценката на представянето си с тези системи – но това не беше така“, коментира съавторът на изследването Робин Уелш. „Открихме, че когато става въпрос за AI, ефект Дънинг-Крюгер  изчезва. Всъщност, това, което е наистина изненадващо, е, че по-високата грамотност в областта на AI води до повече свръхувереност.“

92% от хората не проверяват отговорите, които получават от AI системи

Този резултат сам по себе си е обезпокоителен. Светът има достатъчно проблеми с прекалено самоуверените начинаещи. Ако АИ води до нарастване на броя на безразсъдно самоуверените експерти, значи сме в беда. Tova е още по-тревожно, когато го съчетаете с скорошни изследвания, показващи колко е малко вероятно хората като цяло да подхождат към отговорите на AI с повишено внимание и скептицизъм.

Един скорошен анализ на компанията за наблюдение на тенденции Exploding Topics установи, че невероятните 92% от хората не си правят труда да проверяват отговорите на AI, въпреки че всички популярни модели все още са склонни към халюцинации, огромни фактически неточности и подлизурско поведение, което не успява да се противопостави на грешките на потребителите.

Това е в съответствие с откритията, направени от изследователите от Аалто, когато те са се задълбочили в начина, по който участниците в проучването са подходили към задачата. Изследователите „открили, че хората просто са си мислели, че AI ще реши нещата вместо тях“. „Обикновено е имало само едно единствено взаимодействие, за да се получат резултатите, което означава, че потребителите сляпо са се доверявали на системата“, обяснява Уелш.

Сигурни ли сте, че сте AI експерт?

Ако се смятате за експерт в сферата на изкуствения интелект, тогава това проучване би трябвало да ви накара да засмислите. Може да имате по-добро от средното разбиране за LLM и други инструменти с AI, но все пак е вероятно да сте прекалено уверени в техните отговори и способността си да извлечете най-добрите резултати от тези приложения. Всъщност вашите умения в сферата на AI може да ви правят допълнително самодоволни и нахални.

Няма недостиг на съвети как да накарате приложения като ChatGPT и Gemini да предоставят по-висококачествени резултати. Не ставайте жертва на обратния ефект на Дънинг-Крюгер.

Но дори и вече да сте сред елитните 8 процента, които не се доверяват сляпо на това, което ботът ви казва, има и друг извод. Ако сте на каквато и да е лидерска позиция, е много вероятно голяма част от хора, които работят за вас, значително да надценяват уменията си по отношение на AI. Време е да поговорим с тях за увереността в изкуствения интелект и колко е важно да се подхожда към тези инструменти със смирение и внимание.

………….

Джесика Стилман за Inc.com

Превод и редакция: Георги Георгиев