Джанет Йелън предупреждава за значителни рискове от въвеждането на ИИ във финансите

Министърът на финансите на САЩ Джанет Йелън се очаква да предупреди банкери и лидерите в технологичния сектор, че макар изкуственият интелект да може да отвори вратата към огромни награди за финансовата система, технологията също заплашва да създаде нови опасности, предаде Си Ен Ен, позовавайки се на откъси от подготвена реч министъра.

Речта на Йелън на утрешната конференция за финансовата стабилност включва най-обширните ѝ коментари за изкуствения интелект досега.

Това се случва в момент, когато инвеститорите опитват да получат по-голям дял от пазара за изкуствен интелект, като технологичните гиганти се впускат в надпревара във въоръжаването, а регулаторите се тревожат какво може да се обърка.

„Огромните възможности и значителните рискове, свързани с използването на ИИ от финансовите компании, изместиха този въпрос към върха в дневния ред на финансовите регулатори“, планира да каже Йелън в подготвените коментари, които ще бъдат представени на конференцията, която ще се проведе в Министерството на финансите в четвъртък и в института „Брукингс“ в петък.

От страна на възможностите, Йелън ще посочи как ИИ вече е бил използван от инвеститорите за подпомагане на управлението на портфейла и прогнозиране, а от банките за борба с измамите и поддръжка на обслужването на клиенти.

Тя също така ще отбележи, че  „бързата еволюция“ на ИИ може да проправи пътя за по-евтини и по-лесен достъп до финансовите услуги, посочвайки конкретно напредъка в обработката на естествен език, разпознаването на изображения и генеративния ИИ.

Чатботовете с изкуствен интелект, включително ChatGPT на OpenAI и Gemini на Google, изумиха потребителите със своите способности. Най-новите ИИ инструменти могат почти мигновено да създават изображения, да генерират текстове и дори видеоклипове с високо качество.

„Знам, че всички вие тук също признавате, че използването на ИИ от финансовите институции носи рискове заедно с тези възможности“, пише още в бележките на Йелън.

Служител на Министерството на финансите каза пред Си Ен Ен, че конференцията се очаква да включва комбинация от регулатори, технически ръководители, мениджъри на активи, застрахователи, академици, организации на гражданското общество и малки и големи банки.

Миналия декември екип от водещи американски регулатори, ръководен от Йелън, предупреди за първи път, че ИИ представлява риск за финансовата система. Съветът за надзор на финансовата стабилност - екип от регулатори, сформиран след финансовата криза от 2008 г., официално определи ИИ като „нововъзникваща уязвимост“.

В речта си Йелън планира да посочи какво може да се обърка на финансовите пазари.

Например, тя ще отбележи, че „сложността и непрозрачността“ на ИИ моделите може да причини проблеми.

„Проблемът е, че много ИИ модели работят като „черна кутия“, което означава, че тяхната вътрешна работа е непроницаема за външни лица“, се казва в нейните бележки.

Ако фирмите от Уолстрийт разчитат на мистериозни ИИ модели, регулаторите ще се борят да разберат колко безопасни са наистина техните системи.

Йелън планира също така да цитира „неадекватни рамки за управление на риска“ около рисковете от ИИ и „взаимовръзки, които възникват, тъй като много участници на пазара разчитат на едни и същи данни и модели“.

С други думи, ако много инвеститори разчитат на инструменти, които дават един и същ резултат, това може да доведе до пренаситени пазарни позиции, които изострят движенията на пазара, както нагоре, така и надолу.

Йелън също така ще подчертае, че има риск от „концентрация“, свързан с факта, че има само няколко компании, предоставящи ИИ модели. Това означава, че ако една се срине, много фирми на Уолстрийт могат да бъдат засегнати.

Другo опасение, че ИИ моделите понякога могат дават предубедени резултати. И това може да бъде сериозен проблем в реалния свят, особено когато става въпрос за вземане на финансови решения като например кой да получи заем.

„Недостатъчните или погрешни данни също биха могли да затвърдят или въведат нови пристрастия при вземането на финансови решения“, ще каже Йелън, според подготвените забележки.

Едно голямо предизвикателство пред ИИ, което Йелън не разглежда в откъсите от речта си са така наречените халюцинации. ИИ моделите имат тенденцията да си измислят неща и да ги представят по убедителен начин.

Подобни халюцинации са създавали проблеми на адвокати, когато са цитирали съдебна практика, която не съществува.

Очаква се Йелън да подчертае, че регулаторите планират да продължат да наблюдават въздействието на ИИ върху финансовата стабилност

Като се има предвид колко бързо се развива ИИ, Йелън ще каже, че регулаторите и индустрията могат да използват анализ на сценарии, за да разберат по-добре „бъдещите уязвимости“ и какво може да се направи, за да се „повиши устойчивостта“.