Монах от францискански орден съветва папа Франциск за изкуствения интелект

Монахът Паоло Бенанти носи обикновените кафяви одежди на своя средновековен францискански орден, докато се занимава с един от най-наболелите проблеми на съвремието: как да управляваме изкуствения интелект, така че той да обогатява, а не да експлоатира живота на хората, пише Асошиейтед прес.

Бенанти е човекът на Ватикана по въпросите на технологиите и се ползва с одобрението на папа Франциск, както и на някои от най-добрите инженери и ръководители от Силициевата долина.

С инженерно образование, докторска степен по  богословие и страст към това, което той нарича "етика на технологиите", 50-годишният италиански свещеник изпълнява спешна мисия, споделена с Франциск, който в годишното си послание за мир за 2024 г. настоя за международен договор, гарантиращ етичното използване на технологиите за изкуствен интелект.

"Каква е разликата между човек, който съществува, и машина, която функционира?", каза Бенанти в интервю за Асошиейтед прес в Папския университет "Грегориана", където преподава курсове, включително морално богословие и биоетика, на студенти, подготвящи се за свещеничество. "Това е може би най-големият въпрос на тези времена, защото сме свидетели на предизвикателство, което с всеки изминал ден става все по-дълбоко, с машина, която се хуманизира".

Бенанти е член на Консултативния орган на ООН по изкуствен интелект и ръководител на италианска правителствена комисия, натоварена със задачата да предостави препоръки за това как да се предпази журналистиката от фалшиви новини и друга дезинформация. Той е и консултант на Папската академия за живота на Ватикана.

"Не искам този сезон да бъде запомнен като сезона, в който извличаме от глобалния Юг познавателни ресурси", каза той. Ако човек проучи "най-добрите инструменти, които произвеждаме в областта на изкуствения интелект" на Запад, ще види, че изкуственият интелект се "обучава с нископлатени работници от англоговорящите бивши колонии".

Бенанти казва, че помага за "по-доброто изясняване на по-техническите термини за Светия отец" по време на срещите им. Знанията му са били полезни за срещата през 2023 г. във Ватикана между Франциск и президента на Майкрософт Брад Смит, която е била посветена на това как изкуственият интелект може да помогне или навреди на човечеството.

Папа Франциск и Смит са обсъждали изкуствения интелект "в служба на общото благо" и по време на среща няколко години по-рано, съобщават от Ватикана. С папството, което обръща голямо внимание на онези, които живеят в периферията на обществото, Франциск ясно изрази загрижеността си, че технологията на изкуствения интелект би могла да ограничи правата на човека, например като окаже отрицателно въздействие върху молбата за ипотека на купувач на жилище, молбата за убежище на мигрант или оценката на вероятността даден престъпник да повтори престъпление.

Ясно е, че ако изберем някои данни, които не са достатъчно всеобхватни, ще имаме някои избори, които не са всеобхватни", каза Бенанти, чийто религиозен орден е основан в началото на 13-и век от свети Франциск от Асизи, който се отказва от земното богатство и насърчава благотворителните дейности.

Microsoft се обръща към Бенанти за първи път преди няколко години, за да потърси мнението му за технологиите, казва монахът. През 2023 г. Смит направи подкаст с Бенанти в Рим, описвайки монаха като вносител на "една от най-завладяващите комбинации в света" по отношение на неговия опит в областта на инженерството, етиката и технологиите, в дебата за ИИ.

Бенанти, на когото му е липсвала една година, за да получи диплома за инженер в римския университет "Сапиенца", когато напуска университета, а също и приятелката си, за да се присъедини към францисканците през 20-те си години, описва как ИИ може да бъде "наистина мощен инструмент" за намаляване на разходите за медицина и за даване на възможност на лекарите да помагат на повече хора.

Но той също така описва етичните последици от една технология, която може да има същите възможности като човек - а може би и повече.

"Това не е проблем на използването (на ИИ), а проблем на управлението", каза монахът. "И тук се появява етиката - намирането на правилното ниво на използване в социален контекст."

Бенанти отбеляза, че голяма част от данните, които са в основата на ИИ, се подават от нископлатени работници, много от които са в развиващи се страни с история на колониализъм и експлоатирана работна сила.