Невъзможно примирие

Проблемът пред AI индустрията вече не е само технологичен: той е и класически проблем на колективното действие, при който най-добрият резултат за всички е труден за постигане, ако всеки действа единствено според собствения си краткосрочен интерес. Отказът обаче е невъзможен – защото в крайна сметка говорим за Светия Граал на човешката еволюция. Теоретично погледнато, ситуацията е несравнима с никоя друга иновация или технологична революция в историята, защото пробив по отношение на свръхинтелигентен AI би дал на притежателя му инструмент, с който може да неутрализира всяка система по света и да замени всеки работещ по света. На практика ще го направи господар на света.

Точно това има предвид президентът Доналд Тръмп, когато отхвърля идеята САЩ да забавят, защото ако бъдат изпреварени, ще се окажат „на много мрачно място“ и „който спечели, ще спечели“. 

Ключовият въпрос обаче е в доверието. Дали могат да бъдат създадени достатъчно надеждни международни правила, при които отговорното поведение да бъде по-изгодно от едностранното нарушаване на ограниченията? Дали ще бъдат спазвани? Кой ще ги контролира? Технологичните гиганти и техните месиански президенти не са точно секторът, който е спечелил общественото доверие в сферата на прозрачността, точно обратното.

Цялата статия можете да прочетете тук.

Търсете „Мениджър” в разпространителската мрежа в цялата страна, на manager.bg/списание и на zinzin.bg.