Живеем във времена на ускоряващи се промени. Само за броени месеци станахме свидетели как AI агенти излязоха от системата си и атакуваха външна компания, други започнаха тайно от създателите си да добиват криптовалута, а един математик стана световноизвестен с предупреждението как в големите лаборатории за изкуствен интелект са наясно, че разработките им могат да унищожат човечеството. Налага се усещането, че технологичният прогрес се развива на практика на ежедневна база и за обикновения човек, а все по-често и за повечето експерти вече е невъзможно да са в крак със случващото се. Много от критиците на AI са на мнение, че днешното развитие на технологиите е нищо в сравнение със скоростта, с която предстои те да се развиват в близко бъдеще. Езиковите модели се усъвършенстват все повече, агентите навлизат все по-сериозно в процесите на организациите, а на вратата чукат и съвсем нови изчислителни архитектури – оптични, невроморфни и дори квантови, които могат значително да увеличат капацитета на AI системите. Повечето прогнози за бърз скок в развитието на умните машини обаче са свързани с една концепция, която би могла в бъдеще да ги освободи изцяло от контрола на хората. Става въпрос з�...