Роботи се учат да не се подчиняват на хората

Инженери от американския университет Тъфтс използваха изкуствен интелект, за да научат роботи да не се подчиняват на команди, ако те могат да ги повредят, съобщи в. "Дейли мейл".

Целта на Гордън Бригс и Матиас Шойц е да създадат роботи, с които се общува по по-човешки начин.

"Хората отхвърлят указания заради много причини - от невъзможност да ги изпълнят до морални угризения. Като се имат предвид ограниченията на автономните системи, повечето механизми за отхвърляне на указания залагат на първата причина. Способностите на автономните агенти обаче се развиват и все повече специалисти се интересуват от машинната етика, от това да дадем възможност на автономните агенти да разсъждават етично за действията си", обясняват конструкторите.

Създадените от американските инженери малки роботи изпълняват гласови команди като "стани" и "седни".

Когато обаче им заповядат да се блъснат в препятствие или да продължат да ходят, а са на ръба на масата, те учтиво отказват да го направят. Ако човек каже на робота, че препятствието не е голямо или че ще го хване, когато падне, той много трогателно му се доверява.

Гордън Бригс и Матиас Шойц са постигнали това, като са въвели механизми за разсъждаване в софтуера на роботите, с който те преценяват средата и дали командата може да застраши безопасността им. Работата им обаче нарушава законите на роботиката на Айзък Азимов, според които роботът трябва да се подчинява на човешки команди.

Разработката може да предизвика опасения, че способността на роботите да не се подчиняват на хората има потенциал за катастрофален резултат. Много водещи експерти, сред които проф. Стивън Хокинг и Илон Мъск, са предупреждавали, че изкуственият интелект може да излезе от контрол.

Източник: БТА