Учени създадоха изкуствен интелект-психопат

Учени създадоха първи изкуствен интелект-психопат, който вижда смърт навсякъде, предаде Франс прес, цитирана от БТА. Чрез него учените искат да обяснят на широката публика как се разработват алгоритми и да привлекат общественото внимание върху евентуални опасности, свързани с изкуствения интелект.

Той носи името Норман - на убиеца психопат Норман Бейтс от филма "Психо" (1960) на Алфред Хичкок.

Когато хора казват, че изкуственият интелект е предубеден, виновникът не е самият алгоритъм, а използваните за създаването му данни. Това виждане е известно на учените, но е до голяма степен непознато на широката публика, поясни изследователският екип от Масачузетския технологичен институт, създал Норман.

Норман бил "захранен" с изображения от интернет платформата Reddit  на хора, които са пред прага на смъртта. Учените създали и посветен на Норман сайт на адрес www.norman-ai.mit.edu. След това му показали изображения на мастилени петна, както в психологическия тест на Роршах. Целта била да се разбере какво вижда Норман и отговорите му да бъдат сравнени с тези на друг изкуствен интелект, трениран по традиционния начин. Резултатите били тревожни - докато тренираният по традиционния начин изкуствен интелект вижда двама души, застанали прави един до друг, Норман вижда в същото мастилено петно човек, който се хвърля от прозорец. Докато Норман различава мъж, застрелян пред крещяща жена, другият изкуствен интелект забелязва мъж, който държи в ръка чадър. 

Представени са 10 примера с мастилени петна, придружени от отговорите на двете системи, като този на Норман винаги е страховит. Сайтът предлага на потребители на интернет също да се подложат на тест с мастилени петна и да изпратят отговорите си, за "да помогнат на Норман да се поправи".