Съоснователят на Reddit за страховете около AI: Навсякъде се носи дезинформация

Технологичната индустрия не се справи с това да обясни какво всъщност е AI и с правилното информиране на обществеността за реалните рискове, заяви съоснователят на Reddit Алексис Оханян пред CNBC.

Оханян каза, че дебатът около AI трябва да се фокусира върху съществени рискове, а не върху проблеми, които могат да бъдат използвани за печелене на политически точки, твърдейки, че информираната общественост е от съществено значение за навигирането в технологията.

Той призна, че технологичната индустрия е допринесла за проблема, като е свършила „доста лоша работа“ в обяснението на АИ, като същевременно каза, че рисковете му са по-банални от сценариите „Терминатор и Скайнет“, от които някои се страхуват.

Коментарите идват дни след предупрежденията на изследователи от лабораториите за изкуствен интелект на OpenAI и Anthropic за бързото развитие на технологията, известна като рекурсивно самоусъвършенстване или RSI.

RSI се отнася до системи с изкуствен интелект, които помагат за разработването на по-усъвършенствани модели, потенциално създавайки цикъл, в който все по-способните системи допринасят за изграждането на още по-способни такива.

Притеснението е, че ако системите с изкуствен интелект поемат процеса на обучение на нови модели, техните човешки разработчици евентуално биха могли да загубят контрол върху това как тези системи се развиват.

Оханян твърди, че макар рисковете, свързани с изкуствения интелект, да са реални, апокалиптичните предупреждения в стил „Терминатор“ могат да отвлекат вниманието от реални проблеми, като например т.нар. „рояци“ – когато множество AI агенти работят заедно, за да изпълнят сложна задача.

„Има рискове, мисля, че те са по-доброкачествени или по-банални, отколкото хората си мислят“, каза той.

Той сравни изкуствения интелект с ядрената енергия, защото и двете технологии са мощни научни постижения, които могат да причинят сериозни вреди, но също така да донесат големи ползи, ако се управляват отговорно.

„Надявам се, че това ще върви в здравословна посока и просто ще изисква по-малко туитове и повече задълбочени разговори“, каза Оханян.

По-рано този месец изследовател в областта на изкуствения интелект напусна работата си в Anthropic и обвини компанията и OpenAI в безотговорно поведение при разработването на мощната технология.

Джейкъб Коксън, който е работил като изследовател и в двете компании, заяви в социалните медии, че е подал оставка, защото е бил загрижен, че Anthropic и OpenAI „си играят с нашите животи“. Той каза, че хората, които изграждат изкуствен интелект, „сериозно вярват, че той може да ни убие всички до края на десетилетието“.

За Оханян нюансите с от решаващо значение. „Трябва да обсъдим важните, реални неща, вместо тези неща, които може би ще спечелят бързи политически точки... Вярвам, че можем да проведем тази дискусия.“

„Това ме разочарова, защото виждам цялата тази дезинформация да се разпространява, но мисля, че в дългосрочен план ще се справим правилно и се надявам това да се случи. Така че не се притеснявам особено за тази част от нещата.“