Ройтерс: Изследователи на OpenAI са предупредили за „заплашващ човечеството“ пробив преди уволнението на Алтман

Преди продължилото четири дни „изгнание“ на главния изпълнителен директор на OpenAI Сам Алтмам, няколко изследователи са написали писмо до борда на директорите на компанията, предупреждавайки за голямо откритие в сферата на изкуствения интелект, което според тях може да застраши човечеството, твърдят запознати източници, цитирани от Ройтерс.

Писмото, за което досега не е съобщавано, и съответния напредък в алгоритъма за изкуствен интелект, са били ключово развитие преди отстраняването на Алтман от борда, казват двама източника.

Преди триумфалното му завръщане начело на OpeanAI късно във вторник, повече от 700 служители на компанията заплашиха да я напуснат и да се присъединят към Microsoft в знак на солидарност с уволнения Алтман.

Източниците посочват писмото като един от факторите, заедно с по-дългия списък с оплаквания от борда, довели до уволнението на Алтман. Според тях друга причина за уволнението са опасения относно комерсиализиране на технологични открития, преди да се установят потенциалните последствия от тях.

От Ройтерс посочват, че не са успели да прегледат копие на писмото, а неговите автори не са отговорили на исканията на агенцията за коментар.

След като от Ройтерс са се свързали с OpenAI, от компанията са отказали коментар, но са признали във вътрешна комуникация до служителите за съществуването на проект, наречен Q*, както и за изпращане на писмо до борда на директорите преди събитията от уикенда, твърди един от източниците.

Говорител на OpenAI каза, че съобщението, изпратено от дългогодишния главен технически директор Мира Мурати, предупреждава персонала за определени медийни истории, без да коментира тяхната точност.

Някои от OpenAI смятат, че Q* (който се чете Q-Star) може да бъде пробив в усилията на стартъпа в сферата на т.нар. общ изкуствен интелект (AGI), споделя пред Ройтерс един от източниците. OpenAI определя AGI като "автономни системи, които превъзхождат хората в повечето икономически ценни задачи".

Като се имат предвид огромните изчислителни ресурси, новият модел е успял да реши определени математически проблеми. Въпреки че математическите проблеми са само на ниво начални ученици, извършването на такива тестове прави изследователите много оптимистични за бъдещия успех на Q*, каза източникът.

От Ройтерс отбелязват, че не са могли да проверят независимо  възможностите на Q*, заявени от изследователите.

„Воал на невежество“

Изследователите смятат математиката за ключов хоризонт за генеративното развитие на ИИ. Понастоящем генеративният ИИ е добър в писането и езиковия превод чрез статистически прогнозиране на следващата дума, като отговорите на един и същи въпрос могат да варират значително. Но завладяването на способността да се правят математически изчисления, при които има само един правилен отговор, предполага, че ИИ ще има по-големи способности за разсъждение, наподобяващи човешкия интелект. Това може да се приложи например към нови научни изследвания, смятат изследователи в сферата.

За разлика от калкулатора, който може да решава ограничен брой операции, AGI може да обобщава, учи и разбира. По тази причина противниците на безпрепятственото развитие на AI бият тревога от потенциалната опасност в даден момент технологията да надхвърли в пъти човешките когнитивни способности, да стане автономна и да се превърне в господстваща над хората.

В писмото си до борда изследователите са отбелязали мощта и потенциалната опасност на ИИ, казват източниците, без да уточняват точните опасения за безопасността, отбелязани в писмото. Сред компютърните учени отдавна се водят дискусии относно опасността, която крият високоинтелигентните машини, като например ако решат, че унищожаването на човечеството е в техен интерес.

Алтман ръководи усилията да превърне ChatGPT в едно от най-бързо развиващите се софтуерни приложения в историята и привлече инвестиции, и компютърни ресурси, от Microsoft, за да се доближи до AGI.

В допълнение към обявяването на набор от нови инструменти в демонстрация този месец, Алтман миналата седмица говореше на среща на световни лидери в Сан Франциско, че смята, че се очертава голям пробив.

„Четири пъти в историята на OpenAI, като най-скорошният случай беше през последните няколко седмици, бях в стаята, когато някак си отметнахме воала на невежеството и преместихме напред хоризонта на откритието. Да имам роля в това е професионалната чест на живота ми“, каза той на срещата на върха на Азиатско-тихоокеанското икономическо сътрудничество.

Ден по-късно бордът на директорите на OpenAI уволни Алтман.