AMD представи настолен суперкомпютър, способен да работи с AI модели с над трилион параметри

Суперкомпютърът, наречен Threadripper Halo Station, беше представен от старшия вицепрезидент на AMD Джак Хюн на германското технологично изложение Internationale Funkausstellung (IFA).

Threadripper Halo е ултрависокопроизводителна работна станция, оборудвана с до 2 терабайта системна памет и до 576 гигабайта високоскоростна памет HBM3E. Тя разполага с 96 ядра Threadripper Pro и два ускорителя за центрове за данни MI350P, като всички компоненти се охлаждат с течност, съобщава Euronews.

Хюн заяви, че новият суперкомпютър е „най-мощната работна станция в света“ и може да работи с модели на изкуствения интелект, съдържащи повече от един трилион параметъра.

Представителят на AMD направи кратка демонстрация на възможностите му по време на събитието, като само с една текстова команда генерира цял 3D свят и симулатор на полет.

Идеята на компанията е да предостави производителност и капацитет за работа с изкуствен интелект на ниво център за данни в настолен компютър, на фона на бързо растящото глобално търсене на AI технологии.

Суперкомпютърът се очаква да бъде пуснат в началото на следващата година, но AMD все още не е разкрила цената му. Очаква се тя да надхвърли 100 000 евро, което означава, че устройството е насочено по-скоро към корпоративни и институционални бюджети, отколкото към обикновени потребители, въпреки първоначалното представяне като „персонален“ компютър.

Въпреки това системата ще даде възможност на потребителите сами да внедряват големи езикови модели и агентни AI системи, вместо да разчитат на все по-скъпи облачни изчислителни услуги.

Пряк конкурент на Threadripper Halo Station е Nvidia DGX Station. И двете системи могат да изпълняват големи AI модели в настолен формат, но използват различен подход към решаването на тази задача.

AMD превъзхожда по капацитет и пропускателна способност на паметта, като предлага повече от три пъти по-голям обем памет от системата на Nvidia. Това позволява локално изпълнение на AI модели с трилиони параметри.

Предимството на Nvidia е по-безпроблемната интеграция при прехвърляне на код от локална работна станция към облака. Освен това нейният продукт вече е на пазара и се продава за около 100 000 евро. Според анализатори от индустрията обявяването на AMD може да се превърне в катализатор за промяна на конкурентната среда на пазара за локални AI изчисления.

С нарастването на разходите за облачни AI абонаменти за много институции и компании търсенето на компютри като Threadripper Halo Station, които могат да изпълняват големи модели в собствената инфраструктура на организацията, вероятно ще продължи да се увеличава.

Затова подходът на AMD — да предостави производителност от клас „център за данни“ чрез стандартизирани компоненти и така да намали бариерата за достъп — може да се окаже важен повратен момент за развитието на секторите на изкуствения интелект и персоналните изчислителни технологии.