Google се хвали, че неговият AI суперкомпютър е по-бърз и екологичен

Google на Alphabet публикува нови подробности за суперкомпютрите, които използва за обучение на моделите си с изкуствен интелект, заявявайки, че системите са едновременно по-бързи и по-енергийно ефективни от сравнимите системи от Nvidia Corp, предава Ройтерс. 

Google проектира свой собствен персонализиран чип, наречен Tensor Processing Unit или TPU. Той използва тези чипове за повече от 90% от работата на компанията по обучението за изкуствен интелект, процеса на подаване на данни чрез модели, за да ги направи полезни при задачи като отговаряне на заявки с човешки текст или генериране на изображения.

Google TPU вече е в своето четвърто поколение. Във вторник компанията публикува научна статия, в която се описва как е свързала повече от 4000 от чиповете в суперкомпютър, използвайки свои собствени оптични превключватели, разработени по поръчка, за да помогне за свързването на отделни машини.

Подобряването на тези връзки се превърна в ключова точка на конкуренцията между компаниите, които изграждат AI суперкомпютри, тъй като така наречените големи езикови модели, които захранват технологии като Bard на Google или ChatGPT на OpenAI, са се увеличили по размер, което означава, че са твърде големи, за да се съхраняват на един чип.

Вместо това моделите трябва да бъдат разделени на хиляди чипове, които след това трябва да работят заедно седмици или повече, за да обучат модела. Моделът PaLM на Google - най-големият публично разкрит езиков модел до момента - беше обучен чрез разделянето му на два от суперкомпютрите с 4000 чипа в продължение на 50 дни.

Google каза, че нейните суперкомпютри улесняват преконфигурирането на връзките между чиповете в движение, помагайки за избягване на проблеми и настройване за повишаване на производителността.

Въпреки че Google едва сега публикува подробности за своя суперкомпютър, той е онлайн в компанията от 2020 г. в център за данни в окръг Mayes, Оклахома. Google каза, че стартъпът Midjourney е използвал системата, за да обучи своя модел, който генерира свежи изображения, след като му бъдат дадени няколко думи текст.

В документа Google каза, че за системи със сравним размер неговите чипове са до 1,7 пъти по-бързи и 1,9 пъти по-енергийно ефективни от система, базирана на чипа A100 на Nvidia, който беше на пазара по същото време като четвъртото поколение TPU.

Говорител на Nvidia отказа коментар по темата.