Microsoft представи собствени чипове за приложения с изкуствен интелект

Американският технологичен гигант Microsoft представи два чипа на своята конференция Ignite в Сиатъл, предаде Си Ен Би Си.

Първият е чипът за приложения за изкуствен интелект Maia 100, който може да се конкурира с много търсените ИИ графични процесори на Nvidia. Вторият  - Cobalt 100 Arm, е насочен към общи изчислителни задачи и може да се конкурира с процесорите на Intel.

Богатите технологични компании започнаха да предоставят на своите клиенти повече възможности за облачна инфраструктура, която могат да използват за стартиране на приложения. Alibaba, Amazon и Google правят това от години. Microsoft, с около 144 милиарда долара в брой в края на октомври, имаше 21,5% дял на пазара за облачни услуги през 2022 г., изоставайки само Amazon, според една оценка.

Google обяви своя оригинален тензорен процесор за ИИ през 2016 г. Amazon Web Services разкри своя базиран на Graviton Arm чип и процесор Inferentia AI през 2018 г. и обяви Trainium за модели за обучение през 2020 г.

Специални ИИ чипове от облачни доставчици може да са в състояние да отговорят на търсенето, когато има недостиг на графични процесори (GPUs). Но Microsoft и неговите партньори в облачните изчисления не планират да позволят на компаниите да купуват сървъри, съдържащи техните чипове, за разлика от Nvidia или AMD.

Компанията изгради своя чип за изчисления с изкуствен интелект въз основа на отзивите на клиентите, обясни Рани Боркар, корпоративен вицепрезидент по хардуерни системи и инфраструктура за Microsoft Azure.

Microsoft тества как Maia 100 отговаря на нуждите на ИИ чатбота на своята търсачка Bing (сега наричан Copilot вместо Bing Chat), асистента за кодиране GitHub Copilot и GPT-3.5-Turbo, голям езиков модел от OpenAI, поддържан от Microsoft, каза Боркар. OpenAI захранва своите езикови модели с големи количества информация от интернет и те могат да генерират имейл съобщения, да обобщават документи и да отговарят на въпроси с няколко думи на база на човешки запитвания

Моделът GPT-3.5-Turbo работи в асистента ChatGPT на OpenAI, който набра голяма популярност след дебюта си на пазара миналата година. Тогава компаниите започнаха бързо да добавят подобни възможности за чат към своя софтуер, увеличавайки търсенето на графични процесори.

„Ние работим по всички направления и [с] всички наши различни доставчици, за да помогнем за подобряване на нашата позиция на предлагане и да подкрепим много от нашите клиенти и търсенето, което те са поставили пред нас“,  коментира финансовият иректор на Nvidia  Колет Крес конференцията на Evercore в Ню Йорк през септември.

OpenAI вече е обучавал езикови модели с помощта на графични процесори на Nvidia в Azure.

Microsoft може да види по-бързо приемане на процесорите Cobalt от чиповете Maia AI, ако опитът на Amazon е добър пример. Microsoft тества своето приложение Teams и услугата Azure SQL Database на Cobalt. Досега те се представят с 40% по-добре, отколкото на съществуващите чипове на Azure, базирани на Arm, които идват от стартъпа Ampere, каза Microsoft.

През последната година и половина, тъй като цените и лихвените проценти се повишиха, много компании потърсиха методи да направят своите облачни разходи по-ефективни, а за клиентите на AWS -  Graviton беше един от тях. Всички топ 100 клиенти на AWS вече използват базираните на Arm чипове, които могат да предоставят до 40% подобрение на цената и производителността, каза вицепрезидентът Дейв Браун.

Боркар каза, че не разполага с подробности за представянето на Maia в сравнение с алтернативи като H100 на Nvidia. В понеделник Nvidia каза, че H200 ще започне да се доставя през второто тримесечие на 2024 г.