Microsoft представила ИИ-ускоритель Maia 300 для снижения зависимости от GPU Nvidia
Чип третьего поколения должен стать основной системой для ИИ-инференса в сервисах Microsoft. Развёртывание в рабочих нагрузках запланировано на 2027 год.
Microsoft анонсировала собственный ИИ-ускоритель Maia 300 — третье поколение семейства Maia. Компания рассчитывает сделать его основной системой для инференса в своих продуктах и сервисах, постепенно сократив зависимость от ускорителей Nvidia и AMD, пишет The Verge.
Поставки Maia 300 для рабочих нагрузок должны начаться в 2027 году. По словам исполнительного вице-президента Microsoft по облачным технологиям Скотта Гатри, новый ускоритель обеспечит на 40% больше токенов на мегаватт, чем ведущие системы на базе GPU. В конфигурации из 96 ускорителей производительность на уровне стойки может быть до семи раз выше, чем у Maia 200.
Microsoft намерена с 2027 года развернуть семейство Azure Maia в инфраструктуре суммарной мощностью в несколько гигаватт. Maia 300 рассчитан в том числе на модели рассуждений с длинным контекстом, диалоговые сервисы с высокими требованиями к задержке и многошаговые агентные задачи.
Для Maia 300 Microsoft использовала чиплетную архитектуру: вычислительные блоки, контроллер памяти и интерфейсы ввода-вывода вынесены в отдельные части. Чип выпускается по техпроцессу TSMC N2P. Как объясняет команда Azure Hardware and Infrastructure, такое разделение позволяет выделить больше площади кремния под вычисления и подбирать технологию отдельно для каждой функции.
Предыдущая модель, Maia 200, была представлена в январе и уже применяется в рабочих ИИ-нагрузках Microsoft, включая Microsoft Copilot, GitHub Copilot, Microsoft Foundry и собственные модели компании. Глава Microsoft AI Мустафа Сулейман назвал запуск моделей Microsoft на Maia одним из ключевых направлений работы команды.