Что означает рост на 40%
Эффективность в проектировании чипов обычно означает производительность на ватт. Для ИИ-нагрузок, которые включают интенсивные вычисления и перемещение данных, энергопотребление является доминирующей статьей расходов. Улучшение на 40% является значительным. Это может означать разницу между запуском модели на заданном количестве серверов или необходимостью в большем количестве. Это также может снизить счета за электроэнергию для дата-центра.
Это число особенно актуально по мере роста размеров ИИ-моделей. Обучение большой языковой модели может потреблять мегаватт-часы электроэнергии. Инференс, процесс использования обученной модели, также требует значительных вычислительных мощностей. Любое повышение эффективности напрямую влияет на экономику ИИ.
Продвижение Microsoft в области собственных чипов
Microsoft уже много лет разрабатывает собственные ИИ-чипы. Облачная платформа Azure использует смесь чипов от различных поставщиков, но собственные чипы позволяют Microsoft оптимизировать свои конкретные рабочие нагрузки. Это также снижает зависимость от одного поставщика.
Заявление Наделлы не уточняет, к какому чипу относится показатель 40%, а также не описывает метод тестирования. Возможно, прирост варьируется в зависимости от рабочей нагрузки. Но это заявление дает представление о прогрессе, которого добивается Microsoft.
Более широкое влияние
Собственные чипы стали ключевым направлением для крупных облачных провайдеров. Возможность адаптировать чипы под ИИ-нагрузки может дать преимущества в производительности и эффективности по сравнению с готовыми решениями. 40% Microsoft
