Система NVIDIA GB200 NVL72 теперь интегрирует топологически-осознанное планирование Slurm для обработки AI-нагрузок с производительностью на уровне экзафлопса. Этот шаг направлен на удовлетворение растущей потребности в эффективном распределении ресурсов в крупных кластерах обучения ИИ.
Почему топология важна для ИИ
Планировщик Slurm учитывает физическое расположение вычислительных узлов и сетевых соединений. Для плотной GPU-системы, такой как GB200 NVL72, это означает, что задачи размещаются таким образом, чтобы минимизировать задержки связи между GPU. Топологически-осознанное планирование уменьшает узкие места при обучении моделей, распределённых по сотням или тысячам ускорителей. Такой подход помогает избежать ситуаций, когда GPU задачи разбросаны по разным коммутаторам или удалённым узлам, что может замедлять передачу данных.
Достижение экзафлопсной пропускной способности
Объединив планирование Slurm с архитектурой GB200 NVL72, NVIDIA заявляет, что система способна достичь производительности на уровне экзафлопса — 10^18 операций с плавающей запятой в секунду. Такой масштаб обычно характерен для крупнейших суперкомпьютеров. Для ИИ это означает более быстрые циклы обучения моделей, требующих огромных вычислительных мощностей. Такое сочетание также повышает энергоэффективность, позволяя выполнять больше работы на меньшем количестве узлов и сокращая время простоя.
NVIDIA не объявила конкретные сроки развёртывания GB200 NVL72 с интеграцией Slurm. Ожидается, что компания продемонстрирует эту конфигурацию на предстоящих конференциях по HPC, хотя точные даты пока не подтверждены. Исследователи и облачные провайдеры, работающие с крупномасштабными AI-задачами, будут следить за бенчмарками, которые покажут реальные преимущества по сравнению с существующими методами планирования.
