MULTI-GPU / СТОЕЧНЫЕ УЗЛЫ

GPU-серверы на 4–8 ускорителей

Платформы Lenovo и Supermicro для проектов, где важны несколько ускорителей, обмен данными и проверенная компоновка.

Когда одного GPU недостаточно

Многопроцессорная конфигурация нужна, если модель или пакет запросов не размещается экономично на одном ускорителе, требуется обучение с несколькими GPU или нужно распределить независимые AI-нагрузки. Но «8 GPU» — это не стандартный комплект: конкретное количество, тип и схема связности определяются платформой.

Lenovo ThinkSystem SR675 V3 встречается в исполнениях PCIe и HGX, которые нельзя механически смешивать. Supermicro SYS-422GA-NRT — 4U платформа, где возможности установки нескольких double-width GPU зависят от выбранной конфигурации. Уточняйте состав BOM для каждого сервера и фактические ограничения.

Конфигурация, которую стоит запросить

Назначение: инференс, дообучение, полное обучение, раздельные сервисы.
Число ускорителей, VRAM каждого и требуемая меж-GPU связность.
Количество CPU, каналов памяти и объём RAM.
Локальные NVMe, сеть узла и сеть между узлами.
Тепловой режим, допустимая мощность и схема сервиса.
ОС, драйверы, библиотека CUDA или ROCm, версии используемого ML-стека.

Для обучающих задач запросите тест пропускной способности между GPU и узлами. Для inference проверьте токены в секунду, p95 задержки и пропускную способность при целевой параллельности. Принимать решение только по числу GPU рискованно.

Как не переплатить

Рассмотрите две альтернативы: масштабирование одного узла и два независимых узла меньшего размера. Сравните не только цену железа, но и размещение в стойке, сеть, энергопотребление, отказоустойчивость, лицензии и стоимость поддержки. Если нагрузка сезонная, сопоставьте с арендой GPU.

Кернода помогает составить сравнимый запрос поставщикам. Наличие и срок законной поставки подтверждаются отдельно.