NVIDIA H200 SXM

В чём предмет сравнения

H200 SXM представляет интерес, когда требования к модели, памяти и параллельной нагрузке оправдывают платформу класса HGX. В официальной спецификации заявлены 141 GB HBM3e и пропускная способность памяти 4,8 TB/s. Эти показатели не являются скоростью конкретного LLM-сервиса.

SXM не является обычной картой PCIe

Модуль требует совместимой платформы. У H200 существует также версия NVL в форм-факторе PCIe; спецификации мощности и конфигурации нельзя переносить между ними. Здесь описана именно SXM: до 700 W на модуль, с конфигурируемым лимитом.

В спецификацию проекта включают количество GPU, архитектуру обмена, процессоры, память хоста, накопители, сеть, питание, охлаждение и эксплуатационный резерв. Покупка одного модуля без подтверждённой платформы не создаёт готовый сервер.

Когда рассмотреть другой путь

Если нагрузка ещё не измерена, GPU-пилот даёт данные для выбора. Если меньшая модель проходит прикладную проверку качества, более компактная конфигурация остаётся альтернативой. Поставка и доступность не подтверждены; требуется отдельная проверка ограничений для получателя и назначения.