H100 и H200: как сравнивать память, исполнение и стоимость проекта

Сравнивать H100 и H200 надо с указанием исполнения. SXM, PCIe и NVL относятся к разным вариантам установки и системной конфигурации. Если в коммерческом предложении написано только «H100», данных для технического сравнения недостаточно.

Это документальный обзор характеристик производителей, проверенных 23 октября 2026 года. Собственных тестов скорости редакция не проводила. Материал не подтверждает наличие, цену или допустимость поставки конкретного оборудования.

Подтверждённые параметры

Ускоритель	Память на GPU	Пропускная способность памяти	Исполнение в таблице производителя
H100 SXM	80 GB	3,35 TB/s	SXM
H100 NVL	94 GB	3,9 TB/s	PCIe, два слота
H200 SXM	141 GB	4,8 TB/s	SXM
H200 NVL	141 GB	4,8 TB/s	PCIe, два слота

Данные H100 взяты с официальной страницы NVIDIA 1, H200 с отдельной страницы семейства 2. У H200 присутствует оговорка производителя о возможности изменения предварительных спецификаций. Для закупки сохраните актуальную спецификацию точного артикула и сервера.

Что меняет дополнительная память

Более ёмкая память может позволить разместить модель без разделения на несколько GPU, увеличить cache или обслуживать больше независимых последовательностей. Это возможные эффекты архитектуры, а не гарантированные результаты для любого сервиса.

Допустим, полный измеренный бюджет одной реплики модели превышает память выбранной H100, но помещается на H200. Тогда сравнивать надо две системные схемы: распределённую реплику и однокарточное размещение. Их стоимость включает разные корпуса, число устройств, обмен и эксплуатацию.

Если же рабочая модель с запасом помещается на обеих конфигурациях и нагрузка невелика, преимущество ёмкости может не использоваться. В такой ситуации доплата должна объясняться измерением задержки, роста нагрузки или другой конкретной потребностью.

Не переносите показатель памяти в токены в секунду

Пропускная способность памяти является характеристикой устройства. Итоговая скорость зависит от модели, precision, длины входа, размера ответа, batching и программного стека. Удвоение одного параметра не доказывает удвоение скорости приложения.

При сравнении отчётов проверяйте, одинаковы ли число GPU, ограничения задержки и режим нагрузки. Результат пакетного теста нельзя представлять как интерактивную скорость каждого пользователя. Разбор TTFT и throughput помогает отличить эти величины.

Проверьте сервер целиком

Для SXM нужен соответствующий системный дизайн. Для NVL важны совместимость платформы, охлаждение, питание и схема межсоединений. Нельзя считать разные исполнения взаимозаменяемыми только по названию поколения. Попросите полный BOM и подтверждение поддерживаемой конфигурации.

В договоре должны быть указаны точный артикул, новое или бывшее в использовании состояние, серийные номера, гарантийный маршрут и критерии приёмки. Страница производителя подтверждает спецификацию, но не цепочку поставки конкретного продавца. Правовой статус поставки оценивают отдельно до сделки.

Как принять решение

Подготовьте два сценария: текущую нагрузку и обоснованный рост. На одинаковой модели измерьте p95 первого токена, интервал генерации, ошибки, потребление памяти и энергию всей системы. Рассчитайте стоимость успешной задачи, включая резерв и сопровождение.

В подборе GPU-инфраструктуры полезно начинать с этой таблицы требований, а не с обещания купить более новое семейство. H200 имеет подтверждённое преимущество в ёмкости памяти в приведённом сравнении. Экономическая ценность этого преимущества определяется вашей нагрузкой и полным предложением поставщика.