NVIDIA H200: характеристики, цена аренды сервера
При пакетном инференсе NVIDIA H200 позволяет держать на GPU больше рабочих данных, чем H100: запросы можно обрабатывать вместе, пока веса и состояние вычислений помещаются в видеопамять. У H200 — 141 ГБ HBM3e с пропускной способностью 4.8 ТБ/с при той же архитектуре Hopper, что у H100. Это выбор прежде всего ради памяти: у H100 SXM её 80 ГБ, у H100 NVL — 94 ГБ.
- Видеопамять
- 141 ГБ, HBM3e
- Архитектура
- Hopper
- Пропускная способность памяти
- 4,8 ТБ/с
- FP32
- 67 TFLOPS (SXM), 60 TFLOPS (NVL)
Что такое NVIDIA H200
NVIDIA H200 Tensor Core GPU — дата-центровый ускоритель поколения Hopper для обучения нейросетей и инференса. Его место рядом с H100 определяет подсистема памяти: HBM3e объёмом 141 ГБ даёт больше пространства для весов, активаций и состояния задания. При дообучении это полезно, когда сохранение промежуточных результатов вынуждает выгружать часть состояния в системную RAM.
H200 выпускается в исполнениях SXM и NVL с подключением через PCIe у NVL. Для отдельного задания на одной карте NVL позволяет получить весь объём памяти H200; для распределённого обучения на узле SXM к ёмкости добавляется вопрос соединений между ускорителями. В предложении хостера нужно различать название GPU и фактическую комплектацию сервера.
Характеристики NVIDIA H200
У H200 ёмкость памяти не меняется при выборе между SXM и NVL. Разница в заявленном TDP — до 700 Вт против до 600 Вт — относится к разным исполнениям, а не к вариантам объёма VRAM. Если задание помещается на отдельной NVL, узел SXM стоит рассматривать ради распределённого выполнения, а не ради дополнительной памяти на карте.
| Параметр | NVIDIA H200 |
|---|---|
| Архитектура | Hopper |
| Видеопамять | 141 ГБ HBM3e |
| Пропускная способность памяти | 4.8 ТБ/с |
| Исполнение | SXM, NVL (PCIe) |
| TDP | До 700 Вт SXM / до 600 Вт NVL |
| FP8 | 3958 TFLOPS SXM со sparsity |
| NVLink | 900 GB/s |
HBM3e и NVLink обслуживают разные потоки данных. При генерации ответа на отдельном GPU чтение весов идёт из HBM3e, а при распределённом выполнении обмен между ускорителями использует межкарточные соединения. Для такого задания у хостера нужна схема связей: строка NVLink в характеристиках модели не описывает соединение всех карт конкретного сервера.
- Производитель
- NVIDIA
- Архитектура
- Hopper
- Видеопамять
- 141 ГБ
- Тип памяти
- HBM3e
- Шина памяти
- нет данных
- Пропускная способность памяти
- 4,8 ТБ/с
- FP32
- 67 TFLOPS (SXM), 60 TFLOPS (NVL)
- FP16 / BF16 (Tensor)
- 1 979 TFLOPS (SXM), 1 671 TFLOPS (NVL), с разреженностью
- TF32 (Tensor)
- 989 TFLOPS (SXM), 835 TFLOPS (NVL), с разреженностью
- Tensor-производительность
- нет данных
- TDP
- до 700 Вт (SXM), до 600 Вт (NVL), настраивается
- Интерфейс
- PCIe Gen5, 128 ГБ/с; NVLink 900 ГБ/с (у NVL через мост на 2 или 4 карты)
- Форм-фактор
- SXM; PCIe NVL (2 слота, воздушное охлаждение)
- Год выхода
- нет данных
Характеристики из спецификаций производителя: nvidia.com/en-us/data-center/h200. Проверено 19.11.2026. Чего производитель не публикует, в таблице не заполнено. Значения Tensor Core на странице nvidia.com даны с разреженностью. Страница помечает спецификации как предварительные и возможные к изменению.
Сколько стоит аренда сервера с NVIDIA H200
Для сервиса, которому хватает отдельной H200 NVL, стоимость целого узла SXM даст неверный ориентир бюджета. Для распределённого дообучения обратная ошибка — сравнивать цену сервера с отдельной картой со стоимостью связанного узла. В составе предложения важны исполнение, число выделенных ускорителей и доступные соединения между ними.
Перед заказом уточните состав оплачиваемого сервера и итоговую сумму у хостера. Каталог учитывает НДС и установку, если хостер их указывает; пропущенный параметр обозначается как «не указана». Для бюджета проекта это повод получить условия до оплаты, особенно если подходящая H200 доступна лишь в более крупной конфигурации.
Для каких задач подходит
Пакетный инференс использует H200 сразу по двум направлениям: размещает больше рабочего состояния и читает веса из памяти с пропускной способностью 4.8 ТБ/с. Когда генерацию токенов ограничивает именно чтение весов, этот параметр полезнее для выбора, чем пиковый FP8. У H200 SXM и H100 SXM показатель FP8 одинаков — 3958 TFLOPS со sparsity; преимущество H200 в таком сценарии нужно искать в работе памяти.
Дообучение нагружает память иначе: кроме весов, GPU хранит активации, градиенты и состояние оптимизатора. Если рабочий пакет вызывает выгрузку в RAM на H100, запас до 141 ГБ у H200 помогает удержать вычисления на ускорителе. Для выбора сервера для ИИ и нейросетей полезен замер пикового расхода VRAM именно на вашем рецепте дообучения.
Переплата за H200 не окупается одним названием карты. Если на H100 помещается нужный пакет, а вычисления ограничивают скорость сильнее чтения памяти, дополнительная ёмкость HBM3e останется резервом. Для рендера преимущество H200 тоже нужно подтвердить рабочей сценой: параметры памяти не показывают время её просчёта.
С чем сравнить
NVIDIA H100 — ближайший вариант для проверки необходимости H200: архитектура та же, но памяти меньше. Если рабочее задание укладывается в H100 без выгрузки состояния, сравнение времени выполнения покажет, нужна ли более ёмкая HBM3e. Когда 141 ГБ на ускоритель уже тесно, следующий ориентир — NVIDIA B300 с 288 ГБ.
| Модель | Архитектура | Память на GPU | TDP |
|---|---|---|---|
| H100 | Hopper | 80 ГБ SXM / 94 ГБ NVL, HBM3 | До 700 Вт SXM / 350–400 Вт NVL |
| H200 | Hopper | 141 ГБ HBM3e | До 700 Вт SXM / до 600 Вт NVL |
| B300 | Blackwell Ultra | 288 ГБ HBM3e | До 1400 Вт на GPU |
Для обучения с интенсивным обменом различается и NVLink: у H200 указан показатель 900 GB/s, у B300 — 1.8 TB/s на GPU. B300 представлен платформой HGX с восемью ускорителями, поэтому переход к нему меняет масштаб арендуемого узла. Сначала стоит определить, ограничивает задание ёмкость отдельной карты или обмен между картами.
Частые вопросы
Сколько стоит NVIDIA H200?
Каталог сравнивает аренду серверов с H200, а не покупку ускорителя. Для покупки нужна отдельная цена конкретного исполнения и комплектации поставки.
Что такое NVIDIA H200?
Это вычислительный ускоритель NVIDIA семейства Hopper для дата-центров. Его берут для нейросетевых нагрузок, которым нужна вместительная и быстрая память HBM3e.
Сколько видеопамяти у NVIDIA H200?
У H200 — 141 ГБ HBM3e на ускоритель. Объём одинаков у SXM и NVL, поэтому выбирать исполнение ради большей VRAM не нужно.
Для чего нужен NVIDIA H200?
H200 подходит для обслуживания крупных моделей и дообучения с большим рабочим состоянием. Практический критерий выбора — помещается ли задание в память и сколько времени оно тратит на чтение весов.
Сколько стоит аренда сервера с NVIDIA H200?
Для расчёта бюджета нужна карточка подходящей комплектации: число ускорителей и исполнение определяют, какое задание сервер сможет принять.
Чем NVIDIA H200 отличается от H100?
Главное отличие — 141 ГБ HBM3e вместо 80 ГБ у H100 SXM или 94 ГБ у H100 NVL. Архитектура остаётся Hopper, поэтому переход стоит оценивать прежде всего по ограничениям памяти вашей нагрузки.
Можно ли арендовать NVIDIA H200 на час?
Почасовой доступ нужно согласовать с выбранным хостером. Короткий тест полезен, если показывает, исчезла ли выгрузка состояния в RAM при рабочем размере пакета и сколько времени занимает задание после этого.