NVIDIA H200: характеристики и аренда сервера
  1. Главная
  2. Видеокарты
  3. NVIDIA H200

NVIDIA H200: характеристики, цена аренды сервера

Серверов с этой картой в каталоге сейчас нет

При пакетном инференсе NVIDIA H200 позволяет держать на GPU больше рабочих данных, чем H100: запросы можно обрабатывать вместе, пока веса и состояние вычислений помещаются в видеопамять. У H200 — 141 ГБ HBM3e с пропускной способностью 4.8 ТБ/с при той же архитектуре Hopper, что у H100. Это выбор прежде всего ради памяти: у H100 SXM её 80 ГБ, у H100 NVL — 94 ГБ.

Видеопамять
141 ГБ, HBM3e
Архитектура
Hopper
Пропускная способность памяти
4,8 ТБ/с
FP32
67 TFLOPS (SXM), 60 TFLOPS (NVL)

Все серверы с GPU

Что такое NVIDIA H200

NVIDIA H200 Tensor Core GPU — дата-центровый ускоритель поколения Hopper для обучения нейросетей и инференса. Его место рядом с H100 определяет подсистема памяти: HBM3e объёмом 141 ГБ даёт больше пространства для весов, активаций и состояния задания. При дообучении это полезно, когда сохранение промежуточных результатов вынуждает выгружать часть состояния в системную RAM.

H200 выпускается в исполнениях SXM и NVL с подключением через PCIe у NVL. Для отдельного задания на одной карте NVL позволяет получить весь объём памяти H200; для распределённого обучения на узле SXM к ёмкости добавляется вопрос соединений между ускорителями. В предложении хостера нужно различать название GPU и фактическую комплектацию сервера.

Характеристики NVIDIA H200

У H200 ёмкость памяти не меняется при выборе между SXM и NVL. Разница в заявленном TDP — до 700 Вт против до 600 Вт — относится к разным исполнениям, а не к вариантам объёма VRAM. Если задание помещается на отдельной NVL, узел SXM стоит рассматривать ради распределённого выполнения, а не ради дополнительной памяти на карте.

ПараметрNVIDIA H200
АрхитектураHopper
Видеопамять141 ГБ HBM3e
Пропускная способность памяти4.8 ТБ/с
ИсполнениеSXM, NVL (PCIe)
TDPДо 700 Вт SXM / до 600 Вт NVL
FP83958 TFLOPS SXM со sparsity
NVLink900 GB/s

HBM3e и NVLink обслуживают разные потоки данных. При генерации ответа на отдельном GPU чтение весов идёт из HBM3e, а при распределённом выполнении обмен между ускорителями использует межкарточные соединения. Для такого задания у хостера нужна схема связей: строка NVLink в характеристиках модели не описывает соединение всех карт конкретного сервера.

Производитель
NVIDIA
Архитектура
Hopper
Видеопамять
141 ГБ
Тип памяти
HBM3e
Шина памяти
нет данных
Пропускная способность памяти
4,8 ТБ/с
FP32
67 TFLOPS (SXM), 60 TFLOPS (NVL)
FP16 / BF16 (Tensor)
1 979 TFLOPS (SXM), 1 671 TFLOPS (NVL), с разреженностью
TF32 (Tensor)
989 TFLOPS (SXM), 835 TFLOPS (NVL), с разреженностью
Tensor-производительность
нет данных
TDP
до 700 Вт (SXM), до 600 Вт (NVL), настраивается
Интерфейс
PCIe Gen5, 128 ГБ/с; NVLink 900 ГБ/с (у NVL через мост на 2 или 4 карты)
Форм-фактор
SXM; PCIe NVL (2 слота, воздушное охлаждение)
Год выхода
нет данных

Характеристики из спецификаций производителя: nvidia.com/en-us/data-center/h200. Проверено 19.11.2026. Чего производитель не публикует, в таблице не заполнено. Значения Tensor Core на странице nvidia.com даны с разреженностью. Страница помечает спецификации как предварительные и возможные к изменению.

Сколько стоит аренда сервера с NVIDIA H200

Для сервиса, которому хватает отдельной H200 NVL, стоимость целого узла SXM даст неверный ориентир бюджета. Для распределённого дообучения обратная ошибка — сравнивать цену сервера с отдельной картой со стоимостью связанного узла. В составе предложения важны исполнение, число выделенных ускорителей и доступные соединения между ними.

Перед заказом уточните состав оплачиваемого сервера и итоговую сумму у хостера. Каталог учитывает НДС и установку, если хостер их указывает; пропущенный параметр обозначается как «не указана». Для бюджета проекта это повод получить условия до оплаты, особенно если подходящая H200 доступна лишь в более крупной конфигурации.

Для каких задач подходит

Пакетный инференс использует H200 сразу по двум направлениям: размещает больше рабочего состояния и читает веса из памяти с пропускной способностью 4.8 ТБ/с. Когда генерацию токенов ограничивает именно чтение весов, этот параметр полезнее для выбора, чем пиковый FP8. У H200 SXM и H100 SXM показатель FP8 одинаков — 3958 TFLOPS со sparsity; преимущество H200 в таком сценарии нужно искать в работе памяти.

Дообучение нагружает память иначе: кроме весов, GPU хранит активации, градиенты и состояние оптимизатора. Если рабочий пакет вызывает выгрузку в RAM на H100, запас до 141 ГБ у H200 помогает удержать вычисления на ускорителе. Для выбора сервера для ИИ и нейросетей полезен замер пикового расхода VRAM именно на вашем рецепте дообучения.

Переплата за H200 не окупается одним названием карты. Если на H100 помещается нужный пакет, а вычисления ограничивают скорость сильнее чтения памяти, дополнительная ёмкость HBM3e останется резервом. Для рендера преимущество H200 тоже нужно подтвердить рабочей сценой: параметры памяти не показывают время её просчёта.

С чем сравнить

NVIDIA H100 — ближайший вариант для проверки необходимости H200: архитектура та же, но памяти меньше. Если рабочее задание укладывается в H100 без выгрузки состояния, сравнение времени выполнения покажет, нужна ли более ёмкая HBM3e. Когда 141 ГБ на ускоритель уже тесно, следующий ориентир — NVIDIA B300 с 288 ГБ.

МодельАрхитектураПамять на GPUTDP
H100Hopper80 ГБ SXM / 94 ГБ NVL, HBM3До 700 Вт SXM / 350–400 Вт NVL
H200Hopper141 ГБ HBM3eДо 700 Вт SXM / до 600 Вт NVL
B300Blackwell Ultra288 ГБ HBM3eДо 1400 Вт на GPU

Для обучения с интенсивным обменом различается и NVLink: у H200 указан показатель 900 GB/s, у B300 — 1.8 TB/s на GPU. B300 представлен платформой HGX с восемью ускорителями, поэтому переход к нему меняет масштаб арендуемого узла. Сначала стоит определить, ограничивает задание ёмкость отдельной карты или обмен между картами.

Частые вопросы

Сколько стоит NVIDIA H200?

Каталог сравнивает аренду серверов с H200, а не покупку ускорителя. Для покупки нужна отдельная цена конкретного исполнения и комплектации поставки.

Что такое NVIDIA H200?

Это вычислительный ускоритель NVIDIA семейства Hopper для дата-центров. Его берут для нейросетевых нагрузок, которым нужна вместительная и быстрая память HBM3e.

Сколько видеопамяти у NVIDIA H200?

У H200 — 141 ГБ HBM3e на ускоритель. Объём одинаков у SXM и NVL, поэтому выбирать исполнение ради большей VRAM не нужно.

Для чего нужен NVIDIA H200?

H200 подходит для обслуживания крупных моделей и дообучения с большим рабочим состоянием. Практический критерий выбора — помещается ли задание в память и сколько времени оно тратит на чтение весов.

Сколько стоит аренда сервера с NVIDIA H200?

Для расчёта бюджета нужна карточка подходящей комплектации: число ускорителей и исполнение определяют, какое задание сервер сможет принять.

Чем NVIDIA H200 отличается от H100?

Главное отличие — 141 ГБ HBM3e вместо 80 ГБ у H100 SXM или 94 ГБ у H100 NVL. Архитектура остаётся Hopper, поэтому переход стоит оценивать прежде всего по ограничениям памяти вашей нагрузки.

Можно ли арендовать NVIDIA H200 на час?

Почасовой доступ нужно согласовать с выбранным хостером. Короткий тест полезен, если показывает, исчезла ли выгрузка состояния в RAM при рабочем размере пакета и сколько времени занимает задание после этого.

Выбрано 0 из 4

Сравнение серверов