Аренда сервера с NVIDIA A100: цены, наличие, конфигурации
Если ускоритель выдают MIG-экземпляром, процессу достаётся только часть видеопамяти карты: небольшому сервису этого хватает, а дообучение требует проверки доступной памяти.
Объём видеопамяти зависит от версии A100, а число карт — от сервера: оба параметра и наличие указаны у каждой конфигурации. Перед заказом уточните, выдаётся ли ускоритель целиком: название A100 в предложении не раскрывает размер выделенного ресурса.
Что за видеокарта NVIDIA A100
NVIDIA A100 — вычислительный ускоритель поколения Ampere со зрелым программным стеком. Для обучения модели сегментации это полезно: распространённые фреймворки и библиотеки поддерживают эту архитектуру. Однако готовый контейнер с расширениями CUDA под другую архитектуру может потребовать совместимых версий этих расширений — одной установки драйвера недостаточно.
MIG делит ускоритель на изолированные экземпляры с выделенными ресурсами вычислений и памяти. Так несколько небольших моделей обслуживают разные приложения, не занимая каждая целую карту. Обратная сторона проявляется при росте модели: свободная память соседнего экземпляра недоступна вашему процессу, даже если сосед сейчас простаивает.
A100 выпускается с разным объёмом видеопамяти и в исполнениях PCIe и SXM. При замене сервера под уже работающий проект ориентиром служит объём видеопамяти в предложении, а не только название ускорителя. Тип памяти и особенности исполнения удобно сверить в характеристиках NVIDIA A100; для сервера с несколькими картами дополнительно нужна схема их соединения.
Аппаратной поддержки FP8 у A100 нет. Если готовый движок рассчитан на такие вычисления, аренда этой карты потребует другого режима или другой сборки. Для FP16 и BF16 аппаратная поддержка есть, но выбранный режим должен поддерживать и код приложения: смена названия формата в настройке не исправит несовместимое вычислительное ядро.
Для каких задач подходит NVIDIA A100
A100 подходит для инференса нескольких небольших нейросетей, когда сервисам нужны раздельные ресурсы на общей карте. Например, распознавание документов и классификатор обращений можно разместить в отдельных MIG-экземплярах. Для такой схемы у хостера нужна информация о доступных профилях MIG и праве менять разбиение: готовый экземпляр и доступ ко всему ускорителю дают разную свободу настройки.
Дообучение на одной A100 удобно тем, что не требует обмена между картами. Проверочный запуск должен включать шаг оптимизатора и сохранение результата: успешная загрузка весов ещё не показывает расход памяти во время обучения. Если задание помещается только после уменьшения рабочего пакета, сравнивать варианты аренды нужно по времени завершения всей работы.
Для распределённого обучения на нескольких A100 решает исполнение: SXM-карты в платформах HGX связаны NVLink между собой, PCIe-карты — в лучшем случае мостом попарно. Схему соединений запрашивают у хостера до оплаты.
Для пакетного инференса LLM при разметке текстов полезен рабочий профиль: используемый формат весов, контексты и параллельные обращения. В разделе серверов для нейросетей можно продолжить подбор под задачу, если привязки именно к A100 нет. Движок, которому нужен FP8, требует отдельного решения до заказа машины.
Для рендера и видео A100 выбирают только после пробного прогона своей сцены или ролика: это вычислительный ускоритель, и не каждое приложение задействует его на всех этапах обработки.
Как арендовать сервер с NVIDIA A100
Состав заказа лучше зафиксировать до оплаты: целая A100 или MIG-экземпляр, исполнение карты, доступная видеопамять и число ускорителей. При подборе ресурсов для рекомендательной модели размер таблиц эмбеддингов делает разницу между полной картой и выделенной долей особенно важной.
Когда A100 разбита на MIG-экземпляры, процессор, память и диск сервера делят все сервисы на карте: каждому нужны свои ядра на подготовку запросов и место под веса модели. Число ядер и объём RAM в карточке сравнивают с числом экземпляров, которые планируется запустить.
Для короткой проверки старого образа под Ampere месячная аренда создаёт лишний простой: такой запуск удобнее делать на почасовом заказе, варианты собраны в разделе почасовой аренды GPU. Часовая цена показана в таблице, только если хостер её указал.
Перед заказом у хостера уточняют, можно ли поставить свою версию драйвера и получить административный доступ. После выбора конфигурации кнопка «Перейти к хостеру» ведёт к поставщику, у которого оформляется аренда.
Частые вопросы
Сколько стоит аренда сервера с NVIDIA A100?
Цена конкретной машины зависит от числа карт и остального железа, поэтому сравнивают конфигурации одного состава.
Сколько видеопамяти у NVIDIA A100?
Объём отличается у разных версий A100: у конкретного предложения его сверяют в карточке, версии и тип памяти собраны в карточке ускорителя в справочнике. При выдаче MIG-экземпляра приложению доступна только выделенная часть памяти карты.
Можно ли арендовать NVIDIA A100 на час?
Почасовая аренда A100 возможна там, где хостер указал часовую ставку; у остальных конфигураций короткий заказ согласуют отдельно. Перед таким запуском выясните, дают ли на час целую карту или MIG-экземпляр: от этого зависит, хватит ли памяти на проверку.
Для каких нейросетей хватит NVIDIA A100?
A100 подходит нейросетям, которые работают в FP16 или BF16: моделям компьютерного зрения, дообучению языковых моделей на одной карте и нескольким небольшим сервисам на MIG-экземплярах. Движку, рассчитанному на FP8, понадобится другой режим или сборка, а поместится ли задание в память, показывает прогон на той же версии A100.
Что входит в цену аренды сервера с NVIDIA A100?
Если A100 выдают MIG-экземпляром, у хостера уточняют, за какую долю карты выставлена цена из карточки. НДС и установку каталог включает в полную цену, если хостер их указал; хранение данных после окончания аренды и платные образы с фреймворками сверяют с условиями заказа.
Есть ли такие серверы в наличии сейчас?
Если стоит «не указана», хостер не передал этот параметр. Доступность машины и срок её выдачи подтверждает поставщик при заказе.