Журнал

vGPU или выделенная карта: что выбрать для проекта

vGPU обещает платить только за часть ускорителя, но не всегда даёт предсказуемую производительность. Разбираем, когда доля карты оправдана, а когда лучше взять целый GPU.

Когда задача небольшая, брать целую H100 накладно. vGPU и доли карт позволяют арендовать часть ускорителя и платить меньше. Но у этой экономии есть цена: общая память, соседи по карте и ограничения виртуализации.

В каталоге есть отдельная подборка vGPU и доли карт и рубрика облачных VM и vGPU. Ниже — как выбрать между долей и целой картой.

Что такое vGPU

vGPU — это виртуализация видеокарты, при которой нескольким виртуальным машинам выделяются профили с определённым объёмом памяти и вычислительных ресурсов. Провайдер может продавать половину, четверть или восьмую часть ускорителя. Похожий эффект даёт MIG у NVIDIA, но это отдельная технология с другими ограничениями.

Для пользователя разница проста: вы получаете не физическую карту, а профиль. Его параметры — память, число потоковых процессоров, кодировщики — определяет провайдер.

Когда vGPU подходит

  • Лёгкий инференс. Небольшие модели, низкая нагрузка, тестовые окружения.
  • Эксперименты и обучение. Отладка кода, проверка пайплайна, небольшие датасеты.
  • Виртуальные рабочие места. Графические приложения, удалённый доступ.
  • Проекты с переменной нагрузкой. Нет смысла держать целую карту, если она загружена на 10%.

В этих сценариях vGPU экономит бюджет и позволяет начать без капитальных затрат. Посмотрите бюджетные GPU и почасовую оплату.

Когда нужна выделенная карта

  • Обучение больших моделей. Нужна полная память и стабильная производительность.
  • Продакшен с высокой нагрузкой. Соседи по карте могут влиять на задержку.
  • Задачи с NVLink. Для multi-GPU обучения доли карт не подходят.
  • Работа с большими батчами. Ограничение по памяти становится узким местом.

Выделенная карта даёт предсказуемость: вы не делите память и вычислительные блоки с другими арендаторами. Для длительных задач смотрите bare metal и выделенные GPU-серверы.

Что проверить у vGPU-провайдера

  1. Профиль. Сколько памяти и вычислительных ресурсов реально доступно.
  2. Соседи. Есть ли изоляция по производительности или карта делится динамически.
  3. SLA. Какие гарантии по задержке и доступности.
  4. Драйверы. Можно ли установить нужную версию CUDA и библиотеки.
  5. Масштабирование. Что произойдёт, если понадобится целая карта.
  6. Цена. Сравните стоимость часа с учётом диска и трафика.

Примеры провайдеров

В каталоге vGPU и облачные VM предлагают Cloud4Y, FirstVDS, VDSina, HOSTKEY, Immers.cloud, mClouds и другие. Цены начинаются от нескольких рублей за час, но итог зависит от профиля и дополнительных услуг.

Сравните условия в таблице и в подборке vGPU и доли карт.

Как принять решение

Задайте три вопроса:

  • Помещается ли модель в доступный профиль памяти?
  • Нужна ли предсказуемая задержка под нагрузкой?
  • Как быстро проект вырастет до целой карты?

Если ответы «да, нет, нескоро» — vGPU может быть разумной экономией. Если модель большая, нагрузка постоянная или важна стабильность — берите выделенную карту. Для теста можно начать с доли, а на продакшен перейти на целый GPU или bare metal.

Коротко

vGPU — хороший инструмент для небольших задач и экспериментов. Выделенная карта — для предсказуемой производительности и больших моделей. Не сравнивайте только цену за час: учитывайте профиль, изоляцию, SLA и стоимость диска. И проверяйте, можно ли перейти на другую конфигурацию без переезда данных.