vGPU или выделенная карта: что выбрать для проекта
vGPU обещает платить только за часть ускорителя, но не всегда даёт предсказуемую производительность. Разбираем, когда доля карты оправдана, а когда лучше взять целый GPU.
Когда задача небольшая, брать целую H100 накладно. vGPU и доли карт позволяют арендовать часть ускорителя и платить меньше. Но у этой экономии есть цена: общая память, соседи по карте и ограничения виртуализации.
В каталоге есть отдельная подборка vGPU и доли карт и рубрика облачных VM и vGPU. Ниже — как выбрать между долей и целой картой.
Что такое vGPU
vGPU — это виртуализация видеокарты, при которой нескольким виртуальным машинам выделяются профили с определённым объёмом памяти и вычислительных ресурсов. Провайдер может продавать половину, четверть или восьмую часть ускорителя. Похожий эффект даёт MIG у NVIDIA, но это отдельная технология с другими ограничениями.
Для пользователя разница проста: вы получаете не физическую карту, а профиль. Его параметры — память, число потоковых процессоров, кодировщики — определяет провайдер.
Когда vGPU подходит
- Лёгкий инференс. Небольшие модели, низкая нагрузка, тестовые окружения.
- Эксперименты и обучение. Отладка кода, проверка пайплайна, небольшие датасеты.
- Виртуальные рабочие места. Графические приложения, удалённый доступ.
- Проекты с переменной нагрузкой. Нет смысла держать целую карту, если она загружена на 10%.
В этих сценариях vGPU экономит бюджет и позволяет начать без капитальных затрат. Посмотрите бюджетные GPU и почасовую оплату.
Когда нужна выделенная карта
- Обучение больших моделей. Нужна полная память и стабильная производительность.
- Продакшен с высокой нагрузкой. Соседи по карте могут влиять на задержку.
- Задачи с NVLink. Для multi-GPU обучения доли карт не подходят.
- Работа с большими батчами. Ограничение по памяти становится узким местом.
Выделенная карта даёт предсказуемость: вы не делите память и вычислительные блоки с другими арендаторами. Для длительных задач смотрите bare metal и выделенные GPU-серверы.
Что проверить у vGPU-провайдера
- Профиль. Сколько памяти и вычислительных ресурсов реально доступно.
- Соседи. Есть ли изоляция по производительности или карта делится динамически.
- SLA. Какие гарантии по задержке и доступности.
- Драйверы. Можно ли установить нужную версию CUDA и библиотеки.
- Масштабирование. Что произойдёт, если понадобится целая карта.
- Цена. Сравните стоимость часа с учётом диска и трафика.
Примеры провайдеров
В каталоге vGPU и облачные VM предлагают Cloud4Y, FirstVDS, VDSina, HOSTKEY, Immers.cloud, mClouds и другие. Цены начинаются от нескольких рублей за час, но итог зависит от профиля и дополнительных услуг.
Сравните условия в таблице и в подборке vGPU и доли карт.
Как принять решение
Задайте три вопроса:
- Помещается ли модель в доступный профиль памяти?
- Нужна ли предсказуемая задержка под нагрузкой?
- Как быстро проект вырастет до целой карты?
Если ответы «да, нет, нескоро» — vGPU может быть разумной экономией. Если модель большая, нагрузка постоянная или важна стабильность — берите выделенную карту. Для теста можно начать с доли, а на продакшен перейти на целый GPU или bare metal.
Коротко
vGPU — хороший инструмент для небольших задач и экспериментов. Выделенная карта — для предсказуемой производительности и больших моделей. Не сравнивайте только цену за час: учитывайте профиль, изоляцию, SLA и стоимость диска. И проверяйте, можно ли перейти на другую конфигурацию без переезда данных.