GGPU-облакакаталог аренды видеокарт
Журнал

Как запустить модель на RunPod, Vast.ai и Lambda Cloud

Три популярных зарубежных GPU-облака запускают модель по одной схеме: выбрать карту, подготовить образ и диск, поднять сервер инференса и не забыть остановить инстанс. Разбираем шаги и отличия площадок.

21 октября 2026 г.7 мин чтения

RunPod, Vast.ai и Lambda Cloud отличаются интерфейсом и моделью аренды, но путь от пустого аккаунта до работающей модели у них похож. Ниже — общий план и то, на что обращать внимание на каждой площадке. Полный список провайдеров смотрите в рубрике зарубежные GPU-провайдеры и в подборке через VPN и зарубежные платежи.

Шаг 1. Подберите карту под модель

Объём видеопамяти определяет, поместится ли модель. Для квантованных моделей на 7–13 млрд параметров обычно хватает карты на 24 ГБ, например RTX 4090. Для моделей на 30–70 млрд параметров нужны A100 или H100 на 80 ГБ либо несколько карт. Ориентировочные цены разобраны в статье сколько стоит аренда H100, A100 и RTX 4090.

Шаг 2. Выберите площадку

  • RunPod — готовые шаблоны с PyTorch и популярными серверами инференса, поминутная оплата, есть Serverless для запросов без простоя.
  • Vast.ai — маркетплейс мощностей от разных владельцев: цены ниже, но надёжность и скорость сети у хостов разные, поэтому смотрите рейтинг хоста.
  • Lambda Cloud — виртуальные машины с A100 и H100 и предустановленным ML-стеком, оплата почасовая, доступность карт зависит от региона.

Шаг 3. Создайте инстанс

  1. Пополните баланс и добавьте SSH-ключ в настройки аккаунта.
  2. Выберите карту и образ с нужной версией CUDA и PyTorch.
  3. Задайте размер диска с запасом: веса модели в формате fp16 занимают около 2 ГБ на каждый миллиард параметров.
  4. Откройте порт для API, если будете обращаться к модели снаружи, и ограничьте доступ ключом.

Шаг 4. Запустите сервер инференса

Подключитесь по SSH или через веб-терминал и поставьте сервер, например vLLM или Text Generation Inference:

pip install vllm
python -m vllm.entrypoints.openai.api_server --model <название-модели> --port 8000

Сервер даёт OpenAI-совместимый API, поэтому клиентский код не придётся переписывать. Веса загружаются из Hugging Face; для закрытых моделей понадобится токен доступа.

Шаг 5. Проверьте запрос и нагрузку

Отправьте тестовый запрос через curl и посмотрите загрузку памяти командой nvidia-smi. Если памяти не хватает, возьмите квантованную версию модели или карту побольше.

Шаг 6. Следите за расходами

Платить приходится, пока инстанс запущен, даже без запросов. Останавливайте или удаляйте инстанс после работы, а для нерегулярной нагрузки используйте Serverless-режим там, где он есть. Если важна оплата в рублях и хранение данных в России, сравните зарубежные облака с российскими GPU-провайдерами.