Аренда сервера с GPU

GPU в аренде бывает в двух принципиально разных форматах. Dedicated — вы выкупаете физический сервер целиком на месяц (или дольше), никто кроме вас на нём не работает. Облачный — берёте инстанс с GPU почасово, у хостера может быть несколько клиентов на одном железе через гипервизор/MIG/vGPU. От выбора формата зависит цена, изоляция и гибкость сильнее, чем от самой модели карты.

Когда dedicated, когда облако

• Dedicated — постоянная нагрузка 24/7, нужна аппаратная изоляция, специфический PCIe-инвентарь (NVLink, много GPU в одном узле), длинные обучения, требования к SLA.
• Облако — короткие и нерегулярные задачи, потребность в эластичности (сегодня 1 GPU, завтра 8), быстрая смена модели карты, дебаг, стартап без бюджета на длинный контракт.

Сравнение форматов

Где что брать

Dedicated

• HOSTKEY — главный dedicated-провайдер в каталоге. Серверы с RTX 4090 (dedicated 1×4090 обычно ~50–90 тыс ₽/мес), RTX 5090, A5000, конфигурации до 4–8 GPU в узле. Цены в EUR→RUB, много preorder позиций — точные тарифы и наличие уточняйте у HOSTKEY и на странице модели.
• Selectel — помимо облака, имеет dedicated-линейку на pro-картах. Удобен, когда хочется держать разработку и продакшен у одного провайдера.

Облако

• immers.cloud — лидер почасовых consumer и pro карт. От RTX 3080 (43 ₽/ч) до H200 (423 ₽/ч). Stop/start, гибкое число GPU, почти всё in_stock.
• Selectel — облако на части каталога (A2000, A100), плюс сильный dedicated-сегмент.

Цены на одной карте: dedicated vs облако

Для примера возьмём RTX 4090, которая есть в обоих форматах:

Картина меняется на больших узлах. Конфигурация 8×4090 в dedicated выглядит дорого в абсолютных цифрах (~400–700 тыс ₽/мес), но в пересчёте на одну карту при 24/7 это уже сопоставимо или дешевле, чем 8 параллельных почасовых инстансов. Поэтому dedicated чаще имеет смысл именно для мульти-GPU обучения, а не для одной карты.

Пример: обучение LLM на 4×A100

Сравним форматы под реальную задачу — дообучение 13B-модели на 4×A100 80GB, обучение длится 5 дней (~120 часов):

• Облако immers, 4×A100: ~793 ₽/ч × 120 ч = ~95 000 ₽. Без обязательств, можно прервать.
• Dedicated на неделю: обычно продаётся от месяца, поэтому 5 дней dedicated — это месячная цена (~200–400 тыс ₽ у HOSTKEY за узел с A100, точные тарифы уточняйте у провайдера). Dedicated окупается только при утилизации узла минимум на 2–3 недели.

Вывод: для разового 5-дневного обучения облако дешевле и гибче. Dedicated берите, если подобных запусков несколько в месяц.

Типичные сценарии

Когда dedicated реально нужен

Не стоит брать dedicated «на всякий случай». Реальные триггеры:

1. Нагрузка стабильно выше ~8 часов GPU в день на одной карте — dedicated уже дешевле.
2. Мульти-GPU обучение на 4–8 картах — облако либо дорого, либо нет нужного узла с NVLink.
3. Жёсткие требования к изоляции — HIPAA-подобные ограничения, чувствительные данные, нельзя делить железо.
4. Стабильное железо под пайплайн — калибровка под конкретный узел, предсказуемые тайминги бенчмарков.
5. Длинный контракт выгоднее — иногда dedicated на 3–6 месяцев даёт скидку, перекрывающую потерю гибкости.

Если ни один из пунктов не про вас — облако почти наверняка разумнее.

Когда облако реально нужно

1. Нерегулярная нагрузка — пара часов в день или только по выходным.
2. Нужна эластичность — масштаб в ширину под пик, потом сжатие.
3. Разные карты под разные задачи — сегодня 3080 для дебага, завтра A100 для обучения.
4. Ограниченный бюджет — оплата по факту, без месячной предоплаты.
5. Быстрый старт — нужно запуститься за минуты, а не ждать настройки dedicated.

Что входит в dedicated-сервер

Dedicated — это не только GPU. В цену обычно входит:

• Сервер целиком: материнская плата, CPU, RAM, блоки питания.
• Диски: системный SSD/NVMe + данные, конфигурация зависит от тарифа.
• Сеть: порт 1–10 Гбит/с, выделенный IP.
• ОС и базовая настройка: Linux (Ubuntu/Debian/CentOS), драйверы NVIDIA.
• IPMI / KVM для удалённого управления на уровне железа.

Что обычно не входит и оплачивается отдельно:

• Дополнительные диски сверх тарифа.
• Резервные копии и снапшоты.
• Защита от DDoS выше базового уровня.
• Трафик сверх лимита (у HOSTKEY часто есть месячный квот).

При сравнении dedicated и облака учитывайте полную стоимость, а не только «цена за GPU в час».

Гибридная схема

Часто оптимальна не чистая модель, а комбинация:

• Продакшен на dedicated (постоянный инференс API на 1–2 GPU).
• Разработка и пиковая нагрузка в облаке (дебаг, эксперименты, обучение по требованию).
• Хранилище общее — данные лежат у одного провайдера, чтобы не гонять их туда-сюда.

Selectel и immers удобны для гибрида, потому что у них есть и облако, и dedicated в одном аккаунте, с общим биллингом.

Подводные камни

• Dedicated в EUR — курс добавляет волатильность к бюджету на месяц. Закладывайте запас 5–10% на колебания.
• Preorder у dedicated — популярные конфигурации могут быть «в предзаказе» неделями. Проверяйте in_stock на странице модели перед планированием.
• Облачный «шаред» — на cheap-конфигурациях соседние VM могут отбирать CPU/RAM, влияя на стабильность пайплайна. Для чувствительных задач уточняйте тип виртуализации.
• Перенос данных — переход облако↔dedicated требует перегона датасетов и чекпойнтов, закладывайте время и трафик. Часто дешевле держать хранилище у одного провайдера.
• Скрытые стоимости — у dedicated бывает плата за установку/настройку ОС, IP, трафик сверх лимита. У облака — за дисковое пространство остановленных инстансов и исходящий трафик.

Частые вопросы

Можно ли начать с облака и перейти на dedicated? Да, и это рекомендуемый путь. Сначала обкатайте пайплайн в облаке, замерьте реальную часовую нагрузку за пару недель, потом решайте — если выходит >8 ч/день, переходите на dedicated.

Что дешевле для 1 карты 24/7 — облако или dedicated? Почти всегда dedicated. Облачный 24/7 инстанс проигрывает месячному тарифу примерно в 2.5 раза. Но если нагрузка нерегулярная — облако всё равно выгоднее.

Стоит ли брать dedicated ради NVLink? Только если ваш пайплайн реально использует model-parallel и упирается в пропускную способность между GPU. Для data-parallel обучения NVLink не обязателен.

Какой хостер надёжнее для dedicated?Selectel — российский провайдер с SLA и сертификацией, удобен для корпоративных клиентов. HOSTKEY — большой парк, ориентирован на мульти-GPU узлы, но цены в EUR добавляют волатильность. Для стартапов и pet-проектов облако почти всегда разумнее.

Можно ли апгрейдить dedicated-сервер? Обычно нет — конфигурация фиксирована на срок контракта. Чтобы добавить GPU или память, приходится менять сервер целиком, что означает простой и перенос данных. Облако в этом смысле гибче: сменили тип инстанса за минуты.

Практические шаги

1. Оцените часовую нагрузку за неделю (честно). Если ≥8 ч/день — dedicated, если < — облако.
2. Проверьте наличие нужной карты в обоих форматах: например RTX 4090, A100, H100.
3. Для dedicated — посмотрите HOSTKEY и dedicated-линейку Selectel. Уточните in_stock vs preorder.
4. Для облака — immers.cloud и Selectel.
5. Подпишитесь на алерт в Telegram по нужной конфигурации — поймаете момент появления в наличии.

Смежные гайды

• Почасовая аренда GPU — детально про hourly и точку перелома
• Сравнение цен GPU-аренды — обзор по хостерам и картам
• VPS с видеокартой дёшево — бюджетный сегмент
• Аренда A100 — dedicated vs облако на конкретном примере