Получить предложение

Инфраструктура

Аренда GPU-сервера или свой сервер: что выгоднее для компании

Аренда GPU-сервера или покупка своего: формула сравнения, точка безубыточности по загрузке, скрытые расходы, данные и доступность GPU. Когда выгоден гибрид.

Содержание
  1. Из чего складывается стоимость своего сервера
  2. Купить или арендовать GPU: формула сравнения
  3. Когда аренда GPU-сервера выгоднее, а когда нет
  4. Скрытые расходы с обеих сторон
  5. Свой сервер или облако: нефинансовые факторы
  6. Гибридная схема
  7. Коротко

Что выгоднее, аренда GPU-сервера или покупка своего, почти целиком решает загрузка. Свой сервер стоит одинаково, работает он или простаивает, а в облаке вы платите за каждый час. Поэтому при круглосуточной нагрузке (сервис для сотрудников, долгое обучение) свой сервер окупается, а для экспериментов на несколько дней в месяц выгоднее аренда. Точку перехода считают так: стоимость владения сервером за срок службы делят на тариф аренды за час и сравнивают с 8 760 часами в году.

Из чего складывается стоимость своего сервера

Цена в счёте это только первая строка. За срок службы к ней добавляются:

  • Покупка: сам сервер, сетевые карты, коммутатор, если нужен, монтаж.
  • Размещение: своя серверная с подготовкой питания и охлаждения или колокейшн в дата-центре с ежемесячной оплатой за место и мощность.
  • Электричество: потребление сервера плюс энергия на охлаждение. Тепловыделение сервера примерно равно его потреблению, и всё это тепло нужно отвести.
  • Обслуживание: время администратора, запасные части, сервисный контракт, мониторинг.
  • Остаточная стоимость: через несколько лет сервер можно продать или отдать под менее требовательные задачи. Для осторожной оценки её принимают равной нулю.

Электричество удобно посчитать отдельно, потому что оно растёт с загрузкой. Формула: потребление в кВт × часы работы × коэффициент на охлаждение × тариф. Для ориентира: в сервере Gigabyte XL44-SX2 восемь RTX PRO 6000 по 600 Вт, и только карты под полной нагрузкой потребляют до 4,8 кВт. Система на восьми H200, например DGX H200, потребляет до 10,2 кВт, а за год круглосуточной работы на пике это до 10,2 × 8 760 ≈ 89 000 кВт·ч. Дальше умножьте на свой тариф, для примера N ₽ за кВт·ч.

Реальное среднее потребление ниже пикового, но для оценки сверху пиковой цифры достаточно. Подробнее о том, что нужно серверной, мы писали в статье о питании и охлаждении GPU-сервера.

Купить или арендовать GPU: формула сравнения

Сравнивайте две суммы за один и тот же срок, например за 4 года:

  • Свой сервер = покупка + срок × (размещение + электричество + обслуживание в год) − остаточная стоимость.
  • Аренда = часы использования × тариф за час + хранение данных и прочие платежи облака.

Отсюда точка безубыточности в часах:

Часы безубыточности = стоимость своего сервера за срок ÷ тариф аренды за час.

Если поделить это число на срок в годах, получится порог в часах в год. А если поделить ещё и на 8 760, получится доля загрузки, выше которой покупка выгоднее.

Пример на условных числах

Цифры ниже условные и не связаны с реальными ценами. Они нужны только для того, чтобы показать механику.

Параметр Условное значение
Покупка сервера 100 единиц
Размещение, электричество и обслуживание 10 единиц в год
Срок службы 4 года
Остаточная стоимость не учитываем
Аренда сопоставимого сервера 0,01 единицы в час

Считаем:

  1. Свой сервер за 4 года: 100 + 4 × 10 = 140 единиц.
  2. Безубыточность: 140 ÷ 0,01 = 14 000 часов за 4 года, то есть 3 500 часов в год.
  3. Доля загрузки: 3 500 ÷ 8 760 ≈ 40%.

При таких условиях сервер, занятый больше 40% времени, выгоднее купить, а занятый меньше выгоднее арендовать. Подставьте свои цифры: коммерческое предложение на сервер, тариф облака на ту же конфигурацию и свой тариф на электроэнергию. Сравнивайте одинаковые GPU в одинаковом количестве, иначе формула теряет смысл.

Когда аренда GPU-сервера выгоднее, а когда нет

Аренда видеокарт для нейросетей удобна там, где нагрузка рваная: неделю считаем, месяц думаем. Свой сервер выигрывает там, где GPU заняты почти всегда.

Сценарий Загрузка Что обычно выгоднее
Корпоративный ассистент или API для сотрудников круглосуточно, днём выше свой сервер
Регулярное дообучение, очередь задач команды высокая, неделями подряд свой сервер
Эксперименты, проверка гипотез несколько дней в месяц аренда
Разовое обучение крупной модели высокая, но короткий период аренда или гибрид
Пилот перед закупкой от нескольких недель до пары месяцев аренда

Две детали, которые часто упускают при расчёте:

  • В облаке платят за время, пока сервер выделен вам, а не за время, когда GPU реально считают. Если держать машину включённой, чтобы не потерять её, вы платите круглосуточно, даже когда команда спит.
  • Долгосрочное резервирование у облачных провайдеров обычно дешевле почасового тарифа, но тогда аренда превращается в обязательство на месяцы вперёд и по сути приближается к покупке.

Скрытые расходы с обеих сторон

У своего сервера:

  • подготовка площадки: отдельные линии питания, ИБП, охлаждение. Обычная серверная часто не рассчитана на десяток киловатт в одной стойке;
  • время специалистов на драйверы, обновления, мониторинг и ремонт;
  • простой при поломке, если нет резервного сервера;
  • сеть и хранилище, если их нет.

У аренды:

  • хранение датасетов и чекпоинтов: диски оплачиваются, даже когда сервер выключен;
  • у части провайдеров платный исходящий трафик;
  • время на перенос данных и настройку окружения при каждом новом запуске;
  • риск, что тариф вырастет или нужной конфигурации не окажется в нужный момент.

Свой сервер или облако: нефинансовые факторы

Иногда решение принимают вообще не по формуле.

Данные. Модель на своём сервере обрабатывает документы, переписку и код внутри периметра компании. Если данные нельзя передавать третьим лицам по договору или внутренним правилам, вопрос выбора закрыт. Как подобрать такой сервер, мы разобрали в статье о сервере для локальной LLM.

Доступность нужных GPU. Свободные машины на восьми старших GPU с NVLink в облаке бывают не всегда, особенно на долгий срок. Свой Supermicro SYS-821GE-TNHR на восьми H200 с 1 128 ГБ памяти GPU доступен команде в любой момент.

Контроль. Вы сами выбираете версии драйверов, CUDA и библиотек, нет соседей на том же железе, производительность предсказуема.

Задержки. Сервер в локальной сети отвечает без маршрута через интернет. Это заметно для интерактивных сервисов и для задач с большими объёмами данных, например обработки видео.

Скорость старта. Облачный сервер можно получить быстро, если у провайдера есть свободная конфигурация. Свой нужно заказать, дождаться поставки и смонтировать, а срок поставки фиксируется в договоре.

Гибридная схема

Чаще всего разумный ответ звучит не «или», а «и».

  • Постоянная нагрузка на своём железе: корпоративный ассистент, инференс, регулярное дообучение. Например, Gigabyte XL44-SX2 с 768 ГБ памяти GPU подходит для инференса моделей до 400B и сервисов на много пользователей.
  • Пики и разовые задачи в облаке: большое обучение, срочный эксперимент, проверка новой модели, которую пока не на чем запустить.
  • Разработка на столе: DGX Spark со 128 ГБ общей памяти и питанием 240 Вт работает на DGX OS, на том же стеке NVIDIA, что и серверы. Отладка идёт без почасовой оплаты, а перенос на сервер проще.
  • Одна карта для одного-двух инженеров: RTX PRO 6000 Blackwell с 96 ГБ помещает модели класса 70–120B целиком.

Хороший порядок действий: пилот в облаке, замер реальной загрузки и требований к памяти, затем покупка ровно под них.

Коротко

  • Сравнивайте стоимость владения за срок службы (покупка, размещение, электричество, обслуживание) с суммой «часы аренды × тариф».
  • Порог безубыточности в часах равен стоимости владения, делённой на тариф за час. Поделите его на годы и на 8 760, чтобы получить долю загрузки.
  • Круглосуточная нагрузка выгоднее на своём сервере, эпизодические эксперименты в облаке.
  • Данные внутри периметра, постоянный доступ к нужным GPU и контроль над софтом часто важнее разницы в деньгах.
  • Гибрид: постоянная нагрузка на своём железе, пики в облаке.

Если хотите сравнить на своих цифрах, пришлите конфигурацию, которую арендуете или планируете арендовать, и ожидаемую загрузку. Мы подготовим предложение на сопоставимый сервер, чтобы было что подставить в формулу: оставьте заявку, цену и срок пришлём в течение рабочего дня.

Оборудование из статьи

Gigabyte

Gigabyte XL44-SX2

Восемь RTX PRO 6000 в одном сервере: 768 ГБ памяти GPU.

RTX PRO 6000
8GPU
Память GPU
768ГБ
Высота
4U

Цена по запросу

Supermicro

Supermicro SYS-821GE-TNHR

Сервер на HGX H200: те же 8 GPU, что в DGX H200.

H200 SXM
8GPU
Память GPU
1128ГБ
Высота
8U

Цена по запросу

NVIDIA Популярное

RTX PRO 6000 Blackwell

96 ГБ памяти в одной карте: модели 70B и больше без кластера.

GDDR7 с ECC
96ГБ
ИИ, FP4
4000TOPS
Потребление
600Вт

Цена по запросу

Читайте также

Инфраструктура 8 мин чтения

Питание и охлаждение GPU-сервера: что подготовить до поставки

Охлаждение и питание GPU-сервера: сколько потребляют системы на 8 GPU, как отвести 10–14 кВт тепла, какие нужны линии и ИБП. Чек-лист серверной до поставки.

Выбор оборудования 7 мин чтения

Сервер для локальной LLM в компании: как подобрать конфигурацию

Как подобрать сервер для LLM в компании: расчёт памяти под модель и пользователей, KV-кеш, три типовые конфигурации от отдела до крупного сервиса и софт для запуска.

Инфраструктура 8 мин чтения

Как купить серверы и видеокарты NVIDIA в России: порядок закупки

Как купить сервер NVIDIA в России юрлицу: шаги от задачи до приёмки, что указать в запросе, что проверить в предложении и договоре, как принять оборудование.

Получить предложение

Опишите задачу или пришлите спецификацию. Ответим в течение рабочего дня с ценой и сроком поставки.

Модель, количество, сроки, задача. Можно приложить спецификацию в переписке.