Инфраструктура
Аренда GPU-сервера или свой сервер: что выгоднее для компании
Аренда GPU-сервера или покупка своего: формула сравнения, точка безубыточности по загрузке, скрытые расходы, данные и доступность GPU. Когда выгоден гибрид.
Содержание
Что выгоднее, аренда GPU-сервера или покупка своего, почти целиком решает загрузка. Свой сервер стоит одинаково, работает он или простаивает, а в облаке вы платите за каждый час. Поэтому при круглосуточной нагрузке (сервис для сотрудников, долгое обучение) свой сервер окупается, а для экспериментов на несколько дней в месяц выгоднее аренда. Точку перехода считают так: стоимость владения сервером за срок службы делят на тариф аренды за час и сравнивают с 8 760 часами в году.
Из чего складывается стоимость своего сервера
Цена в счёте это только первая строка. За срок службы к ней добавляются:
- Покупка: сам сервер, сетевые карты, коммутатор, если нужен, монтаж.
- Размещение: своя серверная с подготовкой питания и охлаждения или колокейшн в дата-центре с ежемесячной оплатой за место и мощность.
- Электричество: потребление сервера плюс энергия на охлаждение. Тепловыделение сервера примерно равно его потреблению, и всё это тепло нужно отвести.
- Обслуживание: время администратора, запасные части, сервисный контракт, мониторинг.
- Остаточная стоимость: через несколько лет сервер можно продать или отдать под менее требовательные задачи. Для осторожной оценки её принимают равной нулю.
Электричество удобно посчитать отдельно, потому что оно растёт с загрузкой. Формула: потребление в кВт × часы работы × коэффициент на охлаждение × тариф. Для ориентира: в сервере Gigabyte XL44-SX2 восемь RTX PRO 6000 по 600 Вт, и только карты под полной нагрузкой потребляют до 4,8 кВт. Система на восьми H200, например DGX H200, потребляет до 10,2 кВт, а за год круглосуточной работы на пике это до 10,2 × 8 760 ≈ 89 000 кВт·ч. Дальше умножьте на свой тариф, для примера N ₽ за кВт·ч.
Реальное среднее потребление ниже пикового, но для оценки сверху пиковой цифры достаточно. Подробнее о том, что нужно серверной, мы писали в статье о питании и охлаждении GPU-сервера.
Купить или арендовать GPU: формула сравнения
Сравнивайте две суммы за один и тот же срок, например за 4 года:
- Свой сервер = покупка + срок × (размещение + электричество + обслуживание в год) − остаточная стоимость.
- Аренда = часы использования × тариф за час + хранение данных и прочие платежи облака.
Отсюда точка безубыточности в часах:
Часы безубыточности = стоимость своего сервера за срок ÷ тариф аренды за час.
Если поделить это число на срок в годах, получится порог в часах в год. А если поделить ещё и на 8 760, получится доля загрузки, выше которой покупка выгоднее.
Пример на условных числах
Цифры ниже условные и не связаны с реальными ценами. Они нужны только для того, чтобы показать механику.
| Параметр | Условное значение |
|---|---|
| Покупка сервера | 100 единиц |
| Размещение, электричество и обслуживание | 10 единиц в год |
| Срок службы | 4 года |
| Остаточная стоимость | не учитываем |
| Аренда сопоставимого сервера | 0,01 единицы в час |
Считаем:
- Свой сервер за 4 года: 100 + 4 × 10 = 140 единиц.
- Безубыточность: 140 ÷ 0,01 = 14 000 часов за 4 года, то есть 3 500 часов в год.
- Доля загрузки: 3 500 ÷ 8 760 ≈ 40%.
При таких условиях сервер, занятый больше 40% времени, выгоднее купить, а занятый меньше выгоднее арендовать. Подставьте свои цифры: коммерческое предложение на сервер, тариф облака на ту же конфигурацию и свой тариф на электроэнергию. Сравнивайте одинаковые GPU в одинаковом количестве, иначе формула теряет смысл.
Когда аренда GPU-сервера выгоднее, а когда нет
Аренда видеокарт для нейросетей удобна там, где нагрузка рваная: неделю считаем, месяц думаем. Свой сервер выигрывает там, где GPU заняты почти всегда.
| Сценарий | Загрузка | Что обычно выгоднее |
|---|---|---|
| Корпоративный ассистент или API для сотрудников | круглосуточно, днём выше | свой сервер |
| Регулярное дообучение, очередь задач команды | высокая, неделями подряд | свой сервер |
| Эксперименты, проверка гипотез | несколько дней в месяц | аренда |
| Разовое обучение крупной модели | высокая, но короткий период | аренда или гибрид |
| Пилот перед закупкой | от нескольких недель до пары месяцев | аренда |
Две детали, которые часто упускают при расчёте:
- В облаке платят за время, пока сервер выделен вам, а не за время, когда GPU реально считают. Если держать машину включённой, чтобы не потерять её, вы платите круглосуточно, даже когда команда спит.
- Долгосрочное резервирование у облачных провайдеров обычно дешевле почасового тарифа, но тогда аренда превращается в обязательство на месяцы вперёд и по сути приближается к покупке.
Скрытые расходы с обеих сторон
У своего сервера:
- подготовка площадки: отдельные линии питания, ИБП, охлаждение. Обычная серверная часто не рассчитана на десяток киловатт в одной стойке;
- время специалистов на драйверы, обновления, мониторинг и ремонт;
- простой при поломке, если нет резервного сервера;
- сеть и хранилище, если их нет.
У аренды:
- хранение датасетов и чекпоинтов: диски оплачиваются, даже когда сервер выключен;
- у части провайдеров платный исходящий трафик;
- время на перенос данных и настройку окружения при каждом новом запуске;
- риск, что тариф вырастет или нужной конфигурации не окажется в нужный момент.
Свой сервер или облако: нефинансовые факторы
Иногда решение принимают вообще не по формуле.
Данные. Модель на своём сервере обрабатывает документы, переписку и код внутри периметра компании. Если данные нельзя передавать третьим лицам по договору или внутренним правилам, вопрос выбора закрыт. Как подобрать такой сервер, мы разобрали в статье о сервере для локальной LLM.
Доступность нужных GPU. Свободные машины на восьми старших GPU с NVLink в облаке бывают не всегда, особенно на долгий срок. Свой Supermicro SYS-821GE-TNHR на восьми H200 с 1 128 ГБ памяти GPU доступен команде в любой момент.
Контроль. Вы сами выбираете версии драйверов, CUDA и библиотек, нет соседей на том же железе, производительность предсказуема.
Задержки. Сервер в локальной сети отвечает без маршрута через интернет. Это заметно для интерактивных сервисов и для задач с большими объёмами данных, например обработки видео.
Скорость старта. Облачный сервер можно получить быстро, если у провайдера есть свободная конфигурация. Свой нужно заказать, дождаться поставки и смонтировать, а срок поставки фиксируется в договоре.
Гибридная схема
Чаще всего разумный ответ звучит не «или», а «и».
- Постоянная нагрузка на своём железе: корпоративный ассистент, инференс, регулярное дообучение. Например, Gigabyte XL44-SX2 с 768 ГБ памяти GPU подходит для инференса моделей до 400B и сервисов на много пользователей.
- Пики и разовые задачи в облаке: большое обучение, срочный эксперимент, проверка новой модели, которую пока не на чем запустить.
- Разработка на столе: DGX Spark со 128 ГБ общей памяти и питанием 240 Вт работает на DGX OS, на том же стеке NVIDIA, что и серверы. Отладка идёт без почасовой оплаты, а перенос на сервер проще.
- Одна карта для одного-двух инженеров: RTX PRO 6000 Blackwell с 96 ГБ помещает модели класса 70–120B целиком.
Хороший порядок действий: пилот в облаке, замер реальной загрузки и требований к памяти, затем покупка ровно под них.
Коротко
- Сравнивайте стоимость владения за срок службы (покупка, размещение, электричество, обслуживание) с суммой «часы аренды × тариф».
- Порог безубыточности в часах равен стоимости владения, делённой на тариф за час. Поделите его на годы и на 8 760, чтобы получить долю загрузки.
- Круглосуточная нагрузка выгоднее на своём сервере, эпизодические эксперименты в облаке.
- Данные внутри периметра, постоянный доступ к нужным GPU и контроль над софтом часто важнее разницы в деньгах.
- Гибрид: постоянная нагрузка на своём железе, пики в облаке.
Если хотите сравнить на своих цифрах, пришлите конфигурацию, которую арендуете или планируете арендовать, и ожидаемую загрузку. Мы подготовим предложение на сопоставимый сервер, чтобы было что подставить в формулу: оставьте заявку, цену и срок пришлём в течение рабочего дня.
Оборудование из статьи
Gigabyte
Gigabyte XL44-SX2
Восемь RTX PRO 6000 в одном сервере: 768 ГБ памяти GPU.
- RTX PRO 6000
- 8GPU
- Память GPU
- 768ГБ
- Высота
- 4U
Цена по запросу
Supermicro
Supermicro SYS-821GE-TNHR
Сервер на HGX H200: те же 8 GPU, что в DGX H200.
- H200 SXM
- 8GPU
- Память GPU
- 1128ГБ
- Высота
- 8U
Цена по запросу
NVIDIA Популярное
RTX PRO 6000 Blackwell
96 ГБ памяти в одной карте: модели 70B и больше без кластера.
- GDDR7 с ECC
- 96ГБ
- ИИ, FP4
- 4000TOPS
- Потребление
- 600Вт
Цена по запросу