Выбор оборудования
Рабочая станция для ИИ: DGX Spark, DGX Station или ПК с RTX
Рабочая станция для ИИ: сравниваем ПК с RTX 5090, станцию на RTX PRO 6000, DGX Spark и DGX Station GB300 по памяти, скорости и потреблению и разбираем ограничения офиса.
Содержание
- Четыре варианта рабочей станции для ИИ
- ПК с RTX 5090: компьютер для нейросетей с низким порогом входа
- Станция с RTX PRO 6000: 96 ГБ на карту
- DGX Spark: компьютер для LLM размером с книгу
- DGX Station GB300: сервер в корпусе станции
- Офис: розетка, тепло и шум
- Когда станция, а когда уже сервер в серверной
- Коротко
Рабочая станция для ИИ бывает четырёх видов: ПК с RTX 5090 (32 ГБ, самый доступный вход), станция с одной или несколькими RTX PRO 6000 (96 ГБ на карту), компактный DGX Spark (128 ГБ общей памяти при 240 Вт) и DGX Station GB300 (748 ГБ памяти при 1 600 Вт). Выбор определяют три вещи: размер моделей, нужная скорость ответа и то, что выдержит офис по розетке, теплу и шуму. Ниже сравнение вариантов и граница, за которой станция уже не справляется и нужен сервер.
Четыре варианта рабочей станции для ИИ
| Вариант | Память для моделей | Скорость памяти | Потребление | Для чего |
|---|---|---|---|---|
| ПК с RTX 5090 | 32 ГБ GDDR7 | 1,79 ТБ/с | 575 Вт на карту | модели до 32B, изображения и видео, LoRA |
| Станция с RTX PRO 6000 | 96 ГБ GDDR7 с ECC на карту | 1,79 ТБ/с | 600 Вт, Max-Q 300 Вт на карту | модели 70–120B, дообучение, несколько пользователей |
| DGX Spark | 128 ГБ LPDDR5x, общая | 273 ГБ/с | 240 Вт | прототипы, модели до 200B, разработка под стек DGX |
| DGX Station GB300 | 748 ГБ, из них 252 ГБ HBM3e | 7,1 ТБ/с (HBM3e) | 1 600 Вт | обучение и инференс моделей до 400B+ в офисе |
Объём решает, поместится ли модель, а скорость памяти решает, как быстро она ответит. Теоретический потолок генерации для одного диалога равен скорости памяти, делённой на объём весов. Для Llama 3.3 70B в 4 битах (около 40 ГБ) это:
| Вариант | Теоретический потолок, токенов в секунду |
|---|---|
| ПК с RTX 5090 | не помещается в 32 ГБ |
| RTX PRO 6000 | ~45 |
| DGX Spark | ~7 |
| DGX Station GB300 | ~175, если веса в HBM3e |
Реальная скорость ниже, но порядок разницы честный.
ПК с RTX 5090: компьютер для нейросетей с низким порогом входа
GeForce RTX 5090 даёт 32 ГБ GDDR7 со скоростью 1,79 ТБ/с, 21 760 ядер CUDA и аппаратный FP4 (3 352 TOPS). Это самая быстрая память среди вариантов для обычного ПК, но объём ограничен.
Что помещается: Qwen3 32B в 4 битах (около 18 ГБ) с запасом под контекст, gpt-oss-20b, модели генерации изображений вроде FLUX.1 [dev] и SDXL. Что нет: модели 70B даже в 4 битах занимают около 40 ГБ. Две карты RTX 5090 дадут 64 ГБ, но без быстрой связи между ними модель, разрезанная на две карты, работает медленнее, чем на одной карте с тем же объёмом.
Учтите лицензию: драйвер GeForce не предусматривает установку в дата-центрах. Для рабочего места это не ограничение, но если станцию со временем захочется перенести в серверную, лучше сразу смотреть на профессиональные карты.
Станция с RTX PRO 6000: 96 ГБ на карту
RTX PRO 6000 Blackwell имеет ту же архитектуру и ту же скорость памяти, что RTX 5090, но втрое больший объём: 96 ГБ с ECC. На одной карте помещаются Llama 3.3 70B в FP8 и gpt-oss-120b, на двух (192 ГБ) Qwen3 235B-A22B в 4 битах, это около 125 ГБ весов.
Для станций есть две версии:
- Workstation: 600 Вт и максимальная производительность, удобна в станции на одну-две карты.
- Max-Q: те же 96 ГБ при 300 Вт, задумана для станций с несколькими картами. Четыре карты Max-Q дают 384 ГБ памяти при 1 200 Вт на карты: столько же потребляют две полные версии со 192 ГБ.
MIG делит одну карту максимум на четыре изолированных экземпляра. Так одной станцией могут пользоваться несколько разработчиков, каждый со своей частью памяти. Связи NVLink у этих карт нет, они обмениваются данными через PCIe.
Это самый универсальный вариант: рабочая станция для машинного обучения, на которой можно и запускать крупные модели, и дообучать их, и рендерить.
DGX Spark: компьютер для LLM размером с книгу
DGX Spark построен на суперчипе GB10 Grace Blackwell: 20 ядер Arm и GPU Blackwell с общими 128 ГБ памяти LPDDR5x. Производительность до 1 ПФЛОПС в FP4, корпус 150 × 150 × 50,5 мм, вес 1,2 кг, питание 240 Вт. Работает под NVIDIA DGX OS.
Сильные стороны:
- 128 ГБ на столе: по данным NVIDIA, модели до 200B параметров, а две системы, связанные через ConnectX-7 на 200 Гбит/с, справляются с моделями до 405B;
- тот же программный стек NVIDIA, что в дата-центре: отлаженное на Spark переносится на DGX и HGX-серверы без переписывания;
- потребление как у обычного ПК, без требований к розетке и вентиляции.
Ограничения тоже есть. Память 273 ГБ/с в несколько раз медленнее, чем у RTX PRO 6000, поэтому крупные модели на Spark работают, но отвечают медленно. Процессор на Arm: часть программ, собранных только под x86, придётся пересобирать или искать замену. Spark хорош для прототипов, отладки и обучения команды, но не для сервиса на отдел. Подробнее в нашем обзоре DGX Spark и в сравнении DGX Spark, Mac Studio и RTX 5090.
DGX Station GB300: сервер в корпусе станции
DGX Station GB300 построена на суперчипе GB300 Grace Blackwell Ultra. У GPU 252 ГБ HBM3e со скоростью 7,1 ТБ/с, у процессора на 72 ядра Arm Neoverse V2 ещё 496 ГБ LPDDR5X на 396 ГБ/с, всего 748 ГБ общей памяти. Производительность до 20 ПФЛОПС в FP4, сеть ConnectX-8 до 800 Гбит/с, питание 1 600 Вт.
Это вариант для команды, которой нужно обучать и запускать модели масштаба сервера, но не в серверной. По каталогу станция рассчитана на инференс моделей до 400B+ и на обучение. Учтите, что самая быстрая часть памяти составляет 252 ГБ HBM3e: модели, которые в неё помещаются, работают на полной скорости, а всё, что выходит за её пределы, опирается на заметно более медленную память процессора.
Офис: розетка, тепло и шум
Рабочая станция стоит рядом с людьми, поэтому у неё три ограничения, которых нет у сервера в серверной.
- Розетка. ПК с RTX 5090 под нагрузкой потребляет порядка киловатта с учётом процессора. DGX Station берёт 1 600 Вт. Офисная группа розеток часто подключена к одному автомату на 16 А, это около 3,5 кВт на всё, что в неё включено, включая мониторы и чайник. Две мощные станции на одной линии уже повод позвать электрика.
- Тепло. Всё потребление превращается в тепло: 1,6 кВт это около 5 460 BTU/ч, как у мощного обогревателя, который работает без перерыва. В небольшом кабинете без кондиционера летом станет жарко, а нагретый воздух снижает частоты GPU.
- Шум. Станции рассчитаны на офис, но под полной нагрузкой несколько карт по 600 Вт слышно. Версии Max-Q и DGX Spark здесь выигрывают за счёт меньшего потребления.
Когда станция, а когда уже сервер в серверной
Станция подходит, когда:
- с ней работают один или несколько человек, а не весь отдел;
- задачи интерактивные: эксперименты, прототипы, отладка, дообучение;
- данные и модели нужны рядом с инженером, а не круглосуточно для всей компании.
Сервер нужен, когда:
- модель обслуживает десятки пользователей и должна работать круглосуточно;
- нужно больше двух-четырёх карт: например, Gigabyte XL44-SX2 несёт восемь RTX PRO 6000 Server Edition и 768 ГБ памяти в корпусе 4U с четырьмя блоками питания по 3200 Вт;
- суммарное потребление выходит за возможности офисной линии и кондиционера.
Частый путь: начать со станции или DGX Spark, отладить модель и сценарий, а затем перенести их на сервер с тем же софтом NVIDIA.
Коротко
- ПК с RTX 5090: самая быстрая память, но 32 ГБ, модели до 32B и генерация изображений.
- Станция с RTX PRO 6000: 96 ГБ на карту, модели 70–120B, дообучение, MIG для нескольких пользователей.
- DGX Spark: 128 ГБ при 240 Вт и стек как в дата-центре, но медленная память.
- DGX Station GB300: 748 ГБ и 7,1 ТБ/с у HBM3e, мощность сервера, но 1 600 Вт.
- Если моделью пользуется отдел круглосуточно, нужен сервер, а не станция.
Расскажите, какие модели и сколько человек будут работать на станции, и мы предложим подходящую конфигурацию: оставьте заявку, цену и срок пришлём в течение рабочего дня.
Оборудование из статьи
NVIDIA Новинка
DGX Station GB300
Мощность серверной стойки в корпусе рабочей станции.
- Общая память
- 748ГБ
- ИИ, FP4
- 20ПФЛОПС
- Сеть
- 800Гбит/с
Цена по запросу
NVIDIA Популярное
DGX Spark
Суперкомпьютер размером с книгу: модели до 200B на столе.
- Общая память
- 128ГБ
- ИИ, FP4
- 1ПФЛОПС
- Вес
- 1,2кг
от 990 000 ₽
NVIDIA Популярное
RTX PRO 6000 Blackwell
96 ГБ памяти в одной карте: модели 70B и больше без кластера.
- GDDR7 с ECC
- 96ГБ
- ИИ, FP4
- 4000TOPS
- Потребление
- 600Вт
Цена по запросу