RTX 5090 vs RTX PRO 6000 Blackwell: что взять для ИИ

В выборе RTX 5090 vs RTX PRO 6000 главное отличие одно: 32 ГБ памяти против 96 ГБ. Архитектура у карт общая (Blackwell), скорость памяти одинаковая, 1,79 ТБ/с, а по числу ядер CUDA профессиональная карта впереди примерно на 10%. RTX 5090 хороша для моделей до 32B и генерации изображений на рабочем месте. RTX PRO 6000 берут, когда нужна модель 70B на одной карте, работа в сервере или несколько пользователей.

RTX 5090 vs RTX PRO 6000: характеристики

GeForce RTX 5090 и RTX PRO 6000 Blackwell сделаны на одной архитектуре и даже с одинаковой шиной памяти. Разница в объёме памяти, числе ядер и в том, для какой среды карта предназначена.

Параметр	GeForce RTX 5090	RTX PRO 6000 Blackwell
Архитектура	Blackwell	Blackwell
Память	32 ГБ GDDR7	96 ГБ GDDR7 с ECC
Шина памяти	512 бит	512 бит
Пропускная способность	1,79 ТБ/с	1,79 ТБ/с
Ядра CUDA	21 760	24 064
ИИ-производительность	3 352 TOPS (FP4)	4 000 TOPS (FP4)
Разделение GPU (MIG)	нет	до 4 экземпляров
Энергопотребление	575 Вт	600 Вт, Max-Q: 300 Вт
Интерфейс	PCIe 5.0 x16	PCIe 5.0 x16
Версии	одна, потребительская	Workstation, Max-Q, Server Edition

Скорость почти одинаковая, пока модель помещается в 32 ГБ

Генерация текста упирается в чтение весов из памяти, а память у этих карт одинаково быстрая. Поэтому для модели, которая помещается в обе карты, теоретический потолок скорости одного диалога совпадает. Например, Qwen3 32B в 4 битах занимает около 18 ГБ, и на обеих картах потолок составит около 100 токенов в секунду (1,79 ТБ/с ÷ 18 ГБ). Реальная скорость ниже, но соотношение сохранится.

Больше ядер и выше паспортная производительность в FP4 (4 000 против 3 352 TOPS, около 19%) дают RTX PRO 6000 преимущество там, где упор в вычисления: обработка длинного промпта, генерация изображений, обучение. Это ощутимая, но не кратная разница. Переплачивать за RTX PRO 6000 ради скорости на небольших моделях смысла нет: вы платите за память и серверные функции.

Главное отличие: 32 ГБ против 96 ГБ

Объём памяти определяет, какие модели вообще запустятся и сколько пользователей карта выдержит одновременно. Объём под веса и что куда помещается:

Задача	Память под веса	RTX 5090, 32 ГБ	RTX PRO 6000, 96 ГБ
gpt-oss-20b	до 16 ГБ	да	да
Qwen3 32B в 4 битах	~18 ГБ	да	да, с большим запасом под контекст
Qwen3 32B в FP8	~32 ГБ	нет	да
Llama 3.3 70B в 4 битах	~40 ГБ	нет	да
gpt-oss-120b в MXFP4	~61 ГБ	нет	да
Llama 3.3 70B в FP8	~70 ГБ	нет	да
FLUX.1 [dev] в FP16	~24 ГБ без энкодеров	впритык	свободно, вместе с энкодерами и LoRA

Вторая статья расхода памяти это KV-кеш. Для модели класса 70B он занимает около 10 ГБ на каждый диалог с контекстом 32 тысячи токенов. На 32 ГБ с моделью класса 32B под кеш остаётся немного, поэтому такая связка рассчитана скорее на одного пользователя. На 96 ГБ та же модель оставляет место под несколько длинных диалогов сразу. Как посчитать память под свою модель, мы разобрали в статье о том, сколько видеопамяти нужно для LLM.

ECC, MIG, серверная версия и лицензия драйвера

Помимо объёма, RTX PRO 6000 отличается функциями, которые важны в компании и в серверной.

• ECC. Память RTX PRO 6000 с коррекцией ошибок. На длинном обучении или в сервисе, который работает круглосуточно, случайный сбой в памяти может испортить результат или уронить процесс. У RTX 5090 коррекция ошибок в характеристиках не заявлена.
• MIG. Одну RTX PRO 6000 можно разделить на четыре изолированных экземпляра, у каждого своя доля памяти и вычислений. Так одна карта обслуживает несколько команд или моделей, и они не мешают друг другу. У RTX 5090 такой функции нет.
• Три версии. Workstation на 600 Вт для рабочей станции, Max-Q на 300 Вт для станций с несколькими картами и Server Edition для серверов. Восемь карт Server Edition стоят, например, в сервере Gigabyte XL44-SX2: 768 ГБ памяти GPU в корпусе 4U.
• Лицензия драйвера. Лицензия драйвера GeForce не предусматривает установку в дата-центрах (кроме обработки блокчейна). Для серверов NVIDIA предлагает профессиональные и серверные карты, поэтому для сервера в дата-центре выбор идёт между ними, а не среди GeForce.

Почему четыре RTX 5090 не заменяют RTX PRO 6000

На бумаге четыре RTX 5090 дают 128 ГБ, больше, чем одна RTX PRO 6000. На практике такая сборка проигрывает одной-полутора профессиональным картам по нескольким причинам.

1. Связь через PCIe. NVLink нет ни у одной из этих карт, данные между GPU идут через PCIe 5.0 x16, это около 64 ГБ/с в каждую сторону. Для сравнения, NVLink у серверных GPU Hopper даёт 900 ГБ/с. Когда модель разрезана на четыре части, карты обмениваются данными на каждом токене, и шина становится узким местом.
2. Разрезание модели съедает память и скорость. Каждой карте нужны свои служебные буферы, а кеш делится между картами. При разбиении по слоям карты работают по очереди, и один диалог от этого быстрее не становится. Полезных гигабайт в итоге меньше 128.
3. Потребление. Четыре RTX 5090 потребляют до 2 300 Вт только на видеокарты, одна RTX PRO 6000 до 600 Вт, а версия Max-Q 300 Вт. Тепла в комнате почти вчетверо меньше.
4. Место и платформа. Нужны материнская плата с четырьмя слотами PCIe 5.0 x16, корпус под четыре массивные карты и блок питания соответствующей мощности. Обычный ПК для этого не подходит.

Для одной большой модели лучше одна карта с большим объёмом памяти, чем несколько маленьких. Несколько RTX 5090 оправданы в другом сценарии: когда каждая карта выполняет свою независимую задачу, например параллельную очередь генерации изображений. Тогда быстрая связь между картами не нужна.

RTX PRO 6000 или 5090: кому что подходит

RTX 5090 для нейросетей подойдёт, если:

• нужна рабочая станция для одного разработчика или исследователя;
• задачи укладываются в модели до 32B в 4 битах, gpt-oss-20b и небольшие модели для экспериментов;
• в планах генерация изображений и видео, дообучение LoRA небольших моделей;
• важен минимальный бюджет на старте.

RTX PRO 6000 нужна, если:

• модель класса 70B или gpt-oss-120b должна работать на одной карте;
• с моделью работают несколько человек или команд, в том числе через MIG;
• карта будет работать круглосуточно и важна ECC;
• оборудование ставится в сервер: тогда нужна Server Edition, до восьми карт в одном корпусе;
• нужна станция на 2–4 карты: здесь подойдёт Max-Q на 300 Вт.

Если брать RTX 5090 для ИИ в компании, удобно считать её рабочим инструментом одного специалиста, а не основой общего сервиса. Для сервиса на отдел логичнее RTX PRO 6000, а когда и 96 ГБ мало, следующий шаг H200 NVL со 141 ГБ памяти HBM3e и скоростью 4,8 ТБ/с. Общие критерии выбора собраны в статье о том, как выбрать видеокарту для нейросетей, а подробности о профессиональной карте в обзоре RTX PRO 6000 Blackwell.

Коротко

• RTX 5090 vs RTX PRO 6000: одна архитектура Blackwell и одинаковая скорость памяти 1,79 ТБ/с.
• Главная разница в объёме: 32 ГБ против 96 ГБ с ECC.
• На моделях, которые помещаются в 32 ГБ, скорость генерации почти одинаковая.
• Для сервера и нескольких пользователей нужна RTX PRO 6000: MIG, ECC, Server Edition, подходящая лицензия драйвера.
• Четыре RTX 5090 не заменяют одну большую карту для одной модели, но годятся для параллельных независимых задач.

Если не уверены, хватит ли 32 ГБ под вашу модель, или выбираете между рабочей станцией и сервером на RTX PRO 6000, оставьте заявку: посчитаем память под ваш сценарий и пришлём варианты конфигураций.