Видеокарта для Stable Diffusion, Flux и Wan: изображения и видео

Видеокарта для Stable Diffusion и FLUX выбирается иначе, чем для языковых моделей: диффузионные модели сильнее упираются в вычисления, а объём памяти определяет разрешение, длину видео, размер пачки и то, сколько моделей можно держать загруженными одновременно. Для SDXL и FLUX.1 [dev] в работе одного человека хватает 32 ГБ RTX 5090, для видео на Wan 14B и тяжёлых пайплайнов удобнее 96 ГБ RTX PRO 6000, а студии с потоком задач нужен сервер на несколько карт. Конкретных секунд на картинку здесь не будет: они слишком сильно зависят от модели, разрешения и настроек.

Чем генерация изображений отличается от LLM

Языковая модель генерирует текст по одному токену и на каждом шаге читает все веса из памяти. Поэтому её скорость определяет пропускная способность памяти, а вычислительные блоки часто простаивают.

Диффузионная модель работает иначе. Она проходит десятки шагов, и на каждом прогоняет всю модель через всё изображение сразу (точнее, через его сжатое латентное представление). Вычислений на каждый прочитанный байт весов здесь намного больше, поэтому упор смещается в тензорные ядра и число ядер CUDA.

Практический вывод: быстрая память HBM для генерации изображений даёт меньший выигрыш, чем для LLM, а вычислительная мощность и поддержка компактных форматов важнее. Для сравнения, у RTX PRO 6000 24 064 ядра CUDA и 4 000 TOPS в FP4, у RTX 5090 21 760 ядер и 3 352 TOPS, при одинаковой скорости памяти 1,79 ТБ/с.

Сколько памяти занимают SDXL, FLUX и Wan

Объём только под веса основной модели:

Модель	Что генерирует	Параметров	Веса в BF16	Веса в FP8
SDXL	изображения	около 3,5B	~7 ГБ	~3,5 ГБ
FLUX.1 [dev]	изображения	12B	~24 ГБ	~12 ГБ
Wan 2.1, старшая версия	видео	14B	~28 ГБ	~14 ГБ

Но основная модель не единственный потребитель памяти. В типичном пайплайне одновременно загружены:

• текстовый энкодер, который переводит промпт в векторы. У FLUX и Wan это отдельная крупная модель;
• VAE, который переводит латентное представление в пиксели;
• LoRA и ControlNet, если вы ими пользуетесь;
• промежуточные данные, объём которых растёт с разрешением, числом кадров и размером пачки.

Если памяти не хватает, ComfyUI и другие инструменты выгружают часть моделей в оперативную память компьютера. Генерация продолжается, но заметно медленнее, а при каждой смене модели приходится ждать загрузки.

Видеокарта для Stable Diffusion и FLUX: когда хватит 32 ГБ

SDXL (Stable Diffusion XL) с запасом помещается на любую из карт каталога. На 32 ГБ остаётся место для крупной пачки, нескольких LoRA и ControlNet.

С FLUX.1 [dev] ситуация плотнее. В BF16 только веса основной модели занимают около 24 ГБ, вместе с текстовым энкодером это уже на пределе 32 ГБ. Поэтому на GeForce RTX 5090 часто используют версию в FP8 (около 12 ГБ): освобождается место под LoRA, высокое разрешение и пачку из нескольких изображений. Если же видеокарта для FLUX нужна под работу в BF16 с несколькими LoRA и ControlNet одновременно, удобнее 96 ГБ RTX PRO 6000.

Для одного дизайнера или иллюстратора RTX 5090 остаётся разумным выбором: 32 ГБ GDDR7, аппаратный FP4 и 575 Вт потребления. Ограничение одно, но важное: лицензия драйвера GeForce не предусматривает установку в дата-центрах, так что это карта для рабочей станции, а не для серверной.

GPU для генерации видео: память определяет длину и разрешение

Видеомодель обрабатывает сразу все кадры ролика, поэтому промежуточные данные растут с длиной и разрешением гораздо быстрее, чем у картинок. Здесь объём памяти ограничивает уже не удобство, а сам результат: какой длины и в каком разрешении получится ролик за один проход.

Старшие версии Wan 2.1 и Wan 2.2 построены на моделях класса 14B. В BF16 веса такой модели занимают около 28 ГБ, а ещё нужны текстовый энкодер, VAE и место под сам ролик. На 32 ГБ её обычно запускают в FP8 или с выгрузкой части моделей в оперативную память. Точный объём зависит от версии и варианта модели, его лучше сверить с её описанием.

RTX PRO 6000 Blackwell со 96 ГБ с ECC снимает эту проблему: модель 14B помещается в BF16 вместе с энкодером, и остаётся много места под длинные ролики и высокое разрешение. Если нужно ещё больше, H200 NVL даёт 141 ГБ HBM3e на одну карту. Но это серверная карта без FP4, и брать её имеет смысл, когда на том же сервере работают и языковые модели или нужен максимальный объём памяти на одну карту.

FP8 и FP4 на Blackwell

Карты на Blackwell (RTX 5090 и RTX PRO 6000) аппаратно поддерживают FP8 и FP4 (NVFP4). У Hopper, на котором построена H200 NVL, аппаратный FP8, но нет FP4.

Что это даёт:

• FP8 вдвое сокращает объём весов по сравнению с BF16 и ускоряет вычисления там, где формат поддержан в коде;
• FP4 сокращает объём ещё вдвое, это самый быстрый режим на Blackwell;
• чем компактнее формат, тем больше моделей и LoRA помещается на карту одновременно.

Квантование влияет на качество изображения по-разному: где-то разница незаметна, где-то страдают мелкие детали, текст на картинке или лица. Проверяйте выбранный формат на своих промптах. И учитывайте, что версии в FP4 есть не для всех моделей и поддерживаются не всеми инструментами.

Студия и продакшн: несколько карт для параллельной очереди

Одну картинку или ролик обычно генерирует одна карта. Несколько карт не ускоряют одну генерацию, а разбирают очередь: каждая берёт своё задание. Поэтому для студии число карт считают по потоку задач, а объём памяти на карту по самому тяжёлому пайплайну.

На практике это выглядит так:

• ComfyUI собирает пайплайн из узлов: модель, энкодер, LoRA, ControlNet, VAE. Готовый процесс сохраняется в файл и переиспользуется, а через API задания можно отправлять из других систем.
• На каждую карту обычно запускают свой экземпляр ComfyUI, а задания распределяют между ними.
• MIG на RTX PRO 6000 делит карту максимум на четыре изолированных экземпляра. Для лёгких моделей вроде SDXL это способ обслуживать больше параллельных заданий на одной карте.

Сервер Gigabyte XL44-SX2 собран под такую задачу: восемь RTX PRO 6000 Server Edition, 768 ГБ памяти GPU, корпус 4U и четыре блока питания по 3200 Вт с резервированием. Это восемь параллельных очередей по 96 ГБ, а с MIG ещё больше для лёгких моделей.

Какая видеокарта для генерации изображений подойдёт вам

Карта	Память	Скорость памяти	Аппаратный FP4	Потребление	Где ставить
GeForce RTX 5090	32 ГБ GDDR7	1,79 ТБ/с	да, 3 352 TOPS	575 Вт	рабочая станция
RTX PRO 6000 Blackwell	96 ГБ GDDR7 с ECC	1,79 ТБ/с	да, 4 000 TOPS	600 Вт, Max-Q 300 Вт	станция или сервер
H200 NVL	141 ГБ HBM3e	4,8 ТБ/с	нет	до 600 Вт	сервер

• Дизайнер, SDXL и FLUX, эксперименты с LoRA: RTX 5090.
• Видео на Wan, высокое разрешение, сложные пайплайны с несколькими моделями: RTX PRO 6000.
• Максимум памяти на одну карту, общий сервер с языковыми моделями: H200 NVL.
• Студия с очередью заказов и API: сервер на восьми RTX PRO 6000.

Чем отличаются две карты на Blackwell помимо памяти, мы разобрали в статье «RTX 5090 или RTX PRO 6000», а общий порядок выбора GPU описан в материале о том, как выбрать видеокарту для нейросетей.

Коротко

• Диффузионные модели упираются в вычисления сильнее, чем LLM, поэтому HBM-память здесь даёт меньший выигрыш.
• Память определяет разрешение, длину видео, размер пачки и число моделей, загруженных одновременно.
• SDXL и FLUX.1 [dev] в FP8 комфортно работают на 32 ГБ, видео на Wan 14B удобнее на 96 ГБ.
• Blackwell аппаратно поддерживает FP8 и FP4, но качество квантованных версий стоит проверять на своих задачах.
• Студии нужна не одна мощная карта, а несколько карт для параллельной очереди.

Если вы собираете станцию для дизайнера или сервер для студии, оставьте заявку: подберём карты под ваши модели и объём задач, цену и срок пришлём в течение рабочего дня.