Huawei Atlas 300I Duo: обзор карты на 96 ГБ для инференса

Huawei Atlas 300I Duo это инференс-карта PCIe с двумя процессорами Ascend 310P и 96 ГБ памяти LPDDR4X при потреблении всего 150 Вт. Её сильная сторона в объёме памяти на ватт и на слот: по объёму в одну карту помещается даже модель 70B в 8-битном формате. Слабая сторона в скорости памяти, 408 ГБ/с, это в разы меньше, чем у карт с HBM. Поэтому карта хороша для небольших и средних моделей, видеоаналитики и распознавания, а для нагруженного чата на крупной модели лучше выбрать ускоритель на HBM.

Характеристики Huawei Atlas 300I Duo

Все цифры по Atlas 300I Duo из нашего каталога:

Параметр	Значение
Процессоры	2 × Ascend 310P
Память	96 или 48 ГБ LPDDR4X с ECC
Пропускная способность памяти	408 ГБ/с
INT8	280 TOPS
FP16	140 TFLOPS
Декодирование видео	256 потоков 1080p, 30 к/с
Интерфейс	PCIe 4.0 x16
Потребление	150 Вт
Формат	1 слот, полная высота и длина

Ascend 310P это процессор Huawei для инференса, младший по отношению к Ascend 910B, который стоит в серверах Atlas 800. Название 310P общепринято в отрасли, хотя Huawei официально его не публикует. Буква I в названии карты означает инференс: для обучения она не предназначена.

На карте два процессора, и у каждого своя половина памяти. Для крупной модели это значит, что её приходится делить между двумя чипами, как между двумя картами. Цифры памяти и производительности в таблице указаны для карты целиком.

Сильные стороны: 96 ГБ при 150 Вт

• Объём. 96 ГБ, столько же, сколько у RTX PRO 6000 Blackwell, при вчетверо меньшем потреблении (150 Вт против 600 Вт).
• Потребление и формат. Карта занимает один слот и потребляет 150 Вт. Нагрузка на питание и охлаждение сервера несравнимо ниже, чем у ускорителей на 350–600 Вт, поэтому несколько карт можно поставить в обычный сервер с подходящими слотами PCIe.
• Видео. Аппаратное декодирование 256 потоков 1080p при 30 кадрах в секунду. Для видеоаналитики это важно: поток расшифровывается и анализируется на самой карте, процессор сервера не тратит на это ресурсы.
• Надёжность памяти. ECC защищает от одиночных ошибок при круглосуточной работе.
• Порог входа. Среди карт Huawei в каталоге это самый доступный способ начать с инференса.

Слабое место: скорость памяти

LPDDR4X намного медленнее HBM. У Atlas 300I Duo 408 ГБ/с на карту, у Atlas 300I A2 на Ascend 910B 1,6 ТБ/с, у RTX PRO 6000 1,79 ТБ/с. Для генерации текста это главный параметр: на каждый новый токен модель читает все веса из памяти.

Теоретический потолок скорости для одного диалога считается как скорость памяти, делённая на объём весов. Для модели, распределённой по обоим процессорам карты:

Модель	Формат	Веса	Потолок, токенов в секунду
Qwen3 8B	INT8	~8 ГБ	~50
Qwen3 14B	INT8	~14 ГБ	~29
Qwen3 32B	INT8	~32 ГБ	~13
Llama 3.3 70B	INT8	~70 ГБ	~6

Это верхняя граница, реальная скорость ниже. Но порядок понятен: модель 70B в карту помещается, однако для живого диалога она слишком медленная. Комфортная зона Atlas 300I Duo для интерактивных задач это модели до 8–14B. Модели 32–70B подходят для фоновой обработки, где ответ не нужен сразу: разбор документов, классификация, суммаризация по ночам.

Atlas 300I Duo для LLM, видеоаналитики и распознавания

Где карта уместна:

• небольшие и средние языковые модели для внутренних сервисов: классификация обращений, извлечение данных из документов, черновики ответов;
• модели эмбеддингов и реранкеры для поиска по базе знаний, когда основная LLM работает на другом железе;
• многоканальная видеоаналитика: детекция объектов, подсчёт, контроль зон по десяткам и сотням камер;
• распознавание речи и текста, включая потоковую обработку звонков и сканов;
• несколько карт в одном сервере для параллельной обработки независимых потоков.

Где лучше выбрать другое:

• чат на крупной модели для многих пользователей одновременно: нужна быстрая память;
• обучение и дообучение моделей: это инференс-карта, для обучения у Huawei есть серверы серии Atlas 800T;
• одна большая модель на нескольких картах Atlas 300I Duo: без быстрой связи между картами такая конфигурация работает медленно.

Если вы выбираете между картами разных производителей, общие критерии мы собрали в статье «Как выбрать видеокарту для нейросетей».

Софт: CANN и MindIE

Atlas 300I Duo работает на стандартном стеке Huawei: базовый уровень CANN, движок инференса MindIE, PyTorch через адаптер torch_npu и фреймворк MindSpore. CUDA здесь нет, поэтому код и библиотеки, написанные под GPU NVIDIA, напрямую не запустятся.

Список поддерживаемых моделей и форматов квантования для 310P может отличаться от того, что доступно на 910B. Перед закупкой проверьте в документации MindIE свою модель именно для этой карты, в нужном формате и с нужной длиной контекста. Чем стек Huawei отличается от CUDA в целом, мы разобрали в статье «Huawei Ascend или NVIDIA».

Atlas 300I Duo, Atlas 300I A2 или Atlas 350

В каталоге есть ещё две карты Huawei формата PCIe. Сравним их по каталожным данным:

	Atlas 300I Duo	Atlas 300I A2	Atlas 350
Процессор	2 × Ascend 310P	Ascend 910B	Ascend 950PR
Память	96 или 48 ГБ LPDDR4X	64 или 32 ГБ HBM	112 ГБ HBM
Скорость памяти	408 ГБ/с	1,6 ТБ/с	1,4 ТБ/с
INT8	280 TOPS	560 TOPS	804 TFLOPS (FP8 / INT8)
FP16	140 TFLOPS	280 TFLOPS	425 TFLOPS
FP4	нет	нет	1 561 TFLOPS
Интерфейс	PCIe 4.0 x16	PCIe 5.0	PCIe 5.0 x16
Потребление	150 Вт	до 350 Вт	до 600 Вт
Потолок для Qwen3 32B в INT8, токенов/с	~13	~50	~44

Atlas 300I A2 читает память почти вчетверо быстрее и вдвое производительнее в INT8, но памяти у неё меньше (64 ГБ), а потребляет она до 350 Вт и занимает два слота. Это выбор для интерактивного чата на моделях до 32B в 8 битах.

Atlas 350 это новое поколение на Ascend 950PR, представленное в марте 2026 года: 112 ГБ HBM, первая у Huawei поддержка FP4 и связь между картами до 424 ГБ/с. Подходит для крупных и рассуждающих моделей. Доступность поставок уточняйте отдельно.

Когда переходить на сервер Atlas 800I A2

Признаки того, что отдельных карт уже мало:

• нужна модель 70B и крупнее в режиме живого диалога;
• одновременных пользователей десятки, и каждому нужен длинный контекст;
• планируется модель масштаба Qwen3 235B.

Atlas 800I A2 это сервер 4U с восемью Ascend 910B: 512 ГБ памяти HBM, 2,24 ПФЛОПС в FP16, связь между чипами full-mesh на 392 ГБ/с и сеть 8 × 200GE RoCE. Он рассчитан на модели до 235B и корпоративных ИИ-ассистентов. Главное отличие от набора карт Atlas 300I Duo: быстрая память HBM и быстрая связь между чипами, поэтому деление крупной модели на восемь NPU обходится по скорости гораздо дешевле, чем на отдельных картах PCIe.

Коротко

• Atlas 300I Duo: 2 × Ascend 310P, 96 ГБ LPDDR4X с ECC, 150 Вт, один слот, декодирование 256 видеопотоков.
• Сильные стороны: объём памяти, низкое потребление и порог входа.
• Слабое место: 408 ГБ/с. Модель 70B помещается, но теоретический потолок около 6 токенов в секунду.
• Для интерактивного чата на моделях до 32B берите Atlas 300I A2, для крупных моделей и многих пользователей сервер Atlas 800I A2.

Если вы планируете видеоаналитику или внутренний сервис на открытой модели, оставьте заявку: подберём карты или сервер Huawei под вашу нагрузку, а цену и срок пришлём в течение рабочего дня.