NVIDIA
H200 NVL
Самый ёмкий ускоритель NVIDIA в формате PCIe. 141 ГБ HBM3e и NVLink-мост на 2 или 4 карты позволяют запускать модели 70B в полной точности на одном GPU.
- HBM3e
- 141ГБ
- Скорость памяти
- 4,8ТБ/с
- FP8
- 3341TFLOPS
Цена по запросу
Пришлём цену и срок поставки в течение рабочего дня
Для каких задач
- Инференс моделей 70B без квантования
- Обучение и дообучение
- Длинный контекст
Характеристики
Память
- Объём
- 141 ГБ HBM3e
- Пропускная способность
- 4,8 ТБ/с
Вычисления
- Архитектура
- Hopper
- FP8
- 3 341 TFLOPS
- FP16 / BF16
- 1 671 TFLOPS
- Разделение GPU (MIG)
- до 7 экземпляров
Конструкция
- Интерфейс
- PCIe 5.0 x16
- Энергопотребление
- до 600 Вт
- NVLink-мост
- 900 ГБ/с, на 2 или 4 карты
Характеристики по данным производителя, производительность указана в пиковых значениях. Комплектацию серверов уточняйте при заказе.