Ключевые преимущества архитектуры
- Спецификации Версия: Предварительная спецификация H200 NVL, в настоящее время размещенная на официальном сайте, которую производители отмечают, может быть корректирована
- GPU Архитектура: НВИДИЯ Хоппер
- Характеристики памяти GPU: Память GPU: 141GB; Память GPU Тип: HBM3e
Области применения
- Большой языковой модели рассуждения
- Искусственный интеллект
- Высокопроизводительные вычисления
Технические спецификации
| Спецификации Версия | Предварительная спецификация H200 NVL, в настоящее время размещенная на официальном сайте, которую производители отмечают, может быть корректирована |
|---|---|
| GPU Архитектура | НВИДИЯ Хоппер |
| Характеристики памяти GPU | Память GPU: 141GB Память GPU Тип: HBM3e |
| Пропускная способность памяти GPU | 4.8TB/s |
| Производительность универсальных вычислений | FP32: 60 TFLOPS FP64: 30 TFLOPS FP64 Tensor ядро: 60 TFLOPS |
| Tensor Вычислительная производительность | TF32 Tensor ядро: 835 TFLOPS (Разреженный) FP16 Tensor ядро: 1, 671 TFLOPS (Разреженный) BF16 Tensor ядро: 1, 671 TFLOPS (Разреженный) FP8 Tensor ядро: 3, 341 TFLOPS (Разреженный) |
| NVLink / Взаимосвязь | Подключение: 2- или 4-сторонний мост NVIDIA NVLink: 900GB/с на GPU PCIe Gen5: 128GB/с |
| MIG Подразделение | Максимальное количество инстанций составляет 7 экземпляров, с максимальным объемом 16.5 ГБ на экземпляр. |
| Видео декодирование | 7 Декодеры NVDEC/7 JPEG |
| Мощность платы | Максимально 600W, настраиваемые |
| Форм-фактор платы / охлаждение | Форма карты: PCIe Двухслотный воздушно-охлажденный |
Гарантия
в публичной информации о продукте производителя не указывается гарантийный период для данной модели в его канале поставок; применимый регион, канал и фактическая служба гарантии подтверждены договором на поставку.
Информация производителя
Информация производителяОфициальная документация и спецификации
Официальное продукты страница
Скачать документNVIDIA H200 Tensor ядро GPU | Таблица данных
Скачать документ