Карты равны по производительности — разница менее 0.5%. Различаются по сценариям и характеристикам.
Паритет, выбор зависит от доступности и объема задач. Оба чипа имеют одинаковую вычислительную мощность, но версия на 96 ГБ лучше справляется с тяжелыми моделями.
Загружается каталог…
Где обе карты находятся относительно референс-GPU разных тиров.
Сравнение по 5 component-баллам. Шкала 0-100, где 100 — лидер по этому сценарию во всей нашей базе.
| Параметр | H100 SXM5 80 GBH100 SXM5 | H100 SXM5 96 GBH100 SXM5 |
|---|---|---|
| Архитектура | Hopper | Hopper |
| Чип | GH100 | GH100 |
| CUDA-ядра | 16 896 | 16 896 |
| RT-ядра | — | — |
| Tensor-ядра | 528 | 528 |
| ROPs | 24 | 24 |
| TMUs | 528 | 528 |
| Базовая частота | 1 590 МГц | 1 350 МГц |
| Boost-частота | 1 980 МГц | 1 980 МГц |
| FP32 пик | 66.91 TFLOPS | 66.91 TFLOPS |
| FP16 пик | 267.60 TFLOPS | 267.60 TFLOPS |
| Транзисторы | 80.0 млрд | 80.0 млрд |
| Площадь чипа | 814 мм² | 814 мм² |
| Техпроцесс | 5 нм | 5 нм |
| Дата выпуска | 2022-10-01 | 2023-03-21 |
| Параметр | H100 SXM5 80 GBH100 SXM5 | H100 SXM5 96 GBH100 SXM5 |
|---|---|---|
| Объём | 80 ГБ | 96 ГБ |
| Тип | HBM3 | HBM3 |
| Шина | 5 120 бит | 5 120 бит |
| Частота | 1 313 МГц | 1 313 МГц |
| Bandwidth | 3360 ГБ/с | 3360 ГБ/с |
| L2 cache | 50 МБ | 50 МБ |
| Параметр | H100 SXM5 80 GBH100 SXM5 | H100 SXM5 96 GBH100 SXM5 |
|---|---|---|
| TDP | 700 Вт | 700 Вт |
| Рекомендуемый БП | 1 100 Вт | 1 100 Вт |
| Разъём питания | — | 8-pin EPS |
| Интерфейс | PCIe 5.0 x16 | PCIe 5.0 x16 |
| Длина | — | — |
| Слотов | — | — |
| HDMI | — | — |
| DisplayPort | — | — |
| Параметр | H100 SXM5 80 GBH100 SXM5 | H100 SXM5 96 GBH100 SXM5 |
|---|---|---|
| DirectX | — | — |
| Vulkan | — | — |
| OpenGL | — | — |
| OpenCL | 3.0 | 3.0 |
| CUDA | 9.0 | 9.0 |
| DLSS | — | — |
| FSR | — | — |
| XeSS | — | — |
| Resizable BAR | да | да |
NVIDIA H100 базируется на архитектуре Hopper. Это ускорители для дата-центров, которые работают через форм-фактор SXM5. Они требуют специализированных платформ вроде HGX. Внутри стоят 16896 ядер CUDA. Главное различие между этими моделями заключается в объеме памяти HBM3. Версия на 80 ГБ является стандартом для большинства кластеров. Версия на 96 ГБ дает дополнительные 16 ГБ видеопамяти. При этом частоты и TDP остаются идентичными — 700 Вт. Вычислительный потенциал у них один в один. Разница проявляется только тогда, когда размер нейросети или датасета превышает порог в 80 ГБ. Если модель не влезает в память, скорость падает из-за обмена данными с системной памятью. В остальных случаях разницы в скорости вычислений нет.
Эти чипы не предназначены для игр. В эмуляторах или специфических задачах разницы нет.
Сценарий не актуален для серверных ускорителей Hopper.
96 ГБ позволяют держать в памяти более длинные контексты или веса моделей без квантования.
Для рендеринга важна CUDA-производительность, которая у моделей идентична.
Оба чипа потребляют 700 Вт и имеют одинаковую эффективность на ватт.
Если бюджет позволяет, берите версию на 96 ГБ. Больший объем памяти критичен для работы с современными моделями без потери точности.
Нет, SXM5 требует серверных платформ и мощного охлаждения. Обычная материнская плата его не поддерживает.
Нет, TDP у них одинаковый — 700 Вт. Требования к теплоотводу идентичны.