NVIDIA H100 PCIe 96 GB

Hopper · 96 ГБ HBM3 · 16 896 CUDA · 700 Вт TDP · 2023
Сервер

NVIDIA H100 PCIe на 96 ГБ — это серверный чип архитектуры Hopper, выпущенный в 2023 году для задач дата-центров. Карта работает на базе GH100. Она не предназначена для домашних ПК, так как требует специализированного охлаждения и серверных стоек. Главная фишка здесь — память HBM3 объемом 96 ГБ с пропускной способностью 3360 ГБ/с. Это позволяет загружать огромные веса LLM целиком. Шина в 5120 бит обеспечивает колоссальную скорость обмена данными между чипом и памятью. Для вычислений здесь есть 16 896 CUDA-ядер и 528 Tensor-ядер. Пиковая производительность FP32 составляет 62.1 TFLOPS. Это важно для обучения тяжелых моделей, пока обычные потребительские карты упираются в объем VRAM. В верхнем сегменте конкуренция идет с Blackwell B100 или специализированными решениями от AMD вроде Instinct MI300X. Эти карты обходят H100 в чистой пропускной способности памяти, хотя Hopper остается стандартом индустрии из-за экосистемы CUDA. Покупать её для игр — безумие. Обычный корпус не справится с продувом. Вам нужна серверная инфраструктура. Если ваша задача — локальный запуск Llama 3 70B или работа с огромными датасетами в Blender, то это целевой инструмент. Но помните про TDP в 700 Вт. Стандартные блоки питания не подойдут. Нужна мощная линия питания и очень специфический обдув.

Производительность по сценариям

5 component-баллов — сильные стороны и слабости карты в разных задачах.

Шкала 0-100. Топовая карта в каждом сценарии = 100. Кликни строку — увидишь полный топ-100 в этой категории. Подробнее — методика.

Характеристики

Чип

Архитектура
HPR Hopper
GPU-чип
GH100
CUDA-ядра
16 896
Tensor-ядра
528

Частоты

Базовая
1665 МГц
Boost
1837 МГц
FP32 пик
62.08 TFLOPS
FP16 пик
248.30 TFLOPS

Память

Объём
96 ГБ HBM3
Шина
5120 бит
Частота
1313 МГц
Bandwidth
3360 ГБ/с

Питание и форм-фактор

TDP
700 Вт
Реком. БП
1100 Вт
Питание
8-pin EPS
Длина
268 мм
Слотов
2

Выходы и интерфейс

Интерфейс
PCIe 5.0 x16

API и технологии

CUDA
9.0

Соседи по рейтингу

Под какие задачи подходит

Балл 1-10 для каждого сценария — пригодность именно для этой задачи (не общий perf-rank).

4K-гейминг 2 / 10

Карта не имеет видеовыходов. Использовать её для вывода изображения на монитор невозможно.

1440p 1 / 10

Бессмысленно. Драйверы заточены под вычисления, а не под DirectX или Vulkan.

1080p 1 / 10

Проигрывает даже бюджетным решениям из-за отсутствия игрового функционала.

AI-инференс 9 / 10

Идеально для локальных LLM вроде Qwen или Llama. 96 ГБ позволяют держать огромные контексты.

AI-обучение 10 / 10

Лучший выбор для fine-tuning моделей. Пропускная способность памяти критична здесь.

3D-рендер 6 / 10

Render в Cycles будет быстрым, но отсутствие вывода изображения усложняет процесс.

Видеомонтаж 4 / 10

В DaVinci можно ускорить эффекты, но для монтажа проще взять RTX 6000 Ada.

Офис 1 / 10

Эта карта не умеет работать с браузером или офисными приложениями напрямую.

Стоит ли покупать в 2026?

В 2026 году H100 PCIe остается мощным инструментом для инженеров и исследователей. Она нужна только если вам критичен объем памяти в 96 ГБ и экосистема CUDA. Если вы планируете заниматься только инференсом средних моделей, то RTX 5090 будет эффективнее за счет более низкой цены и наличия видеовыходов. Однако для серьезного обучения нейросетей H100 незаменима. Она обходит потребительское железо по скорости работы с тензорными операциями, хотя потребляет при этом огромные объемы энергии. Сравнение с прошлым поколением показывает, что Hopper сделал огромный скачок в пропускной способности памяти. Если бюджет позволяет строить серверную ферму, берите её. Для локальной рабочей станции лучше смотреть в сторону RTX 6000 Ada. Она проще в эксплуатации и имеет активное охлаждение. H100 — это инструмент для дата-центров, а не для стола под монитором. Не пытайтесь запихнуть её в обычный системник. Вы просто сожжете компоненты из-за невозможности отвести 700 Вт тепла.

Обновлено редакцией: 2026-05-12.

Плюсы и минусы

Сильные стороны

  • 96 ГБ сверхбыстрой памяти HBM3
  • Пропускная способность 3360 ГБ/с
  • 528 Tensor-ядер для AI-задач
  • Поддержка архитектуры Hopper и CUDA

Слабые стороны

  • TDP составляет 700 Вт
  • Отсутствие активного охлаждения (нужен серверный обдув)
  • Специфический форм-фактор для стоек
  • Низкая энергоэффективность в задачах общего назначения

Часто задаваемые вопросы

Можно ли запустить Stable Diffusion на этой карте?

Да, это будет работать очень быстро. Благодаря 96 ГБ памяти вы сможете генерировать изображения в огромных разрешениях без ошибок Out of Memory. Скорость генерации будет выше, чем у RTX 4090, если использовать оптимизированные библиотеки под Hopper.

Подойдет ли мой блок питания на 1000 Вт?

Скорее всего, нет. TDP карты составляет 700 Вт. С учетом остальной системы вам нужен БП минимум на 1100 Вт или даже 1300 Вт. Также проверьте наличие нужных серверных разъемов питания, так как обычные 8-pin могут не подойти.

Чем она лучше RTX 4090 для AI задач?

Главное отличие — объем и тип памяти. У 4090 всего 24 ГБ GDDR6X, а у H100 — 96 ГБ HBM3. Это позволяет работать с моделями, которые физически не влезут в потребительскую карту. Также пропускная способность HBM3 в разы выше.

Нужно ли мне покупать специальный корпус?

Да, обычный корпус не обеспечит нужный поток воздуха. У этой карты нет собственных вентиляторов. Она рассчитана на продув мощными серверными кулерами в стойке. В домашнем ПК она перегреется за считанные минуты.