Рейтинг GPU для AI-инференса — VRAM 14-18 ГБ — NVIDIA — Pro и Server

AI-балл — для локального запуска больших языковых моделей, Stable Diffusion XL, fine-tuning и инференса embedding-моделей. Учитывается FP16 TFLOPS × 0.6 + Tensor Cores + memory bandwidth + min(VRAM, 80) ÷ 4. Карты с 80+ ГБ VRAM и оптимизацией под Tensor — в топе.

Фильтры: VRAM 14-18 ГБ + NVIDIA + Pro и Server

Гейминг AI-инференс 3D-рендер Вычисления Энергоэффективность
Все Consumer Ноутбуки Pro/Server
Все NVIDIA AMD Intel
VRAM: Любой <8 ГБ 8 ГБ 12 ГБ 16 ГБ 24 ГБ 32+ ГБ
# Модель Сегмент Память TDP AI
#1 NVIDIA Tesla T4 Turing Сервер 16 ГБ 70 Вт
11.6
#2 NVIDIA Tesla T4G Turing Сервер 16 ГБ 70 Вт
11.6
#3 NVIDIA Tesla V100 SXM2 16 GB Volta Сервер 16 ГБ 250 Вт
11.3
#4 NVIDIA RTX 5000 Embedded Ada Generation Ada Lovelace WS 16 ГБ 120 Вт
11.2
#5 NVIDIA RTX 5000 Embedded Ada Generation X2 Ada Lovelace WS 16 ГБ 150 Вт
11.2
#6 NVIDIA CMP 100HX-210 Volta Сервер 16 ГБ 250 Вт
11.0
#7 NVIDIA Tesla V100 FHHL Volta Сервер 16 ГБ 250 Вт
9.4
#8 NVIDIA Tesla V100 PCIe 16 GB Volta Сервер 16 ГБ 300 Вт
7.8
#9 NVIDIA Tesla T10 16 GB Turing Сервер 16 ГБ 150 Вт
7.8
#10 NVIDIA RTX A4000 Ampere Сервер 16 ГБ 140 Вт
6.8
#11 NVIDIA RTX A4000H Ampere Сервер 16 ГБ 140 Вт
6.8
#12 NVIDIA Quadro RTX 5000 Turing WS 16 ГБ 230 Вт
6.7
#13 NVIDIA RTX PRO 2000 Blackwell Blackwell 2.0 WS 16 ГБ 70 Вт
6.6
#14 NVIDIA RTX A4500 Embedded Ampere WS 16 ГБ 80 Вт
6.4
#15 NVIDIA Tesla V100 DGXS 16 GB Volta Сервер 16 ГБ 250 Вт
5.8
#16 NVIDIA RTX 2000 Ada Generation Ada Lovelace WS 16 ГБ 70 Вт
5.2
#17 NVIDIA Tesla P100 SXM2 Pascal Сервер 16 ГБ 300 Вт
5.0
#18 NVIDIA Quadro GP100 Pascal Сервер 16 ГБ 235 Вт
4.9
#19 NVIDIA Tesla P100 PCIe 16 GB Pascal Сервер 16 ГБ 250 Вт
4.7
#20 NVIDIA V100 GPU accelerator (PCIe FHHL card) Сервер 16 ГБ 250 Вт
3.9
#21 NVIDIA A2 Ampere Сервер 16 ГБ 60 Вт
2.8
#22 NVIDIA A2 PCIe Ampere Сервер 16 ГБ 60 Вт
2.8
#23 NVIDIA A16 PCIe Ampere Сервер 16 ГБ 250 Вт
2.8
#24 NVIDIA Tesla P100 DGXS Pascal Сервер 16 ГБ 300 Вт
2.7
#25 NVIDIA A2 GPU accelerator (PCIe card) Сервер 16 ГБ 40 Вт
1.9
#26 NVIDIA Quadro P5000 Pascal WS 16 ГБ 180 Вт
1.5

Подробности расчёта — страница методики.