Рейтинг GPU для AI-инференса — VRAM 20-26 ГБ — NVIDIA — Pro и Server

AI-балл — для локального запуска больших языковых моделей, Stable Diffusion XL, fine-tuning и инференса embedding-моделей. Учитывается FP16 TFLOPS × 0.6 + Tensor Cores + memory bandwidth + min(VRAM, 80) ÷ 4. Карты с 80+ ГБ VRAM и оптимизацией под Tensor — в топе.

Фильтры: VRAM 20-26 ГБ + NVIDIA + Pro и Server

Гейминг AI-инференс 3D-рендер Вычисления Энергоэффективность
Все Consumer Ноутбуки Pro/Server
Все NVIDIA AMD Intel
VRAM: Любой <8 ГБ 8 ГБ 12 ГБ 16 ГБ 24 ГБ 32+ ГБ
# Модель Сегмент Память TDP AI
#1 NVIDIA L40 CNX Ada Lovelace Сервер 24 ГБ 300 Вт
24.5
#2 NVIDIA L40G Ada Lovelace Сервер 24 ГБ 300 Вт
24.5
#3 NVIDIA RTX PRO 4000 Blackwell Blackwell 2.0 WS 24 ГБ 140 Вт
13.5
#4 NVIDIA RTX A5500 Ampere WS 24 ГБ 230 Вт
13.0
#5 NVIDIA RTX 4500 Ada Generation Ada Lovelace WS 24 ГБ 210 Вт
12.0
#6 NVIDIA RTX A5000 Ampere WS 24 ГБ 230 Вт
10.4
#7 NVIDIA A10 PCIe Ampere Сервер 24 ГБ 150 Вт
10.3
#8 NVIDIA RTX PRO 4000 Blackwell SFF Blackwell 2.0 WS 24 ГБ 70 Вт
10.2
#9 NVIDIA Quadro RTX 6000 Turing WS 24 ГБ 260 Вт
9.9
#10 NVIDIA L4 Ada Lovelace Сервер 24 ГБ 72 Вт
9.7
#11 NVIDIA A30X Ampere Сервер 24 ГБ 230 Вт
9.5
#12 NVIDIA Quadro RTX 6000 Passive Turing WS 24 ГБ 260 Вт
9.4
#13 NVIDIA RTX 4000 Ada Generation Ada Lovelace WS 20 ГБ 130 Вт
8.8
#14 NVIDIA RTX A4500 Ampere WS 20 ГБ 200 Вт
8.8
#15 NVIDIA A30 PCIe Ampere Сервер 24 ГБ 165 Вт
8.2
#16 NVIDIA PG506-207 Ampere Сервер 24 ГБ 165 Вт
8.2
#17 NVIDIA PG506-217 Ampere Сервер 24 ГБ 165 Вт
8.2
#18 NVIDIA PG506-232 Ampere Сервер 24 ГБ 165 Вт
8.2
#19 NVIDIA PG506-242 Ampere Сервер 24 ГБ 165 Вт
8.2
#20 NVIDIA RTX 4000 SFF Ada Generation Ada Lovelace WS 20 ГБ 70 Вт
7.1
#21 NVIDIA A30 GPU accelerator (PCIe card) Сервер 24 ГБ 165 Вт
5.7
#22 NVIDIA A10 GPU accelerator (PCIe card) Сервер 24 ГБ 150 Вт
4.2
#23 NVIDIA L4 GPU accelerator Сервер 24 ГБ 72 Вт
3.3
#24 NVIDIA Tesla P10 Pascal Сервер 24 ГБ 150 Вт
3.0
#25 NVIDIA Quadro M6000 24 GB Maxwell 2.0 WS 24 ГБ 250 Вт
2.6
#26 NVIDIA Quadro P6000 Pascal WS 24 ГБ 250 Вт
2.3
#27 NVIDIA Tesla P40 Pascal Сервер 24 ГБ 250 Вт
2.0
#28 NVIDIA NVIDIA T400 WS 24 ГБ 30 Вт
1.9
#29 NVIDIA Tesla M40 24 GB Maxwell 2.0 Сервер 24 ГБ 250 Вт
1.9

Подробности расчёта — страница методики.