Рейтинг GPU для AI-инференса — VRAM 32+ ГБ — Pro и Server

AI-балл — для локального запуска больших языковых моделей, Stable Diffusion XL, fine-tuning и инференса embedding-моделей. Учитывается FP16 TFLOPS × 0.6 + Tensor Cores + memory bandwidth + min(VRAM, 80) ÷ 4. Карты с 80+ ГБ VRAM и оптимизацией под Tensor — в топе.

Фильтры: VRAM 32+ ГБ + Pro и Server

Гейминг AI-инференс 3D-рендер Вычисления Энергоэффективность
Все Consumer Ноутбуки Pro/Server
Все NVIDIA AMD Intel
VRAM: Любой <8 ГБ 8 ГБ 12 ГБ 16 ГБ 24 ГБ 32+ ГБ
# Модель Сегмент Память TDP AI
#1 AMD Radeon Instinct MI300 CDNA 3.0 Сервер 128 ГБ 600 Вт
100.0
#2 NVIDIA H200 SXM 141 GB Hopper Сервер 141 ГБ 700 Вт
84.0
#3 AMD Radeon Instinct MI250X CDNA 2.0 Сервер 128 ГБ 500 Вт
80.6
#4 NVIDIA H200 NVL Hopper Сервер 141 ГБ 600 Вт
79.1
#5 AMD Radeon Instinct MI250 CDNA 2.0 Сервер 128 ГБ 500 Вт
77.3
#6 NVIDIA H100 SXM5 80 GB Hopper Сервер 80 ГБ 700 Вт
72.3
#7 NVIDIA H100 SXM5 94 GB Hopper Сервер 94 ГБ 700 Вт
72.3
#8 NVIDIA H100 SXM5 96 GB Hopper Сервер 96 ГБ 700 Вт
72.3
#9 NVIDIA H100 NVL 94 GB Hopper Сервер 94 ГБ 400 Вт
70.5
#10 NVIDIA H100 PCIe 96 GB Hopper Сервер 96 ГБ 700 Вт
68.9
#11 NVIDIA H800 SXM5 Hopper Сервер 80 ГБ 700 Вт
66.9
#12 NVIDIA B300 Blackwell Ultra Сервер 288 ГБ 1400 Вт
64.9
#13 NVIDIA H100 SXM5 64 GB Hopper Сервер 64 ГБ 700 Вт
64.5
#14 NVIDIA B200 Blackwell Сервер 192 ГБ 1000 Вт
64.4
#15 AMD Radeon Instinct MI355X CDNA 4.0 Сервер 288 ГБ 1400 Вт
62.4
#16 AMD Radeon Instinct MI350X CDNA 4.0 Сервер 288 ГБ 1000 Вт
61.2
#17 NVIDIA H100 CNX Hopper Сервер 80 ГБ 350 Вт
56.2
#18 NVIDIA H100 PCIe 80 GB Hopper Сервер 80 ГБ 350 Вт
54.4
#19 NVIDIA H800 PCIe 80 GB Hopper Сервер 80 ГБ 350 Вт
54.4
#20 AMD Radeon Instinct MI325X CDNA 3.0 Сервер 288 ГБ 1000 Вт
52.6
#21 AMD Radeon Instinct MI300A CDNA 3.0 Сервер 192 ГБ 750 Вт
46.5
#22 AMD Radeon Instinct MI300X CDNA 3.0 Сервер 192 ГБ 750 Вт
46.5
#23 AMD Radeon Instinct MI308X CDNA 3.0 Сервер 192 ГБ 750 Вт
46.5
#24 NVIDIA RTX PRO 6000 Blackwell Blackwell 2.0 WS 96 ГБ 600 Вт
42.6
#25 NVIDIA RTX PRO 6000 Blackwell Server Blackwell 2.0 WS 96 ГБ 600 Вт
42.6
#26 AMD Radeon Instinct MI200 CDNA 2.0 Сервер 64 ГБ 300 Вт
40.2
#27 AMD Radeon Instinct MI210 CDNA 2.0 Сервер 64 ГБ 300 Вт
40.2
#28 AMD Radeon Instinct MI100 CDNA 1.0 Сервер 32 ГБ 300 Вт
36.9
#29 NVIDIA RTX 6000D Blackwell 2.0 WS 84 ГБ 600 Вт
35.4
#30 NVIDIA A800 SXM4 80 GB Ampere Сервер 80 ГБ 400 Вт
31.7
#31 Intel Data Center GPU Max 1550 Generation 12.5 Сервер 128 ГБ 600 Вт
31.4
#32 NVIDIA A800 PCIe 80 GB Ampere Сервер 80 ГБ 250 Вт
31.2
#33 Intel Data Center GPU Max Subsystem Generation 12.5 Сервер 128 ГБ
31.0
#34 AMD Radeon PRO W7900 RDNA 3.0 WS 48 ГБ 295 Вт
29.6
#35 NVIDIA A100X Ampere Сервер 80 ГБ 300 Вт
28.6
#36 NVIDIA A100 SXM4 80 GB Ampere Сервер 80 ГБ 400 Вт
28.4
#37 AMD Radeon PRO W7900D RDNA 3.0 WS 48 ГБ 295 Вт
28.0
#38 NVIDIA A100 PCIe 80 GB Ampere Сервер 80 ГБ 300 Вт
27.9
#39 NVIDIA RTX PRO 5000 72 GB Blackwell Blackwell 2.0 WS 72 ГБ 300 Вт
27.1
#40 NVIDIA RTX 6000 Ada Generation Ada Lovelace WS 48 ГБ 300 Вт
27.0
#41 NVIDIA L40S Ada Lovelace Сервер 48 ГБ 300 Вт
26.6
#42 NVIDIA A800 PCIe 40 GB Ampere Сервер 40 ГБ 250 Вт
26.4
#43 NVIDIA L40 Ada Lovelace Сервер 48 ГБ 300 Вт
26.4
#44 Intel Data Center GPU Max 1350 Generation 12.5 Сервер 96 ГБ 450 Вт
25.9
#45 NVIDIA RTX PRO 5000 Blackwell Blackwell 2.0 WS 48 ГБ 300 Вт
25.3
#46 AMD Radeon PRO W7800 48 GB RDNA 3.0 WS 48 ГБ 281 Вт
23.9
#47 NVIDIA H200 GPU accelerator (PCIe card) Сервер 141 ГБ 600 Вт
23.7
#48 NVIDIA H200 GPU accelerator (SXM card) Сервер 141 ГБ 700 Вт
23.7
#49 NVIDIA A100 PCIe 40 GB Ampere Сервер 40 ГБ 250 Вт
23.6
#50 NVIDIA A100 SXM4 40 GB Ampere Сервер 40 ГБ 400 Вт
23.6
#51 NVIDIA RTX 5880 Ada Generation Ada Lovelace WS 48 ГБ 285 Вт
23.2
#52 NVIDIA DRIVE A100 PROD Ampere Сервер 32 ГБ 400 Вт
23.1
#53 NVIDIA H800 GPU accelerator (SXM card) Сервер 80 ГБ 700 Вт
22.5
#54 AMD Radeon PRO W7800 RDNA 3.0 WS 32 ГБ 260 Вт
21.3
#55 NVIDIA H100 GPU accelerator (SXM card) Сервер 64 ГБ 700 Вт
21.3
#56 NVIDIA L20 Ada Lovelace Сервер 48 ГБ 275 Вт
20.0
#57 NVIDIA RTX 5000 Ada Generation Ada Lovelace WS 32 ГБ 250 Вт
18.6
#58 NVIDIA RTX PRO 4500 Blackwell Blackwell 2.0 WS 32 ГБ 200 Вт
18.1
#59 NVIDIA Jetson T5000 Blackwell WS 128 ГБ 40 Вт
17.8
#60 NVIDIA GRID A100A Ampere Сервер 32 ГБ 400 Вт
17.1
#61 NVIDIA H100 GPU accelerator (PCIe card) Сервер 80 ГБ 350 Вт
16.0
#62 NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition WS 96 ГБ 300 Вт
15.5
#63 NVIDIA RTX PRO 6000 Blackwell Workstation Edition WS 96 ГБ 600 Вт
15.5
#64 NVIDIA GRID A100B Ampere Сервер 48 ГБ 400 Вт
15.4
#65 NVIDIA RTX A6000 Ampere WS 48 ГБ 300 Вт
14.0
#66 Intel Data Center GPU Max 1100 Generation 12.5 Сервер 48 ГБ 300 Вт
13.6
#67 NVIDIA A40 PCIe Ampere Сервер 48 ГБ 300 Вт
13.5
#68 AMD AMD Instinct MI210 (Aldebaran) Сервер 64 ГБ
12.8
#69 NVIDIA Jetson T4000 Blackwell WS 64 ГБ 40 Вт
12.5
#70 NVIDIA Tesla V100S PCIe 32 GB Volta Сервер 32 ГБ 250 Вт
12.2
#71 NVIDIA Tesla V100 SXM3 32 GB Volta Сервер 32 ГБ 250 Вт
11.7
#72 NVIDIA Tesla PG500-216 Volta Сервер 32 ГБ 250 Вт
11.6
#73 NVIDIA Tesla PG503-216 Volta Сервер 32 ГБ 250 Вт
11.6
#74 AMD Radeon Pro W6900X RDNA 2.0 WS 32 ГБ 300 Вт
11.4
#75 NVIDIA Quadro GV100 Volta Сервер 32 ГБ 250 Вт
11.3
#76 NVIDIA Quadro RTX 8000 Turing WS 48 ГБ 260 Вт
11.2
#77 NVIDIA Tesla V100 SXM2 32 GB Volta Сервер 32 ГБ 250 Вт
11.2
#78 AMD Radeon PRO V620 RDNA 2.0 WS 32 ГБ 300 Вт
10.8
#79 NVIDIA Tesla V100 PCIe 32 GB Volta Сервер 32 ГБ 250 Вт
10.8
#80 NVIDIA Quadro RTX 8000 Passive Turing WS 48 ГБ 260 Вт
10.7
#81 AMD Radeon PRO W6800 RDNA 2.0 WS 32 ГБ 250 Вт
10.0
#82 NVIDIA A100 GPU accelerator (PCIe card) Сервер 40 ГБ 250 Вт
9.5
#83 AMD Radeon Pro W6800X RDNA 2.0 WS 32 ГБ 200 Вт
9.5
#84 AMD Radeon Instinct MI60 GCN 5.1 Сервер 32 ГБ 300 Вт
9.3
#85 AMD Radeon Pro W6800X Duo RDNA 2.0 WS 32 ГБ 400 Вт
9.2
#86 AMD Radeon Pro Vega II Duo GCN 5.1 WS 32 ГБ 475 Вт
9.1
#87 AMD Radeon Pro Vega II GCN 5.1 WS 32 ГБ 475 Вт
8.4
#88 AMD Radeon Pro W7800 48GB (Navi 31) WS 48 ГБ
8.2
#89 AMD Radeon Pro W7900 Dual Slot (Navi 31) WS 48 ГБ
8.2
#90 NVIDIA L40 GPU accelerator Сервер 48 ГБ 300 Вт
7.8
#91 AMD Radeon Pro W7900 (Navi 31) WS 48 ГБ
7.8
#92 AMD AMD Instinct MI100 (Arcturus) Сервер 32 ГБ
7.5
#93 NVIDIA A40 GPU accelerator (PCIe card) Сервер 48 ГБ 300 Вт
6.2
#94 AMD AMD Instinct MI350X Сервер 288 ГБ
6.2
#95 AMD AMD Instinct MI355X Сервер 288 ГБ
6.2
#96 NVIDIA Tesla V100 DGXS 32 GB Volta Сервер 32 ГБ 250 Вт
6.2
#97 AMD AMD Instinct MI300A (Antares) Сервер 128 ГБ
5.9
#98 AMD AMD Instinct MI300X (Aqua Vanjaram) Сервер 192 ГБ
5.9
#99 AMD Radeon Instinct MI60 (Vega 20) Сервер 32 ГБ
5.5
#100 AMD Radeon Pro Vega II (Vega 20) WS 32 ГБ
5.5
#101 AMD Radeon Pro W7800 (Navi 31) WS 32 ГБ
5.2
#102 AMD Radeon Pro W6800 (Navi 21) WS 32 ГБ
4.4
#103 AMD Radeon Pro W6800X (Navi 21) WS 32 ГБ
4.4
#104 AMD Radeon Pro V620 (Navi 21) WS 32 ГБ
4.4
#105 NVIDIA NVIDIA T1000 WS 48 ГБ 50 Вт
3.9
#106 AMD Radeon Pro 5500M (Navi 14) WS 48 ГБ
3.3
#107 AMD FirePro S9170 GCN 2.0 WS 32 ГБ 275 Вт
2.0