Рейтинг GPU для AI-инференса — Pro и Server

AI-балл — для локального запуска больших языковых моделей, Stable Diffusion XL, fine-tuning и инференса embedding-моделей. Учитывается FP16 TFLOPS × 0.6 + Tensor Cores + memory bandwidth + min(VRAM, 80) ÷ 4. Карты с 80+ ГБ VRAM и оптимизацией под Tensor — в топе.

Фильтр: Pro и Server — Профессиональные RTX PRO/A/Quadro и серверные H100/B200/MI300X.

Гейминг AI-инференс 3D-рендер Вычисления Энергоэффективность
Все Consumer Ноутбуки Pro/Server
Все NVIDIA AMD Intel
VRAM: Любой <8 ГБ 8 ГБ 12 ГБ 16 ГБ 24 ГБ 32+ ГБ
# Модель Сегмент Память TDP AI
#1 AMD Radeon Instinct MI300 CDNA 3.0 Сервер 128 ГБ 600 Вт
100.0
#2 NVIDIA H200 SXM 141 GB Hopper Сервер 141 ГБ 700 Вт
84.0
#3 AMD Radeon Instinct MI250X CDNA 2.0 Сервер 128 ГБ 500 Вт
80.6
#4 NVIDIA H200 NVL Hopper Сервер 141 ГБ 600 Вт
79.1
#5 AMD Radeon Instinct MI250 CDNA 2.0 Сервер 128 ГБ 500 Вт
77.3
#6 NVIDIA H100 SXM5 80 GB Hopper Сервер 80 ГБ 700 Вт
72.3
#7 NVIDIA H100 SXM5 94 GB Hopper Сервер 94 ГБ 700 Вт
72.3
#8 NVIDIA H100 SXM5 96 GB Hopper Сервер 96 ГБ 700 Вт
72.3
#9 NVIDIA H100 NVL 94 GB Hopper Сервер 94 ГБ 400 Вт
70.5
#10 NVIDIA H100 PCIe 96 GB Hopper Сервер 96 ГБ 700 Вт
68.9
#11 NVIDIA H800 SXM5 Hopper Сервер 80 ГБ 700 Вт
66.9
#12 NVIDIA B300 Blackwell Ultra Сервер 288 ГБ 1400 Вт
64.9
#13 NVIDIA H100 SXM5 64 GB Hopper Сервер 64 ГБ 700 Вт
64.5
#14 NVIDIA B200 Blackwell Сервер 192 ГБ 1000 Вт
64.4
#15 AMD Radeon Instinct MI355X CDNA 4.0 Сервер 288 ГБ 1400 Вт
62.4
#16 AMD Radeon Instinct MI350X CDNA 4.0 Сервер 288 ГБ 1000 Вт
61.2
#17 NVIDIA H100 CNX Hopper Сервер 80 ГБ 350 Вт
56.2
#18 NVIDIA H100 PCIe 80 GB Hopper Сервер 80 ГБ 350 Вт
54.4
#19 NVIDIA H800 PCIe 80 GB Hopper Сервер 80 ГБ 350 Вт
54.4
#20 AMD Radeon Instinct MI325X CDNA 3.0 Сервер 288 ГБ 1000 Вт
52.6
#21 AMD Radeon Instinct MI300A CDNA 3.0 Сервер 192 ГБ 750 Вт
46.5
#22 AMD Radeon Instinct MI300X CDNA 3.0 Сервер 192 ГБ 750 Вт
46.5
#23 AMD Radeon Instinct MI308X CDNA 3.0 Сервер 192 ГБ 750 Вт
46.5
#24 NVIDIA RTX PRO 6000 Blackwell Blackwell 2.0 WS 96 ГБ 600 Вт
42.6
#25 NVIDIA RTX PRO 6000 Blackwell Server Blackwell 2.0 WS 96 ГБ 600 Вт
42.6
#26 AMD Radeon Instinct MI200 CDNA 2.0 Сервер 64 ГБ 300 Вт
40.2
#27 AMD Radeon Instinct MI210 CDNA 2.0 Сервер 64 ГБ 300 Вт
40.2
#28 AMD Radeon Instinct MI100 CDNA 1.0 Сервер 32 ГБ 300 Вт
36.9
#29 NVIDIA RTX 6000D Blackwell 2.0 WS 84 ГБ 600 Вт
35.4
#30 NVIDIA A800 SXM4 80 GB Ampere Сервер 80 ГБ 400 Вт
31.7
#31 Intel Data Center GPU Max 1550 Generation 12.5 Сервер 128 ГБ 600 Вт
31.4
#32 NVIDIA A800 PCIe 80 GB Ampere Сервер 80 ГБ 250 Вт
31.2
#33 Intel Data Center GPU Max Subsystem Generation 12.5 Сервер 128 ГБ —
31.0
#34 AMD Radeon PRO W7900 RDNA 3.0 WS 48 ГБ 295 Вт
29.6
#35 NVIDIA A100X Ampere Сервер 80 ГБ 300 Вт
28.6
#36 NVIDIA A100 SXM4 80 GB Ampere Сервер 80 ГБ 400 Вт
28.4
#37 AMD Radeon PRO W7900D RDNA 3.0 WS 48 ГБ 295 Вт
28.0
#38 NVIDIA A100 PCIe 80 GB Ampere Сервер 80 ГБ 300 Вт
27.9
#39 NVIDIA RTX PRO 5000 72 GB Blackwell Blackwell 2.0 WS 72 ГБ 300 Вт
27.1
#40 NVIDIA RTX 6000 Ada Generation Ada Lovelace WS 48 ГБ 300 Вт
27.0
#41 NVIDIA L40S Ada Lovelace Сервер 48 ГБ 300 Вт
26.6
#42 NVIDIA A800 PCIe 40 GB Ampere Сервер 40 ГБ 250 Вт
26.4
#43 NVIDIA L40 Ada Lovelace Сервер 48 ГБ 300 Вт
26.4
#44 Intel Data Center GPU Max 1350 Generation 12.5 Сервер 96 ГБ 450 Вт
25.9
#45 NVIDIA RTX PRO 5000 Blackwell Blackwell 2.0 WS 48 ГБ 300 Вт
25.3
#46 NVIDIA L40 CNX Ada Lovelace Сервер 24 ГБ 300 Вт
24.5
#47 NVIDIA L40G Ada Lovelace Сервер 24 ГБ 300 Вт
24.5
#48 AMD Radeon PRO W7800 48 GB RDNA 3.0 WS 48 ГБ 281 Вт
23.9
#49 NVIDIA H200 GPU accelerator (PCIe card) Сервер 141 ГБ 600 Вт
23.7
#50 NVIDIA H200 GPU accelerator (SXM card) Сервер 141 ГБ 700 Вт
23.7
#51 NVIDIA A100 PCIe 40 GB Ampere Сервер 40 ГБ 250 Вт
23.6
#52 NVIDIA A100 SXM4 40 GB Ampere Сервер 40 ГБ 400 Вт
23.6
#53 NVIDIA RTX 5880 Ada Generation Ada Lovelace WS 48 ГБ 285 Вт
23.2
#54 NVIDIA DRIVE A100 PROD Ampere Сервер 32 ГБ 400 Вт
23.1
#55 NVIDIA H800 GPU accelerator (SXM card) Сервер 80 ГБ 700 Вт
22.5
#56 AMD Radeon PRO W7800 RDNA 3.0 WS 32 ГБ 260 Вт
21.3
#57 NVIDIA H100 GPU accelerator (SXM card) Сервер 64 ГБ 700 Вт
21.3
#58 NVIDIA L20 Ada Lovelace Сервер 48 ГБ 275 Вт
20.0
#59 NVIDIA RTX 5000 Ada Generation Ada Lovelace WS 32 ГБ 250 Вт
18.6
#60 NVIDIA RTX PRO 4500 Blackwell Blackwell 2.0 WS 32 ГБ 200 Вт
18.1
#61 NVIDIA Jetson T5000 Blackwell WS 128 ГБ 40 Вт
17.8
#62 NVIDIA GRID A100A Ampere Сервер 32 ГБ 400 Вт
17.1
#63 NVIDIA CMP 170HX 10 GB Ampere Сервер 10 ГБ 250 Вт
16.7
#64 NVIDIA CMP 170HX 8 GB Ampere Сервер 8 ГБ 250 Вт
16.2
#65 NVIDIA H100 GPU accelerator (PCIe card) Сервер 80 ГБ 350 Вт
16.0
#66 NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition WS 96 ГБ 300 Вт
15.5
#67 NVIDIA RTX PRO 6000 Blackwell Workstation Edition WS 96 ГБ 600 Вт
15.5
#68 NVIDIA GRID A100B Ampere Сервер 48 ГБ 400 Вт
15.4
#69 AMD Radeon PRO W7700 RDNA 3.0 WS 16 ГБ 190 Вт
15.4
#70 AMD Radeon PRO V710 RDNA 3.0 WS 28 ГБ 158 Вт
15.1
#71 NVIDIA RTX A6000 Ampere WS 48 ГБ 300 Вт
14.0
#72 Intel Data Center GPU Max 1100 Generation 12.5 Сервер 48 ГБ 300 Вт
13.6
#73 NVIDIA RTX PRO 4000 Blackwell Blackwell 2.0 WS 24 ГБ 140 Вт
13.5
#74 NVIDIA A40 PCIe Ampere Сервер 48 ГБ 300 Вт
13.5
#75 NVIDIA RTX A5500 Ampere WS 24 ГБ 230 Вт
13.0
#76 AMD AMD Instinct MI210 (Aldebaran) Сервер 64 ГБ —
12.8
#77 NVIDIA Jetson T4000 Blackwell WS 64 ГБ 40 Вт
12.5
#78 Intel Arctic Sound-M Generation 12.5 Сервер 16 ГБ 500 Вт
12.5
#79 NVIDIA Tesla V100S PCIe 32 GB Volta Сервер 32 ГБ 250 Вт
12.2
#80 NVIDIA RTX 4500 Ada Generation Ada Lovelace WS 24 ГБ 210 Вт
12.0
#81 NVIDIA Tesla V100 SXM3 32 GB Volta Сервер 32 ГБ 250 Вт
11.7
#82 NVIDIA Tesla PG500-216 Volta Сервер 32 ГБ 250 Вт
11.6
#83 NVIDIA Tesla PG503-216 Volta Сервер 32 ГБ 250 Вт
11.6
#84 NVIDIA Tesla T4 Turing Сервер 16 ГБ 70 Вт
11.6
#85 NVIDIA Tesla T4G Turing Сервер 16 ГБ 70 Вт
11.6
#86 AMD Radeon Pro W6900X RDNA 2.0 WS 32 ГБ 300 Вт
11.4
#87 NVIDIA Quadro GV100 Volta Сервер 32 ГБ 250 Вт
11.3
#88 NVIDIA Tesla V100 SXM2 16 GB Volta Сервер 16 ГБ 250 Вт
11.3
#89 NVIDIA Quadro RTX 8000 Turing WS 48 ГБ 260 Вт
11.2
#90 NVIDIA Tesla V100 SXM2 32 GB Volta Сервер 32 ГБ 250 Вт
11.2
#91 NVIDIA RTX 5000 Embedded Ada Generation Ada Lovelace WS 16 ГБ 120 Вт
11.2
#92 NVIDIA RTX 5000 Embedded Ada Generation X2 Ada Lovelace WS 16 ГБ 150 Вт
11.2
#93 NVIDIA CMP 100HX-210 Volta Сервер 16 ГБ 250 Вт
11.0
#94 Intel Arctic Sound 2T Generation 12.5 Сервер 16 ГБ 500 Вт
10.9
#95 AMD Radeon PRO V620 RDNA 2.0 WS 32 ГБ 300 Вт
10.8
#96 NVIDIA Tesla V100 PCIe 32 GB Volta Сервер 32 ГБ 250 Вт
10.8
#97 NVIDIA Quadro RTX 8000 Passive Turing WS 48 ГБ 260 Вт
10.7
#98 NVIDIA RTX A5000 Ampere WS 24 ГБ 230 Вт
10.4
#99 NVIDIA A10 PCIe Ampere Сервер 24 ГБ 150 Вт
10.3
#100 NVIDIA RTX PRO 4000 Blackwell SFF Blackwell 2.0 WS 24 ГБ 70 Вт
10.2
#101 AMD Radeon PRO W6800 RDNA 2.0 WS 32 ГБ 250 Вт
10.0
#102 Intel Arctic Sound 1T Generation 12.5 Сервер 16 ГБ 350 Вт
10.0
#103 NVIDIA Quadro RTX 6000 Turing WS 24 ГБ 260 Вт
9.9
#104 AMD Radeon Pro VII GCN 5.1 WS 16 ГБ 250 Вт
9.7
#105 NVIDIA L4 Ada Lovelace Сервер 24 ГБ 72 Вт
9.7
#106 Intel Data Center GPU Flex 170 Xe-HPG Сервер 16 ГБ 150 Вт
9.7
#107 NVIDIA RTX A5000-12Q Ampere WS 12 ГБ 230 Вт
9.6
#108 NVIDIA A30X Ampere Сервер 24 ГБ 230 Вт
9.5
#109 NVIDIA A100 GPU accelerator (PCIe card) Сервер 40 ГБ 250 Вт
9.5
#110 AMD Radeon Pro W6800X RDNA 2.0 WS 32 ГБ 200 Вт
9.5
#111 NVIDIA Tesla V100 FHHL Volta Сервер 16 ГБ 250 Вт
9.4
#112 NVIDIA Quadro RTX 6000 Passive Turing WS 24 ГБ 260 Вт
9.4
#113 NVIDIA RTX A5000-8Q Ampere WS 8 ГБ 230 Вт
9.3
#114 AMD Radeon Instinct MI60 GCN 5.1 Сервер 32 ГБ 300 Вт
9.3
#115 AMD Radeon Pro W6800X Duo RDNA 2.0 WS 32 ГБ 400 Вт
9.2
#116 AMD Radeon Pro Vega II Duo GCN 5.1 WS 32 ГБ 475 Вт
9.1
#117 AMD Radeon PRO W7600 RDNA 3.0 WS 8 ГБ 130 Вт
9.1
#118 NVIDIA RTX 4000 Ada Generation Ada Lovelace WS 20 ГБ 130 Вт
8.8
#119 NVIDIA RTX A4500 Ampere WS 20 ГБ 200 Вт
8.8
#120 AMD Radeon Pro Vega II GCN 5.1 WS 32 ГБ 475 Вт
8.4
#121 NVIDIA A30 PCIe Ampere Сервер 24 ГБ 165 Вт
8.2
#122 NVIDIA PG506-207 Ampere Сервер 24 ГБ 165 Вт
8.2
#123 NVIDIA PG506-217 Ampere Сервер 24 ГБ 165 Вт
8.2
#124 NVIDIA PG506-232 Ampere Сервер 24 ГБ 165 Вт
8.2
#125 NVIDIA PG506-242 Ampere Сервер 24 ГБ 165 Вт
8.2
#126 AMD Radeon Pro W7800 48GB (Navi 31) WS 48 ГБ —
8.2
#127 AMD Radeon Pro W7900 Dual Slot (Navi 31) WS 48 ГБ —
8.2
#128 AMD Radeon VII GCN 5.1 Сервер 16 ГБ 295 Вт
8.1
#129 AMD Radeon Instinct MI50 GCN 5.1 Сервер 16 ГБ 300 Вт
8.1
#130 NVIDIA L40 GPU accelerator Сервер 48 ГБ 300 Вт
7.8
#131 NVIDIA RTX 3500 Embedded Ada Generation Ada Lovelace WS 12 ГБ 100 Вт
7.8
#132 AMD Radeon Pro W7900 (Navi 31) WS 48 ГБ —
7.8
#133 NVIDIA Tesla V100 PCIe 16 GB Volta Сервер 16 ГБ 300 Вт
7.8
#134 NVIDIA Tesla T10 16 GB Turing Сервер 16 ГБ 150 Вт
7.8
#135 AMD AMD Instinct MI100 (Arcturus) Сервер 32 ГБ —
7.5
#136 NVIDIA RTX 4000 SFF Ada Generation Ada Lovelace WS 20 ГБ 70 Вт
7.1
#137 NVIDIA RTX A4000 Ampere Сервер 16 ГБ 140 Вт
6.8
#138 NVIDIA RTX A4000H Ampere Сервер 16 ГБ 140 Вт
6.8
#139 NVIDIA Quadro RTX 5000 Turing WS 16 ГБ 230 Вт
6.7
#140 NVIDIA RTX PRO 2000 Blackwell Blackwell 2.0 WS 16 ГБ 70 Вт
6.6
#141 NVIDIA RTX A4500 Embedded Ampere WS 16 ГБ 80 Вт
6.4
#142 NVIDIA A40 GPU accelerator (PCIe card) Сервер 48 ГБ 300 Вт
6.2
#143 AMD AMD Instinct MI350X Сервер 288 ГБ —
6.2
#144 AMD AMD Instinct MI355X Сервер 288 ГБ —
6.2
#145 AMD Radeon PRO W7500 RDNA 3.0 WS 8 ГБ 70 Вт
6.2
#146 NVIDIA Tesla V100 DGXS 32 GB Volta Сервер 32 ГБ 250 Вт
6.2
#147 AMD AMD Instinct MI300A (Antares) Сервер 128 ГБ —
5.9
#148 AMD AMD Instinct MI300X (Aqua Vanjaram) Сервер 192 ГБ —
5.9
#149 AMD Radeon Pro Vega 64X GCN 5.0 WS 16 ГБ 250 Вт
5.9
#150 NVIDIA Quadro Plex 2200 D2 WS 4 ГБ 640 Вт
5.8
#151 NVIDIA Quadro Plex 2200 S4 WS 4 ГБ 600 Вт
5.8
#152 NVIDIA Tesla V100 DGXS 16 GB Volta Сервер 16 ГБ 250 Вт
5.8
#153 NVIDIA GRID RTX T10-4 Turing Сервер 4 ГБ 150 Вт
5.7
#154 NVIDIA A30 GPU accelerator (PCIe card) Сервер 24 ГБ 165 Вт
5.7
#155 NVIDIA GRID RTX T10-2 Turing Сервер 2 ГБ 150 Вт
5.6
#156 AMD Radeon Instinct MI60 (Vega 20) Сервер 32 ГБ —
5.5
#157 AMD Radeon Pro Vega II (Vega 20) WS 32 ГБ —
5.5
#158 AMD Radeon Pro V340 16 GB GCN 5.0 WS 16 ГБ 230 Вт
5.4
#159 AMD Radeon Pro W5700X RDNA 1.0 WS 16 ГБ 205 Вт
5.2
#160 NVIDIA RTX 2000 Ada Generation Ada Lovelace WS 16 ГБ 70 Вт
5.2
#161 AMD Radeon Pro W7800 (Navi 31) WS 32 ГБ —
5.2
#162 AMD Radeon Pro 5700 XT RDNA 1.0 WS 16 ГБ 130 Вт
5.2
#163 AMD Radeon Pro V520 RDNA 1.0 WS 8 ГБ 225 Вт
5.1
#164 AMD Radeon Pro WX 8200 GCN 5.0 WS 8 ГБ 230 Вт
5.1
#165 AMD Radeon Pro V340 8 GB GCN 5.0 WS 8 ГБ 230 Вт
5.0
#166 NVIDIA Tesla P100 SXM2 Pascal Сервер 16 ГБ 300 Вт
5.0
#167 NVIDIA Quadro GP100 Pascal Сервер 16 ГБ 235 Вт
4.9
#168 AMD Radeon Pro W6600X RDNA 2.0 WS 8 ГБ 120 Вт
4.9
#169 AMD Radeon Vega Frontier Edition GCN 5.0 Сервер 16 ГБ 300 Вт
4.8
#170 AMD Radeon Vega Frontier Edition Watercooled GCN 5.0 Сервер 16 ГБ 375 Вт
4.8
#171 NVIDIA Quadro RTX 4000 Turing WS 8 ГБ 160 Вт
4.8
#172 NVIDIA Tesla P100 PCIe 16 GB Pascal Сервер 16 ГБ 250 Вт
4.7
#173 AMD Radeon Pro SSG GCN 5.0 WS 16 ГБ 260 Вт
4.6
#174 AMD Radeon Pro WX 9100 GCN 5.0 WS 16 ГБ 230 Вт
4.6
#175 AMD Radeon Pro V710 (Navi 32) WS 28 ГБ —
4.5
#176 NVIDIA RTX 2000 Embedded Ada Generation Ada Lovelace WS 8 ГБ 50 Вт
4.5
#177 AMD Radeon Instinct MI25 GCN 5.0 Сервер 16 ГБ 300 Вт
4.5
#178 AMD Radeon PRO W6600 RDNA 2.0 WS 8 ГБ 100 Вт
4.5
#179 AMD Radeon Pro W6800 (Navi 21) WS 32 ГБ —
4.4
#180 AMD Radeon Pro W6800X (Navi 21) WS 32 ГБ —
4.4
#181 AMD Radeon Pro V620 (Navi 21) WS 32 ГБ —
4.4
#182 AMD Radeon Pro W5700 RDNA 1.0 WS 8 ГБ 205 Вт
4.3
#183 NVIDIA A10 GPU accelerator (PCIe card) Сервер 24 ГБ 150 Вт
4.2
#184 AMD Radeon Pro 5700 RDNA 1.0 WS 8 ГБ 130 Вт
4.2
#185 AMD Radeon Pro 5600M RDNA 1.0 WS 8 ГБ 50 Вт
4.1
#186 AMD Radeon Pro Vega 64 GCN 5.0 WS 16 ГБ 250 Вт
4.1
#187 NVIDIA Tesla P100 PCIe 12 GB Pascal Сервер 12 ГБ 250 Вт
4.0
#188 AMD Radeon Pro W7700 (Navi 32) WS 16 ГБ —
4.0
#189 AMD Radeon Pro WX 8100 GCN 5.0 WS 8 ГБ 230 Вт
4.0
#190 AMD Radeon Pro V320 GCN 5.0 WS 8 ГБ 230 Вт
3.9
#191 NVIDIA V100 GPU accelerator (PCIe FHHL card) Сервер 16 ГБ 250 Вт
3.9
#192 NVIDIA NVIDIA T1000 WS 48 ГБ 50 Вт
3.9
#193 AMD Radeon Pro Vega 48 GCN 5.0 WS 8 ГБ —
3.8
#194 AMD Radeon Pro W6600M RDNA 2.0 WS 8 ГБ 90 Вт
3.8
#195 NVIDIA RTX A2000 12 GB Ampere WS 12 ГБ 70 Вт
3.8
#196 AMD Radeon Instinct MI50 (Vega 20) Сервер — —
3.7
#197 NVIDIA RTX A2000 Ampere WS 6 ГБ 70 Вт
3.4
#198 AMD Radeon Pro Vega 56 GCN 5.0 WS 8 ГБ 210 Вт
3.3
#199 AMD Radeon Pro 5500M (Navi 14) WS 48 ГБ —
3.3
#200 NVIDIA L4 GPU accelerator Сервер 24 ГБ 72 Вт
3.3

Подробности расчёта — страница методики.