Рейтинг GPU для AI-инференса — NVIDIA — Pro и Server

AI-балл — для локального запуска больших языковых моделей, Stable Diffusion XL, fine-tuning и инференса embedding-моделей. Учитывается FP16 TFLOPS × 0.6 + Tensor Cores + memory bandwidth + min(VRAM, 80) ÷ 4. Карты с 80+ ГБ VRAM и оптимизацией под Tensor — в топе.

Фильтры: NVIDIA + Pro и Server (Профессиональные RTX PRO/A/Quadro и серверные H100/B200/MI300X)

Гейминг AI-инференс 3D-рендер Вычисления Энергоэффективность
Все Consumer Ноутбуки Pro/Server
Все NVIDIA AMD Intel
VRAM: Любой <8 ГБ 8 ГБ 12 ГБ 16 ГБ 24 ГБ 32+ ГБ
# Модель Сегмент Память TDP AI
#1 NVIDIA H200 SXM 141 GB Hopper Сервер 141 ГБ 700 Вт
84.0
#2 NVIDIA H200 NVL Hopper Сервер 141 ГБ 600 Вт
79.1
#3 NVIDIA H100 SXM5 80 GB Hopper Сервер 80 ГБ 700 Вт
72.3
#4 NVIDIA H100 SXM5 94 GB Hopper Сервер 94 ГБ 700 Вт
72.3
#5 NVIDIA H100 SXM5 96 GB Hopper Сервер 96 ГБ 700 Вт
72.3
#6 NVIDIA H100 NVL 94 GB Hopper Сервер 94 ГБ 400 Вт
70.5
#7 NVIDIA H100 PCIe 96 GB Hopper Сервер 96 ГБ 700 Вт
68.9
#8 NVIDIA H800 SXM5 Hopper Сервер 80 ГБ 700 Вт
66.9
#9 NVIDIA B300 Blackwell Ultra Сервер 288 ГБ 1400 Вт
64.9
#10 NVIDIA H100 SXM5 64 GB Hopper Сервер 64 ГБ 700 Вт
64.5
#11 NVIDIA B200 Blackwell Сервер 192 ГБ 1000 Вт
64.4
#12 NVIDIA H100 CNX Hopper Сервер 80 ГБ 350 Вт
56.2
#13 NVIDIA H100 PCIe 80 GB Hopper Сервер 80 ГБ 350 Вт
54.4
#14 NVIDIA H800 PCIe 80 GB Hopper Сервер 80 ГБ 350 Вт
54.4
#15 NVIDIA RTX PRO 6000 Blackwell Blackwell 2.0 WS 96 ГБ 600 Вт
42.6
#16 NVIDIA RTX PRO 6000 Blackwell Server Blackwell 2.0 WS 96 ГБ 600 Вт
42.6
#17 NVIDIA RTX 6000D Blackwell 2.0 WS 84 ГБ 600 Вт
35.4
#18 NVIDIA A800 SXM4 80 GB Ampere Сервер 80 ГБ 400 Вт
31.7
#19 NVIDIA A800 PCIe 80 GB Ampere Сервер 80 ГБ 250 Вт
31.2
#20 NVIDIA A100X Ampere Сервер 80 ГБ 300 Вт
28.6
#21 NVIDIA A100 SXM4 80 GB Ampere Сервер 80 ГБ 400 Вт
28.4
#22 NVIDIA A100 PCIe 80 GB Ampere Сервер 80 ГБ 300 Вт
27.9
#23 NVIDIA RTX PRO 5000 72 GB Blackwell Blackwell 2.0 WS 72 ГБ 300 Вт
27.1
#24 NVIDIA RTX 6000 Ada Generation Ada Lovelace WS 48 ГБ 300 Вт
27.0
#25 NVIDIA L40S Ada Lovelace Сервер 48 ГБ 300 Вт
26.6
#26 NVIDIA A800 PCIe 40 GB Ampere Сервер 40 ГБ 250 Вт
26.4
#27 NVIDIA L40 Ada Lovelace Сервер 48 ГБ 300 Вт
26.4
#28 NVIDIA RTX PRO 5000 Blackwell Blackwell 2.0 WS 48 ГБ 300 Вт
25.3
#29 NVIDIA L40 CNX Ada Lovelace Сервер 24 ГБ 300 Вт
24.5
#30 NVIDIA L40G Ada Lovelace Сервер 24 ГБ 300 Вт
24.5
#31 NVIDIA H200 GPU accelerator (PCIe card) Сервер 141 ГБ 600 Вт
23.7
#32 NVIDIA H200 GPU accelerator (SXM card) Сервер 141 ГБ 700 Вт
23.7
#33 NVIDIA A100 PCIe 40 GB Ampere Сервер 40 ГБ 250 Вт
23.6
#34 NVIDIA A100 SXM4 40 GB Ampere Сервер 40 ГБ 400 Вт
23.6
#35 NVIDIA RTX 5880 Ada Generation Ada Lovelace WS 48 ГБ 285 Вт
23.2
#36 NVIDIA DRIVE A100 PROD Ampere Сервер 32 ГБ 400 Вт
23.1
#37 NVIDIA H800 GPU accelerator (SXM card) Сервер 80 ГБ 700 Вт
22.5
#38 NVIDIA H100 GPU accelerator (SXM card) Сервер 64 ГБ 700 Вт
21.3
#39 NVIDIA L20 Ada Lovelace Сервер 48 ГБ 275 Вт
20.0
#40 NVIDIA RTX 5000 Ada Generation Ada Lovelace WS 32 ГБ 250 Вт
18.6
#41 NVIDIA RTX PRO 4500 Blackwell Blackwell 2.0 WS 32 ГБ 200 Вт
18.1
#42 NVIDIA Jetson T5000 Blackwell WS 128 ГБ 40 Вт
17.8
#43 NVIDIA GRID A100A Ampere Сервер 32 ГБ 400 Вт
17.1
#44 NVIDIA CMP 170HX 10 GB Ampere Сервер 10 ГБ 250 Вт
16.7
#45 NVIDIA CMP 170HX 8 GB Ampere Сервер 8 ГБ 250 Вт
16.2
#46 NVIDIA H100 GPU accelerator (PCIe card) Сервер 80 ГБ 350 Вт
16.0
#47 NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition WS 96 ГБ 300 Вт
15.5
#48 NVIDIA RTX PRO 6000 Blackwell Workstation Edition WS 96 ГБ 600 Вт
15.5
#49 NVIDIA GRID A100B Ampere Сервер 48 ГБ 400 Вт
15.4
#50 NVIDIA RTX A6000 Ampere WS 48 ГБ 300 Вт
14.0
#51 NVIDIA RTX PRO 4000 Blackwell Blackwell 2.0 WS 24 ГБ 140 Вт
13.5
#52 NVIDIA A40 PCIe Ampere Сервер 48 ГБ 300 Вт
13.5
#53 NVIDIA RTX A5500 Ampere WS 24 ГБ 230 Вт
13.0
#54 NVIDIA Jetson T4000 Blackwell WS 64 ГБ 40 Вт
12.5
#55 NVIDIA Tesla V100S PCIe 32 GB Volta Сервер 32 ГБ 250 Вт
12.2
#56 NVIDIA RTX 4500 Ada Generation Ada Lovelace WS 24 ГБ 210 Вт
12.0
#57 NVIDIA Tesla V100 SXM3 32 GB Volta Сервер 32 ГБ 250 Вт
11.7
#58 NVIDIA Tesla PG500-216 Volta Сервер 32 ГБ 250 Вт
11.6
#59 NVIDIA Tesla PG503-216 Volta Сервер 32 ГБ 250 Вт
11.6
#60 NVIDIA Tesla T4 Turing Сервер 16 ГБ 70 Вт
11.6
#61 NVIDIA Tesla T4G Turing Сервер 16 ГБ 70 Вт
11.6
#62 NVIDIA Quadro GV100 Volta Сервер 32 ГБ 250 Вт
11.3
#63 NVIDIA Tesla V100 SXM2 16 GB Volta Сервер 16 ГБ 250 Вт
11.3
#64 NVIDIA Quadro RTX 8000 Turing WS 48 ГБ 260 Вт
11.2
#65 NVIDIA Tesla V100 SXM2 32 GB Volta Сервер 32 ГБ 250 Вт
11.2
#66 NVIDIA RTX 5000 Embedded Ada Generation Ada Lovelace WS 16 ГБ 120 Вт
11.2
#67 NVIDIA RTX 5000 Embedded Ada Generation X2 Ada Lovelace WS 16 ГБ 150 Вт
11.2
#68 NVIDIA CMP 100HX-210 Volta Сервер 16 ГБ 250 Вт
11.0
#69 NVIDIA Tesla V100 PCIe 32 GB Volta Сервер 32 ГБ 250 Вт
10.8
#70 NVIDIA Quadro RTX 8000 Passive Turing WS 48 ГБ 260 Вт
10.7
#71 NVIDIA RTX A5000 Ampere WS 24 ГБ 230 Вт
10.4
#72 NVIDIA A10 PCIe Ampere Сервер 24 ГБ 150 Вт
10.3
#73 NVIDIA RTX PRO 4000 Blackwell SFF Blackwell 2.0 WS 24 ГБ 70 Вт
10.2
#74 NVIDIA Quadro RTX 6000 Turing WS 24 ГБ 260 Вт
9.9
#75 NVIDIA L4 Ada Lovelace Сервер 24 ГБ 72 Вт
9.7
#76 NVIDIA RTX A5000-12Q Ampere WS 12 ГБ 230 Вт
9.6
#77 NVIDIA A30X Ampere Сервер 24 ГБ 230 Вт
9.5
#78 NVIDIA A100 GPU accelerator (PCIe card) Сервер 40 ГБ 250 Вт
9.5
#79 NVIDIA Tesla V100 FHHL Volta Сервер 16 ГБ 250 Вт
9.4
#80 NVIDIA Quadro RTX 6000 Passive Turing WS 24 ГБ 260 Вт
9.4
#81 NVIDIA RTX A5000-8Q Ampere WS 8 ГБ 230 Вт
9.3
#82 NVIDIA RTX 4000 Ada Generation Ada Lovelace WS 20 ГБ 130 Вт
8.8
#83 NVIDIA RTX A4500 Ampere WS 20 ГБ 200 Вт
8.8
#84 NVIDIA A30 PCIe Ampere Сервер 24 ГБ 165 Вт
8.2
#85 NVIDIA PG506-207 Ampere Сервер 24 ГБ 165 Вт
8.2
#86 NVIDIA PG506-217 Ampere Сервер 24 ГБ 165 Вт
8.2
#87 NVIDIA PG506-232 Ampere Сервер 24 ГБ 165 Вт
8.2
#88 NVIDIA PG506-242 Ampere Сервер 24 ГБ 165 Вт
8.2
#89 NVIDIA RTX 3500 Embedded Ada Generation Ada Lovelace WS 12 ГБ 100 Вт
7.8
#90 NVIDIA L40 GPU accelerator Сервер 48 ГБ 300 Вт
7.8
#91 NVIDIA Tesla V100 PCIe 16 GB Volta Сервер 16 ГБ 300 Вт
7.8
#92 NVIDIA Tesla T10 16 GB Turing Сервер 16 ГБ 150 Вт
7.8
#93 NVIDIA RTX 4000 SFF Ada Generation Ada Lovelace WS 20 ГБ 70 Вт
7.1
#94 NVIDIA RTX A4000 Ampere Сервер 16 ГБ 140 Вт
6.8
#95 NVIDIA RTX A4000H Ampere Сервер 16 ГБ 140 Вт
6.8
#96 NVIDIA Quadro RTX 5000 Turing WS 16 ГБ 230 Вт
6.7
#97 NVIDIA RTX PRO 2000 Blackwell Blackwell 2.0 WS 16 ГБ 70 Вт
6.6
#98 NVIDIA RTX A4500 Embedded Ampere WS 16 ГБ 80 Вт
6.4
#99 NVIDIA A40 GPU accelerator (PCIe card) Сервер 48 ГБ 300 Вт
6.2
#100 NVIDIA Tesla V100 DGXS 32 GB Volta Сервер 32 ГБ 250 Вт
6.2
#101 NVIDIA Quadro Plex 2200 D2 WS 4 ГБ 640 Вт
5.8
#102 NVIDIA Quadro Plex 2200 S4 WS 4 ГБ 600 Вт
5.8
#103 NVIDIA Tesla V100 DGXS 16 GB Volta Сервер 16 ГБ 250 Вт
5.8
#104 NVIDIA GRID RTX T10-4 Turing Сервер 4 ГБ 150 Вт
5.7
#105 NVIDIA A30 GPU accelerator (PCIe card) Сервер 24 ГБ 165 Вт
5.7
#106 NVIDIA GRID RTX T10-2 Turing Сервер 2 ГБ 150 Вт
5.6
#107 NVIDIA RTX 2000 Ada Generation Ada Lovelace WS 16 ГБ 70 Вт
5.2
#108 NVIDIA Tesla P100 SXM2 Pascal Сервер 16 ГБ 300 Вт
5.0
#109 NVIDIA Quadro GP100 Pascal Сервер 16 ГБ 235 Вт
4.9
#110 NVIDIA Quadro RTX 4000 Turing WS 8 ГБ 160 Вт
4.8
#111 NVIDIA Tesla P100 PCIe 16 GB Pascal Сервер 16 ГБ 250 Вт
4.7
#112 NVIDIA RTX 2000 Embedded Ada Generation Ada Lovelace WS 8 ГБ 50 Вт
4.5
#113 NVIDIA A10 GPU accelerator (PCIe card) Сервер 24 ГБ 150 Вт
4.2
#114 NVIDIA Tesla P100 PCIe 12 GB Pascal Сервер 12 ГБ 250 Вт
4.0
#115 NVIDIA NVIDIA T1000 WS 48 ГБ 50 Вт
3.9
#116 NVIDIA V100 GPU accelerator (PCIe FHHL card) Сервер 16 ГБ 250 Вт
3.9
#117 NVIDIA RTX A2000 12 GB Ampere WS 12 ГБ 70 Вт
3.8
#118 NVIDIA RTX A2000 Ampere WS 6 ГБ 70 Вт
3.4
#119 NVIDIA L4 GPU accelerator Сервер 24 ГБ 72 Вт
3.3
#120 NVIDIA Quadro Plex 1000 Model IV WS 1.5 ГБ 320 Вт
3.3
#121 NVIDIA Quadro Plex 2100 S4 WS 1.5 ГБ 640 Вт
3.3
#122 NVIDIA RTX A1000 Ampere Сервер 8 ГБ 50 Вт
3.2
#123 NVIDIA Tesla P10 Pascal Сервер 24 ГБ 150 Вт
3.0
#124 NVIDIA Quadro Plex 2100 D4 WS 1 ГБ 640 Вт
3.0
#125 NVIDIA A2 Ampere Сервер 16 ГБ 60 Вт
2.8
#126 NVIDIA A2 PCIe Ampere Сервер 16 ГБ 60 Вт
2.8
#127 NVIDIA A16 PCIe Ampere Сервер 16 ГБ 250 Вт
2.8
#128 NVIDIA Tesla P100 DGXS Pascal Сервер 16 ГБ 300 Вт
2.7
#129 NVIDIA RTX A2000 Embedded Ampere WS 4 ГБ 35 Вт
2.7
#130 NVIDIA Quadro M6000 24 GB Maxwell 2.0 WS 24 ГБ 250 Вт
2.6
#131 NVIDIA RTX A1000 Embedded Ampere Сервер 4 ГБ 35 Вт
2.5
#132 NVIDIA Quadro P6000 Pascal WS 24 ГБ 250 Вт
2.3
#133 NVIDIA RTX A500 Ampere WS 4 ГБ 60 Вт
2.2
#134 NVIDIA Tesla P40 Pascal Сервер 24 ГБ 250 Вт
2.0
#135 NVIDIA T1000 8 GB Turing WS 8 ГБ 50 Вт
2.0
#136 NVIDIA RTX A500 Embedded Ampere WS 4 ГБ 20 Вт
2.0
#137 NVIDIA NVIDIA T400 WS 24 ГБ 30 Вт
1.9
#138 NVIDIA A2 GPU accelerator (PCIe card) Сервер 16 ГБ 40 Вт
1.9
#139 NVIDIA Tesla M40 24 GB Maxwell 2.0 Сервер 24 ГБ 250 Вт
1.9
#140 NVIDIA T1000 Turing WS 4 ГБ 50 Вт
1.8
#141 NVIDIA Quadro M6000 Maxwell 2.0 WS 12 ГБ 250 Вт
1.5
#142 NVIDIA Quadro P5000 Pascal WS 16 ГБ 180 Вт
1.5
#143 NVIDIA T600 Turing WS 4 ГБ 40 Вт
1.5
#144 NVIDIA Tesla M40 Maxwell 2.0 Сервер 12 ГБ 250 Вт
1.5
#145 NVIDIA RTX A400 Ampere Сервер 4 ГБ 50 Вт
1.4
#146 NVIDIA Tesla K80 Kepler 2.0 Сервер 12 ГБ 300 Вт
1.2
#147 NVIDIA Quadro P4000 Pascal Сервер 8 ГБ 105 Вт
1.0
#148 NVIDIA Quadro M5000 Maxwell 2.0 WS 8 ГБ 150 Вт
1.0
#149 NVIDIA Quadro P2200 Pascal WS 5 ГБ 75 Вт
1.0
#150 NVIDIA T400 4 GB Turing WS 4 ГБ 30 Вт
1.0
#151 NVIDIA NVIDIA T600 WS 4 ГБ 40 Вт
1.0
#152 NVIDIA Quadro K6000 Kepler WS 12 ГБ 225 Вт
0.9
#153 NVIDIA Quadro K6000 SDI Kepler WS 12 ГБ 239 Вт
0.9
#154 NVIDIA Tesla K40c Kepler Сервер 12 ГБ 245 Вт
0.9
#155 NVIDIA Tesla K40d Kepler Сервер 12 ГБ 245 Вт
0.9
#156 NVIDIA Tesla K40m Kepler Сервер 12 ГБ 245 Вт
0.9
#157 NVIDIA Tesla K40t Kepler Сервер 12 ГБ 245 Вт
0.9
#158 NVIDIA Tesla M60 Maxwell 2.0 Сервер 8 ГБ 300 Вт
0.9
#159 NVIDIA Quadro K5200 Kepler WS 8 ГБ 150 Вт
0.9
#160 NVIDIA Tesla P4 Pascal Сервер 8 ГБ 75 Вт
0.9
#161 NVIDIA Tesla K40s Kepler Сервер 12 ГБ 245 Вт
0.9
#162 NVIDIA Tesla K40st Kepler Сервер 12 ГБ 245 Вт
0.8
#163 NVIDIA Quadro M4000 Maxwell 2.0 WS 8 ГБ 120 Вт
0.8
#164 NVIDIA T400 Turing WS 2 ГБ 30 Вт
0.8
#165 NVIDIA Quadro M5000M Maxwell 2.0 WS 8 ГБ 100 Вт
0.8
#166 NVIDIA Quadro M3000 SE Maxwell 2.0 WS 4 ГБ 75 Вт
0.8
#167 NVIDIA Tesla K8 Kepler Сервер 8 ГБ 100 Вт
0.8
#168 NVIDIA Tesla M10 Maxwell Сервер 8 ГБ 225 Вт
0.8
#169 NVIDIA Tesla K20X Kepler Сервер 6 ГБ 235 Вт
0.7
#170 NVIDIA Tesla K20Xm Kepler Сервер 6 ГБ 235 Вт
0.7
#171 NVIDIA GRID M60-8Q Maxwell 2.0 Сервер 8 ГБ 225 Вт
0.7
#172 NVIDIA Quadro M2000 Maxwell 2.0 WS 4 ГБ 75 Вт
0.7
#173 NVIDIA Quadro M4000M Maxwell 2.0 WS 4 ГБ 100 Вт
0.7
#174 NVIDIA Quadro K4200 Kepler WS 4 ГБ 108 Вт
0.6
#175 NVIDIA Quadro P2000 Pascal WS 5 ГБ 75 Вт
0.6
#176 NVIDIA Tesla K20c Kepler Сервер 5 ГБ 225 Вт
0.6
#177 NVIDIA Tesla K20m Kepler Сервер 5 ГБ 225 Вт
0.6
#178 NVIDIA Quadro M3000M Maxwell 2.0 WS 4 ГБ 75 Вт
0.6
#179 NVIDIA GRID M60-4A Maxwell 2.0 Сервер 4 ГБ 225 Вт
0.6
#180 NVIDIA Tesla K20s Kepler Сервер 5 ГБ 225 Вт
0.6
#181 NVIDIA GRID M60-2Q Maxwell 2.0 Сервер 2 ГБ 225 Вт
0.5
#182 NVIDIA GRID M10-8Q Maxwell Сервер 8 ГБ 225 Вт
0.5
#183 NVIDIA GRID M6-8Q Maxwell 2.0 Сервер 8 ГБ 100 Вт
0.5
#184 NVIDIA GRID M60-1Q Maxwell 2.0 Сервер 1 ГБ 225 Вт
0.5
#185 NVIDIA Quadro K5100M Kepler WS 8 ГБ 100 Вт
0.5
#186 NVIDIA Tesla M4 Maxwell 2.0 Сервер 4 ГБ 50 Вт
0.5
#187 NVIDIA GRID M40 Maxwell Сервер 8 ГБ 50 Вт
0.5
#188 NVIDIA Quadro K5000 Kepler WS 4 ГБ 122 Вт
0.5
#189 NVIDIA Quadro K5000 Mac Edition Kepler WS 4 ГБ 122 Вт
0.5
#190 NVIDIA Quadro K5000 SYNC Kepler WS 4 ГБ 122 Вт
0.5
#191 NVIDIA Quadro P1000 Pascal Сервер 4 ГБ 47 Вт
0.5
#192 NVIDIA Quadro 7000 Fermi 2.0 WS 6 ГБ 204 Вт
0.4
#193 NVIDIA Tesla K10 Kepler Сервер 4 ГБ 225 Вт
0.4
#194 NVIDIA GRID K500 Kepler Сервер 4 ГБ 225 Вт
0.4
#195 NVIDIA GRID K520Q Kepler Сервер 4 ГБ 225 Вт
0.4
#196 NVIDIA GRID K540Q Kepler Сервер 4 ГБ 225 Вт
0.4
#197 NVIDIA GRID K560Q Kepler Сервер 4 ГБ 225 Вт
0.4
#198 NVIDIA GRID M3-3020 Maxwell Сервер 4 ГБ —
0.4
#199 NVIDIA Quadro K2200 Maxwell WS 4 ГБ 68 Вт
0.4
#200 NVIDIA Quadro M2000M Maxwell WS 4 ГБ 55 Вт
0.4

Подробности расчёта — страница методики.