AI-ускорители 2025–2026: H200, Blackwell B200, AMD MI300X и Intel Gaudi 3

Почему ускорители важнее процессоров для LLM

Производительность при обучении и инференсе больших языковых моделей (LLM) определяется не вычислительной мощностью CPU, а тремя параметрами GPU: объёмом памяти, пропускной способностью памяти и межсоединениями. Модели с миллиардами параметров просто не помещаются в 80 ГБ VRAM — здесь начинаются принципиальные архитектурные различия между платформами 2025–2026 года.

NVIDIA H200: эволюция Hopper

H200 использует тот же кристалл GH100 (Hopper, TSMC 4N, 80 млрд транзисторов), что и H100. Это не новая архитектура — это принципиальное обновление памяти.

Параметр	H100 SXM	H200 SXM
Память	80 ГБ HBM3	141 ГБ HBM3e
Пропускная способность	3,35 ТБ/с	4,8 ТБ/с (+43%)
BF16 Tensor TFLOPS	1 979	1 979 (идентично)
TDP	700 Вт	700 Вт
Межсоединение	NVLink 4 (900 ГБ/с)	NVLink 4 (900 ГБ/с)

Реальные результаты (MLPerf v4.0, Llama 2 70B):

• Offline throughput: H100 = 22 290 tok/s → H200 = 31 712 tok/s (+42,3%)
• Server mode: H100 = 21 504 tok/s → H200 = 29 526 tok/s (+37,3%)

Вывод: H200 оправдан для моделей, не умещающихся в 80 ГБ, длинного контекста и больших батчей. Для задач, где 80 ГБ достаточно, H100 по-прежнему предпочтительнее по стоимости.

NVIDIA Blackwell: новое поколение с нативным FP4

Архитектура Blackwell — первая с аппаратной поддержкой форматов MXFP4 и MXFP6, которые удваивают и утраивают количество операций за такт по сравнению с BF16.

B200 (одиночный GPU)

Параметр	Значение
Кристалл	2 чиплета GB100, 208 млрд транзисторов, TSMC 4NP
Память	192 ГБ HBM3e
Пропускная способность	8 ТБ/с
FP4 Tensor	20 PFLOPS
Межсоединение	NVLink 5 (1,8 ТБ/с, вдвое быстрее NVLink 4)
TDP	до 1 000 Вт

GB200 NVL72: вся стойка как один ускоритель

GB200 NVL72 — это 36 CPU Grace + 72 GPU Blackwell в одной жидкостно-охлаждаемой стойке, связанных NVLink 5.

Параметр	GB200 NVL72
GPU-память суммарно	13,5 ТБ HBM3e
Пропускная способность NVLink-домена	130 ТБ/с
FP4	1 440 PFLOPS
FP8	720 PFLOPS
BF16	360 PFLOPS
Потребление стойки	~120 кВт
Цена	~$3 млн

72 GPU NVL72 работают как единый логический ускоритель с общим пулом 13,5 ТБ памяти — это делает возможным инференс моделей, для которых раньше требовались десятки узлов с MPI.

Требования инфраструктуры: 480 В трёхфазное питание, прямое жидкостное охлаждение, специализированная архитектура ЦОД. B200 (~$400K за 8-GPU узел) совместим с существующей H100-инфраструктурой и подходит для обучения.

AMD Instinct MI300X: победа по объёму памяти

Параметр	MI300X	H100 SXM
Память	192 ГБ HBM3	80 ГБ HBM3
Пропускная способность	5,3 ТБ/с	3,35 ТБ/с
BF16 TFLOPS	1 307	979
Межсоединение	Infinity Fabric	NVLink 4
TDP	~750 Вт	700 Вт

192 ГБ — главный козырь MI300X. Mixtral 8×7B (46 ГБ параметров) помещается в один MI300X, тогда как на H100 требуется tensor parallelism на двух GPU — с соответствующими издержками на синхронизацию.

Сравнение производительности инференса:

• Малые батчи (1–4): H100 опережает MI300X
• Большие батчи (256–1024): MI300X превосходит H100
• Стоимость инференса: $22,22/млн токенов (MI300X) vs $28,11/млн (H100)
• DeepSeek-R1: 4× ускорение инференса за 14 дней оптимизации под MI300X

Ограничение: экосистема ROCm значительно уступает CUDA по зрелости. Кастомные CUDA-ядра без переработки не переносятся.

MI300A (APU-вариант): 128 ГБ HBM3 с интегрированными CPU-ядрами. Развёрнут в суперкомпьютере El Capitan (#1 TOP500 2024).

Intel Gaudi 3: альтернатива с упором на цену

Параметр	Gaudi 3	H100 SXM
Техпроцесс	5 нм	TSMC 4N
Память	128 ГБ HBM2e	80 ГБ HBM3
Пропускная способность памяти	3,67 ТБ/с	3,35 ТБ/с
BF16/FP8 TFLOPS	1 835	979 / 1 979
TDP	600 Вт	700 Вт
Цена чипа	~$15 600	~$30 700

Встроенная сеть — отличительная черта Gaudi 3: 24 порта по 200 Гбит/с RoCE v2 на каждом чипе. 8-картовый узел имеет 4,8 Тбит/с совокупной полосы без внешних коммутаторов — экономия ~$50 000 на узел по сравнению с H100-кластером с InfiniBand.

Экономика: BERT-обучение стоит $0,82/эпоху на Gaudi 3 против $1,31/эпоху на H100 (37% экономии). IBM Cloud — первый коммерческий провайдер с Gaudi 3 в публичном облаке.

Сравнение платформ

	H200 SXM	B200	MI300X	Gaudi 3
Память	141 ГБ	192 ГБ	192 ГБ	128 ГБ
Полоса памяти	4,8 ТБ/с	8 ТБ/с	5,3 ТБ/с	3,67 ТБ/с
BF16 TFLOPS	1 979	~4 000+	1 307	1 835
Межсоединение	NVLink 4	NVLink 5	Infinity Fabric	RoCE 200G×24
Сильная сторона	Зрелость + HBM3e	Максимум FP4/FP8	Объём памяти	Цена/производительность

RUSSTEK поставляет серверы на базе NVIDIA H100/H200, системы Supermicro с Blackwell, а также платформы AMD MI300X и Intel Gaudi 3 под задачи обучения и инференса LLM.