Search for a command to run...

Узким местом LLM-инференса является не вычислительная мощность GPU, а пропускная способность памяти. Загрузить 70B-параметрическую модель из VRAM GPU занимает наносекунды; загрузить из CPU DRAM через PCIe — уже микросекунды. Именно поэтому каждый новый стандарт памяти напрямую влияет на производительность AI-сервера.
| Параметр | DDR4-3200 | DDR5-4800 | DDR5-5600 | DDR5-6400 | DDR5-7200 |
|---|---|---|---|---|---|
| Полоса/канал | 25,6 ГБ/с | 38,4 ГБ/с | 44,8 ГБ/с | 51,2 ГБ/с | 57,6 ГБ/с |
| Напряжение (VDDQ) | 1,2 В | 1,1 В | 1,1 В | 1,1 В | 1,1 В |
| Макс. RDIMM | 64 ГБ | 128 ГБ | 128 ГБ | 128 ГБ | 128 ГБ |
| On-Die ECC | Нет | Да | Да | Да | Да |
| Подканалы/DIMM | 1 | 2 | 2 | 2 | 2 |
On-Die ECC в DDR5 — аппаратная коррекция ошибок прямо в кристалле DRAM, независимо от серверного ECC. Для критических систем это дополнительный уровень защиты данных.
Два подканала DDR5 означают, что 128-битная шина разбита на два независимых 64-битных канала — это лучше параллелизм при случайном доступе.
| Процессор | Каналов DDR5 | Макс. скорость | Макс. ёмкость |
|---|---|---|---|
| AMD EPYC 9004 Genoa | 12 | DDR5-4800 | 6 ТБ/сокет (с 3 DIMM×12 LRDIMM 128 ГБ) |
| AMD EPYC 9754 Bergamo | 12 | DDR5-4800 | 6 ТБ/сокет |
| Intel Xeon 5th Gen (Emerald Rapids) | 8 | DDR5-5600 | 4 ТБ/сокет |
| Intel Xeon 6 (Granite Rapids) | 8 | DDR5-6400 | 4 ТБ/сокет |
EPYC Genoa с 12-канальным контроллером и 48 слотами DDR5 на двухсокетном сервере даёт суммарно 12 ТБ оперативной памяти — без какой-либо CXL-экзотики. Это критично для in-memory баз данных (SAP HANA, Redis, VoltDB).
RDIMM (Registered DIMM):
LRDIMM (Load-Reduced DIMM):
Для AI-инференса больших моделей на CPU (llama.cpp, text-inference на больших контекстах) LRDIMM + EPYC Genoa — текущий оптимум по память/стоимость.
HBM (High Bandwidth Memory) — стек из DRAM-кристаллов, подключённых через Through-Silicon Vias (TSV) к интерпозеру GPU. Физически находится в одном корпусе с GPU.
| Параметр | HBM3 | HBM3e |
|---|---|---|
| Пропускная способность/стек | 819 ГБ/с | 1,2 ТБ/с |
| Ёмкость/стек | 24 ГБ | 36 ГБ |
| Число ярусов DRAM | 8H | 12H |
| Применение | H100 SXM (80 ГБ = 5 стеков) | H200 (141 ГБ), B200 (192 ГБ) |
Поставщики HBM:
| Производитель | Доля рынка HBM | Ключевые клиенты |
|---|---|---|
| SK Hynix | ~70% | NVIDIA H100/H200 (основной поставщик) |
| Samsung | ~20% | NVIDIA H200 (второй поставщик), AMD MI300X |
| Micron | ~10% | Выход на рынок HBM3 в 2025 |
HBM4 (2025–2026): 2 ТБ/с на стек, 12-ярусный, PCIe 6.0 PHY для I/O. Целевой заказчик — NVIDIA Rubin (следующее поколение после Blackwell, 2026–2027).
| Производитель | Доля рынка DRAM (2024) | Сильная сторона |
|---|---|---|
| Samsung | ~38% | DDR5 RDIMM, HBM3e, V-NAND |
| SK Hynix | ~32% | HBM-лидер, DDR5 производительность |
| Micron | ~24% | DDR5 для Xeon-платформ, выход в HBM |
Три компании совместно контролируют 94% мирового рынка DRAM — один из самых консолидированных рынков в полупроводниках. Это означает высокую зависимость ценообразования от их совместных решений по капвложениям.
JEDEC JESD318 (финализирован 2024) — CAMM2 (Compression-Attached Memory Module):
RUSSTEK поставляет серверную память Samsung, SK Hynix и Micron: DDR5 RDIMM/LRDIMM для платформ AMD EPYC, Intel Xeon 4/5/6, а также ОЗУ для рабочих станций.
Нужна дополнительная помощь?
Связаться с нами