GIGABYTE G494-ZB4-AAP2 (8x GPU, 4U) [G494-ZB4-AAP2]

Технические характеристики

Описание

GIGABYTE G494-ZB4-AAP2 (8x GPU, 4U) [G494-ZB4-AAP2] Форм-фактор: 4U Rack Платформа: GIGABYTE G494-ZB4 серия Процессоры: 2× AMD EPYC 9655 (Genoa), 96 ядер × 2 = 192 ядра / 384 потока суммарно Базовая частота CPU: 2.6 ГГц (boost до 3.7 ГГц) Кэш CPU: 384 МБ L3 (на процессор) Оперативная память: 768 ГБ DDR5 ECC RDIMM Слоты памяти: 24× DDR5 RDIMM (12 на процессор) Частота памяти: до 4800 МГц GPU: 8× NVIDIA RTX PRO 6000 Blackwell Server Edition (BSE) VRAM суммарно: 768 ГБ GDDR7 ECC (8× 96 ГБ) GPU TDP: 600 Вт (на карту), пассивное охлаждение GPU интерфейс: PCIe Gen5 x16 GPU точность FP32: 960 TFLOPS (суммарно 8 GPU) GPU точность FP4: 32 PFLOPS (суммарно 8 GPU) RT Core производительность: 2840 TFLOPS (суммарно 8 GPU) Tensor Cores: поддержка FP4, FP8, BF16, FP16, FP32 Видеовыходы GPU: недоступны (server edition, headless) Медиадвижки: NVENC / NVDEC (на каждой GPU) PCIe топология: PCIe Gen5, двухпроцессорная разводка Накопители: поддержка NVMe / SATA (конфигурация зависит от опций) Сеть: встроенные сетевые контроллеры (конфигурация зависит от опций) Управление: IPMI / BMC Блок питания: высокомощный (требуется серьёзный запас по питанию под 8× 600 Вт GPU) Охлаждение GPU: требуется опциональный fan kit / соответствующая вентиляция шасси Операционные системы: Linux (Ubuntu, RHEL, SLES), Windows Server Инференс-фреймворки: vLLM, TensorRT-LLM, Triton Inference Server, Ollama Поддерживаемые модели LLM: DeepSeek-R1 685B, Qwen3.5-397B-A17B-FP8, GPT-OSS 120B, GigaChat3-702B-A36B, Mistral-Large-3-675B, GLM-5-FP8 P/N основной: G494-ZB4-AAP2 Совместимость: AMD EPYC 9655 / NVIDIA RTX PRO 6000 BSE 96 ГБ / DDR5 ECC RDIMM / PCIe Gen5 / vLLM / TensorRT-LLM / Triton Inference Server