GIGABYTE G494-SB4-AAP2 4U GPU-сервер (8× RTX PRO 6000 Blackwell SE 96 ГБ, 2× Intel Xeon 6760P, 1.1 ТБ RAM)

Технические характеристики

Описание

GIGABYTE G494-SB4-AAP2 4U GPU-сервер (8× RTX PRO 6000 Blackwell SE 96 ГБ, 2× Intel Xeon 6760P, 1.1 ТБ RAM) Форм-фактор: 4U Rack Платформа: GIGABYTE G494-SB4 Архитектура GPU: NVIDIA Blackwell GPU: 8× NVIDIA RTX PRO 6000 Blackwell Server Edition (BSE) VRAM суммарно: 768 ГБ GDDR7 (8× 96 ГБ) GPU производительность (суммарно 8× GPU): FP32: 960 TFLOPS FP4: 32 PFLOPS RT Core: 2840 TFLOPS Процессор: 2× Intel Xeon 6760P (Granite Rapids, до 96 ядер, платформа LGA 4710-E) Оперативная память: 1.1 ТБ (конфигурация RDIMM/LRDIMM DDR5 ECC) Слоты памяти: поддержка многоканального DDR5 Межсоединение GPU: NVLink / PCIe 5.0 GPU-интерконнект: поддержка NVSwitch / NVLink Bridging (в рамках 8-GPU топологии) PCIe: PCIe 5.0 Сетевой интерфейс: поддержка высокоскоростных сетевых адаптеров (InfiniBand / Ethernet) Управление: IPMI / BMC, Redfish API Операционная система: Linux (Ubuntu, RHEL, Rocky Linux и совместимые) Поддерживаемые фреймворки: CUDA, TensorRT-LLM, vLLM, PyTorch, JAX, ONNX Runtime Поддерживаемые типы точности: FP4, FP8, FP16, BF16, TF32, FP32 Целевые задачи: Инференс / Deployment (LLM, мультимодальные модели), RAG, Fine-tuning, Генеративная графика, Видеоаналитика, Рендеринг Совместимость с LLM (инференс, один узел): DeepSeek-R1 685B (BF16, ~689 ГБ VRAM) — multi-GPU tensor/pipeline parallel Mistral-Large-3-675B-Instruct-251 (~682 ГБ VRAM) GigaChat3-702B-A36B-preview (~720 ГБ VRAM) GLM-5-FP8 (~756 ГБ VRAM, FP8) Qwen3.5-397B-A17B-FP8 (~406 ГБ VRAM, FP8) Gpt-oss 120B (~196 ГБ VRAM, несколько реплик) P/N основной: G494-SB4-AAP2 Совместимость: NVIDIA RTX PRO 6000 Blackwell Server Edition / Intel Xeon 6760P / TensorRT-LLM / vLLM / CUDA 12.x / Ubuntu 22.04 LTS / Ubuntu 24.04 LTS / RHEL 9 / Rocky Linux 9