GIGABYTE G294-S42-AAP2 (4× RTX PRO 6000 BSE 96GB, 2× Xeon 6780E, 768GB RAM)

Технические характеристики

Описание

GIGABYTE G294-S42-AAP2 (4× RTX PRO 6000 BSE 96GB, 2× Xeon 6780E, 768GB RAM) Форм-фактор: 2U rack Производитель: GIGABYTE Серия: G-Series (GPU Server) Архитектура GPU: NVIDIA Blackwell GPU: 4× NVIDIA RTX PRO 6000 Blackwell Server Edition (BSE) VRAM суммарно: 384 ГБ GDDR7 ECC (4× 96 ГБ) Процессор: 2× Intel Xeon 6780E (Granite Rapids, LGA4710-4) Количество ядер (на сокет): 144 ядра Оперативная память: 768 ГБ DDR5 ECC RDIMM Слотов памяти: 24× DIMM (12 на сокет) Поддерживаемые частоты памяти: DDR5-6400 МГц Производительность GPU FP32: 480 TFLOPS (суммарно 4× GPU) Производительность GPU FP4: 16 PFLOPS (суммарно 4× GPU) Производительность RT Core: 1420 TFLOPS (суммарно 4× GPU) Поддерживаемые типы точности: FP4, FP8, FP16, BF16, INT8, FP32 (Tensor Cores) MIG: поддерживается — до 4 инстансов по 24 ГБ на одну GPU (до 16 инстансов суммарно) NVLink: не поддерживается; межгпу-коммуникация через PCIe GPU-интерконнект: PCIe 5.0 Масштабирование моделей: tensor parallel / pipeline parallel (vLLM, TensorRT-LLM, PyTorch FSDP, DeepSpeed) Дисковые отсеки: 12× 3.5" LFF (уточняется по конфигурации) Сетевые интерфейсы: 2× 10GbE BASE-T (встроенные), слоты расширения OCP / PCIe Слоты PCIe: 2× PCIe 5.0 x16 (для GPU riser), дополнительные слоты зависят от конфигурации riser Блок питания: 2× резервных PSU (уточняется мощность под конфигурацию; типово 2× 2200 Вт или 2× 3000 Вт для 4-GPU 2U платформы) Управление: IPMI 2.0, Redfish API, GIGABYTE Server Management (GSM) Охлаждение: принудительное, горячая замена вентиляторов Целевые нагрузки: обучение LLM (Training), дообучение (Fine-tuning), инференс (Inference), RAG-системы Поддерживаемые ОС: Ubuntu 22.04/24.04 LTS, RHEL, Rocky Linux Стандарт серверной рамы: EIA-310 (19") Совместимость с LLM-моделями: Модель: DeepSeek-R1-Distill-Llama-70B — VRAM ~141 ГБ — ✅ уверенный запуск на 2–4 GPU, запас под KV-cache Модель: Qwen3-235B-A22B-Thinking-2507-FP8 — VRAM ~236 ГБ — ✅ FP8, 4 GPU, запас под контекст и батч Модель: gpt-oss:120b (FP16) — VRAM ~260 ГБ — ✅ комфортный запуск, запас под длинный контекст Модель: Mistral-Large-3-675B-Instruct-2512-GGUF IQ4_XS — VRAM ~360 ГБ — ⚠️ запуск возможен, минимальный запас Модель: GLM-4.7-FP8 — VRAM ~362 ГБ — ⚠️ близко к лимиту 384 ГБ, контроль KV-cache обязателен Модель: ai-sage GigaChat3-702B-A36B-preview-GGUF IQ4_XS — VRAM ~376 ГБ — ⚠️ работа впритык, подходит для демо/пилота Совместимость с диффузионными моделями: Stable Diffusion XL 1.0 — ✅ Flux.2-dev — ✅ SD Turbo — ✅ Kandinsky-5.0-T2I-Lite-sft-Diffusers — ✅ P/N основной: G294-S42-AAP2 Совместимость: NVIDIA RTX PRO 6000 Blackwell Server Edition / Intel Xeon 6780E / DDR5 ECC RDIMM / PCIe 5.0