GIGABYTE G294-A22-AAP2 (4× NVIDIA RTX PRO 6000 Blackwell SE 96 ГБ, 1× Intel Xeon 6944P, 1.1 ТБ RAM)

Технические характеристики

Описание

GIGABYTE G294-A22-AAP2 (4× NVIDIA RTX PRO 6000 Blackwell SE 96 ГБ, 1× Intel Xeon 6944P, 1.1 ТБ RAM) Форм-фактор: 2U Тип узла: GPU-сервер Конфигурация: Сконфигурированный (не CTO) Процессор: Intel Xeon 6944P (288 ядер P-core, Granite Rapids-AP, Socket LGA7529, TDP 500 Вт) Количество процессоров: 1 Оперативная память: 1.1 ТБ Тип памяти: DDR5 RDIMM / MRDIMM ECC Слоты памяти: до 24× DIMM GPU: 4× NVIDIA RTX PRO 6000 Blackwell Server Edition VRAM: 4× 96 ГБ GDDR7 = 384 ГБ суммарно GPU-интерконнект: NVLink (Blackwell) GPU TDP: 4× 300 Вт Производительность GPU (суммарно, 4× RTX PRO 6000 BSE): FP32: 480 TFLOPS FP4: 16 PFLOPS FP8: 8 PFLOPS RT Core: 1420 TFLOPS Дисковые отсеки: поддержка NVMe / SATA / SAS (конфигурация зависит от комплектации) Сетевые интерфейсы: 2× 10GbE / опционально 25GbE или InfiniBand (зависит от комплектации) PCIe: PCIe 5.0 Блок питания: резервированный, высокой мощности (под TDP узла ~2000+ Вт) Управление: IPMI / BMC Оптимальные сценарии использования: - Инференс LLM / Inference (высокий throughput, multi-GPU tensor/pipeline parallel) - RAG-системы (Retrieval-Augmented Generation) - Дообучение моделей (Fine-tuning) - Генерация изображений и видео - Анализ данных (Data Science) - Видеоаналитика / Видеонаблюдение - Визуализация и рендеринг Совместимость с LLM (4× 96 ГБ = 384 ГБ VRAM суммарно): - DeepSeek-R1-Distill-Llama-70B (FP16, ~141 ГБ) — ✅ 2–4 GPU, vLLM / TensorRT-LLM - Qwen3-235B-A22B-Thinking-2507 (FP8, ~236 ГБ) — ✅ 4 GPU, запас под KV-cache - gpt-oss 120B (FP16, ~260 ГБ) — ✅ 4 GPU, продакшн-инференс - Mistral-Large-3-675B-Instruct (GGUF IQ4_XS, ~360 ГБ) — ⚠️ 4 GPU, минимальный запас - GLM-4.7 (FP8, ~362 ГБ) — ⚠️ 4 GPU, строгий контроль KV-cache и batch size P/N основной: G294-A22-AAP2 Модели: G294-A22-AAP2 (GIGABYTE) Совместимость: Intel Xeon 6944P / NVIDIA RTX PRO 6000 Blackwell Server Edition / DDR5 RDIMM ECC / PCIe 5.0 / vLLM / TensorRT-LLM / PyTorch / CUDA