Phanteks Enthoo Pro 2 Server Edition (2× A100 40GB, 1× EPYC 9354, RAM 768GB)

Технические характеристики

Описание

Сервер на базе NVIDIA A100 (Ampere, 40 GB HBM2e на GPU) - универсальная платформа для Инференса / Развертывания, Дообучения моделей (Fine-tuning), Обучения моделей (Training) среднего масштаба и HPC / Научных расчётов. Совокупный видеобуфер 80 GB HBM2e и тензорные ядра с поддержкой FP16/BF16/TF32/INT8 обеспечивают стабильную производительность для LLM, классических DL-моделей и научных вычислений. A100 отлично работает в Tensor/Pipeline Parallel (vLLM, TensorRT-LLM, PyTorch DDP), поддерживает CUDA 11.8/12.x, ONNX Runtime и смешанную точность. Ограничения - нет FP4/FP8 и архитектура не ориентирована на видеорендеринг/видеонаблюдение: приоритет - вычисления и ML/DL. Производительность GPU Тип точности Совокупная мощность двух A100 FP64 Tensor Core 39 TFLOPS FP32 Tensor Core 624 TFLOPS BF16/FP16 Tensor Core 1248 TFLOPS INT8 Tensor Core 2496 TOPS Совместимость с LLM-моделями Модель Тип квантизации Требуется VRAM Совместимость Примечание DeepSeek-R1-Distill-Qwen-32B Нет Примерно 65GB ✅ / ⚠️ Требуется две видеокарты (vLLM / TensorRT-LLM), аккуратный размер KV-кэша; возможен offload при длинном контексте. Qwen3.5-122B-A10B-GGUF MXFP4_MOE Примерно 68.3GB ✅ / ⚠️ Multi-GPU через Tensor Parallel, paged-attention; следить за последовательностью/батчем. gpt-oss-120b-GGUF F16 Примерно 65GB ✅ / ⚠️ Требуется две видеокарты, ограничение контекста и аккуратные батчи. Совместимость с диффузионными моделями Модель Тип Совместимость Примечание Stable Diffusion XL 1.0 Текст в изображение ✅ Комфортно на 40 GB/GPU; ускорение через TensorRT / xFormers. Flux 1.1 Pro Диффузионная ✅ / ⚠️ Требует CUDA 11.8+; для высоких разрешений держите поменьше batch/больше шагов. SD Turbo Видео / Кадровая генерация ✅ Быстрые предпросмотры; подходит для пайплайнов генерации серий. Kandinsky-5.0-T2I-Lite-sft-Diffusers Текст в изображение ✅ Лёгкая версия Kandinsky 5.0; требует ~35GB VRAM, на этих конфигурациях есть большой запас по видеопамяти для высокого разрешения и батчей. Kandinsky-5.0-T2V-Lite-sft-5s-Diffusers Текст в видео ✅ Модель T2V (~29GB VRAM) для роликов до ~5 секунд; хорошо масштабируется по нескольким GPU и подходит для продакшн-пайплайнов. Технические характеристики Платформа Phanteks Enthoo Pro 2 Server Edition Видеокарта 2x NVIDIA A100 OEM 40GB HBM2e Материнская плата Supermicro H13SSL-N (ATX, SP5, 12 DIMM) Процессор 1x AMD EPYC 9354 (32c/64t, 3.3GHz-3.8GHz, 280W) Кулер 1x COOLSERVER SP5-4UM95 PRO (4U, Active, SP5, 435W) Оперативная память 12x 64GB DDR5 ECC REG Samsung 4800Mhz 2Rx4 HHD накопитель 2x Seagate SkyHawk AI 12TB 3.5" SATA 6GB/s SSD накопитель 2x Micron 7400 PRO 3.84TB M2 Блок питания 1x GreatWall GW-EPS2000BL (2000W, ATX) Система охлаждения для видеокарты 2x Система охлаждения для видеокарты NVIDIA A100 Корпусный вентилятор 8x Phanteks F120SK 120mm