NVIDIAAI Серверы

NVIDIA DGX A100 640 ГБ HBM2e 8× SXM 2× EPYC 7742 2 ТБ RAM [920-23687-2500-000]

Name: NVIDIA DGX A100 640 ГБ HBM2e 8× SXM 2× EPYC 7742 2 ТБ RAM [920-23687-2500-000]
Brand: NVIDIA
Price: 168173 USD
Availability: PreOrder

$168,173Под заказ

Запросить коммерческое предложение Связаться с менеджером

Ключевые характеристики

ТипНовые

Форм-фактор5U

Тип памяти GPUHBM2e

Процессор (CPU)AMD EPYC

Видеокарта (GPU)NVIDIA A100

Основная задачаОбучение моделей / Инференс / Дообучение моделей / RAG-системы / Анализ данных / Научные расчеты (HPC)

+ ещё 4 характеристик ниже

Технические характеристики

Тип	Новые
Форм-фактор	5U
Тип памяти GPU	HBM2e
Процессор (CPU)	AMD EPYC
Видеокарта (GPU)	NVIDIA A100
Основная задача	Обучение моделей / Инференс / Дообучение моделей / RAG-системы / Анализ данных / Научные расчеты (HPC)
Количество GPU, шт	8
Тип оперативной памяти	DDR4 ECC REG
Общий объем видеопамяти (VRAM), ГБ	640
Объем оперативной памяти (RAM), ГБ	2000

Описание

NVIDIA DGX A100 640 ГБ HBM2e 8× SXM 2× EPYC 7742 2 ТБ RAM [920-23687-2500-000] Платформа: NVIDIA DGX A100 Архитектура GPU: Ampere (GA100) Количество GPU: 8× NVIDIA A100 SXM4 80 ГБ Суммарный объём VRAM: 640 ГБ HBM2e Пропускная способность памяти GPU: 2 ТБ/с (на GPU) × 8 Интерконнект GPU: NVLink 3.0 + NVSwitch (600 Гбит/с двунаправленно на GPU) TDP GPU: 400 Вт × 8 = 3200 Вт (GPU суммарно) Производительность (суммарно, 8× A100 SXM): FP64 Tensor Core: 156 TFLOPS TF32 Tensor Core: 2 496 TFLOPS BF16 / FP16 Tensor Core: 4 992 TFLOPS INT8 Tensor Core: 9 984 TOPS FP64 (стандарт): 78 TFLOPS Процессор: 2× AMD EPYC 7742 (Rome) Ядра/потоки CPU: 2× 64 ядра / 128 потоков (256 потоков суммарно) Тактовая частота CPU: 2.25 ГГц базовая / 3.40 ГГц Boost Оперативная память: 2 ТБ DDR4 ECC RDIMM (16× 128 ГБ) Частота RAM: DDR4-3200 МГц Хранилище системное: 2× 1.92 ТБ NVMe SSD (OS RAID 1) Хранилище данных: 8× 3.84 ТБ NVMe U.2 (суммарно ~30 ТБ) Контроллер хранилища: PCIe 4.0 Сетевые интерфейсы: 8× NVIDIA ConnectX-6 HDR InfiniBand 200 Гбит/с (по 1 на GPU) 2× NVIDIA ConnectX-6 Dx 100GbE (управление / данные) 1× 1GbE (BMC/IPMI) Форм-фактор: 6U Размеры: 264.5 мм (В) × 482.3 мм (Ш) × 897.7 мм (Г) Масса: ~123 кг Потребляемая мощность: до 6500 Вт (пиковая) Блоки питания: 4× 3000 Вт (redundant) Охлаждение: активное (горячий воздух) Температура эксплуатации: 10–30 °C Управление: NVIDIA BMC, IPMI 2.0, Redfish Операционная система: Ubuntu 20.04 LTS / DGX OS Программный стек: CUDA 11.x+, cuDNN, NCCL, TensorRT, PyTorch, TensorFlow, vLLM, NeMo P/N основной: 920-23687-2500-000 P/N альт.: 920-23687-2500-001 / 030-0493-000 FRU/Запасная: 930-23687-2500-000 Совместимость: NVIDIA DGX POD / NVIDIA DGX SuperPOD / NVIDIA Base Command Manager / NVIDIA Fleet Command / InfiniBand HDR-фабрика (Mellanox QM8700/QM9700) / 100GbE Top-of-Rack коммутаторы