Высокопроизводительные вычисления, обучение и выводы в области ИИ/глубокого обучения, большие языковые модели (LLM) и генеративный ИИ,
Ключевые особенности
Интерконнект NVLink® Chip-2-Chip (C2C) с высокой пропускной способностью и низкой задержкой между CPU и GPU со скоростью 900 ГБ/с;
До 576 ГБ когерентной памяти на узел, включая 480 ГБ LPDDR5X и 96 ГБ HBM3 для приложений LLM;
2 слота PCIe 5.0 x16 с поддержкой NVIDIA BlueField®-3 или ConnectX®-7;
7 сверхмощных вентиляторов с горячей заменой и оптимальным управлением скоростью вращения вентиляторов;
Эта система поддерживает два диска E1.S, подключаемых непосредственно к процессору;
Форм-фактор
Корпус: 440 x 44 x 940 мм (17,33" x 1,75" x 37")
Корпус: 1219 x 241 x 711 мм (48" x 9,5" x 28")
GPU Максимальное количество GPU: До 1 встроенного GPU
Поддерживаемые GPU: NVIDIA: H100 Tensor Core GPU на суперчипе GH200 Grace Hopper™ (с жидкостным охлаждением)
Интерконнект CPU-GPU: NVLink®-C2C
Количество слотов системной памяти: Встроенная память
Максимальная память: До 480 ГБ ECC LPDDR5X
Дополнительная память GPU: До 96 ГБ ECC HBM3
Конфигурация отсеков для накопителей По умолчанию: Всего 8 отсеков
8 передних отсеков для дисков E1.S NVMe с горячей заменой
M.2: 2 слота M.2 NVMe (M-key)
Слоты расширения По умолчанию
2 слота PCIe 5.0 x16 FHFL
Бортовые устройства Система на кристалле
Вход / выход LAN: 1 RJ45 1 GbE Выделенный BMC LAN порт(ы)
Видео: 1 порт(ы) mini-DP
Вентиляторы охлаждения системы: 9 съемных сверхмощных 4-см вентиляторов
Жидкостное охлаждение: Жидкостное охлаждение: прямо на чип (D2C) Холодная пластина (опционально)
Блок питания: 2 блока питания по 2000 Вт с резервированием уровня Titanium (96%)
Системный BIOS Тип BIOS: AMI 64MB SPI Flash EEPROM
Мониторинг состояния ПК Процессор: Мониторы ядер процессора, напряжений чипсета, памяти
FAN: Вентиляторы с тахометром
Монитор состояния для контроля скорости
Разъемы для подключения вентиляторов с широтно-импульсной модуляцией (ШИМ)
Температура: Мониторинг температуры процессора и корпуса
---