Высокопроизводительные вычисления, обучение и выводы в области ИИ/глубокого обучения, большие языковые модели (LLM) и генеративный ИИ,
Ключевые особенности
Суперчип NVIDIA Grace™ Hopper (Grace CPU и H100 GPU);
NVLink® Chip-2-Chip (C2C) - высокоскоростное соединение с низкой задержкой между CPU и GPU со скоростью 900 ГБ/с;
До 624 ГБ когерентной памяти на узел, включая 480 ГБ LPDDR5X и 144 ГБ HBM3e для приложений LLM;
3x PCIe 5.0 X16 с поддержкой одной карты NVIDIA Bluefield 3 и двух карт connectX-7 и 1x слот PCIe 5.0 x8 на узел с поддержкой карты LP NIC 10 ГБ;
6 сверхмощных вентиляторов с возможностью горячей замены и дополнительной регулировкой скорости;
Форм-фактор
Корпус: 438,4 x 87 x 900 мм (17,3" x 3,43" x 35,43")
Корпус: 700 x 280 x 1200 мм (27,56" x 11,02" x 47,24")
Поддерживаемые GPU: NVIDIA: H100 Tensor Core GPU на суперчипе GH200 Grace Hopper™ (с воздушным охлаждением)
Интерконнект CPU-GPU: NVLink®-C2C
Интерконнект GPU-GPU: NVIDIA® NVLink®
Количество слотов системной памяти: Встроенная память
Дополнительная память GPU: До 144 ГБ ECC HBM3
Конфигурация отсеков для накопителей По умолчанию: Всего 3 отсека
3 передних отсека для дисков E1.S NVMe с горячей заменой
M.2: 2 слота M.2 NVMe (M-key)
Слоты расширения По умолчанию
3 слота PCIe 5.0 x16 (в x16) FHFL
Бортовые устройства Система на кристалле
Вход / выход LAN: 1 RJ45 1 GbE Выделенный BMC LAN порт(ы)
Видео: 1 порт(ы) mini-DP
Вентиляторы охлаждения системы: 6 съемных сверхмощных 6-см вентиляторов
Блок питания 4x 2000 Вт Резервные (2 + 2) блоки питания уровня Titanium (96%)
Системный BIOS Тип BIOS: AMI 64MB SPI Flash EEPROM
Мониторинг состояния ПК Процессор: Мониторы ядер процессора, напряжений чипсета, памяти
FAN: Вентиляторы с тахометром
Монитор состояния для контроля скорости
Разъемы для подключения вентиляторов с широтно-импульсной модуляцией (ШИМ)
Температура: Мониторинг температуры процессора и корпуса
---