Что это за продукт
NVIDIA H100 SXM5 96GB — высокопроизводительный серверный ускоритель на архитектуре Hopper, выполненный в форм-факторе SXM5 и предназначенный для высокоплотных вычислительных платформ, обучения и инференса самых крупных языковых моделей. Ускоритель ориентирован на выполнение ресурсоёмких вычислительных задач в специализированных серверных средах с поддержкой HGX H100.
Основное назначение
• обучение нейросетей (Training);
• инференс моделей искусственного интеллекта;
• высокопроизводительные вычисления (HPC);
• работа с большими языковыми моделями (LLM);
• построение масштабируемых ИИ-кластеров.
Ключевые особенности
• 96 ГБ HBM3;
• 16 896 CUDA-ядер;
• архитектура Hopper с поддержкой FP8/FP16/BF16/TF32/FP32/FP64;
• интерфейс NVLink с пропускной способностью до 900 ГБ/с;
• поддержка NVLink Switch System для масштабируемого соединения нескольких ускорителей;
• Multi-Instance GPU (MIG) 2-го поколения — до 7 аппаратных экземпляров;
• разрядность шины памяти — 5120 бит;
• TDP — 700 Вт;
• пассивное охлаждение;
• форм-фактор SXM5;
• требуется специализированный сервер с поддержкой HGX H100 и SXM5-интерфейса.
Производительность
FP64 — 34 TFLOPS;
FP64 Tensor Core — 67 TFLOPS;
FP32 — 67 TFLOPS;
TF32 Tensor Core — 989 TFLOPS (с разреженностью);
BF16/FP16 Tensor Core — 1979 TFLOPS (с разреженностью);
FP8 Tensor Core — 3958 TFLOPS (с разреженностью);
INT8 Tensor Core — 3958 TOPS (с разреженностью).
Области применения
• корпоративные AI-проекты;
• научные исследования;
• дата-центры;
• облачная инфраструктура;
• производственные предприятия.
Преимущества модели
NVIDIA H100 SXM5 96GB представляет собой флагманский ускоритель для самых требовательных AI-задач. Архитектура Hopper с тензорными ядрами 4-го поколения и поддержкой FP8 обеспечивает максимальную производительность для обучения и инференса крупнейших LLM. Объём памяти 96 ГБ HBM3 и интерфейс NVLink до 900 ГБ/с позволяют строить масштабируемые кластеры с высокой пропускной способностью межсоединений. Технология Multi-Instance GPU 2-го поколения обеспечивает гибкую изоляцию ресурсов до семи аппаратных экземпляров. Ускоритель идеально подходит для сборки высокоплотных кластеров на сотни GPU, способных обрабатывать самые требовательные LLM и другие генеративные нейронные сети.
Описание товара
NVIDIA H100 SXM5 96GB — высокопроизводительный серверный ускоритель на архитектуре Hopper в форм-факторе SXM5 для обучения, инференса и развертывания крупнейших языковых моделей, а также для высокопроизводительных вычислений и построения масштабируемых ИИ-кластеров.
Ускоритель оснащён 96 ГБ памяти HBM3, 16 896 CUDA-ядрами и интерфейсом NVLink до 900 ГБ/с. Архитектура Hopper с тензорными ядрами 4-го поколения и поддержкой FP8 гарантирует максимальную скорость вычислений. Поддержка NVLink Switch System позволяет объединять несколько ускорителей в единый высокоскоростной домен. Технология Multi-Instance GPU 2-го поколения обеспечивает гибкую изоляцию ресурсов до семи аппаратных экземпляров. Ускоритель требует специализированного сервера с поддержкой HGX H100 и SXM5-интерфейса и идеально подходит для сборки высокоплотных кластеров на сотни GPU, способных обрабатывать самые требовательные LLM и другие генеративные нейронные сети.
Оплата
Мы работаем с юридическими лицами, государственными организациями и системными интеграторами.
- Безналичный расчет по договору.
- Оплата с НДС.
- Поэтапное финансирование крупных проектов.
- Лизинг через ведущие лизинговые компании.
- Индивидуальные финансовые условия для постоянных клиентов.
- Фиксация стоимости оборудования и курса на согласованный период.
Поставка и логистика
Организуем поставку оборудования любой сложности — от одного сервера до многостоечных AI-кластеров.
- Доставка по всей России и СНГ.
- Международная логистика.
- Таможенное оформление.
- Страхование груза.
- Доставка непосредственно в ЦОД или на объект заказчика.
- Разгрузка и занос оборудования (при необходимости).
Сроки поставки
Срок зависит от производителя, конфигурации и наличия оборудования.
Перед подписанием договора фиксируем:
- стоимость оборудования;
- сроки поставки;
- состав поставки;
- комплектацию проекта.
Что входит в поставку
Вместе с оборудованием вы получаете:
- полный комплект документации;
- гарантийные документы;
- инструкции производителя;
- закрывающие бухгалтерские документы;
- маркировку оборудования;
- результаты тестирования (при необходимости).
Остались вопросы по поставке?
Если нужной конфигурации нет в каталоге, подготовим индивидуальное решение, согласуем сроки поставки и рассчитаем стоимость проекта в течение 1 рабочего дня.
