NVIDIA H100

NVIDIA H100 80 и 94 ГБ

NVIDIA H100 — высокопроизводительный GPU-ускоритель на архитектуре Hopper для AI, больших языковых моделей, машинного обучения, анализа данных и HPC. В линейке — SXM-системы с 80 ГБ и PCIe H100 NVL с 94 ГБ HBM3 на GPU.

NVIDIA H100 SXM 80 ГБ: 80 ГБ HBM3, пропускная способность до 3,35 ТБ/с. SXM — для высокоплотных multi-GPU систем HGX и DGX. NVLink — до 900 ГБ/с GPU-to-GPU, критично при обучении крупных моделей на нескольких ускорителях.

NVIDIA H100 PCIe: для совместимых GPU-серверов, гибкие конфигурации с одним или несколькими ускорителями. Перед поставкой проверяются питание, воздушный поток, свободные слоты, PCIe-топология и поддержка сервером.

NVIDIA H100 NVL 94 ГБ: 94 ГБ HBM3 на GPU, пропускная способность до 3,9 ТБ/с. Две H100 NVL соединяются NVLink Bridge — 188 ГБ HBM3, ориентированы на LLM-инференс.

NVIDIA H100 для AI и LLM: Transformer Engine и Tensor Cores 4-го поколения, поддержка FP8, BF16, FP16 и других форматов. Применяется для обучения, fine-tuning, инференса, генеративного AI, RAG, Data Science и HPC.

NVIDIA H100 и MIG: Multi-Instance GPU — разделение физического H100 на изолированные инстансы. H100 80GB — до семи профилей по 10 ГБ, H100 94GB — до семи по 12 ГБ.

Как выбрать NVIDIA H100: определите PCIe или SXM, 80 или 94 ГБ, количество GPU, training или inference, модель сервера, NVLink/NVSwitch, питание, охлаждение, software-стек, необходимость MIG и масштабирование. Start Server поставляет отдельный H100 или подбирает совместимый GPU-сервер/multi-GPU систему.