Стоечные AI-системы

Стоечные Rack Scale AI-системы

Start Server поставляет и интегрирует стоечные AI-системы Rack Scale для обучения и инференса LLM, генеративного AI, AI reasoning, машинного обучения и HPC. В отличие от отдельного GPU-сервера, rack-scale система объединяет вычислительные узлы, десятки GPU, высокоскоростной interconnect, коммутацию, питание, управление и охлаждение на уровне одной стойки. Современные решения NVIDIA GB200 NVL72 и GB300 NVL72 используют единый 72‑GPU NVLink domain, позволяя ускорителям внутри стойки работать как единая высокопроизводительная система.

NVIDIA GB200 NVL72: построена на Grace Blackwell, объединяет 72 Blackwell GPU и 36 Grace CPU, 13,4 ТБ HBM3e, NVLink для высокоскоростного обмена между всеми ускорителями. Применяется для обучения крупных LLM, инференса, генеративного AI, mixture-of-experts моделей, научных расчётов, HPC и построения крупных AI-кластеров.

NVIDIA GB300 NVL72: поколение Blackwell Ultra — 72 GPU и 36 Grace CPU, суммарный VRAM 20 ТБ. NVIDIA позиционирует платформу для reasoning-моделей и масштабируемого инференса. Предназначена для организаций, которым требуется максимальная вычислительная плотность и работа с крупными AI-моделями на rack scale.

Из чего состоит Rack Scale AI-система: современная GPU-стойка — не только набор серверов. Архитектура включает compute trays, GPU, CPU, NVLink switches, высокоскоростные сетевые адаптеры, InfiniBand или Spectrum-X Ethernet, локальные NVMe, management network, power shelves, busbar, жидкостное охлаждение, мониторинг и управляющее ПО. В GB200/GB300 NVL72 — 18 вычислительных trays и 9 NVLink switch trays.

Требования к дата-центру: rack-scale системы требуют проверки инженерной инфраструктуры. Учитываются электрическая мощность, резервирование, жидкостное охлаждение, температура теплоносителя, стойка, сеть, СХД, физическое размещение и эксплуатация. Для GB300 NVL72 — максимальная мощность стойки до 142 кВт и интегрированное жидкостное охлаждение. Перед поставкой необходимо определить готовность площадки или спроектировать инфраструктуру под выбранную AI-систему.

От одной стойки до AI-кластера: rack-scale архитектура масштабируется дальше одной стойки. NVIDIA рассматривает одиночные NVL72 racks и multi-rack конфигурации; DGX SuperPOD может объединять восемь NVL72 racks. Для multi-rack проекта дополнительно проектируются scale-out сеть, InfiniBand/Spectrum-X, СХД, резервирование питания, система охлаждения и управление инфраструктурой. Это переход от продажи оборудования к проектированию полноценной AI-инфраструктуры и AI-ЦОД.

Купить Rack Scale AI-систему: Start Server помогает подобрать, поставить и запустить стоечную AI-систему под требования проекта. Для предварительного расчёта определите: тип AI-нагрузки, training или inference, модели, требуемую производительность, GB200/GB300 или другую архитектуру, количество стоек, требования к сети, СХД, доступную электрическую мощность, параметры охлаждения и площадку размещения. После анализа формируется состав решения и требования к инженерной инфраструктуре.