Серверы с AMD Instinct MI300X / MI300A

Серверы с AMD Instinct MI300X и MI300A

Start Server поставляет AI- и HPC-серверы на базе ускорителей AMD Instinct MI300X и MI300A для обучения и инференса LLM, машинного обучения, анализа данных и высокопроизводительных вычислений. Системы используют архитектуру CDNA 3 и экосистему ROCm. Конфигурация подбирается под тип нагрузки, объём памяти, количество ускорителей, CPU, RAM, СХД и сетевые требования.

GPU-серверы AMD Instinct MI300X: MI300X — серверный GPU с 192 ГБ HBM3 и пропускной способностью до 5,3 ТБ/с, выполнен в формате OAM. Для масштабных задач — платформы с несколькими MI300X, референсная объединяет 8 ускорителей с суммарно 1,5 ТБ HBM3 и высокоскоростным взаимодействием через Infinity Fabric. Подходят для обучения LLM, production-инференса, fine-tuning, RAG, генеративного AI, ML, анализа больших данных и HPC.

Серверы с AMD Instinct MI300A: MI300A — APU, объединяющий GPU CDNA 3, 24 ядра Zen 4 и 128 ГБ HBM3 общей памяти. CPU и GPU работают с общей памятью — это интересно для HPC- и смешанных CPU/GPU-нагрузок. AMD позиционирует MI300A для конвергенции HPC и AI. Выбор между MI300X и MI300A должен исходить из архитектуры приложения, а не только из пиковой производительности.

Серверы 8× AMD Instinct MI300X: для крупных AI-задач — системы с 8 × MI300X 192 ГБ, суммарно 1536 ГБ HBM3. В российской выдаче представлены конфигурации Supermicro, Dell, GIGABYTE и ASRock Rack. При подборе 8‑GPU сервера учитываются: GPU → CPU → RAM → NVMe → сеть → питание → охлаждение. Для многоузловых конфигураций дополнительно проектируются высокоскоростная сеть и СХД.

AMD ROCm для AI-инфраструктуры: серверы работают с платформой ROCm, AMD развивает поддержку PyTorch и решений для генеративного AI. Для корпоративного проекта важно заранее проверить совместимость модели и ПО с ROCm, особенно если инфраструктура или код разрабатывались под другую GPU-экосистему.

Купить сервер AMD Instinct MI300X или MI300A: Start Server помогает подобрать сервер под конкретную нагрузку. При расчёте учитываются: модель (MI300X или MI300A), количество ускорителей, задача (training/inference/HPC), модель, необходимый объём памяти, CPU, системная RAM, NVMe, сеть, требования к питанию и охлаждению. Можно заказать отдельный сервер или комплексную инфраструктуру с несколькими узлами, СХД и высокоскоростной сетью.