AMD Instinct MI325X

В каталоге представлены серверы с AMD Instinct MI325X — передовые графические ускорители на базе архитектуры AMD CDNA 3, предназначенные для самых требовательных AI-задач: обучения больших языковых моделей, инференса в реальном времени, генеративного искусственного интеллекта и высокопроизводительных вычислений .

Серверы с Instinct MI325X оснащаются 256 ГБ высокоскоростной памяти HBM3e с пропускной способностью до 6 ТБ/с, что позволяет эффективно работать с моделями масштаба триллионов параметров и обеспечивает значительное преимущество при развёртывании крупных LLM . Ускоритель поддерживает современные форматы вычислений с пониженной точностью, включая FP8, FP16 и BF16, что обеспечивает высокую производительность для задач глубокого обучения .

При подборе серверов с AMD Instinct MI325X учитываются требования к вычислительной производительности, объёму памяти, совместимость с серверной платформой и перспективы масштабирования. Решения подходят как для одиночных инсталляций, так и для многопроцессорных кластеров с высокими требованиями к производительности и энергоэффективности .

Start Server осуществляет полный цикл поставки серверов с AMD Instinct MI325X — от анализа нагрузки и подбора оптимальной конфигурации до сборки, интеграции и тестирования. Оборудование поставляется в составе готовых вычислительных узлов и кластеров с полной инфраструктурой: процессоры, оперативная память, системы хранения данных и сетевое оборудование.