AI‑сервер ASRock Rack 6U8M-TURIN2 SYN MI325X — 8× Instinct MI325X 256GB
Доставка по РФ и СНГ
Доставим оборудование в любую точку РФ и СНГ
Гарантия
Предоставляем гарантию до 12 месяцев
Юридическое сопровождение
Сопровождаем во всех юридических вопросах
Оплата для юр. лиц
Принимаем оплату от юр. лиц с НДС
Дополнительная информация
ASRock Rack 6U8M-TURIN2 SYN MI325X — 6U GPU‑сервер для тяжёлых AI и HPC нагрузок, ориентированный на обучение моделей (Training), дообучение (Fine‑tuning), инференс LLM, RAG‑системы и научные вычисления. Платформа построена на 8× AMD Instinct MI325X с суммарным объёмом 2TB HBM3e VRAM и оптимизирована для работы в экосистеме ROCm.
MI325X относится к ускорителям класса ultra‑high memory GPU: 256GB HBM3e на каждую карту обеспечивают большой запас для длинного контекста, KV‑cache и высоких batch size. Это особенно важно для production inference крупных LLM и multi‑tenant AI сервисов с высокой параллельностью запросов.
Связность ускорителей реализована через Infinity Fabric Links и оптимизированную PCIe‑коммутацию, что обеспечивает высокую скорость обмена данными между GPU и эффективную работу распределённых AI workloads.
Производительность GPU (суммарно на 8× MI325X):
- FP8 Matrix: 20.9 PFLOPS (41.8 PFLOPS с sparsity)
- BF16 Matrix: 10.5 PFLOPS (20.9 PFLOPS с sparsity)
- FP16 Matrix: 10.5 PFLOPS (20.9 PFLOPS с sparsity)
- TF32 Matrix: 10.5 PFLOPS
- FP32 Matrix: 1.3 PFLOPS
- FP64 Matrix: 653.6 TFLOPS
- INT8 Matrix: 20.9 POPS (41.8 POPS с sparsity)
Совместимость с LLM:
- DeepSeek‑R1 685B — ~689GB VRAM — полностью совместимо
- Qwen3.5‑397B — ~807GB VRAM — полностью совместимо
- GPT‑OSS 120B — ~196GB VRAM — полностью совместимо
- GigaChat3 702B — ~720GB VRAM — полностью совместимо
- Mistral Large 675B — ~682GB VRAM — полностью совместимо
- GLM‑5 — ~1.51TB VRAM — полностью совместимо
2TB HBM3e VRAM позволяет размещать сверхкрупные модели без жёсткой квантизации, поддерживать длинный контекст и большой KV‑cache, а также запускать несколько inference‑сервисов параллельно на одном узле.
Подходит для задач:
- обучение и дообучение крупных LLM
- RAG и multi‑agent системы
- LLM inference с высоким QPS
- HPC и научные расчёты
- генерация изображений и видео
- enterprise AI инфраструктура
Особенности платформы:
- 8× AMD Instinct MI325X 256GB
- 2TB HBM3e видеопамяти
- Infinity Fabric межGPU связность
- FP8 / BF16 ускорение для LLM
- до 6TB DDR5 ECC RAM
- PCIe Gen5 NVMe storage
- GPUDirect RDMA и GPUDirect Storage
- IPMI удалённое управление
Технические характеристики:
- GPU: 8× AMD Instinct MI325X OAM 256GB HBM3e
- CPU: 2× AMD EPYC 9005 / 9004 (SP5)
- RAM: до 6TB DDR5 ECC RDIMM
- SSD: 12× NVMe + 2× M.2
- Форм‑фактор: 6U
- Гарантия: 1 год
Характеристики
Отзывов пока нет. Будьте первым!