AI‑сервер Supermicro 4125GS-TNRT — 8× H100 80GB
Доставка по РФ и СНГ
Доставим оборудование в любую точку РФ и СНГ
Гарантия
Предоставляем гарантию до 12 месяцев
Юридическое сопровождение
Сопровождаем во всех юридических вопросах
Оплата для юр. лиц
Принимаем оплату от юр. лиц с НДС
Дополнительная информация
Supermicro 4125GS-TNRT — компактный 4U GPU‑сервер на базе 8× NVIDIA H100 80GB (640GB HBM3), предназначенный для обучения моделей (Training), дообучения (Fine‑tuning), инференса LLM, RAG‑систем, анализа данных и HPC‑нагрузок. Благодаря архитектуре NVIDIA Hopper и высокой межGPU‑связности через NVLink и NVSwitch, система обеспечивает почти линейное масштабирование в распределённых вычислениях.
Конфигурация включает 2× AMD EPYC 9354 (32 ядра на CPU) и 1TB DDR5 ECC RAM, что обеспечивает высокую пропускную способность CPU‑памяти и стабильную работу больших batch size. 640GB HBM3 VRAM позволяет запускать крупные языковые модели без агрессивной квантизации, поддерживать длинный контекст и обеспечивать высокий throughput inference.
Форм‑фактор 4U делает систему более компактной по сравнению с HGX‑узлами 6U–8U, что может быть преимуществом при ограничениях по стойкам или мощности в дата‑центре.
Производительность GPU (суммарно на 8× H100):
- FP64 Tensor Core: 408 TFLOPS
- TF32 Tensor Core: 6,048 TFLOPS
- BF16 / FP16 Tensor Core: 12,104 TFLOPS
- FP8 Tensor Core: 24,184 TFLOPS
- INT8 Tensor Core: 24,184 TOPS
- Transformer Engine (FP8)
Совместимость с LLM:
- DeepSeek‑R1 671B (Q6) — ~551GB VRAM — полностью совместимо
- Qwen3.5‑397B FP8 — ~406GB VRAM — полностью совместимо
- GPT‑OSS 120B — ~196GB VRAM — полностью совместимо
- GigaChat3 702B Q4 — ~427GB VRAM — полностью совместимо
- Mistral Large 675B Q4 — ~404GB VRAM — полностью совместимо
- GLM‑5 Q4 — ~456GB VRAM — полностью совместимо
640GB HBM3 VRAM достаточно для большинства production LLM‑сценариев, включая reasoning‑модели 400B–700B параметров в 4‑бит или FP8 форматах, а также для RAG‑сервисов с длинным контекстом.
Подходит для задач:
- обучение и fine‑tuning LLM
- production inference и RAG
- multi‑agent системы
- генерация изображений и видео
- HPC и научные вычисления
- аналитические AI сервисы
Особенности платформы:
- 8× NVIDIA H100 80GB HBM3
- 640GB суммарной VRAM
- NVLink + NVSwitch межGPU связность
- Transformer Engine FP8
- 1TB DDR5 ECC RAM
- высокая плотность GPU в 4U
- поддержка PyTorch, TensorRT‑LLM, DeepSpeed, vLLM
Технические характеристики:
- GPU: 8× NVIDIA H100 80GB HBM3
- CPU: 2× AMD EPYC 9354 (32C/64T)
- RAM: 1TB DDR5 ECC REG
- SSD: 4× 6.4TB NVMe + 2× 1.92TB U.2
- Форм‑фактор: 4U
- Платформа: Supermicro A+ Server 4125GS‑TNRT
- Гарантия: 1 год
Характеристики
Отзывов пока нет. Будьте первым!