AI‑сервер Supermicro 4124GS-TNR — 6× H100 80GB
Доставка по РФ и СНГ
Доставим оборудование в любую точку РФ и СНГ
Гарантия
Предоставляем гарантию до 12 месяцев
Юридическое сопровождение
Сопровождаем во всех юридических вопросах
Оплата для юр. лиц
Принимаем оплату от юр. лиц с НДС
Дополнительная информация
Supermicro 4124GS-TNR — 4U GPU‑сервер на базе 6× NVIDIA H100 80GB (480GB HBM3), предназначенный для обучения моделей (Training), дообучения (Fine‑tuning), инференса LLM, RAG‑систем, аналитики данных и HPC‑вычислений. Конфигурация сочетает архитектуру NVIDIA Hopper с CPU AMD EPYC 7773X и 2TB DDR4 ECC RAM, обеспечивая стабильную работу крупных моделей и высокую параллельность inference.
480GB HBM3 VRAM позволяют запускать большие LLM в FP8/BF16 или 4‑бит форматах, использовать длинный контекст и высокий batch size при распределении по нескольким GPU. Hopper включает Transformer Engine, тензорные ядра 4‑го поколения и оптимизации CUDA 12.x, PyTorch 2.x, DeepSpeed, vLLM и TensorRT‑LLM.
Форм‑фактор 4U делает систему удобной для размещения в стандартных стойках дата‑центра, а 2× AMD EPYC 7773X обеспечивают высокую пропускную способность памяти и стабильную работу NUMA‑архитектуры при распределённых вычислениях.
Производительность GPU (суммарно на 6× H100):
- FP64 Tensor Core: 306 TFLOPS
- TF32 Tensor Core: 4,536 TFLOPS
- BF16 / FP16 Tensor Core: 9,078 TFLOPS
- FP8 Tensor Core: 18,156 TFLOPS
- INT8 Tensor Core: 18,156 TOPS
- Transformer Engine FP8
Совместимость с LLM:
- DeepSeek‑R1 671B Q4 — ~404GB VRAM — полностью совместимо
- Qwen3.5‑397B FP8 — ~406GB VRAM — полностью совместимо
- GPT‑OSS 120B — ~196GB VRAM — полностью совместимо
- GigaChat3 702B Q4 — ~427GB VRAM — полностью совместимо
- Mistral Large 675B Q4 — ~404GB VRAM — полностью совместимо
- GLM‑4.5 Q4 — ~456GB VRAM — полностью совместимо
480GB HBM3 VRAM позволяет уверенно запускать reasoning‑модели 300B–700B параметров в 4‑бит или FP8 форматах, а также RAG‑системы с длинным контекстом.
Подходит для задач:
- fine‑tuning и обучение LLM
- production inference и RAG
- аналитические AI системы
- multi‑agent инфраструктура
- HPC и научные вычисления
- генерация изображений и коротких видео
Особенности платформы:
- 6× NVIDIA H100 80GB HBM3
- 480GB суммарной VRAM
- Transformer Engine FP8
- 2TB DDR4 ECC RAM
- поддержка CUDA 12.x / PyTorch 2.x / vLLM
- оптимизация под распределённые вычисления
- высокая плотность GPU в 4U
Технические характеристики:
- GPU: 6× NVIDIA H100 80GB HBM3
- CPU: 2× AMD EPYC 7773X (64C/128T)
- RAM: 2TB DDR4 ECC LR-DIMM
- SSD: 4× 1.92TB NVMe U.2
- Платформа: Supermicro A+ Server 4124GS‑TNR
- Форм‑фактор: 4U
- Гарантия: 1 год
Характеристики
Отзывов пока нет. Будьте первым!