SYS-A22GA-NBRT

Компания Supermicro оснастила свой 10U-сервер SYS-A22GA-NBRT модулем NVIDIA HGX B200, создав поистине флагманскую платформу. Восемь GPU Blackwell B200 SXM с 180 ГБ HBM3e каждый (суммарно 1,44 ТБ) обеспечивают невероятную мощность для обучения, тонкой настройки и инференса LLM, а также для RAG-систем и высокопроизводительных научных расчетов. Благодаря NVLink нового поколения связь между GPU отличается минимальной задержкой и легко масштабируется, что заметно упрощает работу с крупнейшими языковыми моделями.

Трансформерный движок Blackwell с поддержкой FP8/FP4 (в дополнение к BF16, FP16, TF32, FP32 и FP64) ускоряет как обучение, так и инференс без потери качества. А 180 ГБ HBM3e на каждом GPU даёт щедрый запас для длинного контекста, больших батчей и распределённого KV-кеша в PyTorch, TensorRT-LLM и vLLM.