和硕OCP大会秀肌肉 新款AI伺服器齐亮相

同时,和硕也展出大型语言模型训练与推理伺服器机柜RA4401-72N1,该产品基于NVIDIA GB200 NVL72系统架构设计,最多可部署72个NVIDIABlackwell GPU与36个NVIDIA Grace CPU,并透过 NVIDIA NVLink技术完整连接,以提供超高运算效能、液冷架构,专为大型语言模型训练与推理工作负载而设计。此伺服器搭载NVIDIA BlueField-3 DPU,实现云网络加速及强化安全性,并采用Axiado BMC模组方案,提供更安全的节点管理。