《电周边》SC24 和硕秀AI运算创新力
呼应今年超级运算大会SC24的展览主题「创造高效运算」,和硕展出的一系列与合作伙伴AMD,Intel,NVIDIA合作设计支援高效运算的伺服器与机架(Rack)级方案。本次亮点产品包括:
1.大规模生成式AI运算的机架解决方案:RA4401-72N1。和硕针对生成式AI运算需求,推出RA4401-72N1机架伺服器,采用NVIDIA GB200 NVL72高密度GPU解决方案,支援Liquid-to-Air Sidecar或Liquid-to-Liquid CDU散热架构。此系统提升LLM推论速度达30倍,总拥有成本(TCO)降低25倍,并减少25倍能源消耗,成为生成式AI推论的最佳选择。
2.NVIDIA MGX架构下的AI边缘推论伺服器。针对AI边缘推论需求,和硕展示多款基于NVIDIA MGX架构的伺服器,包括2U(AS201-1N0、AS205-2T1)及4U(AS400-2A1)产品,支援NVIDIA GH200、H200 NVL及L40S GPU。特别是NVIDIA H200 NVL,推动主流企业伺服器AI加速效能,相较H100 NVL提升LLM推论速度1.7倍,HPC效能增长1.3倍。
3.高密度多节点伺服器与进阶散热技术。资料中心对高密度与高效能解决方案的需求日增,和硕推出符合ORv3规范的OCP伺服器(MS303-4A1),采用最新AMD EPYC 9005系列处理器与Direct-to-Chip液冷技术,提升运算效能与散热效率。同时,和硕展示多款气冷式多节点伺服器(MS301-2T1、MS302-2T1),内建Intel Xeon 6处理器(E-core与P-core),满足资料中心扩充与节能需求。