《电周边》云达秀肌肉 AI伺服器采NVIDIA Blackwell技术

「生成式AI已成为几乎所有行业数位转型的关键推动力，这也创造了对AI基础设施的强大需求」，云达科技总裁杨麒令表示。「云达科技作为经验丰富的超大规模基础设施供应商，已经准备好提供采用NVIDIA技术、兼具高性能和高能效的加速运算平台，协助资料中心和企业加速生成式AI 的部署」。

「云达科技运用NVIDIA全堆叠加速运算平台，满足全球资料中心对先进AI基础设施日益增加的需求，帮助企业实现AI驱动的创新，同时达到性能极大化、成本优化，并缩短从部署到实现价值的时间」，NVIDIA GPU产品管理副总Kaustubh Sanghani表示。

云达科技在SC24展示的加速运算系统包括：

一、基于NVIDIA MGX架构的QuantaGrid伺服器，QuantaGrid D75B-1U和QuantaGrid D75E-4U基于NVIDIA MGX模组化参考设计，具备灵活、快速开发上市，以及相容多个世代等特性。这些系统分别采用最新NVIDIA Blackwell GPU和NVIDIA H200 NVL等NVIDIA PCIe GPU，易于部署和扩展，支援主流AI 推理和大语言模型（LLM）工作负载。

二、8-GPU NVIDIA HGX Blackwell或NVIDIA HGX Hopper伺服器。QuantaGrid D75F-9U、QuantaGrid D75H-7U 和QuantaGrid D75L-5U ，专为应对最复杂的AI 和HPC 任务而打造，如LLM、推荐系统和聊天机器人等。它们配备8 颗NVIDIA Blackwell或NVIDIAHopper GPU，GPU与GPU之间透过NVIDIA NVLink进行互联，并拥有灵活的I/O插槽，可支援NVIDIA BlueField-3 SuperNIC和DPU。

三、NVIDIA GB200 NVL72机柜级解决方案。由18台QCT QuantaGrid D75B-1U伺服器和9台第五代NVIDIA NVLink交换机所组成的水冷式AI工厂，专为实现兆级参数即时推理与训练而打造。借由将72颗Blackwell GPU互联为一体，提供强大性能、卓越能源效率和超低总拥有成本。

此外，云达科技还提供许多采用NVIDIA加速技术的硬体产品，包括NVIDIAGB200 NVL72、配备HBM3e 记忆体的NVIDIA H200 NVL，以及配备4张和8张GPU的NVIDIA HGX H200。最新的NVIDIA H200 NVL可加速主流企业用伺服器的AI工作表现。相较于H100 NVL，H200 NVL的LLM推理速度提升高达1.8倍，HPC应用性能也提高1.3倍。云达科技还在SC24展示自家整合解决方案和AI/HPC应用案例，包括QCT Platform on Demand（QCT POD）。这是一个同时支援云原生与裸机环境的HPC和AI融合式系统，它同时整合了NVIDIA NGC目录，简化AI与HPC工作流程。