技嘉於OCP全球峰會 展示GB200解決方案

技嘉于OCP全球峰会,展示GB200等解决方案。图/技嘉提供

技嘉(2376)旗下子公司技钢科技15日参加在美国圣荷西举办为期三天的OCP全球峰会 (OCP Global Summit 2024),展示各种规模资料中心与工作负载所需的最新AI硬实力。在技嘉的A26展位将呈现采用 NVIDIA GB200 与网路设备所整合的机架级解决方案、以及专为 NVIDIA HGX H200 GPU设计的液冷(DLC)伺服器等产品。

如同今年OCP全球峰会的主题「用想像力实践你的影响力」,生成式AI应用的关键技术正是云端服务业者今日最重视的解决方案,这些应用涵盖药物研发、语言学习及程式辅助等领域,并逐步改变我们的生活。技嘉不仅将运算资源完美融合于精心设计的伺服器中,也在绿色运算领域持续发挥重要影响力。随着大规模云端运算的能耗剧增,液冷伺服器成为提升能源效率的必经之路。

因此,在技嘉展位上展示的 G4L3-SD1 伺服器,使用液冷循环系统,有效冷却双CPU及 NVIDIA HGX H200 模组内的 8颗GPU。而对于尚未准备采用液冷的资料中心,我们也展出了专为H200 GPU设计的 G593-SD1 气冷伺服器,工整的系统设计布局区隔出独立的GPU气冷空间。这两款伺服器为AI运算带来卓越的效能表现,是当前市场上极具影响力的AI运算基础架构产品。

当资料中心选择以GPU运算丛集来追求超越单一伺服器的效能时,网路交换器的选择至关重要。节点之间需要高速的资料传输和最低延迟,才能快速且高效地进行数据交换。为此,技嘉展示了 NVIDIA Spectrum SN5600 网路交换器,该交换器拥有64个 800GbE 端口,确保云端规模基础设施的高效运作。

此外,来宾在技嘉展位上能够见证由36台GPU伺服器组成的 NVIDIA GB200 NVL72 运算机柜。每台伺服器皆支援 NVIDIA GB200 Grace Blackwell 超级晶片,透过 NVIDIA NVLINK-C2C 与两颗 NVIDIA B200 Tensor Core GPU 无缝连接。

Blackwell架构同样支援 NVIDIA MGX 模组化伺服器平台,并涵盖 NVIDIA GB200 NVL2 的支援。技嘉过去展示的 XH23-VG0 伺服器即是采用 MGX 模组化设计,而最新的 NVL2 解决方案将能处理AI的精细训练和推论。