云端巨头热战 辉达变共主

云端巨头AWS与辉达合作,打造AI超级电脑。图/美联社

云端巨头与辉达合作

继微软携手辉达(NVIDIA)推出AI代工服务后,另一巨头AWS(Amazon Web Services)也与辉达合作,共同打造首款由超过1.63万个GH200晶片驱动的AI超级电脑。科技业者指出,CSP(云端服务供应商)步入以AI开发AI的高速扩张阶段,军备大战越演越烈,除辉达确立AI共主地位外,台系供应链如台积电、云达、神达、英业达、纬创、纬颖同样受惠。

辉达多元布局AI领域,29日推出名为NeMo Retriever的人工智慧微服务,与Cadence(新思科技)、SAP等企业率先导入应用,提升自然语意检索能力,实现更精准的人工智慧推论服务,例如各类聊天机器人、Copilot辅助功能与内容摘要工具等,目标逐步蚕食软体大饼,打造全局通吃局面。

此外,AWS扩大与辉达合作,成为首家导入多节点NVLink技术之GH200的CSP业者,预期将拉擡首波GH200系列AI伺服器优先出货的广达(云达)动能,另神达(神云)亦可望跟进出货。

供应前段晶片模组与基板的纬创与鸿海,出货效益亦于今年下半年起逐步浮现,伺服器主板供应大厂英业达也可望在AWS拉货带动下推升营运动能,公司并因应AWS针对大规模与尖端生成式AI及HPC高效能运算,规画于明年一、二季出货的L40S及H200系列产品。

值得注意的是,AWS积极发展采用ARM架构的自研晶片之AI伺服器,法人指出,受惠股纬颖即自近两季来浮现效益,预期在AWS持续扩大拉货力道下,第四季可望能有优于其它ODM厂的出货表现,营运动能预估将延续至明年。

业者指出,辉达和AWS展开合作,并于AWS上托管NVIDIA的人工智慧训练服务NVIDIA DGX Cloud,为首个GH200 NVL32之DGX Cloud,加速尖端的生成式人工智慧和参数超过1兆个的大型语言模型的训练。此外,也将打造世界上最快GPU驱动的人工智慧超级电脑-Ceiba计划,配备16,384个 NVIDIA GH200 超级晶片,汇集双方技术优势。