集邦咨询:英伟达H200将成下半年AI服务器市场出货主力

今日TrendForce集邦咨询发布最新研究,称供应链调查结果显示近期CSP(云端服务业者)和OEM(原始设备制造商)客户将提高对H200的需求,预计该GPU将于2024年第三季后成为NVIDIA供货主力。

在NVIDIA今年的产品规划中,H200是首款采用HBM3e(第五代高带宽内存) 8Hi(8层堆叠)的GPU,后续的Blackwell系列芯片也将全面升级至HBM3e。Micron(美光科技)和SK hynix(SK海力士)已于2024年第一季底分别完成HBM3e验证,并于第二季起批量出货。其中,Micron产品主要用于H200,SK hynix则同时供应H200和B100系列。Samsung(三星)虽较晚推出HBM3e,但已完成验证,并开始正式出货HBM3e 8Hi,主要用于H200,同时Blackwell系列的验证工作也在稳步推进。

在中国市场方面,该机构预计,市场也因云端客户建置本地端大型语言模型(LLM)、搜索引擎和聊天机器人(ChatBot),对搭载H20的AI服务器需求从2024年第二季起有较显著提升。