AI大跃进 HBM3E需求提前引爆

辉达将正式汰换A100产品,以价格更高的H100系列为主轴,推升HBM需求。图/本报资料照片

三大记忆体原厂HBM量产时间

辉达(Nvidia)为维持GPU龙头地位,积极推出H200,推升HBM3E(第五代高频宽记忆体)采购需求提前引爆。法人指出,辉达H200、GH200及B100均有望在今年推出,HBM产品仍呈供不应求市况,也成为SK海力士、三星及美光三大龙头厂兵家必争之地。

台股供应链包括HBM设备商志圣、封测厂力成、矽智财创意及代理商至上可望受惠,泛HBM概念股包括华邦、钰创及爱普*也可望沾光。

TrendForce指出,辉达2024年起将正式汰换A100产品,而以价格更高的H100系列为产品主轴。

除H100外,TrendForce预估,自2024年第二季末,辉达开始小量出货搭载更高规格HBM3E的H200产品,并自2024年下半年,将推出新一代B100产品,相较H系列,效能有望再进一步提升。

业界人士分析,辉达H200采用的HBM容量达141GB,较H100的80GB,提升76%,B100更提升至192GB,较H200提升36%,以因应更高效能HPC或加速LLM AI训练需求。

AI带动HBM需求,市场高度关注HBM供需状况,SK海力士、三星及美光等龙头业者的HBM订单,以及产能投资规模持续上修,以加快产品上市脚步。

市场法人已将2024年整体HBM投片量预估,自每月13.6万片,上修至每月15.3万片,HBM占整体DRAM投片量比重,预估自8.7%,上修至9.4%。

HBM的出货量虽不高,但溢价甚高。SK海力士在独占HBM市场期间,由于HBM销售创纪录,已带动该公司第四季亏转盈。

SK海力士宣布,2024年该公司HBM已经全部售罄,开始为2025年作准备,持续规划将1beta制程产能,着重生产HBM3E上。

美光也宣布8层堆叠24GB HBM3E解决方案正式量产,成为辉达的第二个HBM供应商。

美光的HBM3E解决方案,将应用于辉达H200 Tensor Core GPU,预计于2024年第二季出货,美光也快马加鞭,将在2025年推出强化版的36GB、12层的HBM3E,抢食HBM大饼。

产业人士认为,美光虽然在HBM起步最晚,但果断舍弃既有TC-NCF技术,改与台积电在HBM封装领域合作,是加快发展12层以上HBM产品的关键。