辉达降规新品 将绕过CoWoS

据悉AI教父将介绍NVIDIA的最新技术突破,包括获奖研究、应用场景描述之进展以及AI驱动的内容生成解决方案。主要聚焦在生成式AI等话题,预计黄仁勋也将持续发挥业务本色,大力推销自家产品。

SIGGRAPH在图形图像技术,以及电脑绘图等方面有着相当的影响力。市场传出,黄仁勋本次预计将推出一款推理卡产品L40S,主要用于小参数模型推理及训练微调。据悉该产品不需使用CoWoS先进封装制程、及HBM记忆体,旨要作为替代A800打入中国大陆市场。

据业者指出,L40S为L40系列的迭代特规版,专门提供小参数模型推理及训练微调,与A/H系列存在较大差异,除了替代上一代的L40,及取代T系列推理卡,补足小模型训练产品线,预估性能将再逊于A800。

不过也因此,在制程上也不需要复杂的先进封装,直接跨过台积电产能瓶颈。

对此,台积电仅表示,现有产能规划并无改变,不评论市场传闻及客户业务。

而在记忆体部分,L40系列也将不会采用第三代高频宽记忆体(HBM3),而是采用GDDR6(图形用双倍资料传输)记忆体。

人工智慧目前的现状是,极度缺货的人工智慧晶片,市场纷纷抢购辉达的最新AI晶片H100。近期GPT5已经进行商标注册,根据马斯克预计,GPT-5可能需要3万至5万个H100。加上META、Tesla、Stability AI等公司,生成式AI爆发仍旧没有放缓,反而对算力提出了更高的要求。

根据业界推算,各大公司GPU需求,约43万张的H100,该算力规模,相当于上一代模型成长了近10倍,提供辉达相当强劲的业绩支撑,辉达将于8月23日公布上季财报,目前市场多给予乐观的预估,受惠生成式AI成长,明后年也将持续强劲。