辉达AI水冷散热时代 来临

GPU产品路径图

AI散热模式将跨入「水冷」时代,辉达执行长黄仁勋稍早证实,下一代DGX伺服器将采用水冷散热。尽管黄仁勋未说明具体内容,但外媒指出黄仁勋可望在辉达18日举办的GTC大会上发表下一代GPU伺服器详情。

GTC大会将公布详情

黄仁勋上周末出席史丹福大学举办的经济研讨会,于会中表示辉达下一代DGX伺服器「在各方面都相当完美」,且运算能力是「资料中心规模」。

辉达新世代GPU B100即将亮相,市场投以瞩目焦点,而散热族群更在辉达执行长黄仁勋提前剧透新一代DGX将全面导入水冷,包括双鸿、尼得科超众11日股价飙升至涨停板价位,高力及奇𬭎分别上涨8.66%及1.91%。

戴尔营运长克拉克(Jeff Clarke)日前发表季度财报时抢先透露,辉达预定明年推出的B100 GPU能耗将达1,000W,高于H100 GPU的700W。克拉克虽表示B100还不需要动用直接水冷散热,但他预期B200 GPU能耗更大,势必得改用水冷散热。

掌管DGX系统产品的辉达执行副总裁波尔(Charlie Boyle)去年曾表示,辉达极力避免DGX GH200伺服器采用水冷散热,主要是因为许多客户担心水冷散热必须大幅调整伺服器系统设计,但当时波尔已预告随着AI晶片运算能力持续增强,最后终究要从气冷走向水冷散热。

走向CPU+GPU封装设计

科技业者表示,辉达过去GPU采均热板气冷散热,已不足以因应B100等新架构GPU,今年下半年量产的B100和今年底小幅量产的B200功耗将逐步推升至1,000W以上,且未来AI系统晶片可望走向CPU+GPU的封装设计,需功耗更将提升至2,000W以上,对于散热需求将是长线趋势。

法人指出,以美超微(Supermicro)为例,采用六大关键元件包括水冷板(Cold Plate)、液冷分配器(CDU)、帮浦、分歧管(CDM)及冷却液体为主,水冷产业将倍数成长,2026年水冷散热在AI市场渗透率上看五成以上。

另外,辉达在推动技术升级之余也悄悄开始扩大投资新创企业,逐步打造辉达AI晶片生态圈。华尔街日报引述Dealogic资料报导,去年辉达一共投资超过36家新创企业,数量是前年的3倍以上。截至今年1月为止,辉达对这些新创企业投入的资金总额达到15.5亿美元,与1年前的3亿美元相比增幅惊人。