獨/佳世達團戰 AI 伺服器浸沒式散熱戰場 供貨台積押寶2025
其阳董事长李昌鸿。图/佳世达提供
市场传出台积电(2330)未来的新资料中心建置将全面用双相式浸没液冷方案,为浸没式散热技术打了强心剂,市场预估2025年浸没式冷却技术成长性将首度超过水冷板(Cold plate)技术,佳世达(2352)集团在掌握材料化学实验室以及氟化物回收技术下,搭配其阳2022年起跨入AI伺服器市场,6月将对外发表最新解决方案,争取起飞的AI算力商机。
辉达AI GPU B200耗能(TPD)将达1000W,AI资料中心导入液冷解决方案将成主流,液冷方案分两大派别,一派水冷板(Cold Plate)方案是目前用量最大的技术,透过液体在封闭式金属板中流动带走晶片热能,另一派是浸没式液冷则利用伺服器主机板直接浸泡液体中解热,技术难度较高目前发展落后水冷板。
随水冷板技术登主流,浸没式散热方案还有搞头吗?根据统计,浸没式方案具备低耗能、无噪音及高密度3大优点,随资料中心被要求低PUE(电力使用效率),各国更追求低碳,加上2025年后CPU及GPU耗能超过1000W,浸没式液冷技术后市看俏,2024年成长率超过30%,预计2025年成长率会提升至40%,并首度与水冷板散热技术成长率出现黄金交叉。
「气冷转换为浸没式液冷方案,可以节省94%电力!双相式浸没技术又比单相(要有动力作液体循环)节省30%电力。」其阳主管表示,佳世达集团2022年跨入AI伺服器产业,随后又与工研院合作投入AI资料中心浸没式散热解决方案,跟AMD携手合作,预计在工研院打造一座两相浸没式液冷实验室,目前已经出货给台积电,内部推算浸没式液冷散热方案以台湾电价推算4~8年就能回收,国外高电费国家则回收期更短。
浸没式液冷技术渗透率逐年提高,关键已非单纯为了处理伺服器高热问题,其阳主管表示,节能减碳才是资料中心用户转向关键,其次是风冷要解决同样热能,要很大体机的散热模组,而浸没式技术可以一次处理GPU、CPU、ASIC等多颗晶片热,运算密度也高,故因此未来将逐步拉高使用率。
工研院统计,资料中心液冷解决方案产值2024年达49.69亿美元,2025年将增至62.51亿美元,市场逐年成长,主要受惠于AI晶片耗能持续提升,虽气冷能解决1000W以内晶片能耗,但由于耗电,在资料中心追求低PUE下,业者纷纷寻求液冷方案,而浸没式液冷耗电又比水冷板低。
散热模组产业甩开低利战局
受惠于HPC带动,散热产业已经摆脱低价竞争,工研院主管举例,H100晶片所需水冷板模组(流道式液冷模组)售价是1.2~1.6万元,一台AI伺服器若用8颗晶片,则液冷散热模组总价将超过10万元,但该市场也已进入战国时代,因参与者多,业务竞争激烈。
美国已经规范资料中心PUE需在1.4以下,而若要进一步降低至1.2,就必须从气冷转导入水冷板液冷技术,而浸没式液冷技术可以进一步让PUE逼近1.1。
目前浸没式液冷技术最高已经能解2000~2500W热,而预期未来4~11年间AI晶片耗能将成长至2000W以上,甚至某晶片大厂扬10年内上看3000W,换言之,液冷散热方案至少在5年内都处于高成长期。更值得注意的是,资料中心用户统计,资料中心以气冷、水冷板、浸没式液冷方案建置的总成本(TTC)其实差异不大。
浸没式液冷方案挑战多,佳世达将集团作战
但浸没式液冷方案也并非没有缺点,归纳业界最关心的两相式浸没式液冷解决方案有5大课题,1.伺服器主机板需要客制化,2.主机板元件保固,是否会被液体影响?3.两相式浸没式系统用氟化物,对环境有害,且单价高昂,容易逸散,4.若维修时需要整柜停机,5.3M在2025年停产氟化物,油类怕闪燃,是否有其他液体替代方案?
对此,工研院与AMD、其阳、一诠精密、广运机械已合作浸没式解决方案,其阳也开发出第一款AI控制冷却液分配装置(CDU)。
其阳指出,已经开发出全密封无泄漏浸没式机柜,且已与法国业者合作最新无全氟/多氟烷基物质(PFAS Free)的浸没式解决方案,加上集团具备伺服器主机板客制化、氟化物回收技术(资腾科技)及国内唯一国际级材料化学分析实验室,预计6月将对外发表最新AI伺服器浸没式液冷解决方案。